有颌脊椎动物的起源问题，实际也就是鱼类是从那里发展来的问题。

因为颌是由鳃弓变来的，从理论上讲，有颌脊椎动物应该是从无颌的脊椎动物发展来的。但是，我们从现在所知道的无颔脊椎动物中，却难以找到可以作为有领脊椎动物祖先的候选者。这是什么原因呢？

无颌类具有两重性。一方面是其原始性，无颌类的脑、中轴骨骼及偶鳍的发展水平，特别是尚未有从鳃弓发展来的颌，无疑都标志着无颌类还处在低于有颌脊椎动物中的鱼类的水平。因此，在脊椎动物系统发生上，无颌脊椎动物确实处于有颌脊椎动物发展的前一阶段。但是另一方面这些无颌类在不少地方却又高度特化。例如鼻孔形式（单鼻孔或只有内鼻孔）就是其中之一，再如鳃弓中的颌弓非但没有向颌的方向发展，而且在有些种类里已经退化了，以及由分别开口向外界的鳃孔发展为总的出鳃孔等等，这些都说明这些无颌类在发展中，已偏离了向着有颌类前进的方向。人们对于无颌类的了解主要是基于志留—一泥盆纪的甲胄鱼，而这个时期的甲胄鱼的陡然大量出现，和形态上的多样化，都说明这时甲胄鱼已经由少到多，达到大辐射大发展阶段。从甲胄鱼的特化和辐射发展，可以想像在志留纪或奥陶纪之前，无颌类曾有一个一般化、分化甚少的发展时期，就这个意义上讲，我们现在看到的甲胄鱼不是无颌脊椎动物发展的开始，而是无颌脊椎动物发展的结果。而有颌脊椎动物则可能与甲胄鱼共同来源于同一祖先，一种一般化的原始无颌脊椎动物，或者来源于与双鼻类（多鳃鱼、鳍甲鱼）祖先接近的原始无颌类，它们至少应保持有成对的外鼻孔和分别开口于外界的外鳃孔。因此，有颌脊椎动物的祖先应当是在早期的原始无颌类中寻找，在时间上则应远在奥陶纪之前。

但是人们想像的无颌脊椎动物发展的前一阶段，迄今没有化石发现。对于这个问题的解释，有人认为脊椎动物起源于淡水，而在志留纪之前，地球上绝大部分为海洋包围，淡水分布有限，且可能属于剥蚀区，因之鲜有淡水沉积岩石被保存下来。主张脊椎动物起源于海洋的人，认为无颌脊椎动物发展的前一阶段，因为没有骨甲所以不易于保存为化石。这些推测中究竟那种推测近于事实，目前尚无定论。但是，我们纵观脊椎动物的整个发展历史，则可发现这样的事实，凡是一个新兴的门类出现，其发展早期阶段总是为数甚少，在生存斗争中暂时处于劣势。当我们发现它们存在时，常常已是这类动物处于辐射大发展的阶段。因此在化石中，一个门类的早期原始代表常常缺乏，或者非常稀少。