在外形上骤然看来，头甲鱼或盔甲鱼同圆口类似乎毫不相干。可是当对它们的内部构造作比较后，却发现彼此之间在实质上是这样密切。主要原因在于头甲鱼或盔甲鱼有着笨重的头甲和鳞片这付表像掩盖了实质。其实甲胄和鳞片在发展过程中都是可以退化的。在头甲鱼晚期种类里头甲就比较早期种类短，因此，鳞片覆盖的部分相应就长，这是因为头甲从后部“化整为零”，分解为鳞片。有时有些前面的鳞片甚至还与头甲半分半合，就是证明。还有更明显的例子就是缺甲鱼。

甲胄鱼并不都是有甲胄的，缺甲鱼就是其中之一。从头以后的部分看，缺甲鱼同头甲鱼没有很大差别，也覆盖着肋形长条鳞片，只是缺甲鱼的身体侧扁，细长些。可是头部却没有头甲鱼那样的甲胄，盖在头部的是许多小骨片，这些骨片和身体上的鳞片性质是一样的，只是大小和形状有些差别。缺甲鱼的胸鳍十分退化，呈刺状。由于胸鳍的退化，尾鳍和头甲鱼相反，为倒歪尾。从缺甲鱼的体形，和不具甲胄看来，它们的活动性可能比头甲鱼略胜一筹。

缺甲鱼同样在眼孔之间只有一个鼻孔，和一个小的松果孔。因为缺甲鱼的头和身体是侧扁的，所以和七鳃鳗一样，小的圆形鳃孔位于头的两侧。其鳃孔数目变化很大，最多可达15对。虽然数目变化很大，但第一个鳃孔的位置，总是在眼孔之后，甚至靠后的程度比之于七鳃鳗和盔甲鱼尤甚。在头甲鱼的10对鳃孔中，有两对以上是在眼孔之前。根据以上的比较，虽然缺甲鱼的内部构造没有保存，但是有足够的理由推测，缺甲鱼的第一个鳃孔之前至少有两对以上的鳃已经退化。当然与这些退化了的鳃相对应的那些鳃弓，必然是变形，变位或退化。

除了这类典型的具有发育鳞片的缺甲鱼，其实还有一些缺甲鱼，鳞片和头部的骨片非常退化，甚至完全消失。当然在这种情况下常常不易保存为化石，或者保存得很差。发现于晚志留世的莫氏鱼就是其中的一个例子。在初发现时，被当作原索动物，曾轰动一时，后来经重新反复研究，原来是鳞片退化了的缺甲鱼。

以缺甲鱼同头甲鱼或盔甲鱼比较，显然缺甲鱼与圆口类（特别是七鳃鳗）就更为相近了。因此，有人推测缺甲鱼是圆口类的祖先。而圆口类的特殊吸器和锉舌，鳗形的体形，胸鳍的缺如及鳞片的消失，则是由于适应寄生生活的结果。由志留纪、泥盆纪到现在，在这样漫长的岁月里，圆口类进行这样的改造，从时间上来讲，当然是充裕的。

由于头甲鱼、盔甲鱼、缺甲鱼及圆口类，因为都只有一个与脑下垂体管相通的外鼻孔，所以这类无颔类统称做单鼻孔类。

按照胚胎学家和比较解剖学家的意见，既然胚胎发育中软骨出现在前，像圆口类和鲨鱼这样的低等脊椎动物又都只有软骨，所以在进化系统上软骨是一种原始表现。可是现在从化石记录中看到的，在古老的无颌类中已有了发育的膜成骨，特别是头甲鱼和多鳃鱼，在头部还有相当发育的骨化骨。同时，在甲胄鱼中硬骨是向着退化方向发展。由于这样的事实，古生物学上有人认为硬骨属于原始性，而胚胎中的软骨乃是胚胎适应现象，至于在成体中保持为软骨，则是退化的结果。人们可能争论，在甲胄鱼以前脊椎动物还有一个软骨发展阶段，因为是软骨所以化石中不曾保存。如果事实真是这样，这也是遥远以前的事，因为硬骨早在奥陶纪已经出现，而软骨鱼和圆口类的软骨，并不是脊椎动物发展早期阶段软骨的继续，因此，是次生的。