Эволюция всех продвинутых групп костистых может быть прослежена вплоть до позднетриасовых и юрских лептолепид, мелких рыбок, напоминающих современных планктонофагов. Костистые делятся на пять основных групп, которые можно по отдельности вывести из лептолепидной группировки. Для Ichthyodectiformes типичны крупные хищники. Они жили в мезозое. Остеоглоссоморфы, элопоморфы и клупеоморфы произошли от более продвинутых лептолепид.
Более прогрессивные костистые, эвтелеостеи, впервые возникли в начале позднего мела, от общего с клупеоморфами предка. Как и у современных лососевых, тело самых примитивных эвтелеостей относительно длинное с вторым спинным (жировым) плавником; в хвостовом плавнике присутствует стегуралия. Предки костнопузырных, лососеоб- разных и более прогрессивных неотелеостей очень близки.
Для неотелеостей характерны изменения положения плавников и формы тела, а также приспособление глоточного отдела к раздавливанию и перемещению добычи. У них имеется крупный мускул, ретрактор жаберных дуг, идущий от передних позвонков к глоточному аппарату. Самые примитивные костистые, у которых развит этот мускул, относятся к отрядам стомиеобразных, аулопообраз- ных и миктофообразных. В раннем мелу это были широко распространенные нектонные рыбы, но современные их потомки-в основном глубоководные морские формы.
К миктофообразным, возможно, относятся предки наиболее прогрессивных костистых - аканто- морф, характеризующихся колючими плавниковыми лучами и ктеноидными чешуями. Это как бы вершина нескольких эволюционных попыток костистых увеличить эффективность локомоции. У представителей центрального филогенетического ствола высших костистых тело сжато с боков, а туловищных позвонков меньше, чем у предковых форм. Основная движущая сила создается работой хвоста, а тело при этом почти не гнется. Грудные плавники расположены высоко на плечевом поясе, а брюшные сдвинуты вперед и прикреплены к клей- труму.
Обширная группа высших костистых произошла от акантоморф, представленных в начале позднего мела ктенотриссоидами.