Водные позвоночные девона развили успех, начатый силурийскими предками.

Пережили свой расцвет и закат бесчелюстные. Особенно много их было в начале периода, но к началу среднего девона большинство вымерло, так что в позднем девоне они уже были очень редки. Телодонты вообще немногочисленны и представлены частично теми же родами, что были и в конце силура – Thelodus и Turinia pagei. Забавно выглядели пятиугольные, сплющенные с боков Furcacauda, у которых половину длины занимал хвост из двух одинаковых остей с перепонкой посреди.

Гетеростраки при одном плане строения – панцирь на голове, щиты на теле и хвост в чешуе – были довольно разнообразны: у Cyathaspidida (или Cyathaspidiformes) Poraspis и Anglaspis чешуя была очень крупной и иногда колючей, а рыло – укороченным; у Pteraspidida (или Pteraspidiformes) Pteraspis – чешуя мелкой, а рыло – заострённым; Amphiaspidida (или Amphiaspidiformes) Amphiaspis, Gabreyaspis и Angaraspis жили, зарывшись в ил, отчего панцирь сросся в круглый или овальный щит, а глаза уменьшились, а у некоторых и вовсе исчезли; Psammosteida (или Psammosteiformes) Psammolepis и Drepanaspis тоже были приплющены и расширены, со ртом в виде широкой щели на переднем конце. Последняя группа отличается самыми знатными размерами – до 2 м длины – и протянула дольше всех. Поскольку гетеростраки жили на мелководье, многие из них эндемичны, а фауны разных регионов сильно отличаются даже на уровне отрядов.

Остеостраки были отличными конкурентами – головные щиты Cephalaspis, Kiaeraspis auchenaspidoides, Tannuaspis levenkoi и многих других по-прежнему очень похожи на трилобитов и мечехвостов; у Sclerodus pustuliferus задние углы головного щита были вытянуты в длинные тонкие изогнутые «рога», зазубренные по краям, как пилы. Головной панцирь Benneviaspis очень короткий и широкий, почти месяцеобразный, с шипами по бокам; у Boreaspis и Severaspis rostralis, кроме двух боковых шипов, спереди торчал очень длинный носовой; у Hoelaspis angulata боковые шипы были наклонены вперёд, а передний – короткий; у Tauraspis rara боковые повернулись совсем вперёд и характерно изогнулись, а передний исчез, так что щит приобрёл вид бычьей головы, за что рыба и получила своё название. Hemicyclaspis независимо изобрели полноценные грудные плавники.

Беспанцирные анаспиды Rhyncholepis parvulus, Pharyngolepis oblongus, Pterygolepis nitidus и прочие мало поменялись по сравнению с силурийскими предками: сплющенное с боков тело, покрытое мелкими налегающими друг на друга чешуями; хорда, заходящая в нижнюю лопасть обратно-гетероцеркального хвоста; ряд шипов на спине, крепкий шип на «плече», у некоторых – длинные боковые плавниковые складки или даже уже почти парные плавники. Лучше всего анаспиды известны по отложениям нижнего девона Норвегии.

Galeaspida крайне разнообразны: Т-образный головной щит Lungmenshanaspis впечатляет длинным «носом» и двумя тонкими поперечными «рогами», голова Sanqicaspis узкая, с длинным прямоугольным «носом», у Sanchaspis она широкая, с коротким «носом» в виде топора, у Polybranchiaspis – овальная плоская, у Cyclodiscaspis – почти круглая с фестончатым краем, а у Gantarostrataspis – в виде мотыги.

Pituriaspida среднего девона Австралии представлены всего двумя родами, причём единственные известные отпечатки расположены бок о бок на одном куске камня. У Pituriaspis doylei головной щит закрывал большую часть тела и был похож на стилизованную ракету с плакатов 1960-х: с острым носом спереди и тремя направленными назад шипами. Почему-то носовое отверстие, которое у всех непарноноздрёвых было на верхней стороне, у питуриаспид располагалось снизу. Судя по характерным вырезкам на задней стороне щита, возможно, имелись развитые парные грудные плавники. У Neeyambaspis enigmatica головной щит был покороче и пошире, с отверстием в центре верхней стороны, которое может быть носовым, а может – и ротовым. Скелет, возможно, окостеневал, что совсем нетипично для бесчелюстных.

Некоторые девонские рыбы могут быть предками современных бесчелюстных. Шестисантиметровый Palaeospondylus gunni из среднего девона Шотландии очень похож на миксину. У него нет челюстей, но вроде бы есть окостеневший череп и кольцевые позвонки с отростками, имеются брюшные и вроде бы грудные плавники. Если это не миксина, то, возможно, беспанцирная плакодерма. Priscomyzon riniensis из фаменского века Южной Африки, видимо, древнейшая минога с огромной головой и гигантской круглой присоской.

Челюстноротые девона, без сомнения, переплюнули всех. Преобразования, совершившиеся в этой группе, равны достижениям кембрия и, по большому счёту, превосходят всё, что творилось всё оставшееся до наших дней время.

Janusiscus schultzei из лохковского века (около 415 млн л. н.) Красноярского края и Ramirosuarezia boliviana из эйфельского века Боливии хотя в деталях отличаются друг от друга, уникальны чудесной мозаикой признаков разных плакодерм, акантод, хрящевых и костных рыб; даже название первого из них дано в честь двуликого Януса. Примерно так должны были бы выглядеть общие исходные предки всех челюстных рыб. Считать янусискуса и рамиросуорезии Великими Предками мешает только слишком поздняя датировка, ведь уже в силуре известны представители всех главных групп костных рыб.

Панцирные челюстные Placodermi на протяжении девона пережили свой величайший расцвет, но под конец периода почти полностью вымерли.

Плакодермы артродиры Arthrodira по части признаков были самыми примитивными челюстноротыми, что не помешало прогрессивным формам стать активными и самыми крупными хищниками девона. Они весьма разнообразны. Rhamphodopsis, Plourdosteus и Coccosteus – самые типичные, с головным и туловищным панцирями, клювообразными беззубыми челюстями, вытянутым телом с небольшими плавниками и гетероцеркальным хвостом. Конечно, самые впечатляющие артродиры – Dinichthys herzeri и Dunkleosteus terrelli, достигавшие 6 м длины и тонны веса. Это были одни из крупнейших хищников всего палеозоя: огромные массивные рыбины с бронированной головой, с зазубринами по краям клюва, компенсировавшими отсутствие настоящих зубов. Такие чудища могли без проблем перекусить кого угодно. Как обычно, гонка нападения и защиты привела к маразму: у Homostius и Heterostius пластины достигли 4–5 см толщины! Такая специализация, конечно, не могла довести до добра: девон стал последним периодом существования этих оригинальных существ. Особое значение имеет окаменелость Materpiscis attenboroughi из Австралии с древностью 375 млн л. н.: внутри тела взрослой рыбы сохранились остатки эмбриона, связанного с матерью пуповиной. Выходит, эта «мать рыб», как переводится её название, была первым живородящим позвоночным на планете. Приплюснутая раннедевонская германская Gemuendina seutrtzi была очень похожа на ската, позднедевонская германская Ctenurella gladbachensis – на химеру, причём они почти лишились головного и туловищного панцирей.