Едва германская армия успела переправиться через Дунай, как посыпались беды. Сербские и болгарские разбойники нападали на отставших и заблудившихся солдат, местные крестьяне были напуганы и встречали гостей неприветливо. Германцы тут же обвинили византийцев в том, что они подстрекают вражду со стороны местных, и отказывались понимать, что Исаак просто не в силах положить ей конец. Фридрих благоразумно постарался заручиться дружбой главарей мятежников. Стефан Неманя, сербский жупан, прибыл со своим братом Страцимиром в Ниш приветствовать германского монарха, который проходил через город в июле; а вожди болгарского восстания, валашские братья Иван Асень и Петр, прислали ему письма с обещанием помощи. Известия обо всех этих переговорах вызвали вполне естественную обеспокоенность у константинопольского двора. Исаак и без того уже подозревал Фридриха в нечистых замыслах. Его прежние послы при германском дворе Иоанн Дука и Константин Кантакузин отправились встречать Фридриха, вступившего на византийскую землю, но, к ужасу их старого друга, историка Никиты Хониата, воспользовались своей миссией для того, чтобы стравить Фридриха и Исаака, которому вскоре стало известно об их происках. Пока византийцы-провожатые своими кознями раздували недоверие Фридриха к империи, уходившее еще во времена Второго крестового похода, Исаак растерял последние остатки здравого смысла. До той поры дисциплинированность германской армии и адекватная подготовка византийских властей для снабжения ее всем необходимым в дороге предотвращали возникновение каких-либо неприятных инцидентов. Но когда Фридрих вошел в Филиппополь и оттуда отправил посланцев в Константинополь договориться о проходе его войск в Азию, Исаак бросил его представителей в тюрьму, намереваясь держать их там в качестве заложников, чтобы Фридрих не позволял себе лишнего. Однако он страшно ошибся насчет германского императора, который немедленно послал своего сына Фридриха Швабского взять, со своей стороны, в заложники город Дидимотихон во Фракии и написал домой другому сыну, Генриху, чтобы тот снарядил флот, который бы вел действия против Византии, и получил благословение папы на крестовый поход против греков. Фридрих заявил, что пока пролив находится в чужих руках, крестоносцы ничего не добьются. Перед лицом опасности нападения на Константинополь германской армии совместно с западным флотом Исаак несколько месяцев изворачивался и в конце концов отступил и выпустил немецких посланцев. В Адрианополе заключили мир. Исаак вернул заложников Фридриху и пообещал дать корабли, если он поплывет через Дарданеллы, а не Босфор, а также снабжать его провизией во время прохода по Анатолии. Фридрих хотел продолжить путь в Палестину. Он смирил свой гнев и согласился на предложенные условия.
Германская армия двигалась по Балканам черепашьим ходом, и Фридрих был слишком осторожен, чтобы отправляться в Анатолию в зимнее время года. Он перезимовал в Адрианополе, а константинопольцы дрожали от страха при одной мысли о том, что он отвергнет извинения Исаака и решит-таки идти на их город. В конце концов в марте 1190 года вся экспедиция отправилась в Галлиполи на берегу пролива Дарданеллы и при помощи византийских транспортных судов переправилась в Азию, а Исаак и его подданные вздохнули с облегчением.
От азиатского берега пролива Фридрих двинулся примерно тем же путем, которым шел Александр Македонский за полтора тысячелетия до него: пересек Граник и разлившийся Ангелокомит, пока не дошел до мощеной византийской дороги между Милетополем и современным Балыкесиром. По этой дороге он направился через Каламос к Филадельфии, где жители сначала встретили его дружелюбно, но потом пытались ограбить задние ряды его армии и поплатились за это. Фридрих добрался до Лаодикеи 27 апреля, через тридцать дней после переправы через Дарданеллы. Оттуда он двинулся вглубь страны по дороге, которой следовал Мануил в своем роковом походе к Мириокефалону; и 3 мая после стычки с тюрками миновал поле боя, где еще белели кости погибших. Теперь Фридрих оказался на территории, подвластной сельджукскому султану. Не вызывало сомнений, что Кылыч-Арслан, несмотря на все обещания, не намерен дать крестоносцам мирно пройти по его владениям. Однако величина христианской рати привела его в такой ужас, что он не пытался предпринимать каких-либо серьезных действий, помимо того, что крутился вокруг нее, отлавливая отставших солдат и донимая отряды, отправленные на поиски продовольствия. Тактика сработала эффективно. Голод и жажда вместе с тюркскими стрелами вскоре начали приводить к жертвам среди крестоносцев. Обойдя оконечность гор Султан-Даг и ступив на старинную дорогу, ведущую от Филомелиона на восток, Фридрих 17 мая подошел к Конье. Султан вместе со всем своим двором заблаговременно покинул столицу, и в ходе ожесточенной битвы с сыном султана Кутб ад-Дином император на следующий день сумел пробиться в город. Он не стал надолго задерживаться в его стенах, но все же дал армии немного передохнуть в садах Мерама на его южной окраине. Шесть дней спустя он двинулся в сторону Карамана, куда и прибыл 30-го числа, а оттуда без помех повел армию через перевалы Тавра к южному побережью у Селевкии. В то время этим портовым городом владели армяне, чей католикос поспешил письменно доложить обо всем Саладину. Дорога пролегала по труднопроходимой местности, еды не хватало, а летний зной палил нещадно.
10 июня великая рать спустилась на селевкийскую равнину и приготовилась перейти реку Каликадн и войти в город. Император ехал впереди со своей личной гвардией и спустился к воде. Что произошло потом, неясно. То ли он спрыгнул с коня, чтобы освежиться в прохладных волнах потока, а течение оказалось сильнее, чем он думал, то ли организм уже престарелого Фридриха не пережил внезапного шока, или, может статься, его конь поскользнулся и сбросил седока в воду, и того утянуло на дно тяжестью доспехов. К тому времени, как армия подошла к реке, тело уже вытащили из воды и уложили на берегу.
Смерть великого императора стала чудовищным ударом не только для его войск и соратников, но и для всего франкского мира. Весть о том, что он идет во главе огромной армии, воодушевила рыцарей, сражавшихся на сирийских берегах. Казалось, у него одного достаточно силы, чтобы прогнать мусульман, и, когда к нему присоединились бы армии королей Франции и Англии, которые, как было известно, вскоре намеревались отправиться на Восток, вместе они наверняка бы вернули Святую землю в руки христиан. Даже Саладин опасался, что не справится с этой объединенной мощью. Услышав о том, что Фридрих уже на пути в Константинополь, султан послал своего секретаря и будущего биографа Бахауддина в Багдад предупредить халифа ан-Насира о том, что правоверным надлежит сплотить свои силы перед лицом угрозы, и призвал к себе всех своих вассалов. Он собирал информацию о каждом шаге германской армии и ошибочно полагал, что Кылыч-Арслан тайно пособничает христианам. Когда до мусульман дошла новость о внезапной гибели Фридриха, они подумали, что это чудо Господне, совершенное ради спасения правоверных. Армию, собранную Саладином для сдерживания германцев в Северной Сирии, можно было спокойно сократить и послать отряды для подкрепления его войск на палестинском побережье.
Исламу действительно грозила большая опасность, и Саладин был прав, видя свое спасение в смерти императора. Хотя во время нелегкого марша по Анатолии германская армия потеряла некоторое количество солдат и часть снаряжения, но все еще оставалась весьма внушительной.
Однако германцы с их странной потребностью поклоняться вождю обычно оказываются полностью деморализованы, когда остаются без своего лидера. Воины Фридриха пали духом. Герцог Швабский принял командование на себя, но при всей его храбрости ему не хватало силы отцовского характера. Одни князья решили вернуться со своими войсками в Европу, другие сели на корабли в Селевкии или Тарсе и поплыли в Тир. Герцог с весьма поредевшей армией продолжил путь по киликийской равнине в жарком и влажном мареве лета, неся с собой тело императора, которое хранили в уксусе. После некоторых колебаний армянский князь Левон решил нанести почтительный визит в немецкий лагерь. Но германские вожди не сумели надлежащим образом позаботиться о пропитании своих людей. Оставшись без императорского надзора, солдаты отбились от рук. Многие голодали, многие болели, и никто не желал подчиняться приказам. Сам герцог Швабский тяжело заболел и должен был задержаться в Киликии. Его армия продолжила путь без него, но при проходе через Сирийские ворота была атакована и понесла тяжелые потери. Германцы, подошедшие 21 июня к Антиохии, являли собою плачевное зрелище. Фридрих, оправившись от болезни, последовал за ними несколько дней спустя.