Первые желавшие отправиться в поход приняли крест еще в декабре 1187 г., на рейхстаге в Страсбурге. Сам Фридрих принял крест 27 марта 1188 г. из рук Энрико, папского легата-кардинала Альбано: «Фридрих не мог устоять против дуновения Святого Духа». Однако прошло больше года, прежде чем все было готово к походу. Котомку и крест император принял в апреле 1189 г. в Хагенау. Угроза еврейского погрома в Майнце была подавлена императором в зародыше угрозой жесточайшей кары. Как и раньше, был намечен сухопутный маршрут, который император обеспечил переговорами и договорами с Венгрией, Сербией, Византией и рум-сельджукским султаном Икония. Посылал ли Фридрих ультиматум Салах ад-Дину, который тот отверг, достоверно установить не представляется возможным. Подать на проведение крестового похода император не вводил, однако каждый участник должен был иметь при себе денежные средства на два года. Эта мера, помимо исключения из похода бедноты, ограничивала нежелательный обоз. Во время отсутствия императора управлять страной должен был его старший сын Генрих, возможный мятежник Генрих Лев, вернувшийся в Германию в 1185 г., был отправлен в изгнание еще на три года.
14 мая 1189 г. армия Фридриха выступила из Регенсбурга. Вместе с императором в поход двинулись его второй сын, герцог Фридрих Швабский, архиепископ Тарентский (Гервазио), 8 епископов, 3 маркграфа[28] и 29 графов из всех германских областей. Некоторые вассалы императора — кельнцы и фризы, архиепископ Бременский (Хартвиг), ландграф Людвик III Тюрингский и позднее герцог Леопольд V Австрийский — отправились морем.
Современники оценивали численность армии Фридриха в 100 тысяч человек, и хотя она была на самом деле гораздо меньше, это была самая большая армия, которую когда-либо какое-либо государство посылало в крестовый поход. 67-летний император пользовался всеобщим уважением и авторитетом. Годы не уменьшили его храбрости и личного обаяния, но научили осторожности. В походе он был суров и поддерживал строгую дисциплину. Он разделил армию на отряды по 500 человек, во главе каждого поставив человека, командовавшего в бою, которому принадлежала также и судебная власть. Кроме того император учредил военный суд из 60 человек, из которых 16 состояли также в военном совете при императоре.
Марш через Венгрию прошел благополучно, король Бела III дружески приветствовал Фридриха и оказывал всяческое содействие. 23 июня немцы у Белграда переправились через Дунай и вступили на территорию Византии.
Исаак Ангел, человек разумный, но слабовольный, случайно ставший императором, со всех сторон был окружен заговорами и изменами. Он не доверял никому из своих приближенных, подозревая в них соперников, но в то же время не осмеливался призвать их к порядку. Страна страдала от коррумпированного управления и высоких и несправедливых налогов. От империи отделился Кипр, армяне захватили Киликию, турки постоянно врывались в центральные и юго-западные провинции Анатолии. Болгары, валахи и сербы, возмущенные высокими налогами, вновь подняли восстание, которое не удалось полностью подавить. Болгарский царь Петр заключил союз с великим жупаном сербов Стефаном Неманей против императора. Хотя греки удерживали крепости вдоль главной дороги на Константинополь — через Белград, Ниш, Софию, Филиппополь (Пловдив) и Адрианополь (Эдирне), сербские и болгарские разбойничьи банды господствовали на дорогах и в окрестных землях.
Среди крестоносцев и в Европе ходили упорные слухи о союзе Исаака Ангела с Салах ад-Дином. Однако в действительности до заключения союзного договора дело, видимо, не дошло. Имеются достоверные сведения о двух посольствах султана в Константинополь и об одном посольстве византийского императора к Салах ад-Дину в промежутке от начала 1188 до середины 1189 г. Первое посольство султана добивалось разрешения на проповедь ислама в Константинополе в ответ на разрешение служб в церкви Гроба Господня православному духовенству. Такое разрешение было получено, и второе посольство султана повезло в новую мечеть в Константинополе муллу и минбар (кафедру). Исаак требовал от Салах ад-Дина, чтобы он сообщил ему о своих планах, имея в виду, в основном, борьбу с Кылыч Арсланом II. Султан обещал это сделать, но не успел: армия Фридриха уже перебралась в Азию. Салах ад-Дин плохо верил в действенность союза с Византией и считал, что в собственных интересах императора не оказывать помощи крестоносцам. Передача церкви Гроба Господня под надзор православной церкви, обмен посольствами и открытие мечети в Константинополе вызвали гнев франков и обвинения императора в союзе с султаном и измене.
Когда армия Фридриха двинулась по европейским землям Византии, сербские и болгарские разбойники начали нападать на отставших немцев, в то время как греческое сельское население было напугано и настроено враждебно. Фридрих поспешил предложить дружбу мятежным сербам и болгарам. Стефан Неманя в июле прибыл в Ниш для встречи с Фридрихом, царь Петр и его брат Иван прислали послание. И сербы, и болгары призывали Фридриха к войне с греками и обещали содействие и помощь. Фридрих, однако, хотел войти в историю как освободитель Иерусалима и старался, как мог, избежать сомнительной славы начинателя войны с христианским императором. Вскоре после того как крестоносцы переправились в Анатолию, болгары нанесли поражение византийцам, и сам император с трудом спасся от плена. «Многочисленные потери наполнили города плачем и заставили деревни петь горькие песни», — пишет грек-современник.
Фридрих отправил в Константинополь большое посольство, чтобы договориться о переправе войск в Азию. Переговоры Фридриха с сербами и болгарами вызвали в Константинополе тревогу и подозрение. Исаак отправил послами к германскому императору Иоанна Дуку и Константина Кантакузина. Те, вместо того чтобы уверить Фридриха в мирных намерениях василевса, начали подстрекать его против Исаака, однако последний довольно быстро узнал об их измене. Недовольство друг другом привело обе стороны к враждебным столкновениям. 26 августа армия Фридриха заняла большой и богатый Филиппополь, брошенный гарнизоном и жителями. В ответ Исаак бросил в тюрьму германское посольство, чтобы обеспечить мирное поведение Фридриха и, по примеру Алексея и Мануила, добиться от него ленного подчинения и обещания передать ему захваченные земли. Затем он послал войска отбить Филиппополь. Предупрежденный местными армянами Фридрих нанес грекам поражение и обратил их в бегство. Если арестом германского посольства Исаак хотел укротить Фридриха, то он сильно ошибся: он плохо знал германского императора. В ответ Фридрих захватил северо-западную часть Фракии и написал в Германию сыну Генриху, чтобы тот получил разрешение папы на крестовый поход против Византии и в марте следующего, 1190 г. подошел с итальянским флотом под стены Константинополя. Фридрих решил покончить с Византией как с государством. «Крестоносцы никогда не добьются успеха, — писал он, — если не овладеют Проливом [Босфором и Дарданеллами]».
На зимние квартиры Фридрих стал в Адрианополе, он не хотел рисковать зимним переходом через Анатолию. На протяжении нескольких месяцев продолжалось противостояние, пока наконец в феврале 1190 г. Исаак, устрашенный предстоявшим нападением на Константинополь, не пошел на уступки. Он освободил послов и пленных, в Адрианополе заключил договор с Фридрихом, обещал предоставить корабли при условии переправы не через Босфор, а через Дарданеллы (подальше от Константинополя), и снабжать армию продовольствием при переходе через Анатолию. Главным желанием Фридриха был крестовый поход, и он принял условия. Для обеспечения выполнения договора Исаак предоставил 18 заложников из ближайших родственников и членов лучших фамилий.
Германская армия по численности осталась примерно такой же, как при вступлении в Византию. Незначительные потери и уход венгерских отрядов, отозванных королем Белой, вмешавшимся в раздоры в русском Галицком княжестве и поставившим туда князем своего сына, были компенсированы прибытием отставших. В Пасхальную неделю 1190 г. (Пасха — 25 марта) армия Фридриха переправилась в Азию.