В начале августа 1186 года Барбаросса вернулся в Германию. Проезжая по землям Эльзаса и Верхнего Рейна, он не упускал случая посовещаться с местными магнатами, готовясь к проведению намеченного на ноябрь рейхстага в Гельнхаузене, дабы покончить с враждебной Империи коалицией папы и архиепископа Кельнского. К назначенному сроку прибыло большинство приглашенных служителей церкви — пять архиепископов и тридцать епископов, помимо иных лиц духовного звания. Явились и светские князья. Собрание открыл император пространным выступлением. Его красноречие, которого он никогда не расточал попусту, вскоре завладело вниманием слушателей. Учитывая настроение присутствующих, он начал страстно порицать высокомерие и алчность папских легатов. Гневно возвышая голос, император говорил, что в Германии они держат себя как большие господа, живя за счет церквей и монастырей, тогда как в Италии вынуждены влачить жалкое существование. Этим он окончательно завоевал сердца собравшихся. Свою речь император закончил призывом откровенно высказываться, помня, однако, о том, что каждый обязан повиноваться папе римскому лишь постольку, поскольку тем самым не нарушает взятых на себя обязательств по отношению к установленной Богом светской власти.

Были высказаны самые разные суждения, но большинство, без колебаний встав на сторону императора, сошлось во мнении, что действия Урбана III достойны осуждения. Архиепископ Магдебургский Вихман предложил направить в Верону послание к папе, дабы просить его примириться с Фридрихом и тем самым освободить епископов от тяжкой необходимости выбирать, кому следует повиноваться: папе или императору. Большинство присутствующих подписало это послание. Урбан III, плохо разобравшийся в обстановке в Германии, ожидал иного результата. Уже вышло его апостолическое распоряжение императору явиться вместе с сыном на покаяние в Верону, а коллегия кардиналов даже приняла решение о предании анафеме «еретика», как прибыло составленное в Гельнхаузене послание. Тут-то темпераментный миланец и осознал, наконец, всю безнадежность своего положения, но все равно не смирился. Говорили, что он собирался отлучить Фридриха от церкви, но не успел. Смерть, внезапно настигшая его в Ферраре в октябре 1187 года, лишила его возможности отомстить своему врагу.

Конец 1186 года Фридрих провел в Нюрнберге, издав здесь указ о соблюдении земского мира, направленный прежде всего против тех, кто в ходе междоусобных распрей предавал огню дома и хозяйственные постройки противника. Этим нарушителям земского мира грозила опала и отлучение от церкви. Они могли избежать столь сурового наказания, лишь возместив ущерб и совершив паломничество в Святую землю или в Сантьяго-де-Компостелла в Испании. Жестоко каралось также уничтожение фруктовых садов и виноградников. Поскольку же невозможно было добиться полного искоренения междоусобиц, предписывалось за три дня извещать о начале военных действий.

Король Франции Филипп II Август, стремившийся ликвидировать английские территориальные владения в своей стране, проявлял заинтересованность в союзе или хотя бы в мирных отношениях с императором. Тесть короля, граф Хеннегау Балдуин, пользовавшийся благосклонностью Барбароссы, выступил посредником между ними, и уже 17 мая 1187 года между Францией и Империей был заключен договор. Выгодность этого соглашения французский король ощутил уже спустя месяц, когда Генрих II, собиравшийся пойти войной на него, предпочел перемирие.

Дело всей жизни Фридриха I Барбароссы близилось к завершению. Его империя протянулась сплошным массивом от Северного моря до границ союзного с ней Сицилийского королевства, от Мааса и Роны на западе и почти до Вислы на востоке. Междоусобные войны в государстве прекратились, и гарантом воли императора служила несокрушимая мощь Швабского герцогства. Однако дряхлевший телом, но сильный духом Барбаросса не помышлял о покое. Возвеличив достоинство Римской империи и власть императора, он обратил теперь все свои помыслы к Святой земле, ради защиты которой от турок новый папа Климент III, избранный в декабре 1187 года, объявил крестовый поход. Фридрих, давно уже разменявший седьмой десяток лет, мог бы, ссылаясь на преклонный возраст, уклониться от участия в нем, уступив дорогу более молодым и здоровым. Но кто же в таком случае, как не он, император, мирской предводитель западного христианства, возглавит столь благое, богоугодное дело?

Всё — и главенствующее положение Фридриха в Германии, Северной Италии и Бургундии, и поступавшие в его распоряжение доходы от имперских и родовых имений, и возрожденная болонскими юристами универсальная имперская идея — выдвигало его на первое место среди возможных предводителей крестового похода. Кроме того, Фридрих был единственным из правителей Запада, кто имел личный опыт участия в крестовом походе. Его, как и короля Конрада III, в свое время вдохновила проповедь освобождения Гроба Господня от неверных, произнесенная Бернаром Клервосским на Рождество 1146 года в Шпейерском соборе. Фридрих вместе с Конрадом III пережил все перипетии Второго крестового похода. Несмотря на имевшееся многочисленное войско, участие блистательного французского рыцарства под водительством короля Людовика VII, дружеское взаимопонимание с византийским императором, этот крестовый поход оказался сплошной чередой досадных неудач.

В ходе долгого марша вдоль берегов Дуная и по балканским провинциям Византии Фридрих изучил проблемы, связанные со снабжением большого рыцарского войска и простых, зачастую невооруженных паломников, а также с поддержанием среди них дисциплины и порядка. Ему была знакома глубоко укоренившаяся вражда между «франками», как звали на Востоке выходцев из Западной Европы, и византийцами, основанная на многочисленных недоразумениях и непонимании друг друга. Он по собственному опыту знал, сколь трудно удержать в узде завистливые отряды немецких паломников, склонных к грабежу, как только они завидят богатые греческие города. Он знал, сколь сильно зависят крестоносцы на пути в Палестину от византийских рынков, от местных проводников и от наличия кораблей. Он оказался свидетелем глубокого унижения короля Конрада, когда в дружественной стране, в византийской столице, тот утратил какое бы то ни было влияние на массу пилигримов, сопровождавших войско, да и на значительную часть самого войска. Фридрих лично пережил поражение немецкого войска при его первом же столкновении с сельджуками в открытом полевом сражении, состоявшемся 25 октября 1147 года при Эскишехире. В его сознании тогда глубоко запечатлелся резкий контраст между неповоротливым и неуправляемым, обремененным массой невооруженных паломников немецким войском и дисциплинированной, боеспособной рыцарской армией Людовика VII.

Фридрих принял участие и в коротком походе в июле 1148 года, когда рыцарское войско трех королей, Конрада III, Людовика VII и Балдуина Иерусалимского, двинулось на Дамаск. Это наступление, предпринятое вопреки совету сирийских магнатов, привело лишь к тому, что вынудило могущественного Нуреддина Алеппского заключить союз с правителем Дамаска, оказавшийся весьма опасным для крестоносцев. Эта угроза сохранялась и в то время, когда короли Конрад и Людовик возвращались домой. Конечным результатом крестового похода, вдохновленного Бернаром Клервосским, явилось глубокое разочарование. Фридрих Швабский вернулся из похода на Восток с дорого доставшимся ему политическим и военным опытом, который теперь и послужил еще одним аргументом в пользу того, чтобы в очередном, Третьем крестовом походе Гогенштауфен стал предводителем.

Фридрих созвал своих вассалов на хофтаг в Майнц, открытие которого намечалось на 27 марта 1188 года. Князья съезжались словно бы не на собрание, созванное императором, а на «хофтаг Иисуса Христа» — так Фридрих пожелал назвать этот съезд, дабы не оставалось ни малейших сомнений относительно его целей. Не император (Барбаросса смиренно сложил с себя эту функцию), а сам Спаситель должен был председательствовать на этом собрании, незримо присутствуя и будто бы восседая на остававшемся незанятом троне. Как и четыре года назад, помимо ленников Фридриха, в Майнц прибыло множество духовных и светских князей. Явились почти все главные вассалы императора — имперские князья. Собравшиеся преисполнились возвышенно-торжественного настроения, резко контрастировавшего с весельем, царившим здесь в 1184 году. Собрание открыл Генрих, епископ Альбано, зачитавший послание папы с призывом отправиться в крестовый поход. Затем епископ Готфрид Вюрцбургский, рейхсканцлер, выступил с проникновенной речью, никого не оставившей равнодушным. Все как один приняли крест. Сам император, его старший сын герцог Фридрих Швабский, множество епископов, князей и прочей знати потребовали от Готфрида Вюрцбургского осенить их знаком креста. Некогда рыжеволосый Барбаросса, превратившийся в седовласого старика, также принял крест. Его примеру последовали короли Англии и Франции.