Более успешными были попытки Конрада укрепить свои позиции на западе и юге империи. После смерти герцога Вальрама (1139 год) он передал Готтфриду Льву, родственику королевы, герцогство Нижняя Лотарингия. Пфальцграфство Рейнское получил его зять Герман фон Шталек (1142 год). Но в первую очередь Конрад принял существенное участие в расширении династической власти Штауфенов на юге империи. Благодаря браку с Гертрудой фон Зульцбах он укрепил позиции Штауфенов во Франконии. Унаследовав Эгер после пресечения династии Дипольдингов (1146 год), он смог увеличить имперское и родовое достояние на севере Баварии. Так же, как в своей территориальной политике он старался продолжать салическую традицию, так и, создавая свою канцелярию, он исходил из ее организации еще при Генрихе V. Важнейшим советником по всем политическим вопросам для него стал аббат Вибальд фон Ставло, который временно служил нотариусом в канцелярии, а в 1146 году получил важное имперское аббатство Кореей.

Внешнеполитическое положение империи после смерти императора Лотаря сначала не изменялось. Определяющим для политики Конрада было противоборство с норманнами, тем более что Рожер II и после заключения Миньянского договора продолжал свою экспансионистскую политику, направленную против курии. Общая вражда к норманнам привела к дальнейшему сближению Византии и Германского королевства. С 1139 года между обеими державами установились оживленные дипломатические связи. Была достигнута договоренность о браке Мануила, сына императора Иоанна, и Берты фон Зульцбах, невестки Конрада. Через три года после своего восхождения на трон (1143–1180) Мануил заключил брак с Бертой, которая в Византии приняла имя Ирены (Ирины). Однако во время дипломатических переговоров обсуждались не только вопросы власти, но и проблемы титулатуры. Хотя папа так никогда и не короновал короля Конрада III императорской короной, тот претендовал на титул императора римлян, чтобы продемонстрировать свое равноправие с василевсом.

Тем временем положение папства в Риме становилось все более тяжелым. К норманнской угрозе прибавился новый противник в самом Риме. Как и в городах Северной Италии, большую роль здесь приобрело коммунальное движение. Летом 1143 года жители города собрались на Капитолийском холме и назначили в качестве своего органа управления «священный Сенат города». Этому движению за римское городское самоуправление удалось закрепиться после смерти Иннокентия II (24 сентября 1143 года), во время короткого понтификата двух его преемников Целестина II и Луция II. Евгений III, ученик Бернара Клервоского, избранный папой в 1145 году, также не смог ему противостоять и поэтому был вынужден перенести свою резиденцию в Витербо. Он мог надеяться на существенную поддержку только со стороны германского короля. Если Бернар еще в 1145 году призывал того оказать папе помощь, то в следующем году Евгений уже сам через послов пытался склонить короля к походу в Рим.

Известие о падении Эдессы полностью изменило эту неустойчивую ситуацию в Западной Европе. Завоевание в декабре 1144 года Зенги, правителем Мосула и Алеппо, этого северо-восточного бастиона четырех крестоносных государств, поставило их в опасное положение. Не в состоянии сами противостоять этой угрозе, они искали помощи в Западной Европе. Поэтому Евгений III обратился к французскому королю Людовику VII и ко всем французам с призывом организовать новый крестовый поход. На Рождество 1145 года король объявил о своем решении лично отправиться в Святую землю. Бернар Клервоский, уполномоченный папой выступить с проповедью о походе, благодаря своему красноречию разжег мощное крестоносное движение далеко за пределами Франции. В прирейнских городах Германии проповедники крестоносной миссии вовлекли массы народа в жестокое преследование евреев. Бернар сам отправился в Германию, чтобы положить этому конец, но, в первую очередь, для того, чтобы увлечь короля Конрада III идеей крестового похода. Сначала тот относился к ней отрицательно, учитывая тяжелое положение внутри империи, но 27 декабря 1146 года в Шпейере, под впечатлением яркой проповеди аббата Клервоского, король решился принять крест. Многие немецкие князья, включая герцога Фридриха Швабского, Генриха Язомирготта и Вельфа IV, последовали его примеру.

Перед выступлением в крестовый поход необходимо было уладить внутренние конфликты. На рейхстаге во Франкфурте в марте 1147 года был провозглашен всеобщий имперский мир и ради обеспечения преемственности при любых условиях избран королем десятилетний сын Конрада Генрих. Во время отсутствия Конрада управлять делами в империи должен был архиепископ Генрих Майнцский. Здесь же Генрих Лев потребовал вернуть ему герцогство Баварию, которого незаконно был лишен его отец. Однако он выразил готовность подождать до окончания крестового похода. Саксонские князья, напротив добились другой, важной для них уступки: поход против славян-язычников должен был рассматриваться как выполнение их крестоносного обета.

Почти вся Западная Европа объединилась под знаменем крестового похода. Даже Рожер II был готов на некоторое время принять в нем участие в том случае, если Людовик VII отправится из Франции через Сицилию. Тем самым кампания должна была приобрести антивизантийскую направленность и служить, как и Первый крестовый поход, проведению норманнской завоевательной политики в Средиземноморье. Однако Людовик отклонил это требование и выбрал путь через Венгрию. Тем временем, в мае 1147 года, немецкие крестоносцы отправились из Регенсбурга через Венгрию и Болгарию. В сентябре они прибыли к Константинополю, чтобы вскоре переправиться в Малую Азию. Не послушав совета Мануила, главное войско под предводительством короля Конрада выбрало путь через внутренние области полуострова, лишь небольшой отряд во главе с епископом Оттоном Фрейзингенским шел вдоль побережья. Нехватка продуктов и постоянные столкновения с турками вскоре вынудили Конрада повернуть назад. После тяжелейших потерь остатки его войска объединились со следовавшими за ними французскими крестоносцами, которые между тем достигли Никеи. Отряд Оттона Фрейзингенского был почти уничтожен турками под Лаодикеей. Конрад III, который был ранен в бою, провел зиму в Византии. Французское войско крестоносцев также понесло в боях с турками тяжелые потери, но сам Людовик и остальные рыцари смогли добраться по морю до Антиохии. Следующей весной Конрад III отправился морем в Иерусалим, где он встретился с Людовиком VII. После того как попытка атаковать Дамаск оказалась безуспешной, Конрад в сентябре 1148 года покинул Святую землю и, проведя зиму в Византии, весной 1149 года вернулся в Германию. Людовик VII до Пасхи 1149 года оставался в Иерусалиме, а затем пустился в обратный путь через Сицилию.

Поражение обоих королей означало провал второго крестового похода. После его неудачного завершения прежние конфликты на Западе, которые перед этим с таким трудом удалось урегулировать, вновь обострились. Рожер II воспользовался крестовым походом, чтобы, в свою очередь, выступить против Восточной империи. Летом 1147 года он овладел Корфу и предпринимал отсюда грабительские походы в Грецию. Поскольку император Мануил одновременно был втянут в военные действия на северной границе своей империи, он не мог оказать действенного сопротивления норманнам. Поэтому император вынужден был искать союзников в борьбе против Рожера. Во время пребывания Конрада III при дворе Мануила зимой 1148/49 года в Византии или, возможно, осенью 1148 года в Салониках был заключен договор о совместной военной кампании обеих держав против Рожера. Мануил выразил желание оказать военную и финансовую помощь действиям Конрада в Италии. Взамен Конрад обязывался передать византийскому императору части норманнского государства после его завоевания. Морские города Венеция и Пиза должны были также войти в эту коалицию. В это же время Генрих Язомирготт из дома Бабенбергов женился на племяннице Мануила Феодоре.