Военные действия продолжались. Однако в условиях сильной летней жары в немецком войске возникла оппозиция дальнейшему развитию войны. К тому же между императором и папой возникли разногласия по поводу нового устройства завоеванных областей. В то время как Роберту Капуанскому вновь вернули княжество, Райнульфу Алифскому должны были передать в лен Апулию. При этом и папа, и император претендовали на право им наделить. В конце концов решили, что оба возьмут знаменное копье как символ ленной инвеституры и вместе передадут его новому герцогу (август 1137 года).

Лотарь, который на обратном пути передал своему зятю маркграфство Тусцию (Тоскану), вскоре тяжело заболел. Ему, вероятно, удалось перейти Альпы, но 4 декабря 1137 года он скончался в деревне Брейтенванг под Ройтте в Тироле. Перед смертью он передал Генриху Гордому имперские инсигнии. Вельф также получил тогда герцогство Саксонию, но остается под вопросом, было ли оно ему передано с соблюдением всех формальностей. Император был похоронен в основанном им монастыре Кёнигслуттер.

В Италии воцарение Райнульфа не принесло длительного успеха. Рожер активно сопротивлялся своим врагам и после ухода немецкого войска смог отвоевать большую часть своего королевства. Поэтому Иннокентий II вынужден был согласиться признать норманнского короля арбитром в своем споре с Анаклетом. Но прежде чем это произошло, 25 января 1138 года Анаклет II умер. Так закончилась схизма. Иннокентий на Латеранском соборе в 1139 году отлучил Рожера II от церкви и отправился против него в поход. Однако у Гарильяно он попал к противнику в плен и вынужден был в Миньянском договоре в июле 1139 года торжественно признать соглашение между Анаклетом и Рожером, а заново пожаловав Рожеру лен, он признавал законным образование норманнско-сицилийской монархии.

Лотарь вступил на трон как противник салической партии. Однако, будучи королем, он придерживался наметившейся ранее политической линии германских королей и отнюдь не являлся, как иногда полагали, несамостоятельным, зависимым от церкви политиком. Его неоднократные требования вернуть право инвеституры демонстрируют его стремление придать прежнюю значимость королевским правам в отношении церкви королевские права. Но его самое большое достижение — это, без сомнения, его восточная политика. Замирив военной силой приграничные области, он создал политические предпосылки для начавшейся тогда немецкой колонизации восточных земель. Одновременно он привлек сюда княжеские фамилии, которые отныне должны были стать субъектами этой колонизационной деятельности в каждой из приграничных территорий.

После смерти Лотаря его зять Генрих Гордый, представлявший Вельфов, мог с полным правом считать себя будущим королем. В качестве герцога Баварского и Саксонского, маркграфа Тусции и сеньора обширных родовых владений в Швабии, Баварии, Саксонии и Италии он являлся самым могущественным князем империи. Однако поскольку во время последнего итальянского похода он вновь выступил в противовес курии как поборник имперских прав, Иннокентий II был противником его избрания. В Германии у него также имелись решительно настроенные противники. Поскольку майнцский архиепископский престол после смерти Адальберта был все еще вакантным и новый архиепископ Арнольд I Кёльнский пока не был посвящен в сан, руководство выборами находилось в руках Альберона Трирского. Не дожидаясь первоначально назначенной князьями на Троицу даты избрания, он созвал своих сторонников в Кобленце и предложил 7 марта 1138 года избрать здесь германским королем Конрада фон Штауфена. Через несколько дней Конрад был коронован в Ахене папским легатом. Избрание Конрада были осуществлено явным меньшинством. Оно ни в коей мере не означало возвращение к наследственному праву, напротив, являлось «свободным избранием». Несмотря на это, Конрад вскоре получил повсеместное признание. Даже Генрих Гордый передал ему имперские инсигнии и тем самым отказался от своих притязаний на корону. Однако он отказался принести ему клятву верности, так как король не признавал его притязаний на Саксонию, требуя передачи себе по меньшей мере одного из герцогств. Поэтому на рейхстаге в Вюрцбурге в июле 1138 года Генрих был подвергнут имперской опале, а оба герцогства были у него отобраны: Саксония перешла к Альбрехту Медведю, Бавария в начале следующего года была передана маркграфу Леопольду IV Австрийскому из дома Бабенбергов — сводному братом короля, чья мать Агнесса, вдова герцога Фридриха I Швабского, была замужем за маркграфом Леопольдом III Австрийским. В будущем Бабенберги стали важнейшей опорой Штауфенов.

Эти действия Конрада ознаменовали начало открытой борьбы между Штауфенами и Вельфами. Сначала Генрих Гордый вел ее успешно. Альбрехт Медведь вынужден был покинуть Саксонию. Раздоры в герцогстве Саксония оказывали воздействие на отношения в Нордальбингии. Поскольку Адольф II Гольштинский, около 1130 года сменивший на троне своего отца, был на стороне Вельфов, то Альбрехт Медведь сместил его и передал приграничное графство Гольштейн-Штормарн в лен Генриху фон Бадвиде (из рода Люнебургов). Однако он не смог долго противостоять графу Адольфу. Внезапная смерть Генриха Гордого (20 октября 1139 года) не ослабила напряженности. Его десятилетний сын Генрих (Лев) получил признание в качестве герцога по всей Саксонии. Его бабка Рихенца, вдова императора Лотаря, возглавила здесь дело Вельфов.

Вельф VI, брат Генриха Гордого, стал вдохновителем восстания в Южной Германии. В августе 1140 года ему удалось одержать победу над Леопольдом IV под Фаллаем на р. Мангфалль. Теперь Конрад III сам отправился завоевывать швабские владения Вельфов. С ноября 1140 года он осаждал замок Вейнсберг недалеко от Хейльбронна. Вельф поспешил его деблокировать, но был разгромлен. После этого вельфский гарнизон крепости вынужден были капитулировать. Вполне достоверным является рассказ о том, что женщины замка воспользовались разрешением Конрада взять с собой столько имущества, сколько они смогут унести, чтобы вынести из крепости своих мужей и спасти их тем самым от смерти или плена.

Несмотря на этот успех короля, борьба продолжалась. После смерти Рихенцы в 1141 году Вельф IV один продолжал сопротивление. Перемирие наметилось только в следующем году. Альбрехт Медведь сложил с себя титул герцога Саксонского и на съезде князей во Франкфурте в мае 1142 года окончательно отказался от герцогства, но за это получил свои прежние владения, прежде всего Северную марку. Остается невыясненным, назначил ли Прибислав Бранденбургский его наследником уже тогда или позже. Генрих Лев был признан в качестве герцога Саксонского, однако вынужден был отказаться от Баварии. Перемирие между Вельфами и Бабенбергами должно было быть достигнуто браком овдовевшей герцогини Гертруды, дочери императора Лотаря, с Генрихом II Язомирготтом, который в качестве маркграфа Австрийского в 1141 году сменил своего брата Леопольда IV. Теперь он получил в лен герцогство Баварию. Однако надежды, которые связывались с этим браком, не оправдались, так как уже в 1143 году Гертруда умерла при родах. Кроме того, Вельф IV не признал отказа своего племянника от Баварии и продолжил борьбу против Бабенбергов в Южной Германии. При этом он добился не только финансовой помощи Рожера II Сицилийского, но и эпизодической поддержки своего штауфеновского племянника Фридриха, который после смерти своего отца Фридриха II унаследовал герцогство Швабию (1147 год).

Действия Конрада на восточной границе империи, в Богемии, Польше и Венгрии, имели переменный успех. В Богемии после смерти герцога Собеслава (1140 год) с помощью Конрада верх удалось одержать его племяннику Владиславу, которого он назначил своим преемником. В 1142 году король дошел до Праги. В Польше после смерти Болеслава III (1139 год) между его сыновями начались династические раздоры, в которых победил Болеслав IV. Его старший брат Владислав II, женатый на сводной сестре Конрада III, вынужден был покинуть страну. Попытка короля вернуть в страну своего зятя (1146 год) окончилась неудачей. Отношения с Венгрией и ее новым королем Гезой II (1141–1162) сначала были хорошими. Старший сын короля Конрада Генрих еще маленьким мальчиком был помолвлен в 1139 году с сестрой Гезы Софией. Когда Конрад поддержал другого претендента на венгерский трон, который получил также помощь византийцев, отношения между Гезой и Конрадом охладели. Поэтому Геза выступил против империи и в сентябре 1146 года на реке Лейта нанес тяжелое поражение Генриху Язомирготту.