Еще при Александре II дело дошло до острого конфликта между королевским двором и курией из-за назначения архиепископа Милана. С 1066 года здесь возобновилась борьба между архиепископом Видо и патарией, руководителем которой после смерти Ландульфа стал его брат рыцарь Эрлембальд. Когда в 1070 году Видо отказался от своего сана, король Генрих назначил его преемником миланского священника Готфрида, тогда как патаренский союз вскоре после этого произвел в архиепископы клирика Атто, признанного также папой Александром. Когда король настоял на кандидатуре Готфрида, папа на пасхальном синоде 1073 года отлучил от церкви пять советников Генриха, оказавшихся будто бы виновными в симонии.

С конца шестидесятых годов все очевиднее становились цели королевской политики в Германии. Во время регентского правления Генрих вынужден был наблюдать, как корона постепенно лишалась имперского достояния. Поскольку после передачи Баварии Оттону Нортхеймскому королевский дом больше не распоряжался герцогством, Генрих должен был попытаться восстановить территориальные основы королевской власти.

Возможности для этого предоставлялись прежде всего в тюрингено-саксонском регионе, и особенно в областях к северу и к югу от Гарца, где богатые владения дома Людольфингов после его угасания отошли империи, однако корона все же их потеряла. Примерно с 1070 года король приступил к возвращению в свои руки имперских владений, а также начал брать на службу жителей этих областей, поскольку они исконно были расселены на государственной земле как королевские свободные. В качестве центров управления восстанавливались старые и строились новые укрепления-бурги. Для упрочения королевской собственности часто использовалась так называемая инквизиционная процедура, когда права короны утверждались при помощи показаний свидетелей.

Уже сам этот метод рассматривался в Саксонии как вмешательство в старое родовое право. Однако противостояние между королевским домом и саксонской знатью усиливалось еще и потому, что в качестве помощников для проведения своей политики рекуперации^{33} Генрих привлекал прежде всего швабских министериалов^{34}. Составляя гарнизоны этих бургов, они часто со всей резкостью использовали королевские права и не боялись превышения полномочий. Гослар, где временно была установлена власть имперского фогта, и расположенный рядом Гарцбург стали главными опорными пунктами королевской позиции. Позднее король смог на некоторое время завоевать и Люнебург, резиденцию Биллунгов.

В 1070 году это привело к открытому конфликту. Генрих IV выступил против Оттона Нортхеймского, чьи владения и лен на западной и южной окраинах Гарца представляли собой значительное препятствие для проведения политики короля. Обвинив Оттона в планировании покушения на короля, его вызвали на поединок. Но когда он выдвинул невыполнимые условия его проведения и не явился, то был поставлен вне закона и смещен. Герцогство Бавария было передано Вельфу IV, чья мать Кунигунда была замужем за Альбертом Аццо II, маркграфом Эсте. Оттон Нортхеймский в союзе с Магнусом Биллунгом, сыном саксонского герцога, вступил в борьбу. Но в начале 1071 года оба вынуждены были подчиниться и были заключены королем под стражу. Впрочем, через год, по ходатайству Адальберта Бременского, король помиловал Оттона. Тот, правда, должен был уступить королю часть своего имперского ленного владения, но частично получил обратно свой аллод.

Однако перемирие с Оттоном Нортхеймским было все-таки лишь одним из мирных эпизодов в борьбе Генриха с саксами. Уже в 1073 году его встреча с королем Дании Свеном Эстридсеном в Люнебурге явилась поводом для толков об угрозе саксам. Тот факт, что после освобождения Нортхеймца Генрих все еще удерживал под стражей герцога Магнуса, хотя его отец Ордульф умер в марте 1072 года, вызвал новое недовольство. После того как ранней весной 1073 года синодом был решен в пользу архиепископа Майнцского длительный спор о праве на взимание десятины в Тюрингии, недовольство охватило и Тюрингию. Когда в том же году король поднял саксов в поход против поляков, саксонские князья потребовали устранения нарушений и организовали в июле в Хётенслебене (под Хальденслебеном) настоящий заговор. Наряду с Оттоном Нортхеймским руководителями все активнее выступали архиепископ Вернер Магдебургский и епископ Бурхард Хальберштадтский. Поскольку король не дал посланникам определенного ответа, войско подошло к Гарцбургу, где находился Генрих. Повстанческое движение охватило всю восточную Саксонию и Тюрингию. В руки противников короля перешла также часть крепостей. Северная и западная Саксония, напротив, вряд ли участвовали в борьбе.

Положение Генриха стало особенно опасным, поскольку теперь против него выступили также три южнонемецких герцога, почувствовавшие себя обойденными новыми советниками короля.

В этой ситуации большую моральную победу означала для Генриха поддержка со стороны бюргерства города Вормса. Горожане Вормса изгнали своих епископальных сеньоров и открыли ворота королю. Такой верности король был обязан тем, что в начале 1074 года он предоставил «Judei et coeteri Wormatienses» («иудеям и прочим вормсцам») освобождение от таможенных пошлин на ряде таможенных застав. Вероятно, реальная помощь, которую ему мог оказать Вормс, была невелика. Но этой благосклонностью вольного движения бюргерства, мощно развивавшегося здесь и в других городах Рейнской области — например, в Кёльне, где Аннону, впрочем, удалось подавить подобное выступление, — был указан путь, на котором германская королевская власть могла обрести новые силы для создания имперского могущества.

Зимой 1073/74 года король с небольшим войском двинулся в Саксонию, но оказался недостаточно силен, чтобы позволить себе военное столкновение. Он решился на переговоры, во время которых ему удалось добиться посредничества Оттона Нортхеймского в обмен на обещание вернуть Баварию. По Герстунгенскому миру (2 февраля 1074 года) он вынужден был в полной мере признать требования саксов. Хотя имущество империи сохранялось, Генрих пообещал разрушить ненавистные бурги. Тем самым ему удалось отделить своих саксонских противников от южногерманской оппозиции князей. Внутри Саксонии также началось расхождение интересов княжеской знати и крестьянского населения. Оно проявилось очень скоро, когда король стал мешкать с выполнением условий мирного соглашения и приказал разрушить только внешнюю обводную стену Гарцбурга. После этого крестьяне из близлежащих деревень напали на крепость, разрушили все строения и разграбили даже могилы брата и рано умершего сына короля, которые были там захоронены. Это вопиющее нарушение договора привело к решительной смене настроений в пользу Генриха. Летом 1075 года он смог с имперским войском, при котором находились многие духовные и светские князья, вторгнуться в Саксонию. 9 июня под Хомбургом на р. Унструт он добился полного военного успеха, но мирные переговоры сорвались из-за поставленных им условий. Только когда осенью король отправился в Саксонию с новым ополчением, предводители саксов безоговорочно подчинились своему государю, объявив о капитуляции в Шпире (под Зондерсхаузеном). Они были заключены под стражу, их имущество отошло короне, а королевские бурги были восстановлены. Только Оттону Нортхеймскому, с которым во время последних боев было достигнуто соглашение, выпала лучшая участь. Король попытался склонить его на свою сторону, вернув ему свободу и власть над Саксонией. К Рождеству 1075 года были подавлены последние очаги сопротивления. Король смог снова отпраздновать его в Госларе. Собравшиеся здесь князья пообещали Генриху, что в случае его смерти его сын Конрад, которому тогда еще не было двух лет, будет избран королем.

В упорной борьбе молодой король стал господином своих врагов. Если его действия в эти первые годы правления и выдают определенную порывистость, то в столкновении с саксами проявилась уже и дипломатическая смекалка Генриха, сумевшего добиться успеха в ситуации, временами действительно трудной. Корона вновь обрела ту полноту власти, которой у нее не было со времен правления Генриха III.