Не прошло и года, как Адальберта настолько возненавидели все князья, что подобное положение могло закончиться лишь его насильственным устранением. Он сумел расстроить своевременную поездку короля в Рим. Льстя молодому королю, не предостерегая его от распутства и заблуждений молодости, он пользовался королевским именем для личных целей, к которым страстно стремился. Особое недовольство возбуждалось алчностью, с которой Адальберт захватил несколько богатых аббатств. Злейшим его врагом был герцог Бернхард Саксонский, поклявшийся, что, пока жив он или один из его сыновей, архиепископ не увидит ни одного спокойного дня в своей бременской епархии. Вокруг Анно быстро собрались сторонники, и он считал, что его час снова настал. Майнцский архиепископ Зигфрид, герцог Оттон Баварский, Бертольд Каринтийский и герцог Швабский Рудольф фон Рейнфельден, еще недавно незаметный молодой человек, пока благоволившая к нему императрица Агнесса не выбрала его в супруги своей дочери Матильды и не пожаловала ему герцогства, восстали против архиепископа, короля и их планов. Заговор привели в исполнение на рейхстаге, созванном королем в Трибуре. Насколько созрел план, видно из той дерзости, с которой заговорщики предложили молодому королю на выбор: отстранить архиепископа или самому быть низложенным. Адальберт потерпел страшное поражение: король вынужден был отказаться от него, а когда он вернулся в свою епархию, на него накинулись многочисленные враги. Его друг, ободритский князь Готшалк, был убит. Во всей вендской земле снова восторжествовало язычество. Он вынужден был помириться с Биллунгами, и неправедно накопленные в его обители богатства быстро сократились. Король попал теперь под суровую опеку князей, принявших власть в свои руки.

Генрих возбудил негодование распутной жизнью, которой он предавался вместе с молодыми людьми, его приближенными. Эти люди захватили власть и правили по-своему, не признавая притязаний высшей аристократии. Князья заставили его вступить в брак с дочерью маркграфини Туринской, с которой он был помолвлен еще в детстве (1066 г.). Он покорился тому, чего не мог избежать, но отдалился от супруги. В сущности, новое правительство было не лучше прежнего: оно не пользовалось обстоятельствами в Италии, где партию папы теснили ею же самой вызванные норманны, и она тщетно обращалась со слезными призывами к королю. Был предпринят только один счастливый поход (1069 г.) против лютичей, при котором король выказал несомненные боевые способности. По возвращении он умело подавил восстание в Тюрингии, но положение его вновь ухудшилось, поскольку он более всего старался отделаться от навязанной ему жены. Это привело его к столкновению не только с могущественными князьями, но и с папой. Он подчинился строгим настояниям папского легата Петра Дамиани, которого можно отнести к числу немногих прямодушных людей того времени. Супружеские отношения улучшились также вследствие того, что Берта своими женскими добродетелями и верностью долгу сумела наконец победить нерасположение мужа. При этом порядки, которые в Риме клеймили именем симонии и николаизма, продолжали существовать. На пасхе 1070 г. знатнейшие германские епископы: Майнцский, Кёльнский и Вюрцбургский, следовательно, и сам грозный Анно, получили приглашение явиться в Рим для оправдания возводимого на них обвинения в симонии. Но было ясно, что при сосредоточении власти в руках сильнейших епископов раздача духовных мест за деньги или в целях мирской политики получит широкое распространение.

С годами яснее сознавая свое королевское достоинство, Генрих стал сильно тяготиться путами, наложенными на него княжеской аристократией, главари которой руководствовались лишь личными побуждениями. От одного из этих противников, виновных во всех интригах и поворотах политики того времени, герцога Лотарингского Готфрида, его избавила смерть. Сын его Готфрид, по прозванию Горбатый, был женат на Матильде, дочери королевской мачехи Беатрисы от ее первого брака с Бонифацием, маркграфом Тосканским, и оставался верным сторонником короля. Против другого, еще более беспокойного врага, герцога Баварского Оттона Нордхаймского, Генрих возбудил обвинение в государственной измене. Дело было темное, и Генрих прибег к самым недостойным мерам: поскольку Оттон отказался от предложенного судебного поединка, король добился от саксонского княжеского суда обвинительного приговора, по которому Оттон признавался недостойным своего герцогства. Молодой Вельф, сын маркграфа Альберто Адзо д'Эсте, не постеснялся принять эту герцогскую корону, хотя был женат на одной из дочерей изгнанного Оттона. Оттон, необыкновенный силач и прирожденный боевой вождь, решил воевать, но не смог устоять против короля, все более обнаруживавшего свои воинские способности. Он покорился и в 1071 г. получил обратно свои аллодиальные владения. Король остался победителем. Анно, сообщником которого в государственном перевороте некогда был тот же Оттон, удалился в монастырь.

В падении Оттона был замешан один из Биллунгов, герцог Саксонский Магнус, внук Бернхарда, и Генрих, желая упрочить свою победу, особенно хотел обуздать Саксонию. Еще его отец имел это намерение, стараясь достичь цели благоразумными политическими мерами, но двадцатилетний король, следуя внушениям своей пылкой, своенравной натуры и советам тех лиц, которые составляли его кабинет, стал действовать тиранически. Он распоряжался в стране по-военному: заложил укрепленные города, снабдил их гарнизонами; в особенно сильную крепость он превратил Харцбург, лежавший в одной миле от Гослара. Имперские князья были отстранены в пользу фаворитов или сами злобно держались в стороне. Ненавистный всем и снова начавший наводить страх архиепископ Бременский становился могущественным не менее прежнего. Он завязал отношения с датским королем Свеном Эстридсеном. Эти переговоры были направлены против Биллунгов или истолковывались в таком смысле. На востоке, в Венгрии, молодой король действительно сумел утвердить значение немецкого монархического начала. Но оппозиция усиливалась, и когда в марте 1072 г. умер Адальберт, настолько занятый своими честолюбивыми планами, что не успел вовремя выполнить над собой требуемого церковью смертного обряда, Генрих был вынужден, или, быть может, разумно счел за лучшее снова вызвать из монастыря престарелого Анно и поручить ему руководство делами. Он помирился со свояком, герцогом Швабским Рудольфом, хотя вряд ли всерьез, потому что неуклонно продолжал выполнять свои планы. Оттон Нордхаймский был освобожден из заключения, но с Магнусом Биллунгом поступили иначе: одновременно с Адальбертом умер отец Магнуса, герцог Ордульф, и король предложил сыну купить освобождение ценой отречения от герцогства. После этого Анно вновь удалился, а король продолжал действовать по своему усмотрению. В противоположность прежним государям, управлявшим страной при переездах из замка в замок, он намеревался устроить постоянную резиденцию в Госларе, обезопасив область как от славян, так и от самой независимой части немецкой аристократии — саксонской знати. С этой целью он окружил себя войском из надежных, большей частью аламаннских солдат, найдя нескольких неразборчивых исполнителей из южногерманского дворянства, среди которых особенно выделялся граф Эберхард фон Нелленбург. Король задумал поход против поляков, король которых Болеслав II нападал на Венгрию и Чехию, но в саксонских землях распространилось убеждение, что собираемое королем войско предназначено для порабощения Саксонии, что естественно вызвало обострение недовольства и в июне 1073 г. тлевший повсюду огонь вспыхнул открытым ожесточенным восстанием.

Для выступления в польский поход, вызвавший вооружение всей Южной Германии, король созвал в Гослар саксонских князей. Но когда они прибыли, он тайно уехал в укрепленный им Харцбург. Быть может, он имел на то основание, потому что сразу после этого восстала вся Саксония от дворян до крестьян с целью отвоевать старинную свободу и старинные права саксонцев. Во главе восстания стоял Оттон Нордхаймский. Когда король, рассчитывавший на подкрепление войсками с юга, вступил в переговоры, Оттон от имени Саксонии выдвинул непременное условие — срыть заложенные крепости. С этим связывалась полная перемена правительственной системы, удаление советников короля, привлечение имперских князей к участию в управлении и освобождение герцога Магнуса. Силы восставших возрастали, а король не получал помощи. Он решил спастись бегством от грозившей ему гибели, скрылся в густой лес и благополучно достиг дружественной земли. Отдохнув в Герсфельде, он начал стягивать войска, между тем как Харцбург все еще находился в осаде, и саксонское восстание распространилось на тюрингские области. Генрих пошел на уступки: он послал в Харцбург повеление освободить Магнуса и постарался поставить восставших в ложное положение. Действительно, при переговорах, происходивших в Корвее, а потом в Вюрцбурге в присутствии самого короля, саксонцы выставили себя в самом невыгодном свете непомерностью притязаний. Но немецкие князья того времени не могли обойтись без вероломства. При дальнейшем ходе переговоров, которые велись в Герстунгене между королевскими комиссарами и саксонскими князьями, прибывшими туда с войском, было заключено тайное соглашение, направленное к низложению короля и назначению ему преемника. Уполномоченные короля вернулись к нему с подложным соглашением, которое Генрих не поколебался одобрить. В то же время своим чередом продолжалась позорная борьба посредством интриг и доносов. Нашелся даже какой-то негодяй, заявлявший, что король предлагал ему огромные деньги за убийство непокорных князей Рудольфа Швабского и Бертольда Каринтийского.