В Богемии был свергнут неспособный управлять Болеслав III Рыжий и возвысился поляк Владивой, который присягнул Генриху на верность в ноябре 1002 года в Регенсбурге. Его смерть в следующем году побудила Болеслава Храброго вновь содействовать приходу к власти Болеслава Рыжего — только для того, чтобы использовать его бездарность и жестокость в качестве повода вновь вмещаться в богемские дела. Он взял Прагу и пожизненно заключил Болеслава Рыжего под стражу. Сознавая свою власть, которая простиралась от Балтийского моря до Карпат и от Вислы до Богемского Леса (Моравию он также подчинил), Болеслав Храбрый отказал королю Генриху в клятве верности от Богемии. Он нашел себе союзников в лице Генриха фон Швейнфурта, который считал себя обманутым баварцами, его двоюродного брата, Бабенберга Эрнста, и брата короля Бруно. В этой труднейшей ситуации Генрих заключил союз с язычниками редариями и другими племенами объединения лютичей, старых врагов Польши, которых не смог покорить Оттон III.

Вскоре король совладал с мятежом в Нордгау и Франконии. Маркграф Генрих после непродолжительного заключения получил назад свой аллод в районе Швейнфурта и маркграфство, но лишился графств, расположенных между ними и придававших его власти опасную концентрацию. Король Генрих не смог отразить опустошительный поход Болеслава до Эльбы летом 1003 года. Его контрудар весной 2004 года не удался. Болотистая местность на верхней Шпре и Эльстере была проходимой разве что для лягушек, а военная кампания возможной только осенью, когда войска могли, собирая урожай, сами обеспечивать себя продовольствием. Осенью 1004 года после ложной атаки с севера у Штрелы королю удалось вторгнуться в Богемию с севера через Рудные горы и посадить на престол Яромира, брата Болеслава. На обратном пути была вновь отвоевана Земля мильценов (мильчан) с Баутценом, которая получила собственного маркграфа в лице Германа, сына Эккехарда. Поход следующего, 1005 года, который после переправы через Одер возле Кроссена достиг Познани, закончил первую фазу польской войны Генриха «assumpta non bona расе» («приняв нехороший мир»). Условия его нам неизвестны: Богемия, Земля мильценов и Лаузиц, неукрепленные и заселенные только славянами, были сомнительным приобретением, однако имели ценность как единственный безлесый стратегический плацдарм на востоке. Болеслав обязан был возместить причиненный ущерб. Во время этого похода не состоялось ни одного открытого полевого сражения: на незнакомой, непроходимой местности они были чреваты для немцев большими потерями. Их нежелание вступать в бой с поляками, которых они никак не рассматривали в качестве врагов, становилось все отчетливее: область будущего миссионерства была опустошена, получить трофеи не представлялось возможным. Лютичи из-за своего опоздания расстроили надежду на верное уничтожение польской армии, прочного союзника Генрих в их лице не обрел. Впоследствии в предостережение лютичам была снова возведена крепость Арнебург, и Генрих принудил их к частым сборам в Вербене на Эльбе.

Через три недели после смерти Оттона III, 15 февраля 1002 года, в старинном коронационном городе Павии состоялась коронация низложенного Оттоном маркграфа Ардуина Иврейского. Он обладал богатыми владениями в северо-западной Ломбардии и некогда исполнял обязанность пфальцграфа. Его выдвижению способствовала не враждебная немцам партия, а, скорее, те князья, которые, как и сам Ардуин, стремились к независимости и самостоятельности. В свою очередь и противодействие ему маркграфа Каносского и духовных сеньоров, глава которых Лев Верчеллийский в том же году прибыл к Генриху II с просьбой о помощи, носило, скорее, локальный характер. Первая попытка немецких войск под предводительством герцога Оттона Каринтийского свергнуть Ардуина закончилась поражением. Весной 1004 года Генриху удалось через Брента-Клаузен проникнуть в Италию. Ардуин не оказал никакого сопротивления. Верона принесла Генриху присягу на верность, и он беспрепятственно прошел в Павию, где 14 мая был избран и коронован архиепископом Арнульфом Миланским. Во время бунта, причиной которого стала ссора, возникшая вечером в день коронации между немцами и местными жителями, часть Павии сгорела дотла. После недолгой остановки в Милане Генрих вернулся в Германию.

На западе империи утвердилось могущество графов Голландии, ставших крупными владетелями в процессе борьбы с норманнами и западно-фризскими племенами, отстоявшими, впрочем, свою свободу. Для того чтобы помочь овдовевшей графине Лиутгарде, сестре королевы Кунигунды, пресечь их грабительские набеги, король в 1005 году в результате непродолжительного военного похода покорил Фрисландию. Большая угроза имперской власти возникла из-за смерти в конце 1006 года герцога Нижней Лотарингии Оттона, так как верные империи арденнские графы были бессильны против могущественных отпрысков Регинаров, графов Геннегауского и Лувенского, которые сохраняли независимость, похваляясь своим каролингским происхождением и высокородием. Балдуин IV Красивобородый, граф Фландрский, оккупировал Валансьен. Фландрские графы, ленники французской короны, после учиненного норманнами разорения создали самостоятельную централизованную область управления, где развитие торговли и ремесла уже привело к расцвету городской жизни, а монашество привнесло новый дух во вновь отстроенные монастыри. Как наследники салических франков оба нижнелотарингца были связаны с фламандцами теснее, чем с прочими германскими племенами: политические границы не мешали духовному единству. Несмотря на поддержку короля Роберта Французского, с которым Генрих II встретился в 1006 году на Маасе, Генрих только летом 1007 года взял Гент и опустошил Фландрию. Балдуин покорился Ахену и, вероятно, вскоре после этого получил в лен Валансьен. Это стало началом имперской Фландрии. Генрих предпочел вступить в связь с врагом, которого не смог покорить. Однако ради предосторожности по отношению к новым вассалам была основана марка Антверпен под управлением арденнского графа Гозелона, его брат получил Эенаме, епископ Камбрейский — графство своего города. Герцогство Оттона оставалось вакантным на протяжении семи лет.

После смерти в 1003 году Германа II Швабского Генрих принял на себя правление Швабией от имени его несовершеннолетнего сына Германа III. На рейхстаге в Регенсбурге (23 марта 1004 года) Генриху из дома Люксембургов, шурину короля, была пожалована в лен Бавария. Запад и юг империи оказались под защитой верных королю людей. Кунигунда деятельно представляла своего супруга в 1012 и 1016 годах как его наместница в Саксонии, а кроме того, уже повсеместно, обычно и в случае его отсутствия. Помогая и советуя, она стояла на его стороне, не стремясь добиться никакого определенного влияния. Многолетние распри Генриха с Люксембургами, ее братьями, не мешали их доброму взаимному согласию. Вражда разразилась, когда в 1008 году Адальберон организовал свое избрание архиепископом Трирским, после того как Дитрих позволил себе занять епископскую кафедру в Меце, епископством которого он с 1006 года управлял от имени назначенного королем несовершеннолетнего епископа. Король отказал Дитриху в наделении леном, чтобы не позволить могуществу дома Люксембургов возрасти еще больше — другой брат был графом в Арденнской области. Однако силой оружия и опустошительными походами Генрих не добился ни назначения своего кандидата в Трире, ни овладения Мецем. Переговоры долго шли без успеха. 1 декабря 1012 года дело все-таки дошло до мирного соглашения в Майнце: Адальберон вынужден был отказаться от архиепископства, епископ Дитрих и герцог Генрих, который поддержал своих братьев силой оружия и в результате потерял герцогство, сдались на милость короля, который пообещал впоследствии восстановить их в правах. Так не слишком дорогой ценой был восстановлен мир на юго-западе. Бабенберг Поппон как архиепископ Трирский снова навел порядок в своей епархии.