Епископы были для Генриха, как и для Оттона, надежной опорой его власти. Как их покровитель он возглавляет ряд синодов и имеет существенное влияние на принимаемые там постановления, даже на решения по вопросам церковного культа. Он назначает епископов даже вопреки отличному от его воли предложению капитула, и при подтверждении старых привилегий он ограничивает капитул в свободе выбора. Генрих первым последовательно укреплял имперскую церковь теми, кто проявил себя службой при дворе. Как и в Италии, он охотно назначал в Германии главами епархий епископов, вышедших из других регионов: так, баварец Тагинон становится архиепископом Магдебурга. Как и многие другие, он вышел из королевской капеллы, да и должность канцлера являлась ступенью к епископату. В 1009 году богатый Мейнверк поддерживает бедный Падерборн тем, что уступает ему свое владение; то же самое вынужден был обещать состоятельный Титмар в отношении Мерзебурга (1009 год). В 1013 году Унван Бременский уступает королю треть своего состояния, которую король дарит Падерборну. Богатый Люттих (Льеж) в 1021 году поддержал духовное лицо самого низшего статуса, чтобы оно смогло стать епископом. То же сделал и Эйхштетт в 1014 году. Оба назначенных тогда иерарха вышли из бамбергерского клира, так же как баварец Пильгрим Кёльнский (1021 год) и Поппон Трирский (1016 год). Камбрей, относившийся к Реймской архиепархии и охватывавший своей деятельностью подвластную Франции и франкоговорящую область, был передан знатному лотарингцу Герхарду, который воспитывался в Реймсе и был королевским капелланом.

Как ни один король до него, Генрих выступает в качестве каноника в соборных капитулах: в Падерборне, Магдебурге, Бамберге и Страсбурге. Он состоит в их молитвенных сообществах и обретает их приходы, которые получает временно исполняющий обязанности «capellanus». Богато одариваемые монархом соборные капитулы содержат придворный клир, сами не сопровождая находящегося в разъездах короля. В большей, чем прежде, степени епископы и аббаты наделяются имперским достоянием и привлекаются к содержанию короля и его свиты, поскольку пфальцев оказывается уже недостаточно, а сеть королевских дорог становится гуще. Между Рейном и Веррой возникает замкнутая территория имперской церкви. Торжественные коронации в епископских церквях усиливают блеск королевской власти.

В 1004 году было восстановлено епископство Мерзебургское, в 1014 году епископом его назначен Боббион. Основание епископства Бамбергского (1 октября 1007 года) принесло Генриху имя святого. И здесь тоже возникшая из религиозного порыва работа была проведена с осмотрительностью и терпением, со взвешенной разумностью. Окруженный незаселенной местностью, с отмечавшимся даже позднее, в 1059 году, славянским компонентом населения, Бамберг был миссионерским епископством. Подчиненное Майнцской архиепархии и, однако, находящееся под особым покровительством Рима, оно занимало отдельное положение среди немецких епископств. Оно получило бывшие швейнфуртские графства в Верхней Франконии, герцогские и королевские владения в Баварии, имения в Верхней и Нижней Австрии, Штирии, Каринтии, Тироле с важными горными проходами. Бездетный король сделал своим наследником Бога. В широко раскинувшихся владениях епископ должен был представлять королевскую власть.

Интересы империи и церкви не всегда соответствовали друг другу. Генрих не уступил пылкой просьбе миссийного митрополита Бруно Кверфуртского заключить мир с Болеславом, с чьей помощью Бруно хотел добиться обращения пруссов. Бруно, занимавшемуся миссионерской деятельностью в Венгрии и на Руси, не удалась и его предпринятая в 1008 году попытка отвратить короля от союза с язычниками лютичами против христианского польского короля.

При первой встрече Генриха с Робертом Французским последний, по-видимому, признал Генриха в качестве наследника его бездетного дяди Родольфа Бургундского. Генриху удалось получить от короля клятвенное обещание передачи ему этого наследства. Скорее всего, в качестве залога выполнения этого обещания Генрих в 1006 году занял город Базель, епископ которого уже обладал немецким приходом в имперских землях и епархиальное руководство которого до сих пор чтит память Генриха как святого и дарителя золотого алтарного убранства. На немецких синодах появлялись бургундские епископы, но могущественные и независимые светские вельможи не желали видеть в Генрихе наследника. Стремясь обезопасить себя от них, особенно от Оттона-Вильгельма, управлявшего будущим свободным графством Бургундия, французскими и бургундскими ленами и большим собственным доменом, Родольф в 1016 году прибыл к императору в Страсбург и подтвердил обещание передать ему наследство. В то же время он вверил ему свою державу в качестве лена и наделил его правом участия в принятии важных решений. Однако Генриху не удалось изгнать Оттона-Вильгельма из Базеля и из других опорных пунктов его графства, где тот после отказа ему во французском герцогстве Бургундия сконцентрировал все свои силы. Тем временем была расстроена связь между королем Родольфом и ломбардскими магнатами, на чью строптивость и жестокость еще в 1016 году сетовал Лев Верчеллийский. Появившись повторно в 1018 году у императора в Майнце, король Родольф на этот раз подтвердил ленное владычество Генриха символической передачей ему скипетра и короны. В конце года Генрих двинулся против мятежных бургундских графов и дошел до Роны. Больший успех имел поход в Бургундию эльзасских и швабских рыцарей. В 1020 и 1023 годах вновь засвидетельствовано документами пребывание Генриха в Базеле. Продуманно и упорно боролся он за обладание Бургундией, которая одна только и могла гарантировать ему действительную власть над Италией.

Нижнюю Лотарингию в 1012 году Генрих передал арденнскому графу Готфриду. Только теперь было создано собственное нижнелотарингское герцогство. После многих междоусобиц Готфриду удалось в результате битвы при Флерю в 1015 году сломить сопротивление имперскому сюзеренитету. Однако его поход против Дитриха III Западнофрисландского (Голландского), сына Лиутгарды, который благодаря своим укреплениям в устье Мааса притеснял торговлю утрехтских городов, окончился в 1018 году поражением лотарингской армии в болотах Иссельмонда.

Согласно договору от 1013 года немецкие рыцари последовали за герцогом Болеславом на Киев, однако Болеслав не выполнил обещания послать свои войска в Италию. Его отказ побудил императора в июле 1015 года снова выступить против него. Император перешел Одер под Кроссеном и разбил польский отряд под предводительством сына Болеслава Мешко. Однако ни северная армия вместе с лютичами под командованием герцога Бернгарда, которая дошла до Кюстрина, ни южная армия из богемцев и баварцев, вторгшаяся в Силезию, не смогли соединиться с императором, так что арьергард армии при ее возвращении был наголову разбит. После безрезультатных переговоров и заключения союза с Ярославом Киевским, оказавшегося неэффективным, император в конце июля 1017 года выдвинулся под Нимпч в Силезии, но не сумел его захватить. Польские же отряды в это время продвинулись до Эльбы. Наконец, саксонские князья оказали содействие в заключении мира с Болеславом в январе 1018 года в Баутцене. Этот мир обеспечил Болеславу возможность военного похода на Русь и возведения его зятя Святополка на киевский великокняжеский престол. Условия этого мира «non ut decuit, sed sicut tuns fieri potuit» («не как приличествовало, а так, как в то время можно было сделать») нам неизвестны. Болеслав, который удержал за собой Лаузиц и Землю мильценов (вероятно, в качестве немецких ленов), взял четвертой супругой Оду, дочь Эккехарда Мейсенского. Он использовал эту связь с саксонской знатью для сохранения власти в своей собственной стране. В 1018 году немецкие рыцари снова отправились с Болеславом на восток; на этот раз Киев был взят. Мир с поляками сохранился до смерти Генриха.