Что касается самой Германии, то и там поход 997 года Оттона III в Италию знаменовал собой начало перемен: в конце ноября, еще находясь в Ахене, он поручил управление Германией на время своего отсутствия собственной тетке, аббатисе Кведлинбургской Матильде, получившей при этом титул «матриция» («matricia»), по аналогии с титулом «патриций» («patricius») — даже в этом нашла свое выражение новая идея Римской империи, которую вскоре начнет воплощать Оттон III. Один из летописцев того времени, составитель «Хильдесхаймских анналов», словно бы оправдывая это решение, говорит, что Матильда отличалась необычайным для женщины умом, выражая тем самым в завуалированном виде мнение о ее заведомой неполноценности в должности правительницы королевства по сравнению, например, с архиепископом Майнцским, эрцканцлером Германии, значительно превосходившим ее и по своему положению на иерархической лестнице (архиепископ — аббатиса). Назначение Матильды на столь высокий пост воспринималось современниками как еще одно проявление пренебрежительного отношения Оттона III к отечеству. В действительности же аббатиса Матильда в роли правительницы Германии вполне вписывалась в его новую концепцию возрождения Римской империи: Германия, которой при Оттоне I всегда отдавалось предпочтение перед другими подвластными территориями, низводилась до положения одной из составных, не имеющих особых привилегий, частей Империи, центр которой перемещался на юг, в Италию.
В декабре 997 года Оттон III во главе большого войска и в сопровождении герцогов Генриха Баварского и Отто Каринтийского прибыл через альпийский перевал Бреннер в Ломбардию. В Тренто его встречал верный Гуго Тосканский. Следующая остановка была сделана в Павии, где императора уже ждал папа Григорий V, лично доложивший ему о положении дел в Италии. В Павии же Оттон III праздновал Рождество 997 года и оставался до середины января 998 года. Там он совещался с бывшими при нем немецкими и итальянскими магнатами о предстоящих действиях в отношении узурпаторов — антипапы и Крешенция. Во второй половине января Оттон III продолжил путь через Кремону в Феррару, где его ожидал по вызову сын венецианского дожа, его крестник. Затем они поплыли вместе на великолепном венецианском корабле в Равенну, где император дал распоряжение итальянскому канцлеру Хериберту заняться, как сообщается в жизнеописании упомянутого канцлера, будущего архиепископа Кёльнского, установлением порядка в Равеннском экзархате. Эта несколько туманная фраза из источника позволяет предположить, что беспорядки в Риме и Верчелли отозвались и в Равенне.
Когда в середине февраля 998 года император, получив подкрепление и от своих итальянских вассалов, подошел к Риму, город не оказал ему ни малейшего сопротивления. Антипапа бежал, но был схвачен воинами Оттона III, которые, видимо, самовольно (во всяком случае, в анналах вся ответственность за надругательство над Филагатом возлагается на них) выкололи ему глаза и отрезали уши, нос и язык, остригли, а затем заперли в одном из монастырей в Риме. На специально созванном в Риме синоде осудили его и объявили о его смещении. Весть о несчастной участи Иоанна Филагата быстро разнеслась, достигнув и кельи знаменитого в то время отшельника Нила, заставив его отправиться в Рим. Оттон III и Григорий V вышли навстречу 88-летнему (а по другим сведениям, даже 99-летнему) старцу, с почетом ввели его в Латеран, посадили между собой и облобызали ему руки. Нил просил о помиловании Филагата, чтобы они вместе замаливали в монастыре его грехи. Император соглашался исполнить просьбу отшельника, если тот поселится в Риме в греческом монастыре Св. Анастасия. Однако папа не хотел и слышать о помиловании, желая в полной мере насладиться местью. Он велел на посмешище римлянам и в назидание, дабы другим не повадно было, посадить Иоанна в разорванных одеждах задом наперед на осла, дать ему в руки хвост и в сопровождении герольда возить по улицам города. После пережитых мучений и позора несчастного антипапу отправили в изгнание в Германию, где он прожил еще более десяти лет. Это был уже не первый случай, когда Григорий V действовал вопреки своему родственнику-императору. Оттон III велел передать свои извинения Нилу, но тот обиженный удалился в собственную обитель, оставив в чувствительной душе императора незаживающую рану.
Главный же виновник мятежа, Крешенций, укрылся за стенами замка Святого Ангела, бывшей усыпальницы древнеримского императора Адриана, до того времени считавшейся неприступной цитаделью. Осаду этого замка в течение двух месяцев вели немцы, к которым присоединились и римляне. Вскоре после Пасхи, 28 апреля 998 года, маркграфу Мейсенскому Эккехарду удалось с помощью осадных машин взять цитадель штурмом. Крешенций был схвачен и для устрашения римлян, бунтовавших против императорского величества, обезглавлен у всех на виду на крыше замка, после чего его труп вверх ногами повесили вместе с двенадцатью его соратниками на виселицах на холме Монте-Марио, с которого открывалась панорама всего Рима и который, соответственно, был виден издалека. Власть Оттона III и Григория V в Риме была восстановлена.
Но еще до окончания борьбы император решил вознаградить своего уважаемого наставника и советника, ставшего и его близким другом — Герберта Орильякского, 25 апреля назначив его архиепископом Равеннским и одновременно подтвердив все прежние права и привилегии экзархата, а также пожаловав в личное пожизненное владение Герберту три графства со всеми городами и правом осуществлять на подвластной территории публичную власть. Папа Григорий V, только что восстановленный в своих правах благодаря помощи со стороны императора, не мог отказать ему в любезности, вручив Герберту знаки архиепископского достоинства и передав ему все права в городе и экзархате, которые со времен Оттона Великого принадлежали римской церкви. На состоявшемся 9 мая 998 года синоде, на котором совместно председательствовали папа и император, Григорий V опять затронул вопрос о привилегиях римской церкви, в частности, о правах на территорию Пятиградья, но Оттон III и на сей раз отказался возвратить ее курии, предпочитая продолжить реализацию плана Оттона I, собиравшегося создать на восточном побережье Италии прочный опорный пункт своей власти с центром в Равенне, дабы иметь возможность противодействовать Византии и папским притязаниям.
«Возрождение империи римлян»
За время между первым и вторым итальянскими походами произошли решающие перемены в умонастроении Оттона III. После императорской коронации он покидал Рим с чувством глубокого разочарования. Возведенный им на престол Св. Петра папа не оправдал его надежд, и римская имперская идея на время была вытеснена из его сознания ахенской имперской идеей, убежденным сторонником которой в свое время был Карл Великий. Еще Оттон Великий прославлял Ахен как «первейшую королевскую резиденцию по эту сторону Альп», однако лишь Оттон III стал отождествлять трон, стоявший тогда в капелле Св. Марии, с именем Карла Великого, которого он называл своим предшественником, славным императором и в преклонении перед которым с ним не мог сравниться ни один из правителей. В Ахене Оттон III учредил три монастыря, а церковь Св. Марии получила доставленные из Италии реликвии и была осыпана им всевозможными милостями. Ахен стал для него «Новым Римом», как когда-то Византии для Константина Великого.
И все же Оттон III, приступив к реализации грандиозного замысла возрождения Римской империи, решительно отошел от Карла Великого, у которого и заимствовал сам девиз возрождения. Карл после императорской коронации больше не бывал в Риме, стараясь превратить Ахен в свой Рим. Под влиянием Герберта Орильякского у Оттона III зародилась собственная имперская идея, отводившая Ахену второе место после Рима, «главы мира и матери всех церквей». Важную роль в реализации этой идеи сыграл Лев, епископ Верчелли, выдающийся ритор и юрист. В качестве капеллана Оттона III он составлял наиболее важные императорские грамоты и тексты законов. Лев особенно активно поддерживал все большую, начиная со второго римского похода, ориентацию политики Оттона III на Италию. Наконец, неотъемлемым компонентом мировоззрения юного императора стали мистические и строго аскетические религиозные представления, с которыми познакомили его Адальберт, епископ Пражский, а также итальянские пустынники — уже известный нам Нил, а также Ромуальд. У Оттона III эти представления, в сочетании с классической образованностью и убежденностью в происхождении своей власти непосредственно от Бога, и привели к замыслу возрождения Римской империи на христианской основе. Пожалование Матильде, аббатисе Кведлинбургской, титула «матриция» явилось первым случаем использования Оттоном III римских и греческих титулов, что уже служило выражением его новой политической концепции.