В последующее время отец Герман так утвердился в мыслях Вышенского затворника о молитве, что не иначе говорил о ней, как словами своего великого наставника, перед памятью которого весьма благоговел. Свою любовь к нему он засвидетельствовал потом сооружением неугасимой лампады на его гробнице.

Тихо, мирно проходила иноческая жизнь отца Германа в Гефсиманском скиту. Он успел стать монахом, иеродиаконом, иеромонахом и даже братским духовником. Узнала о нем Московская Духовная академия. И вот келья его сделалась уютным уголком, где многие ученые иноки находили себе окормление и утешение. Такие видные деятели того времени, как ректор академии Антоний Храповицкий (впоследствии митрополит Киевский и Галицкий; был первым кандидатом на патриаршество на Всероссийском Поместном соборе 1917–1918 годов; с 1919 года — в эмиграции, возглавлял Русскую Православную Церковь за границей), инспектор Григорий Борисоглебский, и другие были духовными детьми отца Германа. Но Господь готовил старца к иному деланию.

Когда наместник Свято-Троицкой Сергиевой лавры архимандрит Павел пожелал возобновить Зосимову пустынь и начал искать туда настоятеля, то остановился на старце Германе. Никогда не искал отец Герман начальнических трудностей, не думал расставаться с Гефсиманской обителью, в которой протекло уже тридцать лет его лучшей иноческой жизни, однако за послушание принял в 1897 году предложенное назначение. С ним в Зосимову пустынь перешли двенадцать его преданных учеников.

Старец Герман не только обустроил Зосимову пустынь, но и насадил духовное окормление братии. Сам ученик великого старца Александра, отец Герман видел в старчестве великую силу для нравственного созидания инока; в этом еще много помог ему отец Алексий (Соловьев), поступивший в обитель почти одновременно с ним. Их трудами Зосимова пустынь процвела, «яко крин в пустыне», и сделалась известна не только в Москве, но и во всей России. Со всех сторон потянулись сюда мирские люди, ища молитвы, покаяния, совета и утешения.

В эти годы в пустыни у старца Алексия получали духовное окормление святая мученица великая княгиня Елисавета Феодоровна и сестры Марфо-Мариинской обители, члены Императорского Дома, высшие сановники государства, иерархи Церкви.

Пустынь стала одним из духовных центров русского Православия того времени. Офицеры и чиновники, священники и монахи, крестьяне и ремесленники, промышленники и торговцы — все они, мужчины и женщины, старики и молодежь, молодые супруги и юные девы, обновлялись духом, принимая наставления старцев Зосимовой пустыни, и уносили с собой в мир ее особенный свет — отблеск Света невечернего.

Сам старец Герман являл собой пример строгого инока. Он всегда духовно бодрствовал. Ежедневно он проходил круг суточного богослужения, для чего неопустительно посещал храм, и только в крайнем случае вычитывал службу в келье. Когда во время болезни братия советовала ему посидеть дома и не ходить на полунощницу и утреню, он говорил обыкновенно: «Как вы жестоки ко мне, не хотите, чтобы я умер в храме. Ведь это для инока высшее счастье, вожделенное благо! Монаху ли нежиться в келье, когда он должен принадлежать Богу?» Та же ревность о спасении не давала ему предаваться излишнему и продолжительному сну. Спал старец в подряснике, то и дело вставал с постели, чтобы положить несколько поклонов или же потянуть четки с молитвой Иисусовой.

Кроме молитвы Иисусовой, старец имел еще дар самоукоренения. Некоторым странной казалась его привычка что-то потихоньку говорить. Иные думали, уж не осуждает ли он кого-либо. Оказывается, батюшка постоянно охаивал себя. А ночью часто у него происходила целая война с самим собой. В полночь, приводя к итогу пережитое днем, он так себя обличал: «Откажись от игуменства, на что ты похож: слепой, глухой, беспамятный, забыл даже своего брата, какой же ты игумен, откажись, откажись…»

При этом он часто пускал в ход четки, изрядно ударяя ими себя.

Старец не получил законченного образования, но путем чтения святоотеческих творений, общения с учеными людьми, а еще более христианским воспитанием ума и сердца достиг большого духовного опыта и богословских познаний. Он отличался любознательностью, доказательством чего служит оставшаяся после него библиотека, а также изданные им книги.

На монашеский съезд в Троице-Сергиевой лавре старец Герман был командирован в качестве представителя от Московской епархии.

Духовный опыт отца Германа ценил и Святейший Синод. При так называемых афонских спорах об имени Иисусовом Высшее Церковное Управление запрашивало письменно старца дать свое суждение, и он отвечал, что молитва Иисусова есть дело сокровенное, а потому возникшие разногласия следовало бы покрыть любовью, что и сделал митрополит Макарий.

«Иметь общение с отцом Германом было великим счастьем и утешением, — вспоминал епископ Арсений (Жадановский). — Какое-то спокойствие водворялось в душе при беседе со старцем. Хотелось все откровенно ему говорить, а главное, бодрствовать духовно; дурное, греховное отходило в сторону, высокие святые намерения и чувства переполняли ум и сердце. Особенную приятность доставляло совместное с батюшкой путешествие. Благодатный мир, царивший в нем, выступал тогда наружу и обвеивал спутника. Никогда не забуду нашу поездку в брянские леса по предложению его духовного сына Д. А. О. осмотреть принадлежащее ему имение для устройства женской обители. Забрались мы в самые глухие места, где по полотну железной дороги, временно устроенной с целью эксплуатации леса, пришлось нам катить на дрезине верст двадцать к месту назначения. Батюшка благодушествовал, и я с ним. По приезде мы все осмотрели кругом, облюбовали близ речки красивый бугорок, пропели здесь тропарь Успению и благополучно возвратились домой.

Отец Герман был поистине родным отцом для меня, ибо относился ко мне с необыкновенно нежной любовью, снисходительностью и доброжелательством. Он радовался моим успехам и искренне скорбел при болезнях и невзгодах, постигавших меня.

Я не имел более близкого человека, чем батюшка, которому всегда все можно было говорить, не боясь, что осудит он, не поймет, позавидует.

С другой стороны, и отец Герман любил делиться со мной своими скорбями и думами или, как он выражался, „проверять себя“.

Вся его внутренняя жизнь была мне известна. За несколько лет до смерти, чувствуя слабость здоровья, он принял от моей грешной руки пострижение в тайную схиму. Искал отец Герман ее еще будучи в Гефсиманском скиту, о чем писал преосвященному Феофану Затворнику, но последний отклонил тогда желание старца, заметив: „Будет время, когда схима сама к Вам придет“. Так и случилось. Слепота, глухота и дряхлость организма заставили батюшку в конце жизни почти все время пребывать в келье в безмолвии, что собственно и требуется от схимника. Считая себя недостойным этого монашеского чина, он, однако, решился принять его по следующим мотивам.

«Схима, — говорил он, — облегчит и покроет от содеянных в монашестве грехов и даст случай подтвердить пред лицом Божиим иноческие обеты, которые так часто я нарушал, а вместе низведет на меня, немощного, благодатную помощь к их выполнению».

Постригал я отца Германа в келье, в глубокой тишине, вечером под 29 июля 1916 года, когда в обители совершалось всенощное бдение. Присутствовали три лица: духовный мой друг архимандрит Серафим и два самых преданных ученика старца — иеромонахи Мелхиседек и И. Трогательная и вместе с тем торжественная была минута. Батюшка переживал высокий подъем духа; распростираясь на земле, он всего себя отдавал Богу. Тут были и слезы: плакал сам старец и мы с ним. Замечательное при этом произошло совпадение. Когда я начал пострижение, раздался третий звон, при окончании же — четвертый, торжественный, заключительный. Невольно тогда я подумал: может быть, братия не чувствовала сердцем, какое святое событие происходило с ее отцом, зато созданная им обитель отметила столь важный момент в жизни своего строителя».