Через десять лет послушничества, уже после смерти своего наставника старца Амвросия, 3 июня 1895 года он принял монашеский постриг с именем Анатолий. Старца Анатолия (Зерцалова) уже тоже не было в живых, и отца Анатолия (Потапова) стали называть Анатолием Младшим.

В 1906 году отец Анатолий был посвящен в иеромонаха и назначен духовником Шамординской обители. После кончины старцев Иосифа и Варсонофия отцу Анатолию и отцу Нектарию суждено было стать продолжателями старчества в Оптиной пустыни.

Старцы принимают всех, не делая различий ни по сословиям, ни по другим признакам. Но если к старцу Нектарию больше тянулись монашествующие и интеллигенция, то к старцу Анатолию нескончаемым потоком шел простой народ, чтобы вверить ему свои хлопоты, жалобы, скорби и болезни.

Старец Анатолий пользовался всеобщей любовью, ему доверяли, в народе его ласково называли утешителем и вторым Серафимом. Он и внешне, и по манере стремительно выходить к посетителям в черной полумантии, и по радостному, смиренному и полному любви обращению с людьми многим напоминал знаменитого старца Серафима Саровского.

К старцу Анатолию ежедневно стекалось множество народа. К 1908 году количество людей, желавших посетить старца, увеличилось настолько, что это мешало жившей в скиту братии. Однажды даже настоятелю Оптиной пустыни архимандриту Ксенофонту не удалось протиснуться через толпу, чтобы попасть к старцу на исповедь. Тогда, по благословению настоятеля, старец Анатолий переселился в монастырь, в келью при больничной церкви Владимирской Божьей Матери. Здесь он имел возможность принимать посетителей без ограничения времени – с утра до ночи. Так он и поступал, несмотря на накапливающуюся усталость и частые болезни. В Оптиной часто можно было наблюдать такую картину: в самом монастыре полная тишина, даже монахов не видно, а Владимирская церковь открыта и полна народа.

Далеко за полночь становился старец Анатолий на келейную молитву. Для сна оставалось не более двух часов. Единственным временем, когда он позволял себе маленький отдых, было время чтения кафизм на утренней службе в церкви, когда по уставу садились. Только тогда старец Анатолий погружался в короткий сон. От молитвенных бдений и долгих стояний у старца Анатолия началась болезнь ног, сопровождаемая постоянным кровотечением. От множества положенных им земных поклонов он страдал ущемлением грыжи. По этим причинам, но только в последние годы жизни, он принимал исповедь сидя. И все же, несмотря на собственные немощи и боли, он всегда был приветлив, ласков и сердечен, открыт навстречу тому, кто пришел к нему за помощью. Знавшие его, перешептывались, что отец Анатолий вообще почти не спал, всего себя отдавая молитве и служению людям.

А за помощью шло все больше и больше народу – отец Анатолий стал действительно всенародным старцем. Князь Н. Д. Жевахов, приехавший в Оптину пустынь накануне Февральской революции, чтобы испросить благословения старца на занятие должности товарища обер-прокурора Святейшего Синода, вспоминал: «Подле кельи отца Анатолия толпился народ. Там были преимущественно крестьяне, прибывшие из окрестных сел и соседних губерний. Они привели с собой своих больных и искалеченных детей и жаловались, что потратили без пользы много денег на лечение. Одна надежда на батюшку Анатолия, что вымолит он у Господа здравие неповинным. Глядя на эту массу верующего народа, я видел в ней одновременно сочетание грубого невежества и темноты с глубочайшей мудростью. Эти темные люди знали, где Истинный Врач душ и телес: они тянулись в монастырь, как в духовные лечебницы, и никогда их вера не посрамляла их, всегда они возвращались возрожденными, закаленными молитвой и беседами со старцами. Вдруг толпа заволновалась: все бросились к двери кельи. У порога показался отец Анатолий. Маленький, сгорбленный старичок, с удивительно юным лицом, чистыми, ясными, детскими глазами, отец Анатолий чрезвычайно располагал к себе. Он был воплощением любви, отличался удивительным смирением и кротостью, и беседы с ним буквально возрождали человека. Казалось, не было вопроса, который бы отец Анатолий не разрешил; не было положения, из которого этот старичок Божий не вывел своей опытной рукой запутавшихся в сетях сатанинских. Это был воистину старец, великий учитель жизни…»

Князю как бы вторит другой очевидец: «В нем ясно чувствовались дух и сила первых великих оптинских старцев». Главное – вокруг старца всегда царила неповторимая атмосфера, погружаясь в которую человек ощущал себя, словно «побывавшим под благодатным золотым дождем».

Как-то в соседней с Оптиной пустынью деревне крестьянин оказался в безвыходном положении: с большой семьей на улице без крыши над головой, имея в кармане всего пятьдесят рублей. Помочь ему было некому, все родственники – бедны. Крестьянин с горя впал в отчаяние и надумал деньги, что были, пропить, жену с детишками оставить, а самому отправиться в Москву наниматься в работники. С тем и спать лег. А наутро, когда проснулся, словно кто сказал ему: «Сходи к старцу Анатолию». Крестьянину было уже все равно – решил сходить. Подходит к старцу под благословение, а тот его благословляет, словно дважды в лоб ударяет. Кладет старец благословение медленно, чинно. Крестьянин не выдержал, пожаловался старцу:

– Погибаю я, батюшка, хоть совсем умирай.

– Что так? – вроде как удивился старец.

– Да вот так вот. – рассказал крестьянин о своей беде старцу.

Тот выслушал, еще раз благословил крестьянина и сказал:

– Не падай духом, через три недели в свой дом войдешь.

Крестьянин не поверил, но и задуманное исполнять не стал. Однако старец оказался прав: поспели благодетели с помощью, новый дом помогли построить.

Одна сельская учительница, духовная дочь старца Анатолия, рассказывала, как стала свидетельницей проявления старцем дара прозорливости и дара исцеления. «Однажды послал батюшка со мной грушу моему брату. Я удивилась, почему именно младшему. Приехала домой и узнала, что брат очень болен. Доктор сказал, что мало надежды на выздоровление. Я дала брату батюшкину грушу, он стал ее есть по маленькому кусочку и постепенно начал поправляться, а вскоре и совсем выздоровел». Эта же учительница утверждала, что целебной силой обладала даже одежда старца Анатолия. Однажды он подарил ей свой подрясник, и с тех пор она во время простуды всегда накрывалась этим подрясником и сразу выздоравливала.

В 1914 году, накануне Первой мировой войны, в жизни Оптиной пустыни совершилось особо памятное событие: обитель посетила великая княгиня Елизавета Федоровна, сестра царствующей императрицы. В первый же день пребывания в обители великую княгиню познакомили со старцем Анатолием. Она исповедовалась у него, и между ними состоялась длительная беседа. Содержание этой беседы осталось тайной. Есть предположения, что прозорливый старец Анатолий, предвидевший грядущую мученическую кончину великой княгини Елизаветы Федоровны, духовно подготовил ее к грядущим испытаниям.

Среди почитателей старца был и знаменитый московский «старец в миру» священник Алексей Мечев, служивший в храме Николая Чудотворца на Маросейке. Между старцами существовала молитвенная связь, отец Анатолий всегда направлял приезжавших в Оптину москвичей к отцу Алексею. По словам философа и богослова Павла Флоренского, хорошо знавшего обоих, отец Анатолий и отец Алексей «виделись в жизни только однажды, но между ними было всегда внутреннее сообщение, которое близкие называли „беспроволочным телеграфом"». Отец Алексей говорил об отце Анатолии: «Мы с ним одного духа».

В 1916 году, осенью, старец Анатолий приехал в Петербург на закладку Шамординского подворья. Остановился у купца Усова. Очевидица так вспоминала об этом приезде старца: «Купец Усов был известным благотворителем, мирским послушником оптинских старцев. Когда мы вошли в дом Усовых, то увидели огромную очередь людей, пришедших получить старческое благословение. Очередь шла по лестнице до квартиры Усовых и по залам и комнатам их дома. Все ждали выхода старца. Ожидало приема и семейство Волжиных – обер-прокурора Святейшего Синода. В числе ожидающих стоял еще один архимандрит, который имел очень представительный и в себе уверенный вид. Скоро его позвали к старцу. Там он оставался довольно долго. Кое-кто из публики возроптал по сему поводу, но кто-то из здесь же стоявших возразил, что старец не без причины его так долго держит. Когда архимандрит вышел, он был неузнаваем – низко согнутый и весь в слезах, куда девалась гордая осанка! Вскоре показался сам старец и стал благословлять присутствующих, говоря каждому несколько слов. Отец Анатолий внешностью походил на иконы преподобного Серафима Саровского – такой же любвеобильный, смиренный облик. Это было само смирение и такая, не передаваемая словами любовь! Нужно видеть, а выразить в словах – нельзя!..»