Во второй половине XVIII в. христианский рационализм (в особенности его радикальное крыло) стал, однако, все чаще подвергаться критике. С одной стороны, противовесом идеалу «разумной веры» стали новые формы мистической духовности — от учения шведского мистика Э. Сведенборга, последователи которого организовали свою собственную церковь в 1787 г., до розенкрейцерства и высоких степеней масонства. С другой стороны, надконфессиональные тенденции в христианском рационализме возродили риторику защиты исторического церковного наследия. Полемические выпады против «нового язычества», «натурализма», т. е. отождествления Творения с Творцом, а также сведения христианства к морали, наполняли страницы не только проповедей и религиозных трактатов, но и светских журналов.

Православный мир, так же как и Запад, все XVIII столетие не чужд был спорам об истинном христианстве и праведной вере. Наиболее массовым течением (вне официальной церкви) оставалось старообрядчество, последователи которого настаивали на том, что «истинным» может считаться лишь «древлее благочестие», а потому отказывались принимать канонические, обрядовые и культурные «новины». С середины XVII в. церковный раскол, последовавший за реформой патриарха Никона, углублял разобщенность дотоле единой православной паствы, вызывал взаимную ожесточенность старообрядцев и «никониан», доводил тысячи старообрядцев до бегства, противодействия властям и самосожжений. Еще в 1666 г. церковный собор, на котором присутствовали и восточные православные патриархи, проклял противящихся обрядовой реформе. Церкви казалось, что, поскольку все самые образованные иерархи, большинство священников и мирян во главе с самим самодержцем приняли нововведения, то пройдет немного времени и раскол среди православных удастся преодолеть. Однако старообрядческому движению предстояло пережить все гонения и сохраниться в качестве самостоятельного течения. Правда, не имея единого центра, старообрядчество не смогло сохранить единства, с рубежа XVII–XVIII вв. оно оказалось раздробленным на два течения — поповство и беспоповство, а те, в свою очередь, на многочисленные согласия. Раздробления, конфессионализация больших и малых групп и сопровождавшие этот процесс споры о священстве, о возможности молитвы за царя, об Антихристе, о браках в отсутствие священника и т. д. продолжались все XVIII столетие, давая импульс для обширного религиозно-полемического творчества.

Поповское направление старообрядчества признавало возможность принять священников, поставленных официальной церковью, после их отречения от «никонианской ереси» и исполнения ряда очистительных обрядов. Эти священники могли совершать полную службу, но в пределах России церкви для них были закрыты. Поэтому поповское («беглопоповское») направление имело своим центром приграничные земли в Речи Посполитой — Ветковские монастыри на реке Сож — туда для совершения таинств тянулись многие старообрядцы с Дона, Яика, Кубани, из Центральной России. Свой центр в Москве за Рогожской заставой им удалось легализовать только при Екатерине II в 1771 г.

Беспоповское направление в старообрядчестве настаивало на том, что все священники, поставленные в сан по «новым» книгам и «никонианским» обрядам, неправедны и не могут совершать церковной службы и таинств. В беспоповстве сильнее, чем в поповстве, прозвучала идея о «последних временах» и была развита эсхатологическая традиция. Наибольшее влияние в беспоповстве XVIII в. имел возникший в Карелии близ Поморья Выговский центр поморского согласия со своими поселениями, монастырями и скитами, великолепной библиотекой, иконописной и книгописной школами. В том же 1771 г. (когда в Москве свирепствовала эпидемия чумы) старообрядцы-беспоповцы смогли создать свой центр и в Москве у Преображенской заставы.

Находясь в оппозиции, старообрядчество объединяло активных жителей города и деревни, людей разного социального происхождения от князей и бояр до крепостных и работных людей. Желание следовать вере своих предков гнало их с насиженных мест: в поисках религиозной свободы они возглавили миграционные процессы на окраины России, в частности в Сибирь, а также за рубежи империи — в приграничные земли Речи Посполитой, Османской империи, в Прибалтику.

В России XVIII в. значительно больший отклик, нежели в предшествующие столетия, получили и реформационные идеи, которые увлекали русских людей, сомневающихся в почитании святых, мощей, икон, признании необходимости института церкви-посредницы между верующими и Богом. На православной почве эти идеи породили сектантские течения. В начале XVIII в. в Москве, в середине XVIII в. среди крестьян Тамбовской и Воронежской губерний получают распространение настойчивые призывы отказаться от иконопочитания, познать Бога «духом и истиной», а не через совершение церковных обрядов и таинств. «Духовные христиане» вскоре появились и в других губерниях Российской империи, прежде всего южных. В 60-80-е годы XVIII в. происходит конфессионализация течений: образуются «секты» духоборцев (у истоков течения стоял С. Колесников) и молокан (во главе встал С. Уклеин). В их религиозных исканиях правительство более всего беспокоил полный отказ от клятв, присяги, ношения оружия, а соответственно, и от воинской службы.

В XVIII в. в России существовали и довольно многочисленные группы мистическо-экстатического толка — «Людей Божьих», «хлыстов», скопцов. Хлысты собирались на «радения» для того, чтобы войти в состояние экзальтации и почувствовать, как «силой Святого Духа» они сами и их единоверцы перевоплощаются в пророков, во Христа или Богородицу (отсюда и название — «христовство»; или по орудию, которым некоторые себя доводили до экзальтации — «хлыстовство»). На хлыстовские «радения» собирались люди разного социального положения, среди участников было немало представителей духовенства — монахов, монахинь, священников; впрочем, хлысты не отвергали церковной службы, не уклонялись от исполнения церковных обрядов и не имели своей централизованной организации. Общей практикой подготовки верующего к «радениям» был крайний аскетизм, и именно стремлением удалиться от плотских соблазнов объясняется появление скопчества, развившегося из христовщины во второй половине XVIII в.

Поиски путей духовного обновления в православном мире привели и к развитию христианского рационализма, который выразился прежде всего в растущем интересе к западной учености, янсенизму, квиетизму и пиетизму. Такие греческие православные мыслители, как Н. Феотоки (1731–1800) и И. Моисиодакс (ок. 1725–1800) открыто исповедовали рационалистические принципы. Во время своего ректорства в Афонской академии в 1753–1759 гг. Евгений Булгарис (1716–1807) включил в программу труды Декарта, Лейбница и Вольфа. Во второй половине века влияние христианского рационализма ощущалось в произведениях русских и украинских ученых-богословов — митрополита Георгия (Конисского) (1717–1795), митрополита Гавриила (Петрова) (1730–1801), протоиерея кремлевского Архангельского собора Петра Алексеева (1727–1801) и в особенности митрополита Платона (Левшина) (1737–1812).

Итак, поиск «истинной» веры, разумной или исполненной мистицизма, захватил в XVIII в. все страны христианского мира, привел к развитию и углублению процессов конфессионального размежевания как на Востоке, так и на Западе, включая Американские Штаты. Однако конфессионализация в Век Просвещения, в отличие от прошлых веков, не породила тех жестоких религиозных войн, которые еще помнила Европа.

Все XVIII столетие и государи, и церковные властители, и религиозные полемисты, и их светские оппоненты так или иначе вынуждены были откликаться на вызовы времени, блестяще сформулированные трудами идейных вдохновителей Просвещения. А потому и важнейшие вопросы Просвещения — борьба с теократией, воспитание веротерпимости, искоренение «энтузиазма» и «суеверий» — нередко определяли направления государственной и церковной деятельности.

В XVIII в. общей тенденцией развития государств христианского мира стало все более активное вмешательство светских властей в дела церкви. Сама по себе эта тенденция была не нова. Еще Аугсбургское (1555) и Вестфальское (1648) мирные соглашения провозгласили принцип cuis regio eius religio (правитель определяет веру), тем самым признав право государей регулировать религиозную и церковную жизнь в своих владениях (jus reformandi). По мере того как церковь все чаще рассматривалась не только и не столько как божественное установление, а как институт человеческого общества и, соответственно, предмет реформ и усовершенствования, государство все решительнее вмешивалось в церковные дела. Во имя интересов «общего блага» и во имя «интересов самой церкви», которую желали «освободить от мирских забот», коронованные реформаторы все реже были склонны считаться с экклезиологическими и каноническим традициями. Эти усилия находили поддержку у просвещенных философов, политиков-прагматиков, а также у реформистски настроенного духовенства, которое наращивало свое политическое влияние.