Иван выздоровел, но не забыл происшедшего. Желая выполнить данный во время болезни обет, он отправился в Кирилло-Белозерский монастырь. По словам Курбского, Максим Грек пытался воспрепятствовать выполнению этого намерения. Дело в том, что монахи этого монастыря были сторонниками Иосифа Волоцкого. Кроме того, по дороге Иван хотел заехать в Песношский монастырь на Яхроме, где жил один из выдающихся представителей того же направления – Вассиан Топорков, заточенный сюда боярами еще в 1542 г. Курбский рассказывает, что Максим Грек даже предсказал Ивану, что его сын умрет по дороге. Это пророчество сбылось. Быть может, слабый ребенок не вынес суровой зимы или погиб от какой-нибудь случайности. Одно предание говорит, что он утонул. Как бы то ни было, но царь вернулся с трупом младенца. Он виделся с Топорковым и, по словам Курбского, обратился к нему за советом, как царствовать, чтобы держать своих вельмож в послушании, на что Топорков ответил: «Не держи при себе ни одного советника, который был бы умнее тебя». Трудно допустить, чтобы этот совет, граничащий с дерзостью, был дан в такой форме. Впрочем, этот эпизод воспроизводится в одном из писем Курбского, и Иван оставляет его без возражений. Можно думать, что в основе его лежит истина. Естественно, что после пережитых событий между Иваном и боярами должно было воцариться взаимное недоверие. Непокорные вельможи отказывались целовать крест Дмитрию и этим выражали свой протест против нового порядка вещей. Вступление на престол малолетнего царевича освящало собой ненавистный им государственный строй.
В следующие годы боярская оппозиция еще усилилась. Некоторые историки склонны были отрицать существование боярской оппозиции на том основании, что открытое сопротивление, с оружием в руках, не имело места здесь. Они, очевидно, смешивали Московское государство XVI в. с французской монархией Людовика XI. Как известно, в тогдашнем русском обществе не существовало прочной организации социальных элементов, и борьба здесь имела совершенно особый характер: она не была коллективной и не могла силе противопоставить силу. Но там уже были такие, как Бельский, предлагавший помощь внешним врагам государства, надеясь при их поддержке вернуть свои прежние утраченные права, такие, как Мстиславский, показывавший татарам дорогу на Москву. Эти перебежчики и предатели были мятежниками.
Уже с 1554 г. эмиграционное движение русского боярства принимает угрожающие размеры. В июле был схвачен по дороге в Литву князь Никита Дмитриевич Ростовский. Выяснилось, что вся его семья с обширной родней – Лобановыми, Приимковыми – вступила в сношения с польским королем. С точки зрения старых удельно-княжеских нравов, в подобном образе действий не было ничего преступного. Князь Ростовский только воспользовался своим правом отъезда. По-видимому, старые понятия еще сохраняли силу, так как царь не решился применить к виновному слишком суровые меры, по настоянию многих влиятельных лиц Ростовский был просто послан в Белоозеро. Царь не особенно доволен был этим вмешательством. В числе заступников Ростовского был и Сильвестр.
Возможно, что положение Сильвестра и Адашева с этого момента поколебалось. Когда началась война, Сильвестр и Адашев стали на сторону бояр, высказавшихся против этого предприятия Ивана. Московской знати хотелось избежать беспокойств, связанных с войной. Кроме того, она была недовольна отступлением московской политики от старых традиций. Впрочем, Адашев еще играл некоторую роль в дипломатии до июля 1560 г., когда был удален от двора и послан в почетную ссылку: его отправили в Ливонию в качестве третьего воеводы большего полка. Одновременно с этим Сильвестр добровольно удалился в Белоозерский монастырь. Излагая историю Грозного, Курбский путает события и даты. По его изображению, опала Сильвестра и Адашева совпала с болезнью и смертью царицы Анастасии. По его словам, оба царские любимца были обвинены в отравлении царицы. Но Анастасия заболела в ноябре 1559 г., а умерла 10 месяцев спустя, следовательно, уже после удаления Адашева и Сильвестра. Царица болела долго, что исключает мысль об отравлении. Если бы открылась их виновность в подобном преступлении, они понесли бы другое наказание. Правда, Сильвестр с Адашевым были привлечены к суду, но немилость никогда не постигает сразу. Иван не решился сразу обрушить на бывших своих любимцев всю тяжесть гнева. Они отделались легко. Один был послан в более отдаленный Соловецкий монастырь, другой был на короткое время заключен в тюрьму после недолгого пребывания в Феллине, в Ливонии, куда был послан сперва воеводой, но не сумел вести себя с должной осторожностью. Очевидно, судьи отвергли обвинение в отравлении царицы. Быть может, этот вопрос вовсе и не обсуждался. Ведь суд того времени предъявлял не слишком большие требования по отношению к достаточности улик. В припадках ярости Иван сам впоследствии обвинял своих неверных друзей в том, что они разлучили его с его «юницей». Но и тогда Иван призывал Сильвестра на суд божественного Агнца, не желая, по его словам, вступать с ним в тяжбу здесь на земле. В самых обвинениях Ивана было слишком много противоречий. То он упрекал своих незнатных друзей за то, что они стараются возвысить своих клевретов из аристократии до одного уровня с царем, то, напротив, корил их за то, что они стараются унизить их до собственного уровня. Иногда он даже поносил их за то, что они содействовали его реформам, и при этом указывал на самые дорогие для него преобразования, как, например, на обращение вотчин в поместья. Очевидно, все эти упреки, встречающиеся и в переписке с Курбским, являются лишь полемическим приемом, а в полемике Иван не заботился ни о точности выражений, ни о правде. Он всеми способами старался доказать, что в его правлении принимали участие посторонние руки, что уменьшало его ответственность за то, что происходило в его царствование. Для достижения этой цели Иван преувеличивал и извращал факты. Если верить ему, то Сильвестр и Адашев держали его под такой опекой, что даже устанавливали число часов, потребных для его сна! Он был как младенец, не имеющий своей воли. Этим Иван старался отразить упреки Курбского, жаловавшегося на непосильные труды, которые он несет. Кто же заставляет князя нести эти труды? Разве он сам не был вместе с попом и с «собакой Адашевым, поднятым из гноища» полновластным государем?
Ливонская война началась и продолжалась по воле Ивана, вопреки желаниям всей знати. По свидетельству Курбского, после взятия Казани «все разумные люди» советовали Ивану остаться на некоторое время в покоренном городе. Но царь принял совершенно иное решение. Сопоставляя эти факты, мы видим, как подчинялся Иван влиянию своих приближенных. Что касается Сильвестра, то его роль определяется указанием, которое мы находим в его письме к митрополиту Макарию. Царь дал поручение Сильвестру сделать характеристику кандидатов в игумены. Когда он это сделал, царя не было в Москве, и дело оставалось без движения.
О того самого дня, когда Сильвестр и Адашев отказались выступить на защиту Димитрия, они потеряли расположение царицы Анастасии. Возможно, что преждевременная смерть молодой государыни оказала свое влияние на их судьбу. Быть может, падение их было вызвано какой-нибудь другой, неизвестной нам причиной. Этот период царствования Ивана остается довольно темным.
Последние годы жизни Сильвестра покрыты неизвестностью. Через два года после заключения в тюрьму Адашев умер. Курбский рассказывает, что одну польскую вдову заподозрили в преступных сношениях с Адашевым. Она была предана смерти вместе с пятью своими сыновьями. Были казнены также брат Адашева Даниил вместе со своим сыном и тестем Туровым, трое братьев Сатиных, сестра которых была замужем за Алексеем Адашевым. Иван начинал проводить свою систему массовых казней и истреблял своих врагов целыми семьями. Жестокость была свойственна той эпохе даже на Западе, но в казнях Ивана сказывался его темперамент и причуды полуазиатского деспота. Курбский упоминает о князе Михаиле Репнине, который однажды был приглашен в царский дворец на пир и отказался разделять общее веселье, сорвав с себя и растоптав ногами надетую на него маску. Через несколько дней после этого князь был убит по приказанию Ивана в церкви во время чтения Евангелия. Такая же участь постигла и Юрия Кашина. Не отрицая этих фактов, Иван утверждал, что никогда не осквернял храмов Божьих. В ту же пору, по словам Гуаньино, погиб еще один член аристократического рода, молодой князь Дмитрий Оболенский-Овчинин, который повздорил с новым любимцем царя, Федором Басмановым, и сказал ему: «Предки мои и я всегда служили государю достойным образом, а ты служишь ему содомией». Показания итальянца об этом случае расходятся со свидетельством Курбского.