Филипп вынужден был согласиться. Но при торжественном возведении в сан первосвятителя Русской Церкви он произнес Слово, в котором публично провозгласил, при каких условиях правления царя он может его поддерживать:
"О благочестивый царь! Богом сотворенное вместилище благой веры, поскольку большей сподобился ты благодати, постольку и должен Ему воздать.
Бог просит от нас благотворений: не одной лишь благой беседы, но и приношения благих дел. Поставленный над людьми, высоты ради земного твоего царствия, будь кроток к требующим твоей помощи, памятуя высшую над тобой державу горней власти. Отверзай уши твои к нищете страждущей, да и сам обрящешь слух Божий к твоим прошениям, ибо каковы мы бываем к нашим клевретам, таковым обрящем к себе и своего Владыку. Как всегда бодрствует кормчий, так и царский многоочитый ум должен твердо содержать правила доброго закона, иссушая потоки беззакония, да не погрязнет в волнах неправды корабль всемерныя жизни. Принимай хотящих советовать тебе благое, а не домогающихся только ласкательств, ибо одни радеют воистину о пользе, другие же заботятся только об угождении власти.
Паче всякой власти царствия земного украшает царя венец благочестия; славно показывать силу свою супостатам, покорным же - человеколюбие и, побеждая врагов силой оружия, невооруженною любовью быть побежденным от своих. Не возбранять согрешающим есть только грех, ибо если кто и живет законно, но прилепляется к беззаконным, тот бывает осужден от Бога, как соучастник в злых делах; почитай творящих добро и запрещай делающих зло; твердо и непоколебимо стой за православную веру, отрясая гнилые еретические учения, чтобы содержать то, чему научили нас апостолы, и что передали нам божественные отцы.
Так подобает тебе мудрствовать и к той же истине руководить подчиненных тебе людей, не почитая ничего выше и богоугоднее сей царственной заботы".
На несколько месяцев казни и бесчинства опричников в Москве прекратились, затем все пошло по-прежнему.
Митрополит в беседах с глазу на глаз и прилюдно увещевал царя остановить беззаконные и жестокие расправы, ходатайствовал за опальных. Об одной из таких увещевательных речей сохранился рассказ современника.
Однажды, в воскресный день, во время обедни, в Успенский собор явился царь в сопровождении множества опричников и бояр. Все они были одеты в шутовскую одежду, имитирующую монашескую: в черные ризы, на головах высокие шлыки. Иван Грозный подошел к Филиппу и остановился возле него, ожидая благословения. Но митрополит стоял, смотря на образ Спасителя, будто не заметил царя. Тогда кто-то из бояр сказал: "Владыко, это же государь! Благослови его".
Филипп посмотрел на царя и проговорил:
- В сем виде, в сем одеянии странном не узнаю царя православного, не узнаю и в делах царства... О государь! мы здесь приносим жертвы бескровные Богу, а за алтарем льется невинная кровь христианская. С тех пор как солнце сияет на небе, не видано, не слыхано, чтобы цари благочестивые возмущали собственную державу столь ужасно! В самых неверных, языческих царствах есть закон и правда, есть милосердие к людям, а в России нет их! Достояние и жизнь граждан не имеют защиты. Везде грабежи, везде убийства. И совершаются именем царским! Ты высок на троне, но есть Всевышний - Судия наш и твой. Как предстанешь на суд Его? Обагренный кровию невинных, оглушаемый воплем их муки, ибо самые камни под ногами твоими вопиют о мести?! Государь, вещаю яко пастырь душ.
Царь в гневе закричал на него:
- Филипп, ужели думаешь переменить волю нашу? Не лучше ли быть тебе одних с нами мыслей?
- Боюся Бога единого, - отвечал митрополит. - Где же вера моя, если буду молчать?
Иван Грозный ударил жезлом о каменный пол и сказал, как рассказывает современник, "голосом страшным":
- Чернец! доселе я излишне щадил вас, мятежников, отныне буду таким, каковым вы меня нарицаете! - И с этими словами вышел из собора.
Народ московский, который наполнял храм, все это видел и слышал.
Лишенный возможности говорить с царем, Филипп посылал Ивану Грозному письма-грамоты, в которых уговаривал его опомниться. Письма митрополита не сохранились. Царь в гневе говорил о них, что это пустые, ничего не значащие бумажки, а чтобы унизить автора, называл их "филькиными грамотами" - и уничтожал. Но Филипп продолжал посылать свои грамоты царю.
В конце концов Иван Грозный обвинил Филиппа в "измене", в чем он обычно обвинял свои жертвы, и повелел произвести следствие о "злых умыслах" митрополита. Монахи Соловецкого монастыря под пытками дали требуемые от них клеветнические показания на своего игумена.
8 ноября 1568 года митрополит Филипп служил в Успенском соборе Божественную литургию. Вдруг в собор толпой ворвались опричники. Ими предводительствовал молодой боярин любимец царя Алексей Басманов, который развернул свиток, и удивленный народ услышал, что митрополит лишен сана. Опричники сорвали с Филиппа митрополичье облачение, погнали из храма метлами, на улице посадили в простые дровни (что было для митрополита большим унижением), отвезли в Богоявленский монастырь и заперли в темницу. Царь казнил нескольких родственников митрополита, голову одного из казненных принесли ему в тюрьму. Затем Филипп был увезен из Москвы в дальний тверской монастырь Отрочь, а год спустя Иван Грозный послал туда Малюту Скуратова, и царский опричник собственноручно задушил Филиппа.
Еще при жизни Филипп был окружен любовью и почитанием народным. Его слова тайно передавали из уст в уста. Рассказывали о таком чуде: Иван Грозный повелел затравить митрополита медведем, и однажды вечером к нему в темницу запустили лютого зверя, которого до того нарочно морили голодом. Но когда на следующий день тюремщики открыли дверь, то увидели Филиппа, стоящего на молитве и лежащего тихо в углу медведя.
Царь Федор Иоаннович - сын и наследник Ивана Грозного в отличие от отца славился благочестием - приказал перенести останки святителя из места заключения и казни - Отроча монастыря в Соловецкий монастырь, где он игуменствовал, и похоронить его там "с честию".