Сложной была в это время и конфронтация Абакумова с Берия. В течение всей войны наркомом обороны был Сталин. При нем военную контрразведку (СМЕРШ) передали из НКВД в ведение Наркомата обороны, и начальником СМЕРШа, по рекомендации Берия, утвердили Абакумова. Таким образом, занимая эту должность, Абакумов стал заместителем Сталина как наркома обороны, что значительно повышало его статус и давало прямой выход на Хозяина.
Теперь он был фактически независим от Берия и превратился из подчиненного в его соперника. В 1943 году без санкции Берия Абакумов арестовал комиссара госбезопасности Ильина, опытного начальника 3-го отдела Секретно-политического управления НКВД, ведавшего вопросами работы с творческой интеллигенцией. В соответствии с правилами, отмененными лишь при Горбачеве никто не имел права арестовать высокопоставленное должностное лицо без согласия начальства. Бывали, правда, исключения, но каждый раз они рассматривались как ЧП. Ордер на арест подписывал прокурор, но на нем в левом нижнем углу обязательно должна была быть санкция непосредственного начальника того лица, которое подвергалось аресту: «Согласовано» — и подпись. Санкция же Берия в данном случае отсутствовала.
Отец вспоминал, что Ильин пользовался в НКВД большим уважением. В течение пяти лет, до того как началась операция «Монастырь», он «вел» Демьянова и также участвовал в этой радиоигре с немцами на ее начальной стадии. В 1937–1938 годах он избежал ареста, хотя и был старшим оперативным работником, поскольку в то время отвечал за работу с меньшевиками, уже не представлявшими интереса для Сталина.
В конце 1938 года Берия направил его в Орел и Ростов для расследования дела о так называемых троцкистских диверсиях на железных дорогах. Считалось, что заговорщики проникли в ряды местных руководителей советских и партийных органов. Он вернулся в Москву, потрясенный примитивностью ложных обвинений, с которыми ему пришлось столкнуться, и доложил начальству: Орловское и Ростовское УНКВД попросту сфабриковали дела, с тем чтобы упрочить собственное положение и укрепить свою репутацию. После его представления дело было пересмотрено, а Ильин получил назначение на должность начальника 3-го отдела Секретно-политического управления НКВД, что позволило ему добиться ареста двух важных осведомителей, снабжавших нас заведомо ложной информацией о якобы антисоветских настроениях среди ответственных работников.
Ильин вызвал осведомителей в Москву и приказал им представить подробные данные по делам двух подозреваемых. Получив их информацию, он убедился, что они за годы репрессий прекрасно научились искусству клеветы на тех, кого разрабатывали. Осведомителей-фальсификаторов арестовали и приговорили к десяти го-Дам лагерей, а Ильин получил награду — знак «Почетный чекист». Учитывая личные контакты Ильина с такими писателями, как Алексеи Толстой, и прославленными музыкантами и композиторами, его часто принимал у себя Берия. Ильин также был в дружеских отношениях с Меркуловым.
И вот в 1943 году служба Ильина в органах закончилась из-за конфликта с Абакумовым. Еще во время Гражданской войны Ильин подружился с Теплинским, с которым они вместе служили в кавалерийской части. Позднее Ильин начал работать в ОГПУ, а Теплинский перешел в авиацию и сделал неплохую карьеру: в 1943 году он был генерал-майором и получил назначение на должность начальника инспекции штаба ВВС.
Неожиданно повышение Теплинского по службе затормозилось: выяснилось, что против его нового назначения возражают органы. Тогда он обратился к Ильину, пытаясь выяснить, в чем дело. Тому удалось быстро узнать: единственная причина, заставившая госбезопасность отказать Теплинскому в доверии, заключалась в его присутствии на вечеринке в Военной академии в 1936 году, до ареста Тухачевского, где он якобы позволил себе с похвалой отозваться об офицерах и генералах, вскоре павших жертвами репрессий в армии. Ильин предостерег Теплинского, чтобы он был осторожнее в своих высказываниях, но свое предостережение сделал по телефону.
Абакумов тут же узнал об их разговоре и, возмущенный, потребовал от Берия, чтобы он отстранил Ильина от работы. Берия вместо этого поручил Меркулову ограничиться простым внушением, притом в дружеском тоне. К тому времени отношения между Абакумовым и Берия сильно испортились. Абакумов принял решение воспользоваться этой историей для того, чтобы скомпрометировать Берия и Меркулова. Он доложил Сталину, что комиссар госбезопасности Ильин срывает проводимую СМЕРШ оперативную проверку комсостава ВВС Красной Армии в связи с новыми назначениями. Все это приобретало особую важность, так как одна из причин, побудившая Сталина перевести СМЕРШ под свой личный контроль, заключалась в том, что он хотел исключить любое вмешательство бериевского НКВД в вопросы служебных передвижений в армии. Сталин приказал Абакумову немедленно арестовать Теплинского. Даже в годы войны Сталин по-прежнему стремился во что бы то ни стало лично контролировать работу возглавлявшихся им ведомств. В данном же случае речь шла об особо важном ведомстве — Наркомате обороны.
На допросе, проводившемся с пристрастием (Абакумов выбил ему два передних зуба в первую же ночь), Теплинский признался, что Ильин советовал ему, как лучше себя вести, чтобы не дать оснований для обвинения в симпатиях к «врагам народа». Кроме того, он также признал, что делился с Ильиным своими симпатиями к ряду высших офицеров, подвергшихся арестам в 1938 году. Неделю спустя Абакумов доложил о признаниях арестованного лично Сталину и получил от него санкцию на арест Ильина.
Явившись к Меркулову на Лубянку, Абакумов потребовал, чтобы вызвали Ильина — речь шла о руководящем работнике наркомата, комиссаре госбезопасности. И вот этого человека разоружают и сажают во внутреннюю тюрьму Лубянки. Хотя тюрьма и принадлежала НКВД, чекисты были лишены права допрашивать Ильина, поскольку он находился в ведении СМЕРШа. На следующий день Абакумов устроил очную ставку Теплинского с Ильиным. Теплинский, избитый накануне, повторил свои «признания»; Ильин, возмутившись, влепил ему пощечину, назвав его бабой.
Не найдя свидетелей для подтверждения показаний Теплинского, Абакумов оказался в сложном положении: ведь необходимо было заручиться показаниями двух свидетелей. Поскольку никто из окружения Теплинского в военных верхах даже не знал о существовании Ильина и не мог дать показания против него, найти второго свидетеля для обвинения представлялось проблематичным, а без этого нельзя было передавать дело для слушания в военную коллегию. Ильина избивали, лишали сна, однако он не только отказывался признать себя виновным, но даже не подписывал протоколы допросов. Для оформления дела их необходимо было предъявить Сталину, чтобы он решил дальнейшую судьбу подследственного, и Абакумов боялся предстать перед Сталиным без убедительного обвинительного заключения. Хотя Абакумов не смог доказать вину Ильина, тот по-прежнему оставался в тюрьме.
На допросы Ильина вызывали в течение четырех лет, с 1943 по 1947 год. Его держали в одиночной камере и периодически избивали, чтобы получить признания. Через четыре года на него махнули рукой, но еще целых пять лет он оставался в тюрьме, где в разное время его сокамерниками были министр авиационной промышленности Шахурин, маршал авиации Новиков и министр иностранных дел Румынии. Ильин никому не говорил, что он офицер-чекист. По его версии он работал в техническом отделе киностудии документальных фильмов. Понимая, что является жертвой борьбы за власть, Ильин дал себе слово ни в чем не признаваться и лучше умереть, чем запятнать свою честь. Ему удавалось даже сохранять чувство юмора. Однажды он спросил у своего следователя, проводившего допрос:
— А что означает орденская ленточка у вас на груди?
— Вот какая мне оказана честь — дело поручено человеку, награжденному орденом Ленина. Значит, мое дело очень важное!
В июле 1951 года Ильин был переведен в «Матросскую тишину» и помещен в специальный блок тюрьмы ЦК партии. Находившимися там подследственными занимался Комитет партийного контроля, который расследовал дела членов ЦК и офицеров госбезопасности. Начальник тюрьмы предупредил его о серьезных последствиях, если он не признает свою вину перед партией. Новый следователь, появившийся на очередном допросе в форме генерал-майора юстиции, был заместитель военного прокурора Советского Союза Китаев. К безмерному удивлению Ильина, Китаев потребовал от него показаний о предательской деятельности Абакумова, в ответ Ильин попросил представить доказательства, что это не провокация. Охранник вывел его в коридор и подтолкнул к глазку камеры, где сидел заклятый враг Ильина Абакумов.