Занимая высшие должности в РККА, Тухачевский играл далеко не последнюю роль в военном сотрудничестве СССР и Германии. В 1932 году он посетил маневры рейхсвера и несколько германских военных заводов, постоянно контактировал с приезжавшими в Москву немецкими генералами и офицерами. Однако у последних, несмотря на всю присущую Михаилу Николаевичу дипломатичность, осталось стойкое впечатление, что к Германии Тухачевский относится враждебно и видит в ней главного потенциального противника.

Пока военное сотрудничество с рейхсвером продолжалось, ОГПУ держало под сукном материалы о якобы преступных связях Тухачевского с германским Генштабом.

Сменивший Дзержинского В.Р. Менжинский решил прощупать Тухачевского с другой стороны. В 1930 году в числе примерно 5 тысяч бывших царских офицеров арестовали хорошо знавших Тухачевского преподавателей военной академии Н.Е. Какурина и И.А. Троицкого. 26 августа 1930 года чекисты добились от Какурина компрометирующих показаний на Тухачевского. Бывший полковник императорской армии сообщил: «В Москве временами собирались у Тухачевского, временами у Гая, временами у цыганки. В Ленинграде собирались у Тухачевского. Лидером всех этих собраний являлся Тухачевский, участники: я, Колесинский, Эйстрейхер, Егоров, Гай, Никонов, Чусов, Ветлин, Кау-фельдт. В момент и после XVI съезда было уточнено решение сидеть и выжидать, организуясь в кадрах в течение времени наивысшего напряжения борьбы между правыми и ЦК. Но тогда же Тухачевский выдвинул вопрос о политической акции, как цели развязывания правого уклона и перехода на новую высшую ступень, каковая мыслилась как военная диктатура, приходящая к власти через правый уклон. В дни 7-8 июля у Тухачевского последовали встречи и беседы вышеупомянутых лиц и сделаны были последние решающие установки, т. е. ждать, организуясь». Троицкий в своих показаниях также говорил о симпатиях Тухачевского к правому уклону.

Какурин поведал, как вербовал Тухачевский новых заговорщиков и сколь популярен он в армии, так что в случае чего может и на Кремль полки двинуть. Правда, ничего конкретного подследственный об антиправительственной деятельности Тухачевского, за пределами разговоров, придумать так и не смог.

10 сентября 1930 года Менжинский направил протоколы допросов Какурина и Троицкого Сталину. Иосиф Виссарионович принял решение: Тухачевского пока не трогать.

Тем временем из Какурина 5 октября выбили новые показания. Окончательно сломленный краском заявил: «Михаил Николаевич говорил, что… можно рассчитывать на дальнейшее обострение внутрипартийной борьбы. Я не исключаю возможности, сказал он, в качестве одной из перспектив, что в пылу и ожесточении этой борьбы страсти, и политические и личные, разгораются настолько, что будут забыты и перейдены все рамки и границы Возможна и такая перспектива, что рука фанатика для развязывания правого уклона не остановится и перед покушением на жизнь самого тов. Сталина… У Михаила Николаевича, возможно, есть какие-то связи с Углановым и, возможно, с целым рядом других партийных или околопартийных лиц, которые рассматривают Тухачевского как возможного военного вождя на случай борьбы с анархией и агрессией Сейчас, когда я имел время глубоко продумать все случившееся, я не исключу и того, что, говоря в качестве прогноза о фанатике, стреляющем в Сталина, Тухачевский просто вуалировал ту перспективу, над которой он сам размышлял в действительности».

Михаилу Николаевичу была дана очная ставка с Какуриным и Троицким. Позднее, уже после ареста Тухачевского, Сталин, выступая на заседании Военного Совета 2 июня 1937 года, вспоминал: «Мы обратились к тт. Дубовому, Якиру и Гамарнику. Правильно ли, что надо арестовать Тухачевского как врага. Все трое сказали нет, это должно быть какое-нибудь недоразумение, неправильно… Мы очную ставку сделали и решили это дело зачеркнуть. Теперь оказывается, что двое военных, показавших на Тухачевского, показывали правильно…»

Материал на Тухачевского, равно как и на других руководителей Красной армии, продолжали копить. Только во второй половине 1936 года Сталин посчитал, что пришла пора браться за Тухачевского и его единомышленников. Современные историки в качестве непосредственного повода указывают на ссору во время банкета после парада 1 мая 1936 года. Тогда Ворошилов, Буденный и Тухачевский заспорили о делах давних: кто же был виновником поражения под Варшавой, а затем очень скоро перешли на современность. Тухачевский обвинил бывших руководителей Конармии, что они на ответственные посты расставляют лично преданных им командиров-конармейцев, создают собственную группировку в Красной армии. Ворошилов раздраженно бросил: «А вокруг вас разве не группируются?»

Ворошилов рассказал в начале июня 1937 года на расширенном заседании Военного Совета, целиком посвященном «контрреволюционному заговору в РККА»: «Потом на второй день Тухачевский отказался от всего сказанного… тов. Сталин тогда же сказал, что надо перестать препираться частным образом, нужно устроить заседание Политбюро и на этом заседании подробно разобрать, в чем дело. И вот на этом заседании мы разбирали все эти вопросы и опять-таки пришли к прежнему результату». Тут подал реплику Сталин «Он отказался от своих обвинений». «Да, повторил Ворошилов, отказался, хотя группа Якира и Уборевича на заседании вела себя в отношении меня довольно агрессивно. Уборевич еще молчал, а Гамарник и Якир вели себя в отношении меня очень скверно».

Таким образом, Тухачевский сам ускорил свой конец. Позднее, на следствии и суде, он и другие заговорщики признались, что хотели добиться смещения Ворошилова с поста наркома обороны. В преемники ему прочили Тухачевского, хотя на следствии Примаков говорил о Якире в качестве кандидата в наркомы, поскольку тот якобы был близок с Троцким. Так что скандал на первомайском банкете разразился неспроста. Уборевич на суде подтвердил: «Мы шли в правительство ставить вопрос о Ворошилове, нападать на Ворошилова, по существу уговорились с Гамарником, который сказал, что он крепко выступит против Ворошилова». Из единомышленников Тухачевского только начальник Политуправления РККА Гамарник и командующий Киевским военным округом Якир были полноправными членами ЦК. Поэтому вполне объяснимо, что именно Гамарнику, второму лицу в военной иерархии, руководителю всех армейских политработников, доверили главную роль в критике Ворошилова на Политбюро.

Намерение сместить Ворошилова Специальное судебное присутствие расценило ни больше ни меньше как умысел на теракт. Хотя еще на следствии Примаков показал, что вел со своими друзьями разговоры, «носящие характер троцкистской клеветы на Ворошилова, но никаких террористических разговоров не было. Были разговоры о том, что ЦК сам увидит непригодность Ворошилова…»

Сталин был уверен, что Тухачевский, Гамарник и прочие интриги против Ворошилова будут продолжать и при удобном случае вновь поставят на Политбюро вопрос о его отставке. Такого Сталин допустить не мог. Разгоревшаяся война в Испании, вероятно, побудила Сталина начать подготовку к устранению со сцены Тухачевского и его команды. Однако сам этот процесс растянулся почти на год. В августе 36-го арестовали Примакова и Путну. Тухачевский еще не ощущал опасности.

10 мая Политбюро приняло предложение Ворошилова освободить Тухачевского от обязанностей первого заместителя наркома обороны и назначить командующим Приволжским военным округом. Тем же постановлением Якир переводился с Киевского округа на Ленинградский и тем самым терял место в Политбюро Компартии Украины.

13 мая Тухачевский добился приема у Сталина. О чем они говорили, точно неизвестно. Но кое-какие сведения, как маршалу объяснили причины его опалы, имеются. Старому другу Кулябко маршал объяснил, что «причиной его перевода в Куйбышев, как об этом сообщили в ЦК партии, является то обстоятельство, что его знакомая Кузьмина и бывший порученец оказались шпионами и арестованы». Так же и Лидия Норд рассказывает, что поводом для смещения ее зятя послужили его связи с женщинами.