В строительстве Военно-морского флота был взят курс на создание подводного флота, легких надводных кораблей и морской авиации. В 1932 году был воссоздан Тихоокеанский флот, а в 1933 г. создана Северная военная флотилия, укрепляется Балтийский и Черноморский флот, Каспийская, Амурская и Днепровская флотилии.

В 1938 году численность Вооруженных сил составляла 1,5 млн. человек. Армия и флот были достаточно перевооружены, однако образцов нового вооружения явно не хватало.

В 1934 году Реввоенсовет РККА упраздняется, а народный комиссариат по военным и морским делам переименовывается в Народный комиссариат обороны. Наркомом обороны оставался К.Е. Ворошилов. При Наркомате обороны в этом же году был создан Военный Совет, в который входило 85 высших чинов Красной армии, в том числе 5 маршалов: К.Е. Ворошилов, М.Н. Тухачевский (зам. народного комиссара обороны), А.Н. Егоров (начальник штаба РККА), С.М. Буденный и В.К. Блюхер.

В 1937 году был создан комитет обороны при Совете народных комиссаров СССР. Председателем комитета был В.М. Молотов, членами И.В. Сталин, К.Е. Ворошилов и др. Территория страны была разделена на 15 военных округов, во главе которых стояли командармы 1-го и 2-го рангов.

В стране расширилась база военных школ и училищ. Была возрождена Академия Генерального штаба, появились высшие военные институты бронетанковых войск и авиации, военная инженерно-артиллерийская академия, высшие военно-морские училища и многие другие военные институты, школы и училища. Число курсантов в 1937 году по сравнению с 1924 годом увеличилось в 2 раза (около 50 тысяч).

В Вооруженных силах возрождались лучшие традиции царской армии: дух боевого товарищества, дух чести и достоинства офицера, верности присяге и Отечеству. Офицерский корпус отчасти состоял из династий потомственных военных, отчасти из молодых офицеров из рабоче-крестьянской среды. Особенно сохранились военные традиции и военные династии в Военно-Морском флоте.

Служба в армии считалась «священным долгом каждого гражданина СССР» и это была не декларация, а норма жизни для многих молодых ребят и мужчин в Советском Союзе. Военные были в СССР привилегированным и особенно почитаемым сословием. После прихода Гитлера к власти в Германии, когда угроза войны нависла над Европой, в Советском Союзе произошли важнейшие изменения в коммунистической идеологии. Произошел пересмотр исторических ценностей. Теперь больше не оплевывалось дореволюционное величие России, на щит стала подниматься идея патриотизма, вместо антирусской космополитической идеологии. В средней и высшей школе вновь стала преподаваться история России, отмененная в 20-е годы. В 1937 году в стране торжественно отмечалась 125-годовщина Бородинского сражения. Появился ряд патриотических фильмов, в частности фильм С. Эзейштейна «Александр Невский» (1940 г.). Но при этом надо отметить, что русский национал-большевизм в отличие от немецкого национал-социализма не содержал идей расового и национального превосходства.

Однако изменения в коммунистической идеологии сопровождались массовыми репрессиями в стране, которые коснулись и армии. Укреплению обороноспособности страны был нанесен колоссальный ущерб политическими репрессиями 30-х годов.

В ходе борьбы с так называемыми «врагами народа» в 1937-1939 гг. было репрессировано более 40 тысяч офицеров, большинство из которых расстреляно. Острие репрессий направлялось против наиболее опытных и подготовленных генералов и офицеров, прошедших школу старой русской армии и гражданской войны. Командное звено Рабоче-крестьянской Красной армии оказалось обескровленным. Расширение сети военных училищ не успевало восполнить нехватку командных кадров, особенно в воинских частях.

Вот некоторые цифры этих массовых репрессий среди командного состава РККА. По «делу военных» (так называла мировая печать судебный процесс над военачальниками Красной армии): из 5 маршалов 3 было расстреляно, из 85 человек Высшего Военного Совета 76 человек было репрессировано, из 733 человек высшего командного состава от комбрига до маршала 579 человек было осуждено на расстрел или тюремное заключение.

Такие известные военачальники как М.Н. Тухачевский, И.П. Уборевич, И.Э. Якир, Я.К. Гамарник и еще 5 человек были обвинены в создании в Красной армии «антисоветской троцкистской военной организации» и расстреляны в июне 1937 года. Затем были расстреляны В.К. Блюхер, А.Н. Егоров и еще многие советские военачальники.

Почти все обвинения были сфабрикованными и являлись по сути дела устранением И.В. Сталиным и К.Е. Ворошиловым авторитетных в армии и народе людей. Хотя надо признать, что почти все они были запятнаны в братоубийственной гражданской войне, в подавлении народных мятежей и восстаний. На смену «героям гражданской войны» шла новая плеяда военачальников, которая стала «генералами победы в Великой Отечественной войне».

В целях создания «Великой Японии» в июле 1937 года японские войска из Маньчжурии численностью в 400 тыс. человек вторглись в Центральный Китай. В этих условиях СССР, действуя по линии Коминтерна, добился от китайских коммунистов заключения соглашения с Гоминьданом о создании единого фронта для отпора японским агрессорам. Красная армия китайских коммунистов вошла в состав единой Народной армии (4-я и 8-я армии). Кроме того, за 1938-39 гг. Советский Союз поставил Китаю более 600 самолетов, 100 орудий, 8 тыс. пулеметов и другого вооружения. В боях против японских агрессоров сражалось около 4 тыс. советских военных специалистов. Но ни объединение сил, ни военная помощь СССР не способствовали военным успехам китайских войск, в течение полутора лет боев японские войска оккупировали основные провинции Китая с городами Пекин, Шанхай, Нанкин, Гуангжоу. В начале 1939 года гоминьдановское правительство заключило перемирие с Японией и переехало в город Чунцин.

Успехи японской армии в Китае вскружили головы японского командования, что выразилось в готовности проверить обороноспособность своего северного соседа, то есть СССР. Эта проверка привела к двум пограничным конфликтам: на озере Хасан (район советско-китайской границы) и на реке Халхин-Гол (район монголо-китайской границы).

29 июля 1938 г. японские войска силами 3 дивизий пересекли советскую границу в районе озера Хасан (у границы с Китаем и Кореей). 31 июля они захватили высоты Заозерная и Безымянная. Попытки выбить их оттуда силами одной дивизии успеха не имели. После подхода подкрепления 6 августа советские войска при поддержке танков и самолетов возобновили натиск и выбили японцев со своей территории. 10 августа была отражена новая попытка вторжения, а 11 августа по просьбе японской стороны, военные действия были прекращены. Советскими войсками тогда командовал комкор Штерн.

Более крупный пограничный конфликт разгорелся в мае 1939 г. в районе реки Халхин-Гол на востоке Монголии, Японцы захватили часть территории МНР до Халхин-Гола с целью создания там укрепленного рубежа, который прикрывал бы проектируемую западнее КВДЖ стратегическую железную дорогу к границам Забайкалья. СССР пришел на помощь своей союзнице – Монголии.

В июне командующим советско-монгольской группировкой (12,5 тыс. чел.) был назначен Георгий Константинович Жуков. В июле японские войска (38 тыс. чел.) перешли в наступление и захватили плацдарм на западном берегу Халхин-Гола. Однако в боях 4-5 июля они потерпели поражение и были отброшены за реку.

В августе японцы сосредоточили в районе Халхин-Гола 6-ю армию под командованием генерала Риппо (75 тыс. чел.). Советско-монгольские войска также получили подкрепление и были сведены в 1-ю армейскую группу под командованием генерала Жукова (57 тыс. чел.).

Жуков спланировал нанести фланговые удары по японской армии с целью ее окружения. Операция готовилась тщательно и скрытно. 20 августа советско-монгольские войска неожиданно для японцев перешли в наступление. К 26 августа 6-я японская армия была окружена, а к 31 августа полностью ликвидирована. 4 и 8 сентября подошедшая к монгольской границе японская пехотная дивизия сделала попытку нанеси ответным удар, но была отброшена. 16 сентября по просьбе японской стороны боевые действия были прекращены. В боях с мая по сентябрь японцы потеряли 61 тыс. чел. убитыми, ранеными и пленными. Потери советско-монгольских войск составили 18,5 тыс. чел.