Партийно-политическая работа в армии и на флоте осуществлялась ЦК РКП (б) через Всероссийское бюро военных комиссаров (создано 8 апреля 1918), которое 18 апреля 1919 по решению 8-го съезда партии было заменено отделом РВСР, переименованным 26 мая 1919 в Политическое управление (ПУР) при РВСР, одновременно являвшимся отделом ЦК РКП (о). В войсках партийно-политическая работа проводилась политотделами и партийными организациями (ячейками).
В 1919 на основе решений 8-го съезда партии завершился переход к регулярной массовой армии, с крепким пролетарским, политически сознательным, кадровым ядром личного состава, единой системой комплектования, стабильной организацией войск, централизованным управлением и действенным партийно-политическим аппаратом. Строительство Вооруженных Сил СССР проходило в острой борьбе с «военной оппозицией», которая выступала против создания регулярной армии, защищала пережитки партизанщины в управлении войсками и ведении войны, недооценивала роль старых военных специалистов.
К концу 1919 численность Красной Армии достигла 3 млн. чел., к осени 1920 — 5,5 млн. чел. Удельный вес рабочих составлял 15%, крестьян — 77%, прочих — 8%. Всего за 1918—20 было сформировано 88 стрелковых и 29 кавалерийских дивизий, 67 авиаотрядов (300—400 самолётов), а также ряд артиллерийских и броневых частей и подразделений. Имелись 2 запасные (резервные) армии (Республики и Юго-Вост. фронта) и части Всевобуча, в которых проходили подготовку около 800 тыс. чел. За годы Гражданской войны 6 военных академий и свыше 150 курсов и школ (октябрь 1920) подготовили из рабочих и крестьян 40 тыс. командиров. На 1 августа 1920 в Красной Армии и на флоте насчитывалось около 300 тыс. коммунистов (около 1/2 всего состава партии), являвшихся цементирующим ядром армии и флота. Около 50 тыс. из них пали смертью храбрых в ходе Гражданской войны.
Летом и осенью 1918 действующие войска начали сводиться в армии и фронты во главе с революционными военными советами (РВС) из 2—4 членов. К осени 1919 насчитывалось 7 фронтов, каждый из 2— 5 армий. Всего во фронтах было 16—18 общевойсковых армий, одна Конная армия (1-я) и несколько отдельных конных корпусов. В 1920 была сформирована 2-я Конная армия.
В ходе борьбы с интервентами и белогвардейцами использовалось главным образом вооружение старой армии. Вместе с тем принятые партией чрезвычайные меры по налаживанию военной промышленности и беспримерный героизм рабочего класса позволили перейти к организованному снабжению Красной Армии оружием, боеприпасами и обмундированием советского производства. Среднемесячный выпуск винтовок в 1920 составил более 56 тыс. шт., патронов — 58 млн. шт. В 1919 авиационные предприятия построили 258 и отремонтировали 50 самолётов.
Вместе с созданием Красной Армии зародилась и развивалась советская военная наука, основывающаяся на марксистско-ленинском учении о войне и армии, практике революционной борьбы народных масс, достижениях военной теории прошлого, творчески переработанных применительно к новым условиям. Были изданы первые уставы Красной Армии: в 1918 — Устав внутренней службы, Устав гарнизонной службы, Полевой устав, в 1919 — Дисциплинарный устав. Большим вкладом в советскую военную науку явились ленинские положения о сущности и характере войны, роли народных масс, общественного строя, экономики в достижении победы. Уже в то время отчётливо проявились характерные черты советского военного искусства: революционная творческая активность; непримиримость к шаблону; умение определять направление главного удара; разумное сочетание наступательных и оборонительных действий; преследование противника вплоть до полного его уничтожения и др.
После победоносного окончания Гражданской войны и нанесения решительного поражения объединённым силам интервентов и белогвардейцев Красная Армия была переведена на мирное положение и к концу 1924 её численность сократилась в 10 раз. Одновременно с демобилизацией проводилось укрепление Вооруженных Сил. В 1923 был воссоздан объединённый Наркомат по военным и морским делам. В результате военной реформы 1924—25 был сокращён и обновлен центральный аппарат, введены новые штаты частей и соединений, улучшен социальный состав командных кадров, разработаны и внедрены новые уставы, наставления и руководства. Важнейшим вопросом военной реформы был переход к смешанной системе комплектования войск, которая позволяла иметь в мирное время небольшую кадровую армию с минимальной затратой средств на её содержание в сочетании с территориально-милиционными формированиями внутренних округов (см. Территориально-милиционное устройство). Кадровыми оставались большинство соединений и частей приграничных округов, технические и специальные войска, ВМФ. Вместо Л. Д. Троцкого (с 1918 — наркомвоенмор и председатель Реввоенсовета Республики), стремившегося оторвать Красную Армию и флот от партийного руководства, 26 января 1925 председателем Реввоенсовета СССР и наркомом по военным и морским делам был назначен М. В. Фрунзе, после смерти которого наркомом стал К. Е. Ворошилов.
Первый общесоюзный закон «Об обязательной военной службе», принятый 18 сентября 1925 ЦИК и СНК СССР, закрепил мероприятия, проведённые в ходе военной реформы. Этим законом определялась организационная структура Вооруженных Сил, в которые входили Сухопутные войска (пехота, кавалерия, артиллерия, броневые силы, инженерные войска, войска связи), Воздушные и Морские силы, войска Объединённого государственного политического управления (ОГПУ) и конвойная стража СССР. Их численность в 1927 составляла 586 тыс. чел.
В 30-е гг. на базе достигнутых успехов в строительстве социализма происходило дальнейшее совершенствование Вооруженных Сил; их территориально-кадровое устройство перестало удовлетворять потребности обороны государства. В 1935—38 был осуществлен переход от территориально-кадровой системы к единому кадровому устройству Вооруженных Сил. В 1937 в рядах армии и флота насчитывалось 1,5 млн. чел., в июне 1941 — около 5 млн. чел. 20 июня 1934 ЦИК СССР упразднил РВС СССР и переименовал Наркомат по военным и морским делам в Наркомат обороны СССР. В ноябре 1934 был создан Военный совет Наркомата обороны, в 1937 военные советы в округах, в 1935 Штаб РККА преобразован в Генеральный штаб. В 1937 создан общесоюзный Наркомат Военно-Морского Флота; Политуправление Красной Армии переименовано в Главное управление политической пропаганды, а политические управления округов и политические отделы соединений — в управления и отделы политического пропаганды. 10 мая 1937 постановлением ЦИК и СНК СССР был введён институт военных комиссаров, ответственных вместе с командирами за политико-моральное состояние войск, оперативную и мобилизационную готовность, состояние оружия и военной техники; в 1938 учреждены главные военные советы Красной; Армии и ВМФ.
1 сентября 1939 был принят закон «О всеобщей воинской обязанности», отменивший существовавшие до этого ограничения в призыве в армию и во флот для некоторых категорий населения и провозгласивший воинскую службу почётной обязанностью всех граждан СССР, независимо от их классовой принадлежности.
Улучшился социальный состав армии: от 40 до 50% солдат и младших командиров являлись представителями рабочего класса. В 1939 насчитывалось 14 военных академий, 63 военных училища Сухопутных войск и 14 ВМФ, 32 лётные и лётно-технические школы. 22 сентября 1935 были введены персональные воинские звания (см. Звания воинские), а 7 мая 1940 — генеральские и адмиральские звания. По технической оснащённости Вооруженных Силы за годы довоенных пятилеток (1929—40) поднялись на уровень армий передовых капиталистических государств. В Сухопутных войсках в 1939 по сравнению с 1930 количество артиллерии увеличилось; в 7, в том числе противотанковой и танковой — в 70 раз. Количество танков с 1934 по 1939 выросло в 2,5 раза. Наряду с количественным ростом оружия и боевой техники улучшилось их качество. Заметный шаг был сделан в увеличении скорострельности стрелкового оружия. Возрастала механизация и моторизация всех родов войск. Войска ПВО, инженерные, связи, химической защиты вооружались новыми техническими средствами. На основе успехов самолёто- и моторостроения получили дальнейшее развитие ВВС. В 1939 по сравнению с 1930 общее количество самолётов увеличилось в 6,5 раза. В ВМФ развернулось строительство надводных кораблей различных классов, подводных лодок, торпедных катеров, а также самолётов морской авиации. По сравнению с 1939 объём военной продукции в 1940 возрос более чем на 1/3. Усилиями коллективов конструкторских бюро А. И. Микояна, М. И. Гуревича, А. С. Яковлева, С. А. Лавочкина, С. В. Ильюшина, В. М. Петлякова и др. и работников авиационной промышленности были созданы различные типы самолётов-истребителей: Як-1, МиГ-З, ЛаГГ-З, пикирующий бомбардировщик Пе-2, штурмовик Ил-2. Конструкторские коллективы Ж. Я. Котина, М. И. Кошкина, А. А. Морозова, И. А. Кучеренко поставили на серийное производство лучшие в мире тяжёлые и средние танки КВ-1 и Т-34. Конструкторские бюро В. Г. Грабина, И. И. Иванова, Ф. И. Петрова и др. создали новые оригинальные типы артиллерийских орудий и миномётов, многие из которых поступили на массовое серийное производство. С мая 1940 до начала Великой Отечественной войны 1941—45 орудийный парк возрос более чем в 1,2 раза. Конструкторы Ю. А. Победоносцев, И. И. Гвай, В. А. Артемьев, Ф. И. Пойда и др. создали реактивное оружие для залповой стрельбы по площадям. Большая группа конструкторов и учёных — А. Н. Крылов, П. Н. Папкович, В. Л. Поздюнин, В. И. Костенко, А. Н. Маслов, Б. М. Малинин, В. Ф. Попов и др., разработала несколько новых образцов боевых кораблей, которые были поставлены на серийное производство. Больших успехов достигли в 1940—41 заводы по производству стрелкового оружия, боеприпасов, горюче-смазочных материалов и др.