Коминтерн, несмотря на свои неудачи в Европе в начале 20-х годов и провал в Китае, вовсе не был обескуражен и продолжал идти по выбранному пути. Все коммунистические партии, в том числе и легально существовавшие в демократических республиках, сохранили в своих недрах тайный военный аппарат, который при случае мог заявить о себе публично. Модель была задана КПГ, которая под пристальным контролем советских военных руководителей создала в Германии весьма значительный аппарат такого рода. Ему была поручена ликвидация вражеских деятелей, особенно крайних правых и полицейских осведомителей, проникших в партию, а также создание военизированных групп (например, знаменитый «Рот-Фронт», насчитывавший тысячи членов). Верно и то, что в Веймарской республике политическое насилие стало в конце 20-х годов повсеместным явлением. Коммунисты боролись не только с крайними правыми и зарождавшимся нацизмом, они, не колеблясь, нападали и на митинги социал-демократов, которых называли «социал-предателями» и «социал-фашистами», и на полицию республики, которую считали реакционной, даже фашистской. Дальнейший ход истории, начиная с 1933 года, показал, что такое настоящий фашизм (в данном случае национал-социализм); благоразумнее было бы вступить в союз с социал-демократами и защищать «буржуазную» демократию, но такую демократию коммунисты отвергали в корне.
Во Франции, где политический климат был спокойнее, Французская коммунистическая партия (ФКП) тоже создавала свои вооруженные группы. Их организовывал Альбер Трен, один из секретарей партии, — звание капитана, полученное им во время войны, делало его относительно компетентным в этой области. Дебют этих групп состоялся 11 января 1924 года во время коммунистического митинга. Трен, против которого выступила группа анархистов, призвал на помощь службу охраны порядка. Десяток человек, вооруженных револьверами, поднялись на трибуну и стали стрелять в недовольных в упор, при этом два человека были убиты и многие ранены. Никого из убийц не преследовали. Аналогичная схватка произошла спустя год с небольшим. В четверг 23 апреля 1925 года, за несколько недель до муниципальных выборов, служба охраны порядка ФКП столкнулась на улице Дамремон с группой выходивших с предвыборного собрания членов организации крайне правых «Патриотическая молодежь» La jeunesse patriotique, или сокращенно JP). Некоторые члены службы охраны ФКП были вооружены и, не колеблясь, воспользовались своими револьверами. Три члена JP были убиты, один из раненых умер спустя два дня. Жан Тетенже, глава JP, был задержан, а у коммунистических активистов полиция провела серии обысков.
Несмотря на трудности, ФКП продолжала эту линию. В 1926 году партийное руководство поручило Жаку Дюкло, одному из своих только что выбранных депутатов, пользовавшемуся парламентской неприкосновенностью, организовать антифашистские группы сопротивления, формируя их из бывших участников войны 1914–1918 годов, и антифашистскую «Молодую гвардию», набранную из коммунистической молодежи. Эти военизированные группы, созданные по модели немецкого «Рот-Фронта» и носившие сходную униформу, промаршировали по улицам Парижа 11 ноября 1926 года. Дюкло параллельно занимался антимилитаристской пропагандой и издавал журнал «Le Combattant rouge» («Красный боец»), в котором публиковались статьи с описанием и анализом уличных боев и т. п., т. е. фактически преподавалось искусство вести гражданскую войну.
В начале 1934 года во Франции была переиздана книга Вооруженное восстание, впервые опубликованная в 1931 году советскими руководителями, скрывшими свои имена под псевдонимом Нейберг, и представлявшая собой исследование опыта различных восстаний начиная с 1920 года. Лишь с момента поворота к политике Народного фронта летом-осенью 1934 года установка на восстания была отодвинута на второй план, что, однако, никак не означало какого-либо преуменьшения той фактически главной роли, которую играло насилие в коммунистической практике. Все способы оправдания насилия и проявлений классовой ненависти, все теоретические обоснования гражданской войны и террора вновь нашли свое применение в 1936 году в Испании, куда Коминтерн послал множество своих руководящих работников.
Вся работа по отбору, формированию и подготовке руководителей для будущего вооруженного восстания всегда проходила в тесном контакте с советскими секретными службами, точнее, с одной из них — Главным разведывательным управлением (ГРУ). Основанное под эгидой Троцкого как 4-й отдел Красной Армии, ГРУ никогда до конца не прекращало свою «воспитательную» работу с зарубежными коммунистами, даже если обстоятельства вынуждали сильно сократить ее масштаб. Даже в начале 70-х годов некоторые молодые руководящие работники Французской коммунистической партии еще тренировались в СССР в стрельбе, сборке и разборке обычного оружия, кустарном производстве оружия, передаче информации по радиосвязи, технике саботажа. Обучение проходило при спецназе — специальных советских войсках, предоставленных в распоряжение секретных служб. ГРУ также располагало военными специалистами, которых, в случае необходимости, оно всегда могло предоставить в распоряжение братских партий. Например, Манфред Штерн, австриец, который был временно командирован в аппарат КПГ во время гамбургского восстания 1923 года, работал затем в Китае, Маньчжурии и стал наконец «генералом Клебером» интернациональных бригад в Испании.
Эти тайные военные организации коммунистов нередко формировались практически из бандитов, и некоторые группы превращались иногда в настоящие банды. Один из самых ярких примеров — Красная гвардия, или Красные эскадроны, Китайской коммунистической партии во второй половине 20-х годов. Красные эскадроны начали орудовать в Шанхае, считавшемся тогда фактическим центром деятельности партии, их возглавлял бывший гангстер Гу Шунцзян, состоявший до этого в тайной организации «Зеленая повязка» — одной из двух самых могущественных шанхайских мафий. Фанатичные бойцы Красных эскадронов боролись против националистов, в основном против «Синих рубашек» — организации, созданной по фашистской модели. Бои велись весьма сомнительными способами: террором отвечали на террор, засадой — на засаду, убийством — на убийство. Все это происходило при особенно активной поддержке консульства СССР в Шанхае, которое располагало как специалистами по военным вопросам (например, Горбатюк), так и реальными исполнителями грязных дел.
В 1928 году люди Гу Шунцзяна уничтожили семейную пару — коммунистов, работавших на полицию: во время сна супруги были изрешечены пулями. Чтобы заглушить шум от выстрелов, сообщники запустили на улице фейерверк. Вскоре подобные радикальные методы стали использоваться внутри самой партии для усмирения оппозиционеров. Иногда достаточно было простого доноса. Хэ Мынцянь примерно с двадцатью товарищами из «рабочей фракции», возмущенные тем, что ими пытались манипулировать делегат Коминтерна Павел Миф и руководители, подчинявшиеся Москве, собрались 17 января 1931 года в «Восточном отеле» в Шанхае. Не успели они начать дискуссию, как в зал ворвались с оружием в руках полицейские и агенты Дзяоча тончжи, Центрального бюро расследований Гоминьдана, и арестовали их. Националисты были якобы «анонимно» проинформированы о собрании.
После выхода из партии Гу Шунцзяна в апреле 1931 года, его возвращения в лоно «Зеленой повязки» и подчинения Гоминьдану, специальный комитет из пяти коммунистических руководителей продолжил его дело в Шанхае. Он состоял из Кан Шэна, Гуан Хоаня, Пан Ханьяня, Чен Юна и Же Цзинши. В 1934 году, когда городской аппарат КПК рухнул окончательно, два последних руководителя коммунистических вооруженных групп в городе, Динь Мокунь и Ли Шицзун, попали в руки Гоминьдана. Они тоже «подчинились», затем перешли на службу к японцам. Судьба их оказалась трагичной: первого как изменника расстреляли националисты в 1947 году, второго отравил японский офицер, под началом которого он работал. Что касается Кан Шэна, то он стал в 1949 году (и оставался до своей смерти в 1975 году) главой тайной маоистской полиции и был, таким образом, одним из главных палачей китайского народа при коммунистической власти.