Чтобы подвести массы к восстанию и сделать его всенародным, партия развернула широкую идеологическую и организационную работу. В ряде городов, а также в сельской местности состоялись собрания трудящихся, на которых революционные рабочие выступали с призывом к свержению буржуазного правительства и к созданию правительства трудового народа.

К подготовке трудящихся к восстанию призывала нелегальная и легальная печать партии. Делалось это весьма осторожно. Так, газета единого фронта «Мейе лехт» («Наша газета») сообщала в номере от 19 июля 1924 года, что в редакцию поступил «Коммунист» № 3, посвященный в основном подготовке и организации революции. Тем самым внимание трудящихся привлекалось к опубликованным в нелегальном органе материалам – прежде всего упомянутому выше воззванию, а также статье Яна Анвельта «Будьте готовы!».

10 октября 1924 года политзаключенные таллинских тюрем выпустили воззвание «К трудящимся, солдатам и матросам о вооруженном восстании», в котором говорилось: «Настало время разогнать правительство, обрекшее вас на погибель! Настало время создать свое правительство – правительство рабочих и крестьян, которое может быть поставлено у власти лишь силой оружия… Товарищи, возьмемся за оружие!.. Да здравствует вооруженное выступление».

Одновременно с агитационной работой ЦК КПЭ с весны 1924 года приступил к организационной и военно-технической подготовке выступления. Она проводилась в условиях строжайшей конспирации. Все распоряжения относительно восстания фиксировались только в шифрованном виде, на планах и картах не разрешалось делать никаких пометок.

Прежде всего началось формирование вооруженных боевых групп. Первоначально они создавались в виде троек. Каждый член тройки знал только своего старшего, который был непосредственно связан с подпольной организацией. Кроме членов партии и комсомольцев, в тройки вступило много беспартийных рабочих. Боевые группы создавались не только в Таллине, но и в Нарве, Пярну, Тарту, Вильянде, Раквере, Выру, Валге, Кохиле, Кунде и в других местах. Тройки организовывались и в некоторых воинских частях. Одновременно с формированием боевых групп для них добывалось оружие и прочее снаряжение.

Число троек быстро росло. Осенью они постепенно слились в группы, состоявшие из десятка бойцов. За несколько недель до восстания ЦК КПЭ свел созданные в Таллине боевые группы в роты и батальоны, в батальон входило сто пятьдесят – двести человек. В ноябре в боевых отрядах насчитывалось около тысячи человек, из них в Таллине – четыреста. Эти силы должны были тотчас же после начала восстания пополниться за счет освобожденных политзаключенных, революционных рабочих и солдат.

Созданием подпольных вооруженных сил рабочего класса энергично занимались Иоханнес Юрна, Вальтер Клейн, Георг Креукс, Рудольф Пяльсон, Карл Римм, Николай Риухкранд, Арнольд Соммерлинг, Карл Тракман, Харальд Туммельтау и другие партийцы. В Тарту подготовкой к вооруженному выступлению руководили Ханс Хейдеман и Виллем Троммель, но они были арестованы еще до восстания. Общее руководство подготовкой восстания было возложено на Яна Анвельта, человека, имевшего богатый военный опыт.

При разработке плана вооруженного восстания чрезвычайно важен был реальный учет сил противника. Партия считала наиболее опасными для восставших объединенные военно-учебные заведения и унтер-офицерское училище в Тоньди, кавалерийский эскадрон и резерв конной полиции. Эти наиболее надежные воинские подразделения противника следовало разгромить в самом начале восстания. Одновременно нужно было захватить объекты, важные в военном отношении. Вооруженное восстание должно было начаться прежде всего в Таллине. ЦК придерживался мнения, что победоносное восстание в Таллине сразу же воодушевит на захват власти трудящихся в других центрах, где для этого созданы боевые отряды.

Чтобы хоть на время помешать маневрированию вражеских сил и, в частности, переброске базировавшегося в Тапа дивизиона бронепоездов, предусматривалось взорвать два железнодорожных моста на участках Таллин – Тапа и Тапа – Тарту. В случае успеха восстания предполагалось немедленно развернуть наступательные действия, во-первых, по направлению к Тапа и Нарве и, во-вторых, по направлению к Тарту и Вильянди, используя для этого находившиеся в Таллине транспортные средства. Революционное правительство, которое было бы создано в ходе восстания, должно было провозгласить диктатуру пролетариата, восстановить Советскую власть и объявить себя ее органом. Овладеть всей Эстонией планировалось не позднее следующего дня, а создать революционное правительство – сразу после овладения Таллином.

При Политбюро ЦК РКП(б) была создана Эстонская комиссия для оказания помощи КПЭ. В Советском Союзе проживали несколько тысяч коммунистов-эстонцев, из которых многие вынуждены были покинуть свою родину из-за участия в революционном движении. По некоторым подсчетам, шесть тысяч семьсот эстонских коммунистов и комсомольцев были готовы в любой момент добровольно вернуться в Эстонию с тем, чтобы принять участие в борьбе за власть трудящихся. КПЭ расценивала эту силу как ближайший резерв, который в ответ на призыв революционного правительства сразу же придет на помощь. Парторганизации Латвии и Финляндии также подготовили сотни добровольцев для отправки в Эстонию.

29 ноября 1924 года на улице Кадака в доме № 9 состоялось объединенное заседание ЦК КПЭ и комсомола Эстонии, на которое были вызваны также командиры батальонов и руководители основных боевых групп. В заседании приняли участие Ян Анвельт, Иоханнес Юрна, Вальтер Клейн, П. Лээвальд, А. Лиллакас, Г. Креукс, В. Пуусь, Р. Пяльсон, А. Соммерлинг, К. Римм, Э. Тейтер и другие. На нем был создан Военно-революционный комитет в составе девяти человек во главе с Вальтером Клейном и утвержден план восстания. Выступить решено было в ночь на понедельник на 1 декабря 1924 года. Оживленное движение на улицах в воскресенье вечером должно было помочь членам боевых групп незаметно пробраться на место сбора.

Для боевых отрядов удалось найти конспиративные квартиры вблизи от намеченных к захвату объектов, среди которых одним из самых важных было военное училище. Примерно в полукилометре от него на конспиративной квартире с наступлением темноты 30 ноября 1924 года собралось около полусотни человек во главе с Яном Анвельтом, который, однако, назначив А. Ломбака комендантом дома, вскоре ушел.

И в других местах сбора были назначены коменданты с задачей следить за тем, чтобы никто из боевиков не покинул место сбора до начала всеобщего выступления. Тем самым, если какому-нибудь провокатору и удалось бы пробраться в боевой отряд, он был лишен возможности предупредить власти о начале выступления. Командиры (десятники) отрядов еще накануне оповестили членов своих отрядов о необходимости вечером 30 ноября непременно быть дома. Группами по два-три человека они привели в этот вечер людей в условленное место, откуда связные проводили их уже на конспиративные квартиры. С последней парой прибывал десятник. Затем доставлялись оружие и боеприпасы.

Восстание в Эстонии началось в пять часов пятнадцать минут утра 1 декабря 1924 года. Выступило около трехсот бойцов боевых дружин.

Ян Анвельт вместе с председателем ВРК Вальтером Клейном направились в главный штаб боевых отрядов, находившийся близ Балтийского вокзала на улице Теллискиви. Начальником штаба был советский военный разведчик Карл Римм. Вместе с ним в ноябре 1924 года в Эстонию нелегально прибыли Харальд Туммельтау, Ян Жигур и другие работники советской военной разведки, в основном эстонцы и латыши, а также группа эстонцев, служивших в период Гражданской войны в рядах Красной Армии и ставших гражданами СССР.

В соответствии с планом боевая группа, возглавляемая Иоханнесом Мяндом, взорвала железнодорожный мост возле Вазула, а боевая группа во главе с Вольдемаром Раэксоном – железнодорожный мост у Мустйыэ. Это помешало отправке бронепоезда из Тапа и кавалерийского полка из Тарту в Таллин на подавление восстания.