Мировоззренческая основа деятельности Смысловского в 1941-45 годах представлена им самим в мемуарах, написанных после войны. Как и большинство белоэмигрантов, Смысловский полагал, что русский народ не сможет свергнуть большевизм без помощи извне. Вместе с тем, Смысловский был одним из немногих представителей русской военной эмиграции, которые рассматривали германское вторжение на российскую территорию в контексте внешнеполитической доктрины Гитлера. Смысловский не строил иллюзий относительно «освободительной миссии» Третьего Рейха. Но колонизаторские планы нацистского вождя он считал несостоятельными. Смысловский исходил из убеждения, что «биологическая сила русского народа, по сравнению с той же силой германского народа, настолько велика, что нам, русским, не приходится опасаться, что немцы нас проглотят и переварят» {{ Цит. по: Дробязко С.И. Эпопея генерала Смысловского. – С. 119.}} .

Не воспринимая нацизм как угрозу для биологического существования русского народа, он рассматривал германское вторжение только как возможность свергнуть большевистский режим. Поэтому, Смысловский принял безоговорочное участие в войне на стороне германской армии.

Руководитель Объединения Русских Воинских Союзов генерал-майор А. А. фон Лампе поручил Смысловскому ведения переговоров с немцами о привлечении белоэмигрантов к участию в войне против СССР, после того, как его собственные действия в этом направлении не увенчались успехом. Смысловский добился разрешения Генштаба Сухопутных сил Вермахта создать один русский учебный разведывательный батальон при штабе Группы Армий «Север». Батальон был сформирован из русских эмигрантов в июле 1941 года. В последствии он пополнялся солдатами и офицерами Красной Армии из числа военнопленных и перебежчиков. Батальон не был обыкновенной строевой частью, а представлял собой школу для подготовки разведчиков и диверсантов. Смысловский, носивший звание капитана, командовал батальоном под псевдонимом «фон Регенау». До конца 1941 года немцы сформировали 12 подобных батальонов на разных участках Восточного фронта. «Северную группу» батальонов инспектировал Смысловский. Лучшие кадры «Северной группы» составили 1001-й гренадерский разведывательный полк. Эти структуры находились в подчинении штаба Абвера «Валли», осуществлявшего общее руководство разведывательной и контрразведывательной работой против СССР. Ему же подчинялись все фронтовые структуры Абвера, в том числе полк специального назначения «Бранденбург-800», в рядах которого также служило немало русских эмигрантов {{ Там же. – С. 120.}} .

В марте 1942 года Смысловский возглавил Зондерштаб «Р» («Россия»), сформированный при штабе «Валли». К этому времени Смысловский был произведен в майоры. В 1943 году ему было присвоено звание подполковника, а заем – полковника. Зондерштаб «Р» располагался в Варшаве под вывеской «Восточной строительной фирмы Гильген». Главные резидентуры находились в Пскове, Минске, Киеве и Симферополе. В задачу Зондерштаба входила борьба с партизанским движением, советскими разведчками-парашютистами, разведывательная работа в тылу Красной Армии. Число сотрудников Зондерштаба превышало тысячу человек, ему была подчинена Особая дивизия «Р» в составе 12 школ-батальонов, общей численностью 10 тысяч человек {{ Там же. – С. 121.}} .

Формирования Смысловского не имели установленной формы одежды. Офицеры носили униформу Вермахта с немецкими погонами, петлицами, кокардами и орлами на мундире и фуражке. Рядовой состав – как немецкую, так и советскую форму с немецкими знаками отличия или без них. На рукаве носился шеврон в виде бело-сине-красного щитка. Один из вариантов шеврона предполагал наличие слова «Russland» на верхнем белом поле {{ Дробязко С.И. Вторая мировая война 1939-1945. Русская Освободительная Армия. – М.: АСТ, 1999. – С. 20-21. }} .

Зондерштабом было установлено, что в тылу Красной Армии существуют антисоветские партизанские отряды. К ним были направлены подготовленные специалисты, способные занять командные должности, а также инструкторы и офицеры связи. В орбиту Зондерштаба попало около 20 тысяч антисоветских партизан {{ Там же. – С. 122.}} .

Развитие подчиненных Смысловскому формирований и повышение его личного статуса были связаны не только с его профессиональными качествами. Он постоянно подчеркивал безусловную приоритетность военно-политических задач, решаемых Германией на Востоке по отношению к проблемам создания новой российской государственности. Кроме того, Смысловский не стремился к созданию самостоятельных русских военных формирований, которые действовали бы автономно от германского командования.

Преданность германскому военному руководству сочеталась у Смысловского с политическим прагматизмом. Уже в 1942 году он начинает устанавливать связь с НТС в лице Вюрглера, имевшего швейцарское гражданство. Вюрглер еще на первом этапе войны наладил контакты со спецслужбами демократических стран. В 1943 году, после разгрома немцев под Сталинградом, Смысловский выяснял, может ли Швейцария стать политическим убежищем для, него и подчиненных ему людей, но получил отрицательный ответ.

НТС, в свою очередь, стремился использовать возможности Смысловского для того, чтобы направлять солидаристов на оккупированные территории СССР. Вюрглер возглавил отдел пропаганды Зондерштаба «Р». Смысловский не разделял стратегических планов НТС по созданию «третьей силы», которая, согласно замыслу солидаристов, должна была противостоять не только большевикам, но и немцам. Это привело к конфликту между Смысловским и НТС, в результате чего, Вюрглер был отстранен от занимаемой должности.

Тем не менее, Смысловский достаточно скомпрометировал себя перед немцами. 1 декабря 1943 года он был арестован, а Зондерштаб распущен. 23 декабря на улице в Варшаве выстрелом в затылок был убит Вюрглер.

Следствие по делу Смысловского шло 6 месяцев, но в конечном итоге полковник был реабилитирован и даже награжден орденом Германского Орла. Ему было предложено возобновить прерванную работу. Смысловский выдвинул несколько встречных условий, связанных с расширением своих полномочий и увеличением численности вверяемых ему формирований. Кроме того, Смысловский хотел получить гарантии, что его структуры будут задействованы только на Восточном фронте, то есть не будут использоваться против армий западных стран {{ Там же. – С. 124.}} . Германское командование объявило, что принимает требования Смысловского, для него был сформирован Штаб особого назначения при Генштабе Сухопутных Сил. В июне 1944 года под началом Смысловского началось формирование 1-й Русской национальной дивизии, которая будет выступать под бело-сине-красным знаменем.

Инициаторами еще одной попытки возобновить гражданскую войну на территории СССР, были эмигранты: Сергей Никитич Иванов и Константин Григорьевич Кромиади, в прошлом – полковник Русской Императорской Армии {{ Захаров В, Колунтаев С. «Русская Национальная Народная армия» в действии: надежды и разочарования / Русская эмиграция в антисоветском, антисталинском движении (1930-е — 1945 гг.) // Материалы по истории Русского Освободительного Движения… Вып. 2. — С. 62-78; Кромиади К. Русская Народная Национальная Армия // Новый журнал. — 1975. — № 119, — С. 130-147; № 120, — С. 195 — 212.}} . Они планировали создать из советских военнопленных воинскую структуру в качестве основы будущей «русской национальной армии». В марте 1942 года командующий Группой Армий «Центр» фельдмаршал фон Клюге дал разрешение на формирование русской воинской части в Осинторфе. Это название обозначало район торфяных разработок в Осиновке (Белоруссия). Иванов и Кромиади сформулировали семь принципов, которые должны были лечь в основу мероприятия:

«1) Формируемые части должны быть предусмотрены, как русская национальная формация с задачей антикоммунистической борьбы и с соблюдением вытекающих из этой задачи требований;

2) Как солдатский, так и офицерский состав набран будет из русских;

3) Занятия в частях и внутренние распорядки будут производиться по русскому образцу и на русском языке;