Местом постоянной дислокации был избран поселок Осинторф, располагавшийся в 6 км от ст. Осиновка на железной дороге Орша—Смоленск в Белоруссии. В распоряжение «Граукопфа» был предоставлен заброшенный поселок торфоразработчиков, до войны рассчитанный на 10 тыс. рабочих.

Первая партия военнопленных из 20 человек послужила основанием для дальнейшего развертывания части.

Прием людей из лагерей шел на основе их добровольного желания. Агитаторы из РННА разъезжали по лагерям и выступали перед военнопленными, объясняя им задачи формирования. После записи шел отбор пригодных, который в основном сводился к беседе и последующему отсеву негодных кандидатур — ими считались летчики и танкисты. Этому способствовало предубеждение эмигрантов, убежденных в том, что эти рода войск РККА комплектуются исключительно надежными комсомольцами и коммунистами.

Начальник штаба РННА полковник Кромиади объезжал концлагеря, отбирая людей. Картина всюду была устрашающая — по немецким данным за зиму 1941–1942 г. в лагерях умерло 80–90 % военнопленных! В связи с таким положением в добровольцах недостатка не было. Некоторые авторы сообщают, что РННА была укомплектована в основном бывшими советскими военнослужащими из состава 33-й армии, 4-го Воздушно-десантного и 1-го Гвардейского кавалерийского корпусов.

К осени 1942 г. РННА была укомплектована бывшими советскими командными кадрами и, при надобности, на ее базе можно было бы развернуть целую дивизию. Батальоны стояли в Осинторфе в поселках Москва, Урал, Киев, Березино, Шклов, подчинявшихся коменданту штаба К. Г. Кромиади. При этом была предусмотрена возможность развертывания каждого батальона до полка. Гордостью части был свой госпиталь под руководством военврача Виноградова.

К августу 1942 г. РННА насчитывала 1500 человек. На вооружении у личного состава были винтовки Мосина и СВТ, 180 ручных и 45 станковых пулеметов, 24 миномета, батарея 76-миллиметровых орудий (8 шт.), 45-миллиметровых орудия (8 шт.) и 2 бронемашины (БА-10 и БА-20). Существовало свое авиационное звено, но без самолетов.

В середине мая 1942 г. Иванов и Сахаров предложили пост командира бывшему командующему 19-й армией генерал-лейтенанту М. Ф. Лукину. Генерал отказался от сотрудничества так же, как впоследствии он откажется от более лестных предложений со стороны командования РОА.

По сведениям Б. Николаевского, внутренняя политика в РННА сводилась к национально-народолюбческой пропаганде и антибольшевизму. В отряде не только думали, но и говорили, что после свержения большевиков следующими будут немцы. Все это не могло оставаться незамеченным немецкими и советскими спецслужбами.

С первых же дней существования РННА стала объектом пристального внимания советских партизан. В первый период контакты заканчивались обоюдной агитацией и изъятием у осинторфовцев таких ценных в партизанском быте вещей, как оружие, табак или сапоги. Летом 1942 г. РННА четыре раза выделяла свои подразделения для борьбы с партизанами. Такие «походы» крайне отрицательно влияли на личный состав, что в конечном итоге сыграло свою негативную роль.

Участие РННА в действиях против советских войск подтверждается крайне разноречивыми сведениями. В своих воспоминаниях об осинторфской эпопее К. Г. Кромиади рассказывает о боевой операции отряда РННА из 300 человек против окруженного под Ельней 1-го Гвардейского Кавалерийского корпуса П. А. Белова в мае 1942 г. Автор сообщает, что при контактах бойцов РННА и конников происходили братания, перешел на сторону части разведотдел корпуса во главе с Героем Советского Союза старшим лейтенантом Князевым. После перехода Князев был назначен начальником разведки РННА, но через три месяца ушел к партизанам. По другой информации разведотдел возглавлял совершенно другой человек, а Князев был командиром кавалерийского полка одной из дивизий корпуса и в плену никогда не был.

Противоположная информация приводится в воспоминаниях руководителей партизанских отрядов, сформированных НКВД. Так, в книге «Ненависть, спрессованная в тол» авторы пишут: «В мае 1942 г. в отряд лейтенанта Ф. Ф. Озмителя от разведчиц-подпольщиц Г. Меерович и О. Рыловой поступило сообщение о том, что через ст. Красное в сторону Смоленска прошло два эшелона с офицерами и солдатами, одетыми в красноармейскую форму. Сообщение было передано в Центр, а оттуда — в штаб Западного фронта. Как выяснилось, под видом «окруженцев» действовали изменники Родины. Команда в 315 человек получила задание: пробраться в Дорогобужские леса и проникнуть в 1-й Гвардейский конный корпус генерала П. А. Белова, взять его в плен, а бойцов склонить к переходу на сторону немцев. Команда была разгромлена по пути десантниками-парашютистами 4-го воздушно-десантного корпуса генерала Казанкина в Вяземских лесах Смоленской области недалеко от ст. Угра и Вертерхово ж/д линии Вязьма-Брянск—Занозная».

Так была раскрыта тайна особого формирования «Зондервербанд «Граукопф»» («Седая Голова»). Оно находилось, как было установлено, в поселках Осинторфа (Витебская обл.). Здесь готовили шпионов, террористов, диверсантов, лжепартизан и лжеподпольщиков. Не удался и захват самого Белова — ему удалось с малым числом конников прорвать кольцо и соединиться с основными частями РККА.

В мае 1942 г. С. Н. Иванов заболел тифом и был отправлен на лечение в Берлин. Постепенно все эмигранты были удалены из руководства РННА.

Обстановка на фронтах, усиление советской агитации и немецкая политика по отношению к местному населению породили сомнения в умах многих бойцов и офицеров РННА. Начались переходы на сторону партизан.

24 февраля 1942 г. ушел к партизанам в отряд Шмуглевского 31 боец. Осенью 1942 г. ушли к партизанам бойцы под командованием Я. Г. Лебедя. В партизанскую бригаду Заслонова перешло 117 человек.

Во второй половине июля 1942 г. рота «Граукопфа» была размещена в деревнях Новая Земля и Риги вблизи автодороги Москва—Минск. Партизанская разведка подкинула записку с предложением о встрече командиру роты, однако тот не пошел на контакт, переправив партизанское послание начальству. Вскоре роту заменили на другое подразделение. Повторилась история с запиской, однако командир роты сам написал ответное послание «Нашим лесным братьям!», в котором призвал прекратить военные действия и перейти на сторону «народников».

18 августа 1942 г. в деревню Марково, где располагалась передовая группа НКВД БССР, прибыли парламентеры из РННА (3-я рота 1-го батальона гарнизона «Москва») для согласования перехода своего подразделения во главе с бывшим старшим лейтенантом РККА И. П. Максютиным к партизанам. 11 августа добровольцы (80 человек) на подводах, с 25 пулеметами и 3 минометами, боеприпасами, радиостанцией с немецким кодом, продовольствием вышли из Новой Земли якобы для операции против партизан и к вечеру прибыли в деревню Марково. Партизаны были извещены прибывшими о предстоящей антипартизанской акции 286-й охранной дивизии и РННА в районе Витебск—Орша—Красное—Рудня—Витебск, а также о работе СД по переброске в советский тыл десантных групп. Всех перебежчиков развели по разным партизанским отрядам. Старший лейтенант Максютин в последующем принимал активное участие в партизанском движении и погиб в бою 28 декабря 1943 г.

С 1 сентября 1942 г. командование РННА принял бывший командир 41-й стрелковой дивизии РККА полковник В. И. Боярский, начальником организационно-пропагандистского отдела был назначен бывший бригадный комиссар РККА Г. Н. Жиленков (он сразу же не сошелся характером с К. Г. Кромиади, по мнению последнего, Жиленков — «комедиант»). После смены руководства РННА Кромиади также покинул часть, издав прощальный приказ по части.

При новых командирах численность соединения выросла до 8 тыс. человек. Некоторые батальоны были сведены в полки, и РННА была расширена до бригады. Обзавелись собственной газетой-многотиражкой «Родина» и библиотекой. К концу 1942 г. батальоны, составлявшие армию, получили нумерацию с 633-го по 637-й.

По сведениям того же Б. Николаевского, в РННА побывал инспектор от СС фон Зиверт, который не только провел смотр, но и подробно беседовал с солдатами и офицерами. Зиверту понравилась «военная» часть формирования, однако национальная русская атмосфера была, по его мнению, недопустимой.