Нам учить надо было людей. Мы работали всего месяц с лишним. Я считаю, что если бы у меня были там подготовленные в мирное время люди, то довольно много вреда бы нанёс финнам, но был заключён мир. Перед этим 10 марта я получил приказ от командующего вылететь к тов. Батову, шведы там появились, только хотели приступить к работе, но уже был заключён мир.
Должен сказать, что отряду, который был у меня из ленинградских добровольцев-лыжников, очень трудно и тяжело приходилось, тяжелее, чем частям, которые были на фронте, однако, можно с гордостью сказать, что это были замечательные люди нашей Родины. Когда было сказано, что мир заключён, что работу надо приостановить, потому что это может быть истолковано как провокация войны, уверяю, может быть потому, что нужно было отомстить за погибших товарищей, некоторые даже всплакнули. Жалко, говорят, ох, жалко как. У меня лично впечатление такое, что если бы мир не был заключён, дело пошло бы очень хорошо. Я считаю, что необходимо решить вопрос о создании таких специальных частей сейчас в ряде округов, чтобы их начать готовить. В руках начальников штабов армий или командований армий эти части принесут пользу, выполняя помимо специальной работы также задачи более дальней разведки, чем ведут войска. Я думаю, что этот вопрос надо решить».
К сожалению, к рекомендациям полковника Мамсурова и других опытных военачальников руководство прислушивался далеко не всегда. Результатом стали поражения в первые месяцы Великой Отечественной войны.
В аттестации от 15 июля 1940-го о Мамсурове сказано: «Крепкий и храбрый большевик-разведчик… Самокритичен и в то же время волевой и требовательный командир… Разведывательную работу любит и отдает ей все силы и способности».
В августе 1940 года Специальный отдел «А» преобразован в 5-й отдел, начальником оставлен Мамсуров. Вскоре он продолжил свое военное образование на Курсах усовершенствования высшего начсостава при Военной академии им. М. В. Фрунзе, которые закончил за месяц до войны.
А 14 июня 1941-го последовало новое назначение — начальником Разведотдела Закавказского военного округа, но нападение Германии на Советский Союз изменило планы начальства, Мамсурова оставили в центральном аппарате. Правда, не надолго.
24 июня 1941 года полковник Мамсуров откомандирован в распоряжение маршала К. Е. Ворошилова для выполнения особо важных поручений на Западном фронте. Речь шла о восстановлении связи с отступающими войсками, приведении их в порядок, организации оборонительных работ. В июле Хаджи-Умар Джиорович руководил на Западном и Северо-Западном фронтах подготовкой и переброской в тыл противника людей, которые должны были стать организаторами партизанских и диверсионных отрядов, налаживал разведку на Северо-Западном и Ленинградском фронтах.
После прорыва немцев в августе в районе Чудова Мамсурова назначили командиром 311-й стрелковой дивизии. 24 августа в бою под Чудовом он был ранен в обе ноги и руки. После лечения в ленинградском госпитале в октябре — декабре он начальник разведотдела Московского фронта, который просуществовал менее месяца, а затем командует Особой оперативной группой Разведупра Генштаба Красной Армии.
Мамсуров просится на фронт, и в январе 1942 года его назначают командиром 114-й кавалерийской дивизии, а в мае — заместителем командира 7-го кавалерийского корпуса на Брянском фронте.
В августе 1942 — январе 1943 года полковник Мамсуров продолжает начатое в первый период войны дело организации партизанского движения и подготовки для него кадров. Для руководства партизанской борьбой на Северном Кавказе и в Крыму, постановлением Государственного Комитета Обороны от 3 августа 1942 года, при Военном Совете Северо-Кавказского фронта создается Южный штаб партизанского движения. Начальником его ГКО назначает Хаджи-Умара Джиоровича. В состав штаба вошли секретарь Краснодарского крайкома партии П. И. Селезнёв и секретарь Крымского обкома партии В. С. Булатов. При штабе создается партизанская школа, в которой готовили кадры с учетом опыта гражданской войны в Испании, к преподавательской работе привлечены и испанские боевики.
После трех месяцев работы в ЮШПД Мамсуров отозван в Москву на должность помощника начальника Центрального штаба партизанского движения и начальника разведки штаба. «Бог диверсий» Илья Старинов, воевавший вместе с Хаджи-Умаром в Испании и встретившийся с ним в этом штабе писал: «На Мамсурове лежала огромная ответственность за правильность сведений о противнике, исходящих от ЦШПД. Сведения от партизан — пусть отрывочные и нерегулярные — поступали, но любые разведывательные сведения требуют перепроверки и подтверждений, причем своевременных. Получить же проверенные, подтержденные данные при тогдашнем состоянии связи было крайне трудно» (Старинов И. Записки диверсанта. М., 1997. С.322.).
Недолго прослужил Мамсуров и в ГРУ, где находился на посту заместителя начальника 2 управления, уже в марте 1943-го он снова по личной просьбе отправлен на фронт и назначен на Юго-Западный фронт, командиром 2-й гвардейской Крымской кавалерийской дивизии, которой командовал до августа 1946-го.
В начале октября 1943 года в составе 1-го Украинского фронта Мамсуров со своей дивизией форсировал Днепр севернее Киева. Прорвав оборону немцев, дивизия захватила и расширила плацдарм для войск 60-й армии, затем, в составе 1-го конно-гвардейского
корпуса участвовала в боях за освобождение Киева. Прорвав оборону гитлеровцев, севернее Киева на реке Ирпень, и перерезав шоссе, дивизия Мамсурова отрезала немецкой группировке пути отхода из города. Продолжая стремительное наступление, в ходе которого она успешно уничтожала подходившие резервы противника, 11 ноября 1943 года заняла город Коростышев, а 12 ноября — Житомир.
В течение шести дней 2-я гвардейская Крымская кавдивизия, которая, несмотря на свое название, была вооружёна танками и артиллерией, удерживала Житомир, уничтожив при этом более 150 танков и свыше 3 тысяч гитлеровских солдат и офицеров. Все же город пришлось оставить, но свою роль эта шестидневная оборона сыграла: измотанный враг уже не сумел прорвать оборону Красной Армии под Киевом. А за это время, получив пополнение, войска 1-го Украинского фронта перешли в наступление и вернули захваченную немцами территорию, сорвав наступление гитлеровцев в Фастовско-Киевском направлении. За отличное руководство боевыми действиями дивизии Хаджи-Умар Мамсуров был награждён орденом Суворова 2-й степени и произведён в октябре 1943-го в генерал-майоры.
В конце января 1944 года в наступлении на Ковель дивизия Мамсурова с боем форсировала реку Стырь, однако получила новую задачу и повернула на юг. Прорвав фронт немцев, дивизия соединилась с партизанскими отрядами Украины и оказалась в глубоком немецком тылу. Там кавалеристы прошли рейдом по занятым врагом населённым пунктам, уничтожая его слабые гарнизоны.
Разгромив 19-ю пехотную венгерскую дивизию и 143-ю пехотную немецкую дивизию, 1 февраля 1944 года кавалеристы Мамсурова заняли город Луцк. Подойдя к городу Дубно, они изрядно потрепали группировки немцев, отходившие на Ровно. 15 марта дивизия прорвала оборону противника на реке Иква и, ударив в тыл Дубненской группировки врага, обеспечила успешное наступление наших войск с фронта. 19 марта генерал-майор Мамсуров был ранен в лицо, но остался в строю.
В Львовско-Сандомирской операции 1-го Украинского фронта его дивизия выполняла отдельную задачу — не допустить отхода Бродской группировки немцев на запад через реку Западный Буг. 2-я гвардейская кавдивизия овладела городом Каменка-Струмилово и вынудила немцев принять бой в невыгодных для них условиях. Несмотря на большую ширину фронта — 70 км , кавалеристы не пропустили ни одного отступающего. В результате этой операции на поле боя осталось более 8 тысяч трупов вражеских солдат и офицеров, в том числе 2 генерала. Кавалеристы также захватили более 2 тысяч пленных, 35 танков, свыше 500 орудий и миномётов, 3 тысячи автоматов и 6 тысяч лошадей, что было для кавдивизии далеко не лишним. Дивизия в результате боя потеряла около 1200 человек.