В начале 90-х годов XX века в республиках Северного Кавказа лавинообразным стал процесс роста псевдорелигиозного экстремизма и сепаратизма. Проявление постперестроечного всплеска национализма, а также демографические проблемы русского населения, с одной стороны, и демографический «взрыв» у народов Северного Кавказа, с другой стороны, спровоцировали серьезные изменения в этнической карте региона, и особенно в местах традиционного проживания терских казаков. Повсеместным явлением, особенно в Чечне и Ингушетии, стало тотальное изгнание, а нередко и физическое уничтожение русского населения этих республик.

На фоне происходящих на Северном Кавказе событий, ещё в 1991 году прозвучало требование казачьих организаций в регионе, которое сводилось к следующей формуле и повторялось затем неоднократно: «Дайте нам в руки оружие, и мы защитим себя и свою землю сами».

Казачьи Круги требовали от правительства Российской Федерации создания казачьих территориальных воинских подразделений для противодействия распространению негативных антирусских и антигосударственных тенденций в северокавказском регионе. Аргументом к казачьему заявлению служили и примеры участия казаков в качестве волонтёров в боевых действиях в Северной Осетии, Приднестровье, Абхазии и Югославии. Официальные власти всячески уходили от решения этого вопроса, ссылаясь на отсутствие правовой базы, и лишь в 1994 году, с началом военного конфликта в Чечне, командование Северо-Кавказского военного округа вспомнило о казачьем предложении.

В августе 1995 года в рамках эксперимента по привлечению казаков к комплектованию казачьих подразделений Российской Армии, из 27 казаков Минераловодского отдела Терского казачьего войска, возглавляемых походным атаманом Владимиром Зуевым, был сформирован взвод в составе 503-го мотострелкового полка, подразделения которого дислоцировались на тот момент вблизи города Грозный. Трехмесячный эксперимент был удачным — казаки показали высокую степень дисциплины, и этот результат был не последним аргументом в вопросе необходимости создания уникального явления современной казачьей истории — 694-го ОМСБ (отдельного мотострелкового батальона) имени генерала Ермолова.

Неоднократные встречи атамана Терского казачьего войска генерал-майора Владимира Константиновича Шевцова с представителями командования Северо-Кавказского военного округа, на которых атаман аргументировано отстаивал идею необходимости привлечения казачьих сил к выполнению боевых задач по поддержанию мира и стабильности на левобережье Терека, увенчались успехом. Стоит добавить, что идея создания казачьего подразделения не смогла бы материализоваться в полной мере без всецелой поддержки заместителя командующего СКВО генерал-майора Евгения Скобелева.

694-ый ОМСБ был сформирован в феврале 1996 года на базе 135-й мотострелковой бригады 58-й армии в городе Прохладный численностью около 500 человек, и состоял в основном из терцев. Были среди военнослужащих и несколько казаков с Дона, Урала, Сибири, Санкт-Петербурга, других регионов России, и даже из Болгарии. Почти все казаки батальона являлись солдатами-контрактниками, обмундированными и вооружёнными в соответствии с общеармейскими нормами. Отличительной особенностью являлись разрешённые командованием казачьи знаки различия — кокарды и шевроны, некоторые казаки даже в ходе непосредственных боевых действий носили папахи. В данном подразделении проходили службу и несколько волонтёров, например, в первом взводе второй роты таким бойцом был Владимир Прокопьев из Якутска.

Офицеры батальона, в большинстве своём, казаками не были, в том числе и уважаемый всеми ермоловцами командир батальона майор Владимир Стехов. Связующим звеном между офицерами и казаками являлся заместитель командира батальона по воспитательной работе подполковник Александр Волошин — походный атаман Терского казачьего войска.

Своё имя казачье подразделение получило в результате дискуссии, разгоревшейся на Совете атаманов ТКВ, ещё до начала своего формирования — в январе 1996 года. Было предложено назвать батальон Карауловским — в честь первого выборного терского войскового атамана, расстрелянного в декабре 1917 года революционными солдатами здесь же, на станции Прохладной, но большинством голосов атаманы утвердили второе предложение, высказанное одним из них — быть батальону Ермоловским. Имя знаменитого генерала — покорителя Кавказа, присвоенное создаваемому казачьему подразделению, явилось и проявлением исторической преемственности — ещё в 1904 году по Высочайшему повелению Алексей Петрович Ермолов был определён вечным шефом Терского казачьего войска.

В конце февраля на базе в/ч 01860 в Моздоке началось формирование казачьей усиленной роты (160 человек), приданной Ермоловскому батальону в 20-х числах марта под Ачхой-Мартаном.

При комплектовании батальона применялась упрощенная система — кандидату в военнослужащие для оформления личного дела в военном комиссариате по месту жительства не требовалось даже прохождения медицинской комиссии. Необходимо было только представить справку из милиции, подтверждающую, что данный человек не находится под следствием. Отменялись и возрастные ограничения. Так одному из старейших казаков батальона В.С.Метликину в день первого боя 8 марта 1996 года исполнилось 55 лет.

При комплектовании взводов учитывался старый казачий принцип землячества. Так во 2-ой роте Ермоловского батальона 1-ый взвод состоял в основном из казаков Минераловодского отдела, 2-ой взвод — Прохладненского отдела, 3-й взвод — Павловского отдела. Командирами взводов были не офицеры Российской Армии, но свои «полевые командиры» (походные атаманы). «Земляческая» спайка позволяла подразделениям наиболее эффективно выполнять поставленные командованием боевые задачи.

Нередкими были проявления героизма — 96 бойцов были награждены орденом Мужества. Есть несколько примеров того, как раненые в ходе боя казаки отказывались покидать подразделение, другие же после непродолжительного лечения в госпитале возвращались опять в строй.

Двухмесячное нахождение в зоне военного конфликта (Червленная — Грозный — Ачхой-Мартан — Старый Ачхой — Орехово — Шали — Беной) показало высокие боевые качества батальона, который выполнил все поставленные задачи, но вместе с тем вскрылись и некоторые негативные факторы. Так на общее количество убитых и раненых (около 250 человек) приходилось чуть меньшее количество дезертиров. И явление это было не только следствием трусости, но и нередко ложного чувства казачьей «вольности». Дескать, «нас командование обмануло, и вместо службы на казачьем левобережье Терека бросило на Грозный, и там нас «подставило». Мы, казаки, — народ вольный, хотим — служим, хотим — не служим».

Самой яркой и самой трагичной страницей истории Ермоловского батальона стал штурм селения Орехово Ачхой-Мартановского района 29–30 марта 1996 года. В этой боевой операции батальону отводилась второстепенная роль, а штурм планировался силами двух мотострелковых полков, но задача поменялась в день выхода. Один из полков остался на исходных позициях, второй остановился на подступах к селению, а батальон был брошен в лоб на укрепления противника. Боевая операция, на которую отводилось две недели, была проведена за полтора дня, но выполнение задачи досталось дорогой ценой — двенадцать человек погибших и более пятидесяти раненых.

После этого боя мы окончательно поняли, что Ермоловский батальон — это реальность на территории Чечни, но фантом, призрак за её пределами. Многим чинам военного руководства было невыгодно вообще упоминание о нём. Так в официальных сводках говорилось, что Орехово взято подразделениями Внутренних Войск 4 апреля. О нас же, фактически выбивших боевиков несколькими днями раньше, ни слова. Такая вот правда…