Тем временем в Цхинвале утверждалась атмосфера террора, спасаясь от которого часть жителей — в основном старики, женщины и дети — пряталась на территории военных городков. Другие переходили к сопротивлению, первым шагом к чему было раздобыть хоть какое-нибудь оружие. В этих целях, используя знание города, цхинвалцы, в частности, разоружили роту грузинских курсантов, также введенных в югоосетинскую столицу. Это самовооружение помогло 28 января освободить город.

После этого из Цхинвала был почему-то выведен полк внутренних войск МВД СССР, а Грузии было передано 90 вертолетов из стоявшего в Цхинвале вертолетного полка. Цхинвал днем и ночью обстреливался из Горийского района, продолжались террор на дорогах и самовооружение народа Южной Осетии, предоставленного собственной судьбе.

1 февраля 1991 года Грузия прекратила энергоснабжение Южной Осетии. Следствием этого стали многочисленные жертвы среди мирного населения. В доме престарелых замерзло несколько десятков стариков, в родильном доме умирали младенцы.

Грузинские полицейские силы контролировали стратегические высоты вокруг Цхинвала и осуществляли обстрелы города, приводившие к многочисленным разрушениям и жертвам. Осетинские отряды, базировавшиеся в блокированном Цхинвале, испытывали острую нехватку оружия и боеприпасов и действовали мелкими диверсионными группами. Гуманитарная ситуация в бывшей автономной области и городе была катастрофической, в госпитале города температура воздуха равнялась 13–14 градусам. Убитых приходилось хоронить в городских дворах. Уже к началу 1991 года Цхинвал покинуло все грузинское население.

В Цхинвал на помощь юго-осетинским ополченцам из России стали прибывать добровольцы из Северной Осетии и казаки.

20 мая, когда грузинскими боевиками были убиты 36 жителей Южной Осетии, пробиравшихся в Северную, начались активные боевые действия. Они оказались жестокими и разрушительными для крошечной республики. Всего с ноября 1989 года по 14 июля 1992 года, когда, согласно сочинским договоренностям, в республику вошли трехсторонние миротворческие силы, республика потеряла 1500 человек, в том числе среди мирных граждан вследствие многомесячного обстрела Цхинвала, а также полного уничтожения (сожжения) 111 деревень. Около 2500 человек были ранены. Огромное число людей (иногда называют цифру свыше 50 % населения республики) стали беженцами.

Беженцы, которым приходилось пересекать территории, контролируемые грузинскими силами, подвергались вооруженным нападениям. Известны несколько случаев массовых расправ над беженцами-осетинами. Одним из наиболее известных случаев является расстрел осетинских беженцев на Зарской дороге. 20 мая 1992 года на дороге через село Зар колонна беженцев (преимущественно старики, женщины и дети) из Южной Осетии была остановлена грузинскими вооруженными формированиями и расстреляна в упор из автоматов. В результате нападения погибло более 30 человек. 18 марта 1991 года близ села Ередви грузинские вооруженные формирования после пыток заживо похоронили 12 осетин.

1 сентября 1991 года Южно-Осетинская Советская Демократическая Республика была переименована в Республику Южная Осетия. К этому времени в Южной Осетии была создана хорошо вооруженная, оснащенная тяжелой боевой техникой «Национальная гвардия», а ее создатель бизнесмен Тезиев стал премьер-министром.

На итоговый результат военных действий в значительной степени повлияла политическая нестабильность в самой Грузии, где в конце 1991 — начале 1992 года началась гражданская война. Новое грузинское руководство (Эдуард Шеварднадзе, Тенгиз Китовани и Джаба Иоселиани) весной 1992 года вновь спровоцировало военные действия в Южной Осетии. К середине июня грузинские отряды вплотную подошли к Цхинвалу, что создало реальную угрозу захвата города. Но под давлением российского руководства, однако, Эдуард Шеварднадзе был вынужден пойти на уступки и начать переговоры о мирном урегулировании.

Боевые действия, сошедшие на уровень одиночных огневых контактов и рейдов, были прекращены после подписания Дагомысских соглашений между Россией и Грузией. 14 июля 1992 года в зону конфликта были введены миротворческие силы в составе трех батальонов (российского, грузинского и осетинского).

Дагомысские соглашения предусматривали прекращение огня и создание органа для урегулирования конфликта — Смешанной контрольной комиссии, в которую вошли грузинская и югоосетинская стороны, Россия и, в качестве отдельной стороны, Северная Осетия. Несмотря на заявления президента Саакашвили предоставить Южной Осетии широкую автономию, в рамках Смешанной контрольной комиссии такие предложения грузинскими представителями на рассмотрение не выносились. На протяжении работы комиссии Грузия назначала все более радикальных противников уступок Южной Осетии своими представителями в комиссии, сводя ее работу на нет. В марте 2008 года Грузия вовсе прекратила свое участие в работе комиссии.

После подписания Дагомысских соглашений Южная Осетия стала фактически самостоятельным государственным образованием. 2 ноября 1993 года была принята конституция республики.

30 октября 1995 года при посредничестве России и ОБСЕ между грузинской и осетинской сторонами начались переговоры о мирном урегулировании конфликта. 16 мая 1996 года в Москве был подписан «Меморандум о мерах по обеспечению безопасности и укреплению взаимного доверия». За подписанием этого документа последовало несколько встреч между президентом Грузии Шеварднадзе и президентом Южной Осетии Людвигом Чибировым, а также главами правительств Грузии и Южной Осетии.

Беженцы начали возвращаться в зону конфликта, однако этому процессу мешала тяжелая экономическая ситуация в регионе.

Грузия обвиняла руководство Южной Осетии в том, что в отсутствие контроля со стороны центральных властей Южная Осетия фактически превратилась в центр контрабандной торговли, лишавшей Грузию значительной части доходов. Грузинские власти продолжали рассматривать Южную Осетию как свою административную единицу — Цхинвальский регион, но до прихода к власти Саакашвили активных действий по восстановлению контроля над Южной Осетией не предпринимали.

Очередное обострение ситуации произошло в начале 2004 года, после того как новое руководство Грузии объявило о курсе на восстановление территориальной целостности страны. 31 мая 2004 года в зону грузино-осетинского конфликта, где имеют право находиться только российские, грузинские и югоосетинские миротворческие силы и сотрудники местных правоохранительных органов, грузинская сторона перебросила подразделения своих внутренних войск и тяжелую военную технику. Миссия ОБСЕ в Грузии заявила, что это является «грубейшим нарушением ранее подписанных соглашений».

Со второй половины июля 2004 года на территории Южной Осетии происходили регулярные обстрелы города Цхинвала, осетинских и грузинских сел из стрелкового оружия, гаубиц и минометов. На этом фоне президент Грузии Саакашвили сделал несколько резких заявлений, обвиняя Россию в попустительстве властям Южной Осетии к Абхазии, не желающим урегулировать отношения с Грузией.

Одновременно началась дипломатическая война между Грузией и Россией. Тбилиси обратился в международные организации, обвинив Москву в поддержке «сепаратистского» режима, и начал требовать вывода из Южной Осетии российских миротворцев.

До конца августа грузинские силы безуспешно пытались взять стратегические высоты у Цхинвала, но, потеряв около 20 человек, были выведены из зоны конфликта в Гори, а осетинские вооруженные формирования — в Джавский район Южной Осетии.

В начале сентября 2004 года генерал-майор Святослав Набздоров передал пост командующего смешанными силами по поддержанию мира (ССПМ) в Южной Осетии генерал-майору Марату Кулахметову, который до этого командовал дислоцированной во Владикавказе 19-й мотострелковой дивизией.

5 ноября 2004 года в ходе переговоров между премьер-министром Грузии Зурабом Жвания и президентом Южной Осетии Эдуардом Кокойты было подписано соглашение о демилитаризации зоны конфликта.