Полководцам, которым Хубилай доверил выполнение столь важной военной задачи, потребовалось почти пять лет, чтобы взять Сянъян. Они постепенно сжимали кольцо вокруг города, но не могли предвидеть, что сама осада затянется на такой длительный срок. Жители Сянъяна заблаговременно запаслись огромным количеством продовольствия, а нескольким кораблям удалось проскользнуть мимо монгольских заслонов и доставить осажденным необходимые припасы. Эти спорадические успехи затягивали осаду. Китайские летописи не сообщают ее подробностей. Тем не менее, из них можно узнать, что осада иногда на краткое время снималась или же ее кольцо размыкалось. К сожалению, в источниках не обсуждаются причины этих неудач.
Подготовка к осаде велась с начала 1268 г., когда чиновники в Шэньси и Сычуани получили приказ построить 500 лодок. Лю Чжэн рассчитывал использовать эти суда, чтобы захватить контроль над рекой Ханьшуй. Через несколько месяцев он начал возводить укрепления в Бохэкоу и Лумэньшане, к югу от Сянъяна, намереваясь перекрыть пути снабжения и не позволить лодкам с припасами добраться до горрда. В октябре Хубилай поручил монгольскому полководцу Ачжу обложить также Фаньчэн. Узнав об этом, сунские войска в Сянъяне заволновались. 6 декабря они попытались прорвать блокаду, но эта попытка была обречена на провал, и, как сообщают китайские летописи, монголы захватили и обезглавили множество вражеских воинов. После этого какое-то время осажденные воздерживались от подобных безрассудных предприятий. Они ожидали припасов и пополнений с юга, и им не пришлось долго ждать. В августе 1269 г. сунский военачальник Ся Гуй с 3000 лодок атаковал Лумэньшань. Однако монгольские войска не только отразили нападение, но и захватили 50 вражеских лодок.
К тому времени, очевидно, Хубилай начал проявлять недовольство ходом осады. Уже в феврале 1269 г. он послал одного из своих самых доверенных военных советников Ши Тяньцзэ изучить расстановку войск под Сянъяном и представить свои соображения относительно возможных улучшений. В следующем месяце он приказал направить Ачжу и Лю Чжэну подкрепления в 20000 человек, а в апреле, следуя совету Ши Тяньцзэ, эти два полководца соединили укрепления Бохэкоу и Лумэньшаня, еще более затруднив вход и выход из Сянъяна. Однако этих шагов оказалось недостаточно, так как в апреле 1270 г. Ачжу и Лю Чжэн попросили 70000 человек и 5000 судов. Но и получив требуемые подкрепления, они не могли принудить осажденных к сдаче. Положение оставалось тупиковым.
Сунский двор не собирался идти на уступки. Китайские источники осуждают Цзя Сыдао за то, что он не желал отказываться от своей ошибочной политики и осознанно вводил императора в заблуждение относительно истинных размеров угрозы, исходящей от монголов. Согласно летописям, Цзя успокаивал двор, преуменьшая монгольскую мощь и утверждая, будто в 1260 г. ему удалось разбить армию Хубилая. Он упорно продолжал обманывать власти Сун, но поражение при Сянъяне подорвало бы доверие к его словам, поэтому он не мог позволить своим войскам сдать город. Некоторые источники уверяют, будто он скрывал от императора сам факт осады Сянъяна. Подобные утверждения просто нелепы. Высшие придворные чины были прекрасно осведомлены о положении осажденных, и, по наблюдению одного синолога, «в Главной Летописи Сун-ши часто отмечаются награды и дары, полученные войсками, стоявшими в Сянъяне и других пунктах, а императорским указом были награждены несколько храбрых офицеров, доставивших правительственные письма в осажденный город Сянъян и получивших за это повышение по службе и денежные подарки». Нельзя вменять в вину единственному человеку непреклонную позицию, занятую двором, который, по-видимому, был единодушен в нежелании уступать монголам хоть пядь родной земли. В общем и целом, все сунские сановники недооценивали монгольские силы и не намеревались сдавать Сянъян. Они стремились снабжать гарнизон необходимыми припасами.
Осажденные войска также были полны решимости не сдаваться без боя. Они были вполне обеспечены продовольствием и питьевой водой и испытывали нехватку лишь в одежде, соли и некоторых других припасах, без которых в принципе можно было обойтись. Таким образом, они могли сидеть в осаде, достаточно длительное время. Тем не менее, время от времени они отправляли отряды на прорыв окружения. Типичным примером подобных попыток может служить вылазка 18 марта 1270 г. Отряд из пехоты и конницы, числом в 10000 человек, которому было придано 100 лодок, попытался прорваться сквозь монгольские укрепления. Однако монголы хорошо подготовились. В распоряжении Лю Чжэна находилось несколько сотен лодок, заграждения в Лумэньшане были заблаговременно усилены, а недавно прибывшее пополнение было готово к вражескому нападению. После ожесточенной битвы сунские войска, понеся тяжелые потери, были вынуждены вернуться в Сянъян.
Сунский двор, осознавая свою ответственность, продолжал отправлять в осажденный город лодки с припасами. Большая часть этих лодок не доходила до цели, так как монгольская блокада оказалась почти безупречной. И все же двор не оставлял попыток ее преодолеть. В августе 1269 г. сунский полководец Ся Гуй выступил к Лумэньшаню с 3000 лодок, но был разгромлен и потерял более 2000 человек и 50 судов. В октябре следующего года Фань Вэньху попытался сделать то, что не удалось Ся. Его потери составили 1000 человек и 30 лодок. Еще одно зафиксированное в летописях предприятие по доставке припасов осажденным относится к августу 1271 г. Оно потерпело полный провал; погибло 2000 сунских воинов. В сентябре 1272 г. отряд в 3000 человек все же пробился в город, но этот успех оказался пирровой победой, так как один из двух командующих отрядом, Чжан Шунь, был убит, а вместе с ним пало значительное число его людей. Припасы, которые они везли, были по большей части уничтожены или перешли в руки неприятеля. Когда остатки отряда попытались покинуть город, в который они только недавно прорвались с таким трудом и с такими потерями, они обнаружили, что попали в ловушку. Их начальник был захвачен в плен, как и многие его воины.
Конечно, монгольская блокада была в высшей степени эффективной, но монголам так и не удавалось преодолеть сопротивление осажденных. Они отрезали Сянъян и Фаньчэн от остальных областей империи Сун, но не могли сломить запершиеся в этих городах гарнизоны. Взять крепости штурмом без тяжелых потерь представлялось невозможным, и, более того, сомнительным предприятием, так как оно могло кончиться и неудачей. И все же, если бы монгольские войска продолжали осаду, не предпринимая никаких активных действий, они могли стоять под стенами города до бесконечности. Чтобы выйти из тупика, им требовалась помощь.
И эта помощь пришла в лице двух мусульманских инженеров. Хубилай обратился к своему племяннику, ильхану Персии Абаке, с просьбой прислать специалистов в осадном деле для покорения Фаньчэна и Сянъяна. В 1271 г. Абака направил к Хубилаю Исмаила и Ала ад-дина. Ненадолго задержавшись при монгольском дворе, в конце 1272 г. оба мусульманина прибыли в область боевых действий, оценили обстановку и принялись за строительство военных машин. Они построили баллисту и катапульту, способные метать громадные камни на значительное расстояние. В декабре монголы применили эту технику под Фаньчэном. При такой артиллерийской поддержке Ариг-Хайя наконец мог идти на приступ. Под градом камней и снарядов сунские войска не могли выстоять под натиском монголов, и через несколько дней Фаньчэн был взят. Когда слухи о падении Фаньчэна дошли до Люй Вэньхуаня, он понял, что и его солдаты в Сянъяне не выдержат такого мощного артиллерийского обстрела. Однако он медлил со сдачей города. Поэтому мусульманские инженеры «осмотрели укрепления и установили машину у юго-восточного угла города. Снаряд весил 150 катти. Когда машина выстрелила, грохот сотряс небо и землю; он (снаряд) разрушил и уничтожил все на своем пути». В конце марта, признав вражеское превосходство в «огневой» мощи, Люй сдался. Закончилась осада, длившаяся почти пять лет, а с ее окончанием исчез и важнейший символ сунского сопротивления «варварам».