Далеко не все признавали Хубилая и китайским императором. Пока в Ханчжоу правили императоры династии Сун, многие китайцы хранили им верность. Чтобы завоевать единодушное признание китайских подданных, Хубилаю было необходимо низвергнуть Сун. Кроме того, императорское достоинство Хубилая оспаривалось и в его северных владениях. В первые два года его правления в Северном Китае увеличивалось число недовольных, и в 1262 г. это вылилось в восстание.

Восстание вспыхнуло в провинции Шаньдун, в которой округом Иду управлял вождь восставших Ли Тань. На страницах китайских источников его имя практически не появляется до похода Мункэ на Южный Китай. В 1258 г. Мункэ пригласил Ли присоединиться к его войскам в Центральном Китае, чтобы выступить на юг против династии Сун. Ли сослался на важное стратегическое положение округа Иду, который не следует оставлять без защиты, и получил разрешение Мункэ не участвовать в общем походе. Он водил свои войска в набеги на сунские прибрежные города, захватив Хайчжоу и Ляньчжоу. Китайские летописи, враждебно настроенные по отношению к Ли (в Юань-ши он именуется «мятежным министром»), проводят мысль, что его набеги служили прежде всего его возвеличению и укреплению личной власти. Сунские войска были отвлечены ударами с разных направлений, нанесенных армиями Мункэ, Хубилая и Урянхадая, и прибрежные города прикрывались немногочисленными отрядами. Согласно Юань-ши, Ли едва ли желал успеха монгольскому предприятию. Он прежде всего был озабочен расширением территории, находящейся под его непосредственным управлением, но монголы не подозревали о его истинных намерениях.

Хубилай после своего восшествия на престол в 1260 г. не питал никаких подозрений относительно деятельности Ли на востоке. Правда, он назначил Уполномоченным по Умиротворению (кит. Сюаньфу ши) Иду, Цзина-ни и сопредельных земель в Шаньдуне Сун Цзычжэня, но повысил Ли до должности Военного Уполномоченного (военного губернатора, кит. Да дуду) области Цзян-Хуай. После этого повышения Ли сообщил Хубилаю, что, по словам захваченных им сунских пленников, главные сановники Южного Китая Цзя Сыдао и Люй Вэньдэ снарядили 2000 лодок и армию в 75000 человек для нападения на Ляньчжоу. Он объяснил, что для отражения атаки требуется починить стены и подготовить город. Хубилай выделил ему 300 слитков (кит. дин) серебра, чтобы покрыть стоимость этих оборонительных мер. Кроме того, Ли попросил разрешения переправиться через реку Хуайхэ, чтобы совершать набеги на владения Сун. Однако, хотя Хубилай высоко ценил рвение Ли, он не позволил ему перейти к наступательным действиям, возможно, опасаясь чрезмерного усиления своего китайского подданного. Хубилай понимал, что Ли и так уже занимает важное положение благодаря своей армии и ресурсам, доверенным его распоряжению. Запасы соли и меди, которыми располагала провинция Шаньдун, давали Ли средства, необходимые для снаряжения военных походов. Возможно, именно решение Хубилая оттолкнуло Ли, но, скорее всего, он в любом случае намеревался выступить против монголов. На сей раз он не осмелился ослушаться и отправился навстречу наступающей сунской армии. В начале 1261 г. он сообщил Хубилаю, который предоставил ему зерно и прочие припасы, что ему удалось разгромить сунские войска под Ляньчжоу. Хубилай наградил Ли и его главных военных помощников. За последующие несколько месяцев Ли извещал о других своих победах над силами Сун.

Затем, в конце 1261 г., Ли начал отдаляться от Хубилая. Возможно, он получил от сунских сановников обещание оказать ему помощь в случае, если он порвет с монголами, и, должно быть, осознавал, что торговля и прочие виды экономических отношений с Сун принесут ему больше выгоды, чем связь с Северным Китаем. Кроме того, будучи китайцем, он мог испытывать симпатии к коренной китайской династии. Впрочем, каковы бы ни были причины, Ли подготовился к разрыву с Хубилаем. Он не выполнил своих обязанностей, не поставив лошадей войскам Хубилая, сражавшимся с Ариг-Букой, и устроил побег своему сыну Ли Яньцзяню, который содержался в заложниках при монгольском дворе, а после побега приехал к отцу в Иду.

Теперь, обеспечив безопасность сыну и, вероятно, получив уверения в поддержке со стороны Сун, Ли мог позволить себе порвать отношения с Хубилаем и монголами. 22 февраля 1262 г. он поднял мятеж против тех, кого раньше признавал своими верховными правителями. Он «разворовал» (если использовать уничижительные выражения, свойственные Юань-ши) склады в Иду, «истребил» монгольских воинов в округе и передал Ляньчжоу и Хайчжоу империи Сун. Его войска «опустошили» города близ Иду, а через месяц «разграбили» город Цзинань.

Хотя Хубилай был поглощен борьбой с Ариг-Букой, он быстро оценил размеры опасности, исходящей от Ли, и принял все необходимые меры для ее устранения. Он послал против Ли в Шаньдун своих самых доверенных полководцев. Вместе с ними отправился Чжао Би, один из его самых приближенных советников. Хубилай стремился подавить китайское восстание, прежде чем анти-монгольские настроения перекинутся на остальное население Северного Китая. Его войска укрепили оборону городов, которые могли подвергнуться нападению армии Ли, и стали в них гарнизонами. Покончив с оборонительными мероприятиями, Хубилай приказал Ши Тяньцзэ и Ши Чу перейти в наступление. В конце марта или начале апреля противники сошлись в бою неподалеку от Цзинаня. Армия Ли была разбита, потеряв 4000 человек убитыми. Ли отступил в Цзинань с оставшимися войсками. Его армия была вынуждена обороняться, а наступавшие монголо-китайские объединенные силы не ослабляли давления.

К середине апреля Ли начали покидать его главные приверженцы. Они переметнулись к монголам, заявляя, что Ли принудил их присоединиться к восстанию. Стремясь побудить к дезертирству прочих сторонников мятежника, Хубилай простил первых перебежчиков. Он также предупредил своих военачальников, чтобы они не допускали притеснения местных жителей в этих областях и не причиняли ненужного ущерба, надеясь таким образом переманить на свою сторону больше мятежников. Этот план сработал, и ряды восставших все больше редели. Одновременно Ши Тяньцзэ осадил Цзинань, главный город Ли Таня. Отрезанные от припасов и складов оружия, войска Ли стали покидать осажденный город и сдаваться на милость противника. К началу августа Ли Тань понял, что проиграл. Он отправился к близлежащему озеру Дамин и попытался утопиться, но монголы спасли неудачливого самоубийцу, чтобы предать его подобающей казни. Они упрятали его в мешок и растоптали лошадьми. По монгольскому обычаю, не следовало проливать крови вражеского вождя. Гибель под копытами лошадей была излюбленным способом казнить чужеземных правителей.

Казнь ожидала также Ван Вэньтуна. Хубилай принял этого талантливого китайца в круг своих советников-конфуцианцев еще до восшествия на престол. В начале правления Хубилая Ван был назначен Главным Управляющим (кит. Пинчжан чжэнши) в Секретариате (Чжуншу шэн). Он подчинялся всего двум главным министрам и стал одним из самых влиятельных чиновников в правительстве. Он принимал участие в создании системы округов (лу), которые управляли Китаем, предложив использовать бумажные деньги и поддерживая торговлю. Он также внес свой вклад в разработку налоговой системы, введенной Хубилаем и его советниками, чтобы увеличить доходов, необходимых как для борьбы с Ариг-Букой, так и для организации правительственной структуры. Хубилай стал оказывать Вану высокое доверие, привлекая его к решению важных государственных дел. Однако, к несчастью для Вана, его дочь вышла замуж за Ли Таня, и Ван оказался замешан в мятеж, поднятый его зятем. Он несколько раз отправлял к Ли Таню своего сына, извещая мятежника о передвижениях и действиях Хубилая. Суд также обнаружил у Вана компрометирующие письма от Ли Таня. Ван был снят с должности, и Хубилай созвал своих приближенных советников-конфуцианцев, включая Яо Шу и Доу Мо, чтобы узнать их мнение о том, какого наказания заслуживает Ван. Советники решили, что Ван должен быть казнен, а один особенно рьяный советник предложил разрубить его на части. При их единодушной поддержке Хубилай приказал казнить Ван Вэньтуна и его сына, служившего посредником между отцом и Ли Танем. «Измена» Вана была широко обнародована, а его предательские действия во всех подробностях доведены до сведения китайцев. Он осуждался не только за вероломство по отношению к монгольским властителям, но и за предательство интересов своего народа. Конечно, не случайно Хубилай просил совета относительно подобающего наказания у своих китайских сановников. Хубилай хотел показать, что Ван предал не только хана, но и китайцев, и нашел наилучший способ продемонстрировать это, переложив ответственность за его осуждение на плечи его соотечественников.