Иван II продолжал мирную политику своего брата. Но если таковая обеспечивалась Семёном его личными качествами и незаурядными способностями государственного деятеля, то кроткий Иван Иванович, будучи фигурой в этом плане, безусловно, менее значительной, всячески старался умиротворить своих противников своей незлопамятностью и добротой. Полтора года длилось противостояние Ивана с Новгородом, но оно не вылилось в военное столкновение, в конечном итоге примирение было достигнуто. В 1355 году московский князь установил мир с суздальским владетелем Константином Васильевичем, а после встречался в Переяславле с сыном его Андреем. Еще когда Иван был в Орде, рязанские войска под водительством молодого князя Олега Ивановича захватили город Лопасню и пленили московского наместника (впоследствии тот был выкуплен). Лопасня входила в удел Андрея Ивановича серпуховского и тогда принадлежала его малолетнему сыну Владимиру (будущему Храброму и Донскому). Иван II не стал воевать с Рязанью, а выделил Владимиру Андреевичу из своего удела другие бывшие рязанские земли.

Вскоре в Орде начались трагические события. В 1357 году туда ездил митрополит Алексей, который вылечил заболевшую ханшу Тайдулу, но он быстро уехал оттуда, поскольку хан Джанибек был убит. Злодейство совершил его сын Бердибек, убивший к тому же еще и 12 своих братьев. Бердибек потребовал московского князя к себе, и Иван поехал в Орду. В его отсутствие в Москве случился мятеж: 3 февраля 1357 года перед заутреней на площади нашли убитым московского тысяцкого Алексея Петровича Хвоста (предок дворянского рода Хвостовых, в том числе и поэта графа Д. И. Хвостова), а часть московских бояр уехала в Рязань. Видимо, сыграли свою роль какие-то противоречия в окружении князя. Правда, через год Иван перезвал своих бояр из Рязани обратно. Получив ярлык у нового хана, московский князь вернулся на Русь.

В 1358 году Иван послал можайскую рать вместе с тверскими полками на Литву. Это единственное военное предприятие за все время правления Ивана закончилось успешно: была взята Ржева, хотя и ненадолго.

Ко времени Ивана относятся и первые, правда, еще очень-очень робкие попытки московских князей освободиться от ордынской зависимости. Вероятно, Иван II решил по возможности начать политику самостоятельного, без контроля хана управления Русью. Тем более что ситуация тому благоприятствовала: в Орде было неспокойно, и в воздухе витал дух «замятни». В 1358 году Бердибек послал в Рязань царевича Мамат-Ходжу, который объявил великому князу, что хочет провести четкую границу между владениями московского и рязанского князей. Иван не пустил ордынца в свои земли. Это был первый случай неповиновения московского князя Орде. Никаких ответных действий со стороны Орды не последовало.

13 ноября 1359 года Иван Иванович в возрасте 33 лет скончался. Его похоронили в Архангельском соборе. Он оставил двух малолетних сыновей, в том числе девятилетнего наследника Дмитрия Ивановича, впоследствии Донского. Поколение сыновей Калиты ушло в небытие, а московская династия состояла теперь только из трех маленьких детей. Положение московского княжеского рода оказалось сложным, что он мог потерять всё, но сама история сохранила его.

Дмитрий Донской родился 12 октября 1350 года. После смерти Ивана Красного московская княжеская династия оказалась в критическом положении. Лишь три мальчика составляли княжеский род: Дмитрий — как наследник московского княжения, его младший брат Иван, умерший в 1364 году, и их двоюродный брат Владимир Андреевич, продолжатель боровско-серпуховской ветви династии. Естественно, они не могли соперничать с более могущественными родственниками в тяжбах за ярлык на великое княжение владимирское. Хан Навруз, захвативший ордынский престол, убив своего предшественника, отдал великокняжеский ярлык суздальскому князю Дмитрию Константиновичу, принадлежавшему к ветви суздальско-нижегородских князей, потомку младшего брата Александра Невского Андрея. 22 июня 1360 года. Дмитрий Константинович приехал во Владимир. Так перед Москвой вновь встала задача вернуть в княжеский род достоинство великого князя владимирского. Борьбе способствовала и крайне нестабильная обстановка в Орде. Здесь начались длительные усобицы между разными ханами, свергавшими и убивавшими друг друга, так что смена власти была непрерывной. Это время в Орде русские летописи называли «великой замятней».

Дмитрий Иванович, а точнее стоявшие за ним московские бояре и духовный лидер Москвы митрополит Алексей, не примирились с победой суздальского князя. В 1362 году им удалось добыть в Орде у хана Мурата (Мюрида) для Дмитрия великокняжеский ярлык и организовать поход московского войска против Дмитрия Константиновича. Тот, не выдержав натиска, бежал в свою отчину, а воинство малолетнего Дмитрия заняло Владимир. В 1363 году во Владимир приехал посол от хана Авдула (Абдуллаха) с великокняжеским ярлыком для Дмитрия. Тогда враждовавший с Авдулом Мурат направил через своего посла Иляка аналогичный ярлык Дмитрию Константиновичу. Вновь разгоревшаяся война двух Дмитриев окончилась победой московского. Суздальский князь был изгнан из Владимира и вынужден был просить мира. Одновременно Дмитрий Иванович выгнал князей из Галича и Стародуба, которые отправились «под крыло» к суздальскому князю. С тех пор Дмитрий Константинович не решался тягаться с Москвой и даже отказался от владимирского ярлыка, который ему привез из Орды сын. Оба Дмитрия стали даже союзниками, с помощью московских войск Дмитрий Константинович в 1365 году изгнал из Нижнего Новгорода брата Бориса. А в 1366 году союз князей был скреплен и родственными узами: Дмитрий Иванович женился на дочери Дмитрия Константиновича — Евдокии.

В то же время разворачивалась и деятельность литовского князя Ольгерда, продолжавшего укреплять и расширять владения своего государства. В 1363 году литовцы разбили ордынские войска на реке Синие Воды (левый приток Южного Буга — река Синюха). Ольгерд присоединил к своим землям Киев. Так древняя русская столица оказалась под властью Литвы и Польши (оба государства позднее объединились в Речь Посполитую), и вновь русским Киев стал лишь в середине XVII века.

В 1365 году в Москве произошел страшный пожар. В два часа город выгорел дотла. Беде помогли сильная жара и ветер, разметавший огонь по всему кремлю и посаду. Это событие явилось причиной новой волны каменного строительства в Москве. В 1367 году Дмитрий вместе с Владимиром Андреевичем начинают строительство нового кремля — белокаменного. Старые дубовые стены Калиты полностью обветшали, и укрепление междукняжеского и международного положения Москвы потребовало создания нового «облика» града. Белокаменная крепость теперь могла надежно защитить столицу княжества от вражеских набегов.

А ситуация в русских землях оставалась тревожной. Вновь на первый план вышли отношения Москвы с давним и сильным соперником — Тверью. Здесь князем был Михаил Александрович, сын, племянник и внук убитых в Орде (не без участия Юрия Даниловича и Калиты) тверских князей, названный в честь деда Михаила Ярославича (имя Михаил вообще стало родовым именем тверской династии). Союзником Твери выступала и Литва: на сестре Михаила Александровича — Ульяне был женат литовский князь Ольгерд (сын Гедимина). Ситуация осложнилась и распрями внутри самой тверской династии: некоторые родственники открыто выступили против Михаила Александровича, а князь дорогобужский Еремей Константинович даже уехал к Дмитрию в Москву.

В 1368 году Дмитрий вызвал Михаила в Москву «любовию», но там неожиданно приказал его схватить и «держаша в истоме». Лишь ожидание приезда ордынского посольства заставило московского князя освободить пленника. Но уже осенью того же года Дмитрий послал на Тверь войска. Михаил бежал в Литву и просил помощи у Ольгерда. Литовский князь собрал сильную рать и вместе с бартом Кейстутом и племянником Витовтом двинулся в поход на Русь. Нападение Ольгерда оказалось для Дмитрия полной неожиданностью. Легко сломив сопротивление нескольких местных князей, по владениям которых двигалось литовское войско, и разгромив на реке Тростне небольшой сторожевой полк москвичей, 21 ноября 1368 года Ольгерд появился у стен Москвы. Хотя трехдневная осада города не дала результата, Ольгерд сжег весь посад, опустошил окрестности и захватил богатую добычу. Дмитрию пришлось примириться с тверским князем.