Наполеон провёл в Вильне две недели, отдавая распоряжения об обустройстве оккупированных территорий. Здесь он принял парламентёра от Александра I, предлагавшего начать мирные переговоры при условии, что французские войска покинут пределы России. Ободрённый своими первыми успехами, Наполеон отказался вести переговоры на таких условиях.

Вскоре французский император отправился вслед за своими войсками. Он стремился отрезать обеим русским армиям путь к отступлению и в генеральных сражениях разгромить их поодиночке. Армию Барклая преследовали основные силы французских войск во главе с самим Наполеоном, а преследовать армию Багратиона было поручено корпусу маршала Даву.

В арьергарде (позади главных сил) отступающей армии Багратиона шли казачьи полки во главе с донским атаманом М. И. Платовым. Им было поручено всеми силами сдерживать наступление французов, препятствуя окружению армии. Казаки устраивали засады, внезапно атаковали передовые части корпуса Даву, наносили французам серьёзный урон. Так, под белорусским городком Мир в результате неожиданной атаки Платова была окружена и полностью уничтожена кавалерийская бригада французов.

В середине июля 1812 г. Даву сумел раньше Багратиона занять Могилёв и преградил дорогу на Витебск, где планировали соединиться обе русские армии. В это время с запада 2-ю русскую армию настигали войска под командованием брата Наполеона – Жерома Бонапарта. Армии Багратиона грозило окружение.

У деревни Салтановки в бой с войсками Даву вступил корпус генерала Н. Н. Раевского. Состоялось кровопролитное сражение, в котором и русские, и французы понесли большие потери. Даву решил, что перед ним основные силы армии Багратиона, и отошёл к Могилёву, рассчитывая продолжить сражение на следующий день.

В это время главные силы 2-й армии переправились через Днепр и направились к Смоленску. Войска Жерома Бонапарта тем временем безнадёжно отстали. За это Наполеон, разгневавшись на брата, отстранил его от командования. Армии Багратиона удалось оторваться от преследования и избежать окружения.

В тот самый день, когда корпус Раевского сражался с войсками маршала Даву, армия Барклая-де-Толли достигла Витебска. Ещё не зная о том, что Даву перекрыл Багратиону путь на Витебск, Барклай остановил свои войска и стал дожидаться 2-й армии. Однако к городу уже подходили передовые части армии Наполеона. Корпусу генерала А. И. Остермана-Толстого было поручено задержать их наступление до подхода к Витебску армии Багратиона.

Заняв позицию в узком месте между болотистым лесом и рекой Двиной, корпус Остермана вступил в бой с шедшей в авангарде (впереди главных сил) французской армии кавалерией Мюрата. Под постоянными атаками французской кавалерии и артиллерийским обстрелом корпус Остермана нёс большие потери и почти лишился собственной артиллерии. Но всё же он выстоял и на следующий день после сражения был сменён свежими частями.

Сражения под Витебском продолжались три дня, до подхода основных сил французов во главе с самим Наполеоном. В это время к Барклаю прибыл курьер с донесением: армия Багратиона движется к Смоленску. В тот день, когда Наполеон планировал вступить в решающее сражение с армией Барклая, оказалось, что её основные силы оставили Витебск и под прикрытием лесистой местности отправились к Смоленску. Изнурённые предыдущим долгим маршем, войска Наполеона не стали их преследовать.

В это время тяжёлые бои велись и на северном направлении, где корпус Витгенштейна преграждал французам путь на Петербург. В конце июля в битве у деревни Клястицы его войскам впервые с начала войны удалось нанести поражение превосходящим силам французов и заставить их отступить к Полоцку. В результате сражения войска Витгенштейна захватили 3 тыс. пленных и личный обоз командовавшего французскими войсками маршала Удино. После этого войска Удино вели вялотекущие боевые действия, оставаясь на месте.

На южном направлении армия генерала Тормасова тоже успешно сдерживала наступление частей Великой армии. Здесь в сражениях участвовали в основном австрийские и саксонские войска. Они не горели желанием воевать за чуждые их странам интересы Наполеона и старались избегать активных боевых действий.

Однако главной задачей наступления Великой армии оставалось преследование войск Багратиона и Барклаяде-Толли. Именно от них зависел итог войны.

22 июля 1812 г. 1-я и 2-я русские армии соединились под Смоленском. Барклай-де-Толли и Багратион вместе торжественно объехали строй приветствующих их солдат. В войсках царило воодушевление, многие были уверены, что теперь война пойдёт по-другому, что отступление окончено. Даже осторожный Барклай, выступавший за продолжение отступления, поначалу был вынужден пойти на уступки большинству офицеров, требовавших решительных действий. Он полагал, что подходящие к Смоленску корпуса французской армии можно будет разбить поодиночке, воспользовавшись их разрозненным положением.

Вскоре после соединения с армией Багратиона Барклай отдал приказ о наступлении на позиции кавалерийского корпуса Мюрата, который, по данным разведки, находился в городке Рудне к западу от Смоленска. Однако, руководя продвижением основных сил русской армии к Рудне, Барклай действовал очень медленно и осторожно, опасаясь неожиданных атак французов.

В это время Наполеон сумел быстро собрать в кулак разрозненные части французских войск, не дав Барклаю разгромить их по отдельности. Французские войска под Смоленском насчитывали около 250 тыс. человек, в то время как в обеих русских армиях было не более 130 тыс. солдат. Наполеон планировал стремительным манёвром выйти в тыл русским войскам, занять Смоленск и перекрыть путь к дальнейшему отступлению.

Поначалу французам действительно удалось обойти армию Барклая и приблизиться к Смоленску. Дорогу к городу преграждала лишь одна дивизия генерала Д. П. Неверовского, наполовину состоявшая из новобранцев – плохо обученных вчерашних крестьян. В сражении с кавалерией Мюрата эта дивизия понесла большие потери и была вынуждена оставить занятые позиции. Но при отходе к Смоленску, делая частые остановки, она внезапно атаковала французских кавалеристов из густого придорожного леса. Потеряв почти треть своего состава, дивизия, тем не менее, благополучно отошла к Смоленску и смогла задержать наступление неприятеля. За это время город успел занять 15-тысячный корпус генерала Раевского.

Утром 4 августа шедший в авангарде французской армии корпус маршала Нея начал штурм Смоленска. Город подвергся артиллерийскому обстрелу. Укрепления Смоленска мало подходили для того, чтобы успешно защищать город небольшими силами. Построенные ещё в начале XVII в., обветшалые крепостные стены и полуразрушенные земляные бастионы были лишены необходимых защитных сооружений для установки артиллерии, так что пушки пришлось установить в предместьях города. Тем не менее корпусу Раевского весь день удавалось успешно держать оборону. К вечеру к Смоленску подошли основные силы армий Багратиона и Барклая, и корпус Раевского был сменён свежими частями.

На следующий день к Смоленску подошли основные силы армии Наполеона, начался генеральный штурм города. От шквального артиллерийского обстрела загорелись деревянные дома, жители массово покидали Смоленск. Французам удалось вытеснить русские войска из предместий города; бои шли под самыми стенами, но прорваться в город французским войскам не удалось.

Несмотря на успешную оборону города, в ночь на 6 августа Барклай отдал приказ об отступлении. По мнению многих генералов, Смоленск можно было ещё долго оборонять, некоторые даже считали возможным переход в наступление на позиции французов. Но Барклай помнил, что французы всё ещё имеют значительное численное превосходство, и опасался, что они могут обойти Смоленск с востока и блокировать русские войска в горящем городе.

Русская армия отступила в полном боевом порядке, успев сжечь мост через Днепр, чтобы затруднить дальнейшее продвижение врага. В тот же день французы вступили в горящий, покинутый большинством жителей город.