В ноябре 1940 года Модель назначен командиром 3-й танковой дивизии и произведен в генерал-лейтенанты. Во главе этой дивизии, входившей в состав 2-й танковой группы генерала Г. Гудериана, Модель вступил в войну против Советского Союза (июнь 1941 года). Части 3-й танковой дивизии с успехом сражались под Белостоком, Минском и Смоленском, форсировали реки Западный Буг, Березину и Днепр, взяли Бобруйск. Находясь на острие удара танковой группы Гудериана, дивизия Моделя сыграла важную роль в окружении и разгроме крупных группировок советских войск южнее и юго-западнее Смоленска (июль-август 1941 года). Затем, когда 2-я танковая группа повернула на юг, Модель по-прежнему действовал на направлении ее главного удара. 15 сентября 1941 года его дивизия соединилась с 9-й танковой дивизией 1-й танковой группы Клейста, наступавшей с юга, от Днепра, навстречу 2-й танковой группе. В результате была завершена операция на окружение киевской группировки советских войск — крупнейшая за всю Вторую мировую войну операция на окружение. В октябре 1941 года назначен командиром 41-го танкового корпуса, входившего в состав 3-й танковой группы (генерал Г. Рейнгардт), и одновременно получил чин генерала танковых войск. За боевые заслуги в летне-осенней кампании 1941 года награжден Рыцарским крестом.
Осенью 1941 года участвовал в наступлении на Москву, которое для немецко-фашистских войск закончилось неудачей. Здесь, под Москвой, вермахт потерпел первое крупное поражение с начала Второй мировой войны. На заснеженных полях Подмосковья Красная Армия, нанеся по немецко-фашистским войскам сокрушительный удар, развеяла миф об их непобедимости. 16 января 1942 года Модель был назначен командующим 9-й армией. Назначение его на эту высокую должность состоялось, можно сказать, вне очереди. Несмотря на возражения некоторых высших военачальников, считавших, что 51-летний генерал Модель, который всего лишь 3 месяца назад командовал только дивизией, еще молод и недостаточно опытен для того, чтобы занимать такую должность, Гитлер все же настоял на его кандидатуре. На сей раз фюрер не ошибся в своем выборе. В ходе ожесточенного сражения, развернувшегося зимой 1941—1942 годов в районе Ржева, Модель не только спас свою армию от угрозы нависшего над ней окружения и предотвратил разгром советскими войсками всего левого крыла группы армий «Центр», но и сумел сам окружить советскую 39-ю армию, разгром которой был завершен к концу февраля 1942 года. За успешные действия в районе Ржева Гитлер произвел Моделя в генерал-полковники и наградил дубовыми листьями к Рыцарскому кресту.
До октября 1942 года возглавляемая Моделем 9-я армия вела успешные оборонительные бои, отразив все попытки советских войск ликвидировать занимаемый ею ржевский выступ фронта. Этот выступ Модель оставил только после катастрофы, постигшей немецко-фашистский вермахт под Сталинградом, когда стало ясно, что наступление с ржевского плацдарма на Москву в обозримом будущем не состоится и дальше удерживать его уже не имеет смысла. В марте 1943 года Модель осуществил довольно искусный отвод своих войск (17 дивизий) с ржевского выступа на новый оборонительный рубеж, находившийся в 100—140 км к западу. Эвакуация ржевского плацдарма была проведена им мастерски, несмотря на мощный натиск перешедших в наступление советских войск, располагавших большим превосходством в силах. После этого 9-я армия была переброшена с северного фланга группы армий «Центр» на южный, где ей предстояло принять участие в наступательной операции «Цитадель». Не веривший в успех этой операции командующий войсками группы армий «Центр» генерал-фельдмаршал Г. фон Клюге хитроумным маневром уклонился от непосредственного руководства ею, переложив всю ответственность на своего подчиненного — Моделя.
Таким образом, на Моделя было возложено руководство левым (северным) крылом группировки немецко-фашистских войск, перешедших летом 1943 года в наступление на Курской дуге.
Надо сказать, что Модель тоже сомневался в успешном исходе предстоящей операции и выступал против ее проведения. По его настоянию Гитлер несколько раз откладывал начало перехода в наступление. Битва на Курской дуге, как и предвидел Модель, завершилась очередным сокрушительным поражением немецко-фашистского вермахта. Потерпела тяжелое поражение и его 9-я армия, не сумевшая, несмотря на всю мощь нанесенного ею первоначального удара, преодолеть глубокоэшелонированную оборону советских войск. Проявив величайшее мужество, стойкость и героизм, советские воины отразили мощный удар врага, перед которым, казалось бы, ничто не могло устоять. И не только отразили, но и нанесли ударной группировке противника такие потери, в результате которых ее наступательные возможности оказались безнадежно подорванными. Обескровленные в безуспешных попытках прорвать оборону советских войск Центрального фронта (генерал К. К. Рокоссовский) дивизии 9-й армии не смогли устоять перед мощным натиском перешедшей в контрнаступление Красной Армии и начали отступление. Надо отдать должное Моделю — после тяжелого поражения в битве под Курском он весьма умело организовал отход своих войск и сумел спасти основные силы 9-й армии от полного разгрома. В ходе отступления к Днепру, выполняя приказ Гитлера, он с особым рвением применял «тактику выжженной земли», проявлял крайнюю жестокость по отношению к мирному населению, активно сотрудничал с карательными органами СС. По его приказу были угнаны в Германию свыше 250 тыс. человек гражданского населения. Отступая на запад, войска Моделя оставляли за собой лишь дымящиеся развалины сожженных и разрушенных до основания сел и городов. Такие действия по всем международным законам определяются как военные преступления, а военачальники, придерживающихся таких методов ведения войны, — военными преступниками. Остановить наступление советских войск Моделю удалось лишь в октябре 1943 года на рубеже Днепра. 9-й армией он командовал до ноября 1943 года. 31 января 1944 года назначен командующим группы армий «Север», заменив на этом посту генерал-фельдмаршала Г. фон Кюхлера. Эта группа армий, будучи разгромлена Красной Армией под Новгородом и Ленинградом, находилась в очень тяжелом положении. Чтобы заставить Гитлера хотя бы частично отказаться от его сумасбродной идеи оборонять занимаемые рубежи во что бы то ни стало, Модель предложил новый способ ведения боевых действий, получивший название «щит и меч». Сущность его заключалась в том, что временное отступление допускается, если оно необходимо для подготовки контрудара. Как это ни странно, но Моделю удалось убедить Гитлера в целесообразности предложенного им способа и получить согласие на его использование.
Однако, несмотря на все усилия, Модель к началу марта 1944 года все же был вынужден отступить на линию «Пантера». Только здесь, на подступах к Прибалтике, ему удалось закрепиться и стабилизировать фронт, который немецко-фашистские войска удерживали затем до середины июля. 1 марта 1944 года Модель был произведен в генерал-фельдмаршалы и награжден мечами к Рыцарскому кресту.
Но после стабилизации фронта в полосе группы армий «Север» он был переброшен Гитлером на другой участок Восточного фронта. 30 марта 1944 года Модель назначен командующим группы армий «Юг» (с 5 апреля 1944 года группа армий «Северная Украина»), заменив на этом посту генерал-фельдмаршала Э. фон Манштейна. Здесь ему также пришлось восстанавливать фронт обороны немецко-фашистских войск, разгромленных Красной Армией на Правобережной Украине. С этой задачей Модель успешно справился. Наступление советских войск было остановлено и фронт в Западной Украине стабилизировался до июля 1944 года. После разгрома Красной Армией группы армий «Центр» в Белоруссии Гитлер, чтобы спасти положение на центральном участке Восточного фронта, назначает командующим ее остатками Моделя (28 июля 1944 года). Сменив на посту командующего группы армий «Центр» своего бывшего начальника генерал-фельдмаршала Э. Буша, Модель предпринимает энергичные усилия по спасению остатков потерпевшей сокрушительное поражение этой группы армий. Остановить наступление советских войск ему удалось только на рубеже рек Висла и Нарев. Получив подкрепления, Модель предпринял контрудар, в результате которого нанес серьезное поражение советской 2-й танковой армии на подступах к Варшаве. В начале осени 1944 года стратегический прорыв Красной Армии в центре Восточного фронта был локализован и фронт здесь до середины января 1945 года стабилизировался. Гитлер назвал Моделя «спасителем Восточного фронта» и наградил его бриллиантами к Рыцарскому кресту (17 августа 1944 года). Это была высшая боевая награда в Третьем рейхе. Рыцарского креста с дубовыми листьями, мечами и бриллиантами за все время Второй мировой войны были удостоены всего лишь 27 человек, в том числе 4 фельдмаршала. Модель был третьим из них.