Одновременно с началом военной кампании на Западе в ставке главного командования уже с лета 1940 г. обсуждался план войны против Советского Союза. Он приобретал все более четкие формы по мере того, как становилось ясно, что Англия не собирается сдаваться. Было решено начать войну на Востоке без решающей победы на Западе. Уже с осени 1940 г. началась частичная переброска войск на Балтику и их перегруппировка вблизи советских границ.

18 декабря 1940 г. последовал приказ Гитлера вермахту о начале планирования «быстрой военной кампании против Советской России до завершения войны против Англии», известный как Директива № 21 или «план Барбаросса». Соответствующие приготовления вменялось сделать до 15 мая 1941 г. Это явно противоречит предпринимаемым до сегодняшнего дня усилиям представить нападение Германии на СССР как «превентивную» войну. Гитлер решил использовать благоприятное «стратегическое окно», пока Красная Армия находилась в стадии модернизации. Как долго будет сохраняться эта благоприятная ситуация для Германии, он не знал. Кроме того, летом 1940 г. началось торможение экономических связей и охлаждение в советско-германских отношениях. Это обстоятельство дополнительно убедило Гитлера, что дольше выжидать нельзя.

«План Барбаросса» предусматривал вероломное нападение на СССР и его разгром в короткой «молниеносной» войне («блицкриг»). Гитлеровцы планировали к осени 1941 г. довести свои войска до линии Архангельск-Волга, разбить с воздуха промышленные центры Урала и таким образом добиться капитуляции Советского Союза.

Стратегия будущего нападения на Советский Союз обусловила действия нацистской Германии и на юге Европы. Там существовала постоянная угроза со стороны Англии, и было особенно важно взять под контроль Балканы, чтобы все силы сосредоточить для предстоящей войны на Востоке.

Военная кампания на Балканах, начавшаяся 6 апреля 1941 г., была сравнительно недолгой. 17 апреля заявила о своей капитуляции Югославия, а 21 — Греция. Только завоевание о. Крит военно-десантными войсками (20 мая — 1 июня 1941 г.) стоило Германии значительных потерь. В Югославии был установлен кровавый оккупационный режим. Ее поражение ускорили хорватские сепаратисты — усташи, которые еще 10 апреля провозгласили «независимое», а на деле марионеточное государство Хорватия. Греция же была занята частично немецкими, частично итальянскими войсками. Эта военная кампания на шесть ценных для немцев недель отодвинула начало войны против Советского Союза, но не поколебала решимости воевать против него.

22 июня 1941 г. в 3 часа 15 минут утра без объявления войны немецкий вермахт начал наступление против СССР одновременно на суше, на море и в воздухе. Румыния, Италия, Словакия, Финляндия и Венгрия присоединились к этому нападению. Немецкое руководство намеревалось отвоевать у Советского Союза важные для него военные и индустриальные центры, природные месторождения и ресурсы, «излишки» аграрных областей, прежде всего Украины, и заполучить дешевую рабочую силу. По стратегическому плану целью вермахта было молниеносным ударом в течение трех-четырех месяцев разгромить основные силы советских войск, преимущественно загнав их в «котлы» западнее Двины и Днепра, и закрепиться на линии Архангельск-Астрахань. Предусматривалось, что после отвода в октябре 1941 г. основных групп немецких войск, на занятой территории как оккупационная армия останутся 54 дивизии.

В наступление на СССР командование вермахта бросило 153 немецкие дивизии численностью в 3 млн солдат (57 % всех сухопутных войск Германии) и 37 дивизий сателлитов Германии. Ввиду просчетов советского политического руководства, Красная Армия в первые дни и недели войны не смогла дать решительного отпора немецкому нападению. Уже в первые часы военных действий главный удар немецких ВВС пришелся на незащищенные аэродромы, в результате чего была почти полностью выведена из строя советская авиация в соединениях западной группировки войск. Сухопутные части Красной Армии также оказались не готовы к отражению такого масштабного наступления.

В войне с Советским Союзом, как и в кампаниях 1939-1940 гг., вермахтом был использован момент внезапности: превосходство в воздухе, самостоятельно действующие и подвижные танковые части, быстрота и пробивная сила широкозахватных операций. На руку немцам оказались и неблагоприятное для Красной Армии — фронтальное — расположение воинских соединений, и недостаточная подготовка командного состава, связанная с массовыми репрессиями, и др.

Все это привело к тому, что в первые недели войны немецкая армия (при ожесточенном, но разрозненном сопротивлении советских воинских частей) продвинулась далеко в глубь страны и захватила большое число военнопленных. В быстром темпе сухопутные части группы армий «Север» овладели Прибалтикой и 8 сентября 1941 г. на 900 дней отрезали Ленинград от остальной части страны. Группа армий «Центр» 16 июля достигла Смоленска. Группа армий «Юг» во взаимодействии с группой «Центр» 19 сентября овладела Киевом, а к октябрю — Донецкой областью и Крымом (кроме Севастополя).

В многочисленных боях с окруженными частями Красной Армии к середине октября немецкие войска захватили в плен около 3 млн солдат и офицеров. Из захваченных за весь период войны 5,7 млн советских военнопленных — 3,3 млн погибли от голода и холода, эпидемий, массовых расстрелов и в концентрационных лагерях, преимущественно в первый год войны. Но ожесточенное сопротивление советских солдат оказалось неожиданным для немцев, обманутых расовой пропагандой нацистов. Несмотря на огромные потери, началось бесперебойное пополнение Красной Армии за счет мобилизации новых ресурсов из глубины страны. У вермахта, в сравнении с предыдущими «блицкригами», был необычайно высок урон боевой техники, особенно танков и самолетов.

2 октября 1941 г. началось наступление на Москву группы армий «Центр» (операция «Тайфун»). Оно разворачивалось медленнее, чем планировалось. Упорное сопротивление Красной Армии, осенняя грязь, а затем — зимние холода (до -30 °С) привели в ноябре к остановке наступления в 30 км от советской столицы. Героическая оборона Москвы продолжалась до 5 декабря 1941 г., когда началось мощное контрнаступление. В результате немецкие войска были отброшены от Москвы на 100-250 км. Они потеряли 120 тыс. человек, около 3 тыс. орудий, 1 тыс. минометов, 1300 танков, 18 тыс. автомашин. Московская битва была проиграна вермахтом. «Козлом отпущения» за проигранное сражение стал главнокомандующий сухопутными силами генерал-фельдмаршал Вальтер фон Браухич. 19 декабря 1941 г. Гитлер отправил его в отставку и взял на себя непосредственное руководство военными операциями. В битве под Москвой немецкая армия впервые потерпела столь серьезное поражение. Был нанесен ощутимый удар по мифу «о непобедимости вермахта» и по стратегии «молниеносных войн».

Гитлер с самого начала давал понять военным, что в Советском Союзе будет вестись расово-идеологическая «война на уничтожение». 30 марта 1941 г. он заявлял о будущей войне с СССР: «Речь идет о борьбе двух мировоззрений. Мы должны с самого начала откреститься от идеи солдатского товарищества. Коммунист и прежде, и в будущем не может быть товарищем. Речь идет о борьбе на уничтожение...».

«Уничтожение» действительно стало лейтмотивом оккупационной политики немецких войск на территории Советского Союза. Это отразилось, например, в законе о военных судах в области действия «плана Барбаросса», а также в знаменитом «приказе о комиссарах» от 6 июня 1941 г. Приказ предусматривал расстрел комиссаров на месте без суда и следствия, вопреки всем правилам войны, признанным и Германией. Исполнительными органами войны на уничтожение стали действовавшие в тылу четыре «айнзацгруппы». Некоторые армейские соединения обеспечивали им не только поддержку, но и сами участвовали в карательных операциях.

Военные действия гитлеровской армии сопровождались открытым грабежом ресурсов и культурных ценностей (427 музеев), принудительным угоном гражданского населения на работы в Германию. По материалам Нюрнбергского процесса всего было угнано более 4 млн советских людей.