В феврале 1935 года, когда Германия вопреки международным договорам официально объявила о создании люфтваффе, Шперле был в числе первых военачальников германских ВВС, получивших генеральское звание. Осенью того же года назначен командующим 5-м авиационным военным округом (Мюнхен). Принимал активное участие в создании люфтваффе. Когда в октябре 1936 года Гитлер направил в Испанию на помощь Ф. Франко легион «Кондор» (авиационное соединение германских ВВС), то его командиром был назначен произведенный в генерал-лейтенанты Шперле.

Во время гражданской войны в Испании 1936—1939 годов сражавшиеся на стороне франкистов люфтваффе приобрели первый боевой опыт, были заложены основы тактики германских ВВС, разработаны способы их боевого применения. Важную роль в решении этих проблем сыграл Шперле. Под его непосредственным руководством немецкие летчики осваивали новые для себя тактические приемы и способы ведения воздушного боя, других боевых действий. В ноябре 1936 года Шперле руководил воздушными налетами на Картахену, в результате чего была уничтожена находившаяся там военно-морская база республиканцев. Вместе с тем необходимо отметить и ту необычайную жестокость и беспощадность, которую Шперле проявил в Испании. Именно ему принадлежит сомнительная честь разработки концепции массированных воздушных налетов на мирные города с целью устрашения противника. Впервые на практике она была применена в Испании авиацией Шперле. Так, по его приказу самолеты легиона «Кондор» варварски разрушили испанский город Гернику. В результате этого воздушного налета погибло множество мирных жителей. И это был далеко не единичный пример. В октябре 1937 года Шперле передал командование легионом генералу Г. Фолькману и вернулся в Германию, где нацисты встретили его как героя, а Гитлер произвел его в чин генерала авиации (1 ноября 1937 года).

В феврале 1938 года он был назначен командующим 3-й группой ВВС (Мюнхен), которая в феврале 1939 года была преобразована в 3-й воздушный флот (аналог воздушной армии). Участвовал в аншлюсе Австрии и оккупации Чехословакии, руководил переформированием австрийских ВВС в 4-й воздушный флот. Во время Польской кампании 1939 года возглавляемый Шперле 3-й воздушный флот поддерживал группу армий «Ц» (генерал В. фон Лееб), войска которой действовали против французов и англичан на Западном фронте, генерал-полковник (1939). Участвовал во Французской кампании 1940 года, в ходе которой авиация Шперле поддерживала с воздуха войска группы армий «А» (генерал Г. фон Рундштедт), наносившие главный удар. 3-й воздушный флот внес большой вклад в дело достижения быстрой и решительной победы во Франции. За отличие в этой кампании Шперле был награжден Рыцарским крестом и произведен в генерал-фельдмаршалы (19 июля 1940 года). После разгрома Франции возглавил действия немецко-фашистской авиации в «битве за Англию». Выдвинул план, согласно которому основные усилия люфтваффе предложил сосредоточить на уничтожении истребительной авиации британских ВВС. Однако Г. Геринг и Гитлер с ним не согласились. Шперле было приказано главный упор сделать на бомбежке английских городов, и прежде всего Лондона, чтобы устрашить англичан и сломить их волю к сопротивлению. Это позволило Англии быстро восстановить боеспособность своих ВВС, понесших тяжелые потери во время кампании во Франции, и вскоре бросить вызов люфтваффе в борьбе за господство в воздухе. 13 августа 1940 года Шперле по собственной инициативе предпринял попытку разгромить английские ВВС, навязав им в восточной части Англии крупное воздушное сражение. Но эта попытка успехом не увенчалась. Более того, немецкая авиация понесла в этом сражении большие потери и утратила инициативу в ведении боевых действий.

19 августа 1940 года Шперле был отстранен от главного руководства операциями люфтваффе в «битве за Англию». Его полномочия были переданы генерал-фельдмаршалу А. Кессельрингу, а сам Шперле поступил в подчинение нового командующего. Вскоре 3-й воздушный флот снова понес тяжелые потери, и в октябре 1940 года Геринг вынужден был приостановить воздушные налеты на Англию. В дальнейшем они были возобновлены, но проводились уже с меньшей интенсивностью. Весной 1941 года продолжавшаяся 9 месяцев «битва за Англию» закончилась. Люфтваффе в ходе ее потерпели сокрушительное поражение — первое во Второй мировой войне. В апреле — мае 1941 года их основные силы были перебазированы на Восток, где Гитлер завершал подготовку к нападению на СССР. На Западе был оставлен 3-й воздушный флот, но сильно урезанного состава. В распоряжении Шперле остались лишь две истребительные эскадры (2-я и 26-я) и несколько групп бомбардировщиков. Для успешной борьбы с английской авиацией этих сил было явно недостаточно.

Деятельность Шперле в 1941—1944 годах заслуживает негативной оценки — он полностью утратил былую энергию, активность и решительность, открыто пренебрегал своими служебными обязанностями. Возглавив в мае 1941 года ВВС рейха на Западе, он первым делом перенес свою штаб-квартиру в Париж, где быстро пристрастился к праздному образу жизни. Парижская атмосфера разлагающе подействовала на сына пивовара. Ненасытная жажда наслаждений, нескончаемые банкеты и кутежи, необузданная алчность, стремление к роскоши, страсть к азартным играм и откровенное безделье, прикрываемое показухой, — вот основная сфера «деятельности» Шперле в этот период. Он как бы соперничал в сибаритстве со своим начальником Герингом. И результаты такой «деятельности» не замедлили сказаться. Боевая подготовка в подчиненных ему войсках люфтваффе была крайне запущена, их боеспособность резко снизилась, во всем чувствовалась полная неразбериха и отсутствие каких-либо попыток со стороны командования навести хотя бы элементарный порядок.

1 марта 1943 года английская авиация произвела массированный воздушный налет на Берлин. Гитлер приказал Шперле в отместку разбомбить Лондон. Но поставленную перед ним задачу фельдмаршал выполнить не сумел. Произведенный 3 марта его авиацией налет на столицу Великобритании окончился полной неудачей. Фюрер был взбешен. Он подверг Шперле бурному разносу, обвинил его в неспособности и решил уволить в отставку. Но через несколько дней Гитлер неожиданно смягчился, сменив гнев на милость и даже выслал Шперле 50 тыс. рейхсмарок на погашение долгов. Однако прибывший в Париж посланец фюрера не застал фельдмаршала на рабочем месте… Тот уехал отдыхать на курорт. Гитлер сделал вид, что ничего особенного не произошло, но авторитет Шперле после этого в его глазах резко пошатнулся.

6 июня 1944 года союзники начали высадку своих экспедиционных сил в Нормандии, открыв Второй фронт в Европе. 3-й воздушный флот не смог оказать им сколь-нибудь серьезного противодействия. В день вторжения союзная англо-американская авиация произвела около 10 600 самолето-вылетов, тогда как немецкая только 50. Вслед затем немцы проиграли сражение в Нормандии. В ходе его авиация Шперле (свыше 400 самолетов) показала свою низкую эффективность. При этом сам Шперле проявил поразительную пассивность. Большая часть наземных служб 3-го воздушного флота бежала с поля сражения, а в его боевых частях выявилась значительная нехватка летного состава. Терпению Гитлера пришел конец. 19 августа 1944 года Шперле был смещен с занимаемой должности и отправлен в резерв ОКВ. До самого конца войны он так и не получил никакого назначения, оставаясь не у дел. 1 мая 1945 года был арестован английскими войсками и в 1948 году предстал перед военным трибуналом. Однако в октябре того же года все обвинения в военных преступлениях с него были сняты, Шперле был оправдан и освобожден из плена. Последние годы жизни провел в Баварии.

Звание генерал-фельдмаршала германских ВВС Шперле получил одним из первых в Третьем рейхе, когда ему шел 56-й год. Как и большинство бывших военных летчиков германской авиации, он сразу же перешел на службу к нацистам, как только те пришли к власти, полностью воспринял их идеологию и принял самое активное участие в создании гитлеровских люфтваффе. Отказ Гитлера выполнять условия Версальского мирного договора 1919 года, запрещавшего Германии иметь ВВС, такие, как Шперле, восприняли с энтузиазмом и сразу же без каких-либо колебаний поддержали программу нацистов по воссозданию германских ВВС.