После поражения Германии в Первой мировой войне и демобилизации кайзеровской армии оставлен служить в рейхсвере (1919). В 1919 году в рядах Добровольческого корпуса «Ост» сражался против поляков в Силезии, командовал ротой, затем был офицером штаба 48-й резервной пехотной дивизии. Во время службы в рейхсвере — армии Веймарской республики занимал различные штабные и командные должности. Сначала был полковым адъютантом (1920—1922). В 1923 году окончил курсы офицеров Генерального штаба, был причислен к Генеральному штабу и назначен в штаб 2-й армейской группы (Кассель). В 1924—1927 годах служил в штабе 5-го военного округа (Штутгарт). В 1927—1930-х — командир пехотной роты. В 1930 году получил чин майора и назначен представителем Генерального штаба в 5-й пехотной дивизии. В 1934 году становится командиром одного из первых в германской армии моторизованного батальона, сформированного при 3-й пехотной дивизии (Берлин), и получает чин подполковника. В 1935 году произведен в полковники и назначен начальником штаба Управления бронетанковых войск, сменив на этом посту полковника Г. Гудериана. Тогда же он привлекает к себе внимание генерала В. фон Рейхенау, который сыграл в дальнейшей судьбе будущего фельдмаршала особую роль. Уже в 1930-х годах Паулюс заслужил репутацию крупного специалиста в области моторизации войск, а также способного генштабиста. В августе 1938 года назначен начальником штаба 16-го армейского корпуса, в состав которого тогда входили все танковые войска вермахта. Корпусом командовал генерал Г. Гудериан, а затем генерал Э. Гепнер. Участвовал в аншлюсе Австрии и оккупации Судетской области; генерал-майор (январь 1939 года). С лета 1939 года начальник штаба 4-й армейской группы (Лейпциг), которой командовал генерал Рейхенау. В августе 1939 года эта армейская группа была преобразована в 10-ю армию, начальником штаба которой стал Паулюс. В этой должности он участвовал в Польской 1939 года и Французской 1940 года кампаниях (в октябре 1939 года 10-я армия была переименована в 6-ю армию). За первую из этих кампаний Паулюс был награжден Железным крестом 1-й степени (1939), а за вторую — произведен в генерал-лейтенанты (1940). В сентябре 1940 назначен 1-м обер-квартирмейстером Генерального штаба сухопутных войск. Являясь 1-м заместителем начальника Генерального штаба генерал-полковника Ф. Гальдера, Паулюс занимался разработкой оперативно-стратегических планов, в том числе плана войны против Советского Союза («план Барбаросса»). 1 января 1942 года получил чин генерала танковых войск. По предложению генерал-фельдмаршала В. фон Рейхенау. Гитлер 5 января 1942 года назначил Паулюса командующим 6-й армией, которой до этого командовал сам Рейхенау. Паулюс пришел в восторг от своего нового назначения, поскольку ему уже давно хотелось перейти на командную должность. Выбор фюрером кандидатуры Паулюса на должность командующего армией был довольно странным и труднообъяснимым, поскольку тот являлся типичным штабным работником и совершенно не имел опыта командования не только крупными войсковыми соединениями, но даже и полком. Весь его командный стаж состоял в командовании пехотной ротой и моторизованным батальоном, причем батальоном Паулюс командовал всего в течение нескольких месяцев, да и то в мирное время. Странность выбора Гитлера заключалась прежде всего в том, что в его распоряжении находилось большое количество опытных командиров корпусов, хорошо проявивших себя в кампаниях 1939, 1940 и 1941 годов. Вступив в командование 6-й армией 20 января 1942 года, когда Рейхенау уже не было в живых, Паулюс первым делом отменил его приказы о сотрудничестве с карательными отрядами СС и органами СД, а также приказ «О комиссарах».
Свое боевое крещение в роли командующего армией он принял в начале 1942 в боях на реке Северный Донец, когда ему удалось остановить наступление советских войск в районе Изюма. Затем довольно успешно действовал в Харьковском сражении (май 1942 года). Отразив мощное наступление Красной Армии, он нанес контрудар восточнее Харькова и, развивая успех в глубину, соединился с 1-й танковой армией (генерал Э. фон Клейст). В Харьковском котле оказалась крупная группировка советских войск, насчитывавшая до 240 тыс. человек, свыше 2 тыс. танков и около 1,3 тыс. артиллерийских орудий. К началу июня 1942 года окруженная группировка была уничтожена. За эту победу Паулюс был награжден Рыцарским крестом. Летом 1942 года 6-я армия участвовала в наступлении на Воронеж и вышла к Дону южнее этого города, а затем развернула наступление на сталинградском направлении. После разделения группы армий «Юг» на две группы армий 6-я армия вошла в состав группы армий «Б» (генерал М. фон Вейхс).
Наступление Паулюса на Сталинград развивалось медленно. Ему пришлось преодолевать упорное сопротивление советских войск. В июле-августе 1942 года произошло ожесточенное сражение на Дону в районе Калача. Оно завершилось победой Паулюса. Крупная группировка советских войск (62-я А, 1-я и 4-я ТА) потерпела поражение и была отброшена за Дон, потеряв до 50 тыс. человек, около 270 танков и до 600 артиллерийских орудий. Форсировав Дон, передовые части 6-й армии 23 августа вышли к Волге севернее Сталинграда. В первых числах сентября начались бои непосредственно за город Сталинград, который к этому времени практически уже полностью был разрушен немецкой авиацией. Бои в Сталинграде носили крайне ожесточенный характер. К середине сентября немцы овладели почти всем городом (вернее, тем, что осталось от него), но сбросить в Волгу войска советских 62-й и 64-й армий, удерживавших в своих руках узкую полоску земли на правом берегу реки, несмотря на все усилия, так и не смогли. Не совсем умелые и решительные действия Паулюса в районе Сталинграда осенью 1942 года вызвали серьезные нарекания со стороны ряда видных немецких генералов, потребовавших от Гитлера отрешения его от должности и назначения другого командующего. Однако Гитлер отказался это сделать, поставив Паулюсу задачу во что бы то ни стало и в кратчайший срок завершить разгром противника в районе Сталинграда. После этого он планировал назначить Паулюса начальником штаба оперативного руководства ОКВ вместо попавшего в опалу генерал-полковника А. Йодля.
19 ноября 1942 года Красная Армия перешла в контрнаступление под Сталинградом и уже 23 ноября 6-я армия и часть сил действовавшей южнее 4-й танковой армии были окружены советскими войсками в районе Сталинграда. В огромном «котле» оказалась группировка немецко-фашистских войск численностью около 300 тыс. человек. Паулюс отказался последовать совету некоторых командиров корпусов и осуществить прорыв из окружения в юго-западном направлении. Отвергая ссылки своих подчиненных на фельдмаршала Рейхенау, который, по их мнению, в создавшейся обстановке поступил именно таким бы образом, несмотря на приказ Гитлера, запретившего прорыв, Паулюс мрачно произнес: «Я не Рейхенау», и поспешил закрыть совещание. Он не осмелился нарушить волю Гитлера, отдавшего ему приказ занять круговую оборону и ждать помощи извне, а Сталинград ни в коем случае не сдавать.
Надо сказать, что Паулюс как человек недостаточно твердого характера находился под сильным влиянием своего более волевого начальника штаба ярого нациста генерал-майора А. Шмидта, который упрямо стоял на своем: «Мы должны подчиниться и ни в коем случае не нарушать приказ фюрера». И Паулюс был с ним полностью согласен, его не покидала уверенность, что фюрер сделает все возможное, чтобы выручить 6-ю армию. 30 ноября 1942 года Паулюс получил чин генерал-полковника. Попытка генерал-фельдмаршала Э. фон Манштейна (командующий группой армий «Дон») деблокировать 6-ю армию в декабре 1942 года закончилась полным провалом. Затея с «воздушным мостом», который рейхсмаршал Г. Геринг обещал организовать для бесперебойного снабжения окруженной в Сталинграде группировки, с треском провалилась. 6-я армия (оказавшиеся вместе с нею в окружении соединения 4-й танковой армии были включены в ее состав) была обречена, но, повинуясь приказу Гитлера «Стоять до последнего!», продолжала безнадежную борьбу. 8 января 1943 года ультиматум советского командования о капитуляции Паулюс оставил без ответа. На повторное предложение капитулировать последовал решительный отказ.
