Из Маннхейма армия, в которой одним из командиров дивизий был Мишель Ней (1769—1815) и Гюдэн, выступила в направлении Филипсбурга и Хейльбронна. У Бернадота сразу сложились напряжённые отношения и с командующим Швейцарской армией Массеной, и с командующим Майнцской, а позже Дунайской армией Журданом. Шла настоящая драка за ресурсы и подкрепления, источником которых, по задумке Директории, должна была служить Обзервационная армия Бернадота. На самостоятельные оперативные действия она, таким образом, рассчитывать не могла. Журдан постоянно требовал подкреплений от Бернадота, тот нервничал, потому что Журдан не информировал его об общей картине, складывавшейся на восточных фронтах, и призывал Журдана вникнуть в его положение и избавиться от некомпетентных советников и интриганов. Журдан настаивал на немедленном присоединении армии Бернадота к своей, но тот, остановившись у Хейльбронна, ссылался на невозможность выполнения этого требования ввиду слабости своих сил. Между генералами возникла распря, в которую был вынужден вмешаться военный министр и решить её в пользу Журдана. Поскольку австрийцы 21 и 25 марта под Острахом и Штокахом нанесли поражение слабой и малочисленной Дунайской армии, и Журдан был вынужден отдать приказ к отступлению, так и не дождавшись подкрепления, то обиженный в своих лучших чувствах Бернадот снял осаду Фи- липпсбурга и, оставив небольшой гарнизон в Манхейме, снова вернулся за Рейн.
При осаде Филипсбурга шеф Обзервационной армией советовал Нею применить военную хитрость: «Для пользы своей стране и славы её оружия разрешается использовать любые средства », а при осаде Маннгейма, по его словам, нужно было его жителям дать ложное — устное — обещание об отказе от контрибуции. При отсутствии ресурсов пришлось прибегать к нечестным методам ведения военных действий.
Скоро Обзервационная и Швейцарская армия были всё-таки влиты в состав Дунайской, и в начале марта 1799 года Бернадот с Массеной стали командовать флангами Журдана.
Война в Германии была проиграна. Та же участь выпала и на долю армии в Италии. Там А.В. Суворов по всем статьям переигрывал французов. Журдан подал в отставку, и всё командование в этом районе взял на себя сначала Эрнуф, а потом Массена. Примеру Журдана 9 апреля 1799 года последовал и Бернадот — у него снова заболела грудь и открылся кашель с кровохарканьем. В Париж он не вернулся, да его туда пока и не отпускали, а пока он написал военному министру письмо, в котором, в частности, не скрывая горечи и обиды, сообщал: «Я далёк от того, чтобы пытаться предугадать последствия мер, принятых Директорией. Я уважаю все власти, в том числе, когда они даже ошибаются...» Оставив своё соединение на Колода, он уехал лечиться на воды в Симмерн, где стал гостем тестя своего помощника полковника Мэдона.
Между тем в Симмерне он узнал, что был избран от своего родного департамента Нижние Пиренеи в Совет пятисот. Напомнив о себе несколько раз военному министру и ссылаясь на некомпетентность местных немецких врачей, но тем не менее отдохнув и окрепнув в Симмерне, он с нетерпением ринулся в Париж.
Францией сверху донизу овладела апатия. Все критиковали правительство — Директорию, но никто ничего не хотел делать. Сама власть тоже была полностью парализована, и высшие чиновники с безразличием наблюдали за тем, как страна катится в пропасть. Прошедшие выборы ещё больше ослабили правительство и укрепили позиции свергнутых недавно якобинцев. Недовольство властью было всеобщим. У всех на устах были новости о перевороте, даже Жозеф и Люсьен Бонапарты высказывались за это. В Париже Бернадот присоединился к неформальной группе оппозиционных генералов, в которую входили Жубер, Журдан, Брюн и др. Генералы критиковали некомпетентные действия правительства, головотяпство её комиссаров в армиях и требовали смену руководства страной.
В итоге произошёл военный переворот от 30 прериаля (18 июня). В перевороте приняли участие политические силы самых разных оттенков и толков, объединённые ненавистью к прогнившей власти. По воспоминаниям Барраса, не последнюю роль в перевороте сыграл и Бернадот как командир 17-й (парижской) дивизией, хотя первую скрипку играл Жубер. Бернадот предпочёл остаться в тени.
Директория кооптировала в свой состав деятельного и способного аббата Эммануэля Жозефа Сиейеса (1748—1836), бывшего жирондиста и посла в Берлине, сумевшего избежать в эти бурные годы и ареста, и гильотины54. Сиейес энергично взялся за реформу правительства, уволил Талейрана (двое честолюбцев-расстриг в одном правительстве вряд ли могли ужиться), который стал брать взятки почти открыто, дал пост министра полиции «мяснику из Лиона » — Жозефу Фуше и ввёл в состав Директории трёх новых членов — Гохье, Рожера Дюко и генерала Мулена, усилив, таким образом, в ней якобинское влияние. Совершилась т.н. малая революция. Новому правительству предстояло доказать свою способность в установлении порядка в стране и поднятии боевого духа в армии.
Основное внимание, конечно, правительство Сиейеса должно было уделить армии и ведению войны. Благодаря влиянию Жозефа и Люсьена Бонапартов в Совете пятисот и своему вкладу в переворот Бернадот получил предложение возглавить военное министерство. Баррас утверждал потом, что Бернадот был его кандидатом на этот пост, его также поддержали якобинцы Гохье и Мулен, в то время как Сиейес и Рожер-Дюко пытались продвинуть на этот пост врага Бернадота и Клебера, бывшего интенданта, Александра. Бернадот отлично представлял обстановку в стране и в армии и сначала это предложение отклонил. Он не желал становиться «мальчиком для битья» и понимал, что в своей работе в военном министерстве столкнётся с непреодолимыми трудностями — в первую очередь в лице самой Директории. Но на него «навалились» свояки Бонапарты, члены Директории, генерал Жубер и супруга Дезире, так что после интенсивных переговоров 2 июля 1799 года он стал военным министром Франции.
Историки утверждают, что в истории Франции не было ещё ни одного военного министра, который бы принимал руководство министерством в таких критических обстоятельствах. Поражения французских армий в Германии и Италии, гражданская война внутри страны, на границах коалиционные армии противника, отсутствие порядка и продовольствия, полная деградация власти, разложение армии и упадок духа у населения, — вот далеко не полный список проблем, перед которыми оказался Бернадот, когда принял портфель военного министра Франции. С другой стороны, в стране не было более подходящей фигуры для этой должности, и это хорошо понимал П. Баррас, питавший тайные надежды на то, что честный и неподкупный Бернадот справится со своими обязанностями и сумеет также взять под свой контроль непослушных и строптивых генералов, ковавших заговоры против Директории.
2 июля Бернадот приступил к исполнению своих обязанностей. С собой в министерство Жан Батист взял своих старых друзей и единомышленников: Жерара, Мэзона, Морэна, Сарразэна. Свояки Жозеф и Люсьен предприняли попытку продвинуть на ключевые посты военного ведомства своих людей с Корсики, но новый министр отбил все их атаки и сохранил за собой полную свободу действий. Если он кому и симпатизировал после переворота, то это были якобинцы типа Журдана, Ожеро и Шампионне.
На посту военного министра Бернадот пробыл всего два с половиной месяца. Что же удалось ему сделать за такое короткое время? Наполеон считал его деятельность сумбурной и дилетантской, «...он делал только ошибки, ничего не организовал, и Директория была вынуждена удалить его с поста ». Поль де Баррас, не самый жаркий почитатель Бернадота, придерживался на этот счёт другого мнения: «Бонапарт хочет принизить всё, чему он обязан Бернадоту. Он и его армия годами жили за счёт того, что он сделал за несколько месяцев...» Апологеты Карла XIV Юхана, наоборот, оценивают её лишь в самых хвалебных выражениях.
Современные историки полагают, что деятельность Бернадота как военного министра была полезной и честной, и этого нам вполне достаточно. Судить об её эффективности трудно, потому что плоды его трудов могли проявиться не сразу, а года через полтора-два. Но к тому времени на его месте были уже другие министры, в том числе недруг Бертье.