6 мая в разгар переговоров в Реймсе о безоговорочной капитуляции Дёниц направил Гиммлеру письмо: «Дорогой господин имперский министр! Учитывая нынешнюю ситуацию, я решил отказаться от дальнейшего сотрудничества с Вами в качестве имперского министра внутренних дел, члена имперского правительства, главнокомандующего резервной армии и главы полиции. Я объявляю все ваши должности упразднёнными. Я благодарю Вас за службу, которую Вы осуществляли ради Рейха».
Аналогичное письмо было адресовано Геббельсу. Ясно, что 6 мая Дёниц всё ещё не знал о его судьбе. А это, в частности, означало, что никто из обитателей бункера, кто мог бы принести вести о Геббельсе, не прибыл во Фленсбург. Очевидно, никто из них не спешил на службу к правительству Дёница, а старался как можно надежнее скрыться.
Такое же письмо было направлено Розенбергу, министру по оккупированным территориям на Востоке. (Удивительным образом такое министерство сохранялось в Германии до 6 мая 1945 г.) В отставку был отправлен и министр юстиции Отто Тирак. Так Дёниц постарался избавиться от наиболее одиозных личностей в своём кабинете.
Гиммлер продолжал надеяться на то, что он будет востребован западными державами. Он не отправился в бега, подобно Шелленбергу, который уже оказался в Швеции. — По словам Тревора-Роупера, «он сохранял претенциозную службу: штат из 150 человек, радиоотряд, 4 машины с охранниками… Он написал письмо фельдмаршалу Монтгомери и каждый день осведомлялся, не пришёл ли ему ответ». Для этого были основания. То, чего добивался Гиммлер во время переговоров через посредство Бернадотта, воплощалось в жизнь. В английской зоне оккупации немецкие военные части не были расформированы. Около 1 миллиона солдат и офицеров вермахта не были переведены на положение военнопленных. С некоторыми из них проводились занятия по боевой подготовке.
Однако положение самого Гиммлера во Фленсбурге стало неопределённым. После капитуляции Германии Гиммлер решил, что надо скрываться. 10 мая он покинул Фленсбург вместе с частью своих приближенных на четырёх машинах. Путь был тяжёлым. Им приходилось ночевать на открытом воздухе или в зданиях железнодорожных станций. Через два дня беглецы добрались до устья Эльбы и, обнаружив, что переправы нет, бросили машины. Дальше они шли пешком, ночуя в крестьянских домах. 21 мая они достигли Бремерверде. К этому времени все участники группы сняли с себя знаки отличия СС и выдавали себя за бывших сотрудников тайной военной полиции. У Гиммлера были документы на Генриха Гитцингера, человека, который был приговорён Народным судом к смертной казни. Г иммлер сбрил усы и надел на глаз повязку.
В Бремерверде был установлен британский контрольно-пропускной пункт. Было решено, что первым его пройдёт один из беглецов — эсэсовец Киркмайер. Если его пропустят, за ним должны были последовать и остальные. Но Киркмайер не вернулся из пропускного пункта. Тогда Гиммлер и другие решили повернуть назад.
Через два дня, 23 мая британский патруль задержал группу нарушителей комендантского часа в городе Люнебург. Их отвели в лагерь для гражданских лиц. Через некоторое время один из задержанных пожелал встретиться с начальством лагеря. Британский капитан Сильвестр вспоминал, как этот человек с повязкой на глазу снял её и надел очки. Затем он представился: «Я — Генрих Гиммлер».
В ходе тщательного обыска Гиммлера у него был изъят пузырек с жидкостью. Гиммлер утверждал, что это его лекарство от болей в желудке. Подозревая, что Гиммлер прячет яд во рту, капитан Сильвестр приказал принести бутерброды с сыром и чай для задержанного. Капитан полагал, что во время еды тот вытащит яд изо рта. Но этого не случилось. По словам Сильвестра, Гиммлер вёл себя спокойно, вежливо разговаривал и «временами казался даже весёлым».
В 20:00 приехал начальник разведки штаба Монтгомери полковник Майкл Мерфи, которому Гиммлер заявил, что у него есть письмо для Монтгомери. Мерфи решил ещё раз обыскать Гиммлера. Письма у Гиммлера не обнаружили. Его отвезли в следственный центр, где обыск проводили полковник Мерфи и армейский врач капитан С.Дж. Уэллс в присутствии старшины Э. Остина. Когда Уэллс попросил Гиммлера открыть рот, он сразу же увидел маленький чёрный шарик, торчащий между зубами в нижней челюсти. Уэллс засунул два пальца в рот Гиммлеру, но тот резко отдернул голову и сильно прикусил пальцы врача.
Все трое военных набросились на Гиммлера, пытаясь помешать ему проглотить яд. Когда же ему это удалось, военные в течение 15 минут боролись за его жизнь, давая рвотное, промывая желудок, применяя искусственное дыхание. Несмотря на эти усилия, рейхсфюрер СС умер.
Так закончилась жизнь одного из наиболее зловещих деятелей Третьего рейха, который до последних часов своего существования пытался расколоть антигитлеровскую коалиции и даже начать поход войск США, Великобритании и Германии против СССР.
Смерть рейхсфюрера СС не положила конец попыткам сохранить в неприкосновенности те силы в Германии, которые могли быть использованы против Советского Союза. В английской зоне оккупации солдаты и офицеры немецких войск по-прежнему не были на положении военнопленных, а во Фленсбурге сохранялось правительство Дёница. 14 мая Черчилль направил в министерство иностранных дел Великобритании меморандум, в котором предлагал использовать правительство Дёница в интересах держав Запада.
Советское правительство решило положить юнец вопиющему нарушению условий капитуляции. Жуков вспоминал, как в середине мая он был вызван к Сталину. Маршал писал: «В кабинете Верховного, кроме него, находились В.М. Молотов и К.Е. Ворошилов. После взаимных приветствий И.В. Сталин сказал: «В то время как мы всех солдат и офицеров немецкой армии разоружили и направили в лагеря для военнопленных, англичане сохраняют немецкие войска в полной боевой готовности и устанавливают с ними сотрудничество. До сих пор штабы немецких войск во главе с их бывшими командующими пользуются полной свободой и по указанию Монтгомери собирают и приводят в порядок оружие и боевую технику своих войск. Я думаю, англичане стремятся сохранить немецкие войска, чтобы использовать их позже. А это прямое нарушение договорённости между главами правительств о немедленном роспуске немецких войск».
По словам Жукова, Сталин потребовал «ускорить отправку нашей делегации в Контрольную Комиссию, которая должна решительно потребовать от союзников ареста всех членов правительства Дёница, немецких генералов и офицеров». На это Молотов сообщил, что «советская делегация завтра выезжает во Фленсбург».
Генерал Н.М. Трусов рассказал писателю В.В. Карпову о том, как выполнялись эти указания И.В. Сталина: «15 мая 1945 года маршал Жуков вызвал меня к себе в кабинет и сказал, что надо выехать во Фленсбург, и что Верховный Главнокомандующий утвердил меня от советской стороны для ареста правительства Дёница… Далее Жуков приказал подобрать группу в 20–25 офицеров по моему усмотрению, 17 мая быть во Фленсбурге и в возможно короткий срок выполнить это задание».
Н.М. Трусов вспоминал: «Оказавшись за Кильским каналом, мы как бы попали в довоенную фашистскую Германию: всюду видны старые названия улиц, фашистские указатели, кругом свастики, фашистское приветствие поднятием руки и масса немецких военных в сухопутной, эсэсовской и морской форме, все при орденах, со знаками различия. Было очевидно: здесь в полной мере продолжали существовать гитлеровский порядок, действовали фашистские законы… Во Фленсбургском порту находилось много немецких вооружённых военных кораблей. Экипажи этих кораблей жили обычной жизнью, уходили на берег, возвращались из городского отпуска. На кораблях отбивались склянки и развевались немецкие флаги со свастикой. Во Фленсбурге находилось и продолжало функционировать верховное командование фашистской Германии (ОКВ) во главе с генерал-полковником Йодлем — начальником штаба оперативного руководства». (Бывший начальник ОКВ Кейтель был к этому времени уже арестован.) Когда Трусов вошёл в кабинет Дёница, то увидел «на стене портрет Гитлера. При нашем появлении Дёниц встал из-за стола и пытался приветствовать нас традиционным жестом гитлеровцев».