Повседневное управление гестапо было поручено Рудольфу Дильсу, который был назначен «инспектором тайной государственной полиции». Административное подразделение организации стало известно как гестапа. Берлинские СС считали Дильса консервативным бюрократом и реакционером. Ганс Гизевиус, статс-секретарь Геринга, распространил слух, что Дильс недостаточно рьяно преследует коммунистов, поскольку симпатизирует им. Авторитет Дильса постепенно подрывался этими слухами. В октябре 1933 года отряд эсэсовцев-ренегатов совершил налёт на дом Дильса, пытаясь его дискредитировать.
Его не было дома во время обыска. Его жена была заперта в спальне, пока эсэсовцы обыскивали дом в поисках улик. Жена Диля позвонила мужу с телефона из спальни. Дильс быстро прибыл на место происшествия в сопровождении большого отряда гестаповцев, которые арестовали эсэсовцев. Геринг, поддавшись давлению СС, приказал поместить Дильса под домашний арест. Дильс, к тому времени охваченный паранойей и напуганный всеми интригами, закручивавшимися вокруг него, подал в отставку и бежал в Карлсбад в Чехословакии, опасаясь за свою жизнь. На самом деле, Геринг намеревался лишь перевести его на другую работу, вероятно, за пределы Берлина, чтобы разрядить конфликт внутри молодого гестапо.
Он заменил Дильса Паулем Хинклером, преданным нацистским ничтожеством, много выпивохой и практически без опыта административной работы. Это был ужасный выбор. Чиновники в штаб-квартире гестапо указали Герингу, что Хинклер совершенно не соответствует его уровню. Он продержался на этой должности всего месяц, прежде чем Геринг отправил сосланному Дильсу письмо с просьбой вернуться. «Я хочу сегодня избавиться от Хинклера-«думмкопфа»», — написал Геринг. «Я подготовил указ, который предоставит вам независимость». Дильс вернулся и вновь занял пост главы гестапо. Геринг понял, что слухи о его лояльности были сфабрикованы его врагами из СС и СА.
Внутренние распри внутри гестапо привели Фрика, министра внутренних дел, к опасениям, что оно превращается в нацистскую организацию, не подпадающую под какое-либо государственное регулирование. Геринг быстро сорвал усилия Фрика удержать гестапо в рамках традиционных правовых норм, издав ещё один указ, выводящий гестапо из-под контроля прусского Министерства внутренних дел и передающий его под свою личную юрисдикцию как премьер-министра Пруссии. 30 ноября 1933 года независимость гестапо была ещё больше укреплена вторым законом о гестапо, согласно которому Геринг вывел гестапо из-под контроля Министерства внутренних дел.
Параллельно с развитием событий в Пруссии, лидер СС Гиммлер и его амбициозный протеже Гейдрих начали объединение всех других политических полицейских сил в федеральных землях. Процесс начался 9 марта 1933 года, когда Гиммлер стал начальником полиции Мюнхена и политической полиции. Гейдрих был назначен начальником VI отдела политической полиции Мюнхена (BPP). Гиммлер также отвечал за создание нового концентрационного лагеря в Дахау, на окраине Мюнхена, которым управлял Теодор Эйке, преданный эсэсовец. Для охраны лагеря он использовал безжалостные формирования СС «Мёртвая голова». Именно Гиммлер создал организационную трёхстороннюю связь между СС, политической полицией и системой концентрационных лагерей. Гиммлеровская модель нацистского террора впоследствии была принята по всей Германии.
Первоначально Гиммлер не мог распространить свой контроль над политическими полицейскими силами на всю Баварию. СА Эрнста Рёма внедрились в полицию региона после захвата власти нацистами. Тысячи его уличных бойцов хлынули в недавно созданную Вспомогательную полицию безопасности. Местный гауляйтер Адольф Вагнер, ведущий назначенный нацистской партией чиновник в этом регионе, полностью осознававший необузданную жестокость СА, попросил Гиммлера создать альтернативную политическую вспомогательную полицию, состоящую из эсэсовцев, которые затем взяли бы на себя командование вспомогательными подразделениями СА. Это позволило бы СС контролировать СА в этом регионе. Рём не возражал, поскольку на тот момент всё ещё считал, что СС подчиняется СА. Это оказалось серьёзной тактической ошибкой. Гиммлер теперь командовал всеми политическими полицейскими силами Баварии, и власть СА была ослаблена. 1 апреля 1933 года Гиммлеру было присвоено звание «Командующего политической полиции Баварии», и он принял на себя полное командование всеми концентрационными лагерями. В отличие от хаотичных «диких» лагерей Пруссии, баварские лагеря находились под надлежащим административным контролем.
Стремительный захват Гиммлером контроля над полицией в Баварии вызвал опасения, что СС захватит всю государственную бюрократию и систему уголовного правосудия. Традиционные националистические консерваторы, доминировавшие в Баварии, хотели авторитарного государства, управляемого посредством существующих правовых и административных структур, а не тоталитарного полицейского государства под управлением СС. В мае 1933 года Вагнер издал два приказа, которые серьёзно ограничили применение превентивного ареста «важными подозреваемыми». Вагнер утверждал, что после жестокого подавления коммунистической угрозы необходимо восстановить авторитет традиционных государственных органов.
У Гиммлера были другие планы. С сентября 1933 года по январь 1934 года продолжалась революция Гиммлера, направленная на установление контроля над всеми политическими полицейскими силами германских государств за пределами Пруссии. Она началась с Гамбурга, Любека и Мекленбург-Шверина, затем последовали Анхальт, Баден, Бремен, Гессен, Тюрингия и Вюртемберг. В январе 1934 года Брауншвейг, Ольденбург и Саксония находились под юрисдикцией Гиммлера. Оставалось завоевать лишь гигантское государство Пруссию и два её небольших анклава — Липпе и Шаумбург-Липпе.
Существует множество исторических спекуляций о том, как Гиммлер добился столь впечатляющего уровня контроля над немецкой политической полицией за пределами Пруссии за столь короткий срок. Обвинение на Нюрнбергском процессе намекнуло Вильгельму Фрику, что именно он организовал столь быстрый захват Гиммлером власти в различных федеральных землях, поскольку выступал за централизацию управления и полиции и уже 12 ноября 1933 года отменил последние самостоятельные полномочия германских земель. Фрик категорически отрицал это. Значительное расширение полномочий идеологически ориентированных СС Гиммлера противоречило собственному стремлению Фрика к централизованной полиции, комплектуемой на основе традиционной профессиональной полицейской квалификации. Гиммлер одержал победу над Фриком благодаря успешной пиар-кампании, в ходе которой лидер СС совершил поездку по всем региональным полицейским округам федеральных земель и убедил их лидеров в том, что СС наилучшим образом подходит для борьбы с политическими и расовыми врагами. Он обнаружил, что эта аргументация была более привлекательной, чем попытки Фрика централизовать региональные администрации и усилить бюрократическое вмешательство центрального правительства в дела федеральных земель. СС Гиммлера также казалась федеральным землям гораздо более приемлемой, чем предоставление Рёму и его агрессивным местным штурмовикам большей власти над местной полицией.
За пределами Пруссии гиммлеровская модель централизованного гестапо набирала обороты. На данном этапе Геринг не показывал никаких признаков передачи прусского гестапо безжалостно амбициозному шефу СС. Геринг выступал за контролируемую революцию, в которой нацисты объединились бы с традиционными консервативными силами. «Ради Бога, — сказал Геринг Фрику, — если Гиммлер возьмёт под свой контроль полицию в Пруссии, он нас убьёт».33 Геринг также сочувствовал идее Фрика о необходимости более строгого регулирования превентивного ареста. В марте 1934 года Геринг издал указ, согласно которому все распоряжения о превентивном аресте в Пруссии должны были быть одобрены центральным управлением гестапо в Берлине.
Чтобы предотвратить рост проникновения эсэсовцев в гестапо, Дильс издал директиву для кадровых отделов полиции, в которой рекомендовалось, чтобы звание в СС не имело такого же значения при отборе, как квалификация и опыт работы в полиции и на гражданской службе. Это был просчет. В течение недели, под давлением СС, Дильсу пришлось смягчить свою директиву. Когда в апреле 1934 года Фрик попытался упорядочить превентивные аресты за пределами Пруссии, Гиммлер выразил протест, и этот план был отклонен. Эти попытки ограничить власть СС показывают, что традиционная интерпретация окончательной победы Гиммлера над гестапо, организованная Герингом, глубоко ошибочна. Также нет убедительных доказательств того, что Гитлер проложил путь Гиммлеру к контролю над гестапо. Геринг и Гитлер были гораздо больше озабочены решением неотложной проблемы ограничения независимости Рёма, чем оценкой последствий предоставления Гиммлеру еще большего контроля над немецкой системой безопасности.34