В 1718 г. открывается дело возвращенного в Россию царевича Алексея, и царь включает верного и сообразительного майора в число «министров» Тайной канцелярии, где тот сразу же становится ближайшим помощником П.А. Толстого. Активно участвуя в расследовании, Ушаков по приказу Петра I создает в старой столице филиал нового ведомства политического сыска, разместившийся на Потешном дворе в Преображенском. Как другие участники розыска этого исключительно важного для государя дела, он получает щедрые монаршие награды. В 1721 г. производится в чин генерал-майора с оставлением майором Преображенского полка. Испытывая очевидную склонность к политическому сыску, Ушаков остается в Тайной канцелярии и усердно трудится в ней до ее ликвидации (одновременно состоит членом Адмиралтейств-коллегии). Фактический глава Канцелярии, П.А. Толстой тяготился навязанной ему Петром I должностью и охотно взвалил всю текущую работу на плечи своего старательного помощника. Взошедшая на трон после смерти Петра I Екатерина I благоволила к верному слуге своего покойного мужа, одним из первых удостоила его звания кавалера вновь учрежденного ею ордена Св. Александра Невского, назначила сенатором.

После упразднения в 1726 г. Тайной канцелярии Ушаков не оставляет привычную ему стезю и переходит в Преображенский приказ. Он становится фактическим руководителем этого ведомства при тяжелобольном официальном его начальнике И.Ф. Ромодановском. Вместо него производит розыск, наиболее важные дела докладывает императрице и Верховному тайному совету. Ушакову довелось недолго руководить Преображенским приказом. Вместе с другими коллегами по Тайной канцелярии он был втянут П.А. Толстым в интригу против А.Д. Меншикова, в мае 1727 г. был арестован и обвинен в том, что, «знав о злоумышлении, не донес о том». Правда, в отличие от других отделался легко – он не был сослан с лишением всех прав и чинов в Соловки или Сибирь, а в звании генерал-лейтенанта отправлен в Ревель.

Причастность, хоть и косвенная, к попытке воспрепятствовать восшествию на престол Петра, сделала для Ушакова невозможной успешную карьеру при новом монархе, но его царствование было непродолжительным, и при государыне Анне Иоанновне его звезда засияла особенно ярко.

Когда в 1730 г. в среде столичной элиты происходило политическое брожение и различные группировки аристократии и дворянства составляли различные проекты ограничения монархии, что на краткий миг было закреплено в кондициях Верховного тайного совета, подписанных Анной Иоанновной при избрании ее на царство, Ушаков держался в тени и не чуждался участия только в тех проектах, которые призывали к восстановлению самодержавия в полном объеме. Когда новая императрица разорвала подписанные ею кондиции, лояльность бывшего «министра» Тайной канцелярии была замечена и оценена. В марте 1730 г. ему возвращается звание сенатора, в апреле он производится в чин генерал-аншефа, в 1733 г. – подполковника лейб-гвардии Семеновского полка. Но главным было то, что в его руки вновь была возвращена реальная власть в сфере политического сыска. Укрепившись на престоле, Анна Иоанновна поспешила ликвидировать Верховный тайный совет, а политические дела изъяла из ведения Сената и передала во вновь создаваемый особый орган, во главе которого был поставлен возвращенный ко двору Ушаков – лучшей кандидатуры на эту ответственную роль императрица не смогла бы найти. 6 апреля 1731 г. новому ведомству было присвоено название «Канцелярии тайных розыскных дел», а по правовому статусу она официально была приравнена к коллегиям. Однако благодаря тому, что Ушаков получил право личного доклада государыне, возглавляемая им структура оказалась вне влияния Сената, которому подчинялись коллегии, и действовала под непосредственным руководством Анны Иоанновны и ее ближайшего окружения, в первую очередь печально известного фаворита Бирона. Свой первый удар императрица направила против тех членов Верховного тайного совета, которые чуть было не лишили ее полноты самодержавной власти. Первым пострадал В.Л. Долгорукий, в 1730 г. сосланный в Соловецкий монастырь, а в 1739 г. казненный. В 1731 г. настала очередь его родственника фельдмаршала В.В. Долгорукого, обвиненного в неодобрительном отзыве о новой государыне в домашнем разговоре. Розыск вел Ушаков, и на основании материалов сфабрикованного им в угоду Анне Иоанновне дела за действительные или мнимые слова в адрес императрицы опасный фельдмаршал был заключен в Шлиссельбургскую крепость, в 1737 г. сослан в Ивангород, а еще через два года заточен в Соловецкий монастырь.

М.М. Голицын подвергся опале сразу по воцарении Анны Иоанновны, но ему «повезло» умереть своей смертью в 1730 г. Его брат Д.М. Голицын, истинный «идеолог и организатор» заговора «верховников», был обвинен в служебных злоупотреблениях и привлечен к суду в 1736 г. Формально за «злоупотребления», а фактически за попытку ограничить самодержавие старый князь был приговорен к смертной казни, замененной заточением в Шлиссельбургской крепости, где он вскоре и скончался.

Князей Долгоруких Ушаков судил совместно с другими доверенными лицами Анны Иоанновны, в числе которых был и кабинет-министр императрицы А.П. Волынский. Но в 1740 г. начальник Канцелярии тайных розыскных дел пытал уже своего недавнего коллегу по ведению этого процесса, попытавшегося положить конец немецкому засилью при дворе. Изъятые у Волынского при обыске черновики документов свидетельствовали о замысле ограничить самодержавную власть, а его единомышленники под пыткой «засвидетельствовали» стремление кабинет-министра узурпировать русский трон – последнее обвинение, судя по всему, Ушакову подсказал Бирон.

Искренне преданный своему пыточному ремеслу, Ушаков выполнял свое дело не за страх, а на совесть. Даже в свободное от присутствия в Канцелярии время он ни на миг не забывал о своих обязанностях. За страшным руководителем застенка закрепилась такая репутация, что одно его имя заставляло трепетать каждого, притом не только русских подданных, но и пользовавшихся дипломатической неприкосновенностью иностранных послов. «Он, Шетардий, – докладывали в 1744 г. члены комиссии по выдворению из России французского дипломата, – коль скоро генерала Ушакова увидел, то в лице переменился».

Анна Иоанновна умерла в 1740 г., завещав русский престол младенцу Иоанну Антоновичу, регентом при нем она назначила своего фаворита Бирона. В последовавшей затем череде государственных переворотов Ушаков демонстрирует чудеса политической выживаемости. Поначалу по старой памяти поддерживает Бирона. Но уже через месяц фельдмаршал Миних без особого труда свергает ненавистного временщика и провозглашает регентшей Анну Леопольдовну, мать Иоанна Антоновича, принцессу Брауншвейгскую. Чтобы придать военному перевороту вид хотя бы какой-то законности, победитель приказывает Ушакову добыть необходимые сведения о заговоре Бирона. Застенки Канцелярии тайных розыскных дел заполнились курляндцами, главными из которых были сам бывший фаворит и его двоюродный брат, пристроенный своим всемогущим родственником в капитаны Преображенского полка. Им было предъявлено обвинение в намерении отравить Иоанна Антоновича, обвинить в его смерти Анну Леопольдовну и провозгласить Бирона российским императором. В итоге дело закончилось тем, что последний был приговорен к смертной казни, замененной ссылкой в Пелым, а неуемное рвение членов Канцелярии тайных розыскных дел представить мнимый заговор как можно более масштабным и обвинить в участии в нем как можно больше людей было пресечено самим Минихом, обругавшим следователей и велевшим им «прекратить болванское занятие, от коего по Российскому государству смута сеется». Тем не менее регентша наградила А.И.Ушакова орденом Св. Андрея Первозванного.

Курляндское засилье при русском дворе сменилось брауншвейгским, вновь создав питательную среду для недовольства. Но всему приходит конец: 25 ноября 1741 г. гвардия произвела переворот и возвела на престол Елизавету Петровну. Малолетний император Иоанн Антонович вместе с родителями и игравшими главную роль при дворе Анны Леопольдовны Минихом и Остерманом был арестован. Когда дочь Петра была еще не у власти, Ушаков отказался примкнуть к поддерживавшей ее партии, однако после свершения переворота в ее пользу сумел сохранить и свой пост, и влиятельное положение при дворе. В то время как многие видные представители прежней элиты были сосланы или лишены прежних мест, глава Канцелярии тайных розыскных дел попадает в обновленный состав Сената. Незадолго перед тем он допрашивал по воле Миниха Бирона, якобы хотевшего извести Иоанна Антоновича, теперь же расследует новое дело – «О злоумышлениях былого фельдмаршала фон Миниха на здоровье принца Иоанна Антоновича, герцога Брауншвейгского», ведя попутно и еще одно – «О происках былого канцлера графа Остермана». Оба руководителя предыдущего переворота были объявлены врагами Отечества и в свой черед отправлены в ссылку. Наряду с крупными политическими фигурами Канцелярии тайных розыскных дел приходилось разбираться и с некоторыми из победителей, опьяненных чередой военных переворотов и ощутивших свою вседозволенность. Так, подвыпивший 19-летний сержант Невского полка А. Ярославцев, «гуляя с приятелем и дамой легкого поведения», не пожелал в центре Петербурга уступить дорогу карете самой императрицы Елизаветы. Ореол величия и неприкосновенности носителя верховной власти в глазах части военных был уже сильно размыт, и на попреки и увещевания свиты сержант отвечал: «Экая де великая диковинка, что выбранили де мы генерала или ездовых. И сама де государыня такой же человек, как и я, только де тем преимущество имеет, что царствует».