20 июня 1972 года Первое главное управление переехало в новую штаб-квартиру, построенную по проекту финского архитектора, в Ясенево, к юго-востоку от Москвы, в полукилометре от кольцевой дороги. Первоначально здание предназначалось для Международного отдела ЦК КПСС. Однако, когда строительство уже началось, ЦК решил, что здание расположено слишком далеко от центра, и отдал его КГБ. Главный административный корпус, построенный в форме буквы Y, с одной стороны окружал зал заседаний и библиотека, а с другой стороны — здания поликлиники, спортивного комплекса и бассейна. Весь комплекс зданий ПГУ окружал двойной забор со сторожевыми собаками и вооруженными часовыми по периметру. На внутренней площадке, перед декоративным прудом на гранитном постаменте возвышалась массивная голова Ленина. 20 декабря 1977 года в ознаменование 60-й годовщины КГБ на площадке был поставлен еще один монумент — памятник Неизвестному Разведчику. Из кабинетов административного здания открывался живописный вид на холмы, березовые рощи, зеленые луга, а в летнее время на золотящиеся пшеничные и ржаные поля.

Каждое утро между 8.20 и 8.50 к Ясенево со всех концов Москвы мчался поток автобусов. Немногие счастливчики (а таких к середине 80-х годов по стране было не более 5 процентов) приезжали на своих машинах. Пожалуй, на стоянке у ПГУ машин скапливалось больше, чем где бы то ни было во всем Советском Союзе.

Официально рабочий день начинался в девять часов утра. Подъехав к зданию ПГУ, сотрудники проходили через три поста. Один — у внешних ворот, второй — у главного входа за внутренним забором и третий — у входа в само здание. Помимо этого, в различных частях здания документы могли проверить еще несколько раз. В Ясенево по обычному удостоверению КГБ, с фамилией, именем, отчеством, званием и фотографией владельца, пройти было нельзя. У каждого сотрудника ПГУ был свой собственный пластиковый пропуск с его, а реже ее, фотографией и личным номером. Имен на этих пропусках не было. Кроме того, на пропуска была нанесена специальная сетка с перфорацией в тех местах, куда владельцу пропуска доступ был запрещен. Эти пропуска за границу с собой брать запрещалось. Сотрудники ПГУ, работающие за рубежом, оставляли их в своих отделах на хранение. Посетителей в ПГУ было очень мало. Если кто и заходил, так большие начальники. Если сотруднику ПГУ нужно было встретиться со своими коллегами из других управлений КГБ, партийными или правительственными чиновниками, то обычно эти встречи проходили где-нибудь в центре Москвы.

Рабочий день заканчивался в шесть часов. Автобусы отходили от здания ровно в 6.15. Перед отправлением водители снимали со своих автобусов номер маршрута. Когда колонна автобусов отправлялась в обратный путь, то милиция останавливала все движение на Московской кольцевой дороге для того, чтобы влиятельные пассажиры могли беспрепятственно добраться до дома.

Однако, несмотря на всю изощренную систему безопасности, ПГУ так и не справилось с проблемой столовой, по крайней мере, во время службы там Гордиевского. Ошарашенные качеством и разнообразием пищи, которую им приходилось подавать, работники столовой (обычно жители окрестных деревень) старались побольше запихать в карманы и унести домой. Когда у проходной начались обыски, они все подали заявления об уходе. Вскоре обыски пришлось прекратить. По всей видимости, и поныне ПГУ снабжает жителей местных деревень продовольствием через карманы работников своей столовой.

Примерно за год до переезда в Ясенево с поста начальника ПГУ ушел Александр Сахаровский, пробыв в этом большом и мягком кресле рекордный срок — пятнадцать лет. После Сахаровского туда сел его пятидесятитрехлетний заместитель и давний протеже Федор Константинович Мортин. За исключением коротких поездок за границу с ревизиями резидентур КГБ, у него не было никакого опыта работы за рубежом. Пониманием западного образа жизни он также не отличался. Однако свою деятельность в Ясенево Мортин начал с большим шиком. Ежедневно он и другие крупные чины ПГУ прибывали в Ясенево на своих черных «ЗИЛах» и «Волгах». В здание они входили через отдельный вход и в кабинеты свои поднимались на отдельном лифте. На втором этаже у Мортина был огромный кабинет со спальней и ванной комнатой. Хотя Мортин был верной и талантливой второй скрипкой Сахаровского, вскоре по центру пополз слушок, что в период быстрого политического роста Андропову нужен человек посильнее. В 1974 году Мортина перевели на пост начальника Главного управления научно-промышленного сотрудничества в Государственном комитете СССР по науке и технике (ГКНТ). Этот ключевой пост научно-технической разведки обычно всегда занимал офицер КГБ.

Преемником Мортина на посту начальника ПГУ стал один из самых способных личных протеже Андропова — пятидесятилетний Владимир Александрович Крючков. В Ясенево Крючков оставался почти столь же долго, сколь и Сахаровский, — 14 лет, а в 1988 году стал председателем КГБ. На официальных фотографиях татарское лицо Крючкова всегда серьезно, уголки губ опущены вниз. Он, собственно, таким и был — неулыбчивым и энергичным. Все годы в ПГУ он руководил управлением с исключительной энергией, самоуверенностью, административной сноровкой и политической смекалкой. Крючков отличался фанатичной приверженностью к своей работе и полным отсутствием чувства юмора. На памяти Гордиевского Крючков ни разу не отклонился от заранее написанных докладов, зачитывая их на совещаниях ПГУ, ни разу не попытался пустить удачное словцо или сострить. В 1989 году Крючкова в интервью спросили: «Знаете ли вы, что такое свободное время?» — «Боюсь, что нет», — ответил тот.

Крючков любил подчеркивать свое рабоче-крестьянское происхождение, вспоминая годы работы на заводе. Он окончил Заочный юридический институт, несколько лет проработал следователем и прокурором. Затем в его жизни, как говорил Крючков, наступил поворот: он окончил дипломатическую академию и пять лет — с 1954 по 1959 год — работал в советском посольстве в Будапеште. Там он и стал протеже посла СССР в Венгрии Юрия Андропова. Когда в 1959 году Андропова направили заведовать Отделом социалистических стран ЦК КПСС, туда пришел и Крючков. Там же он и проработал до 1967 года. Позже об этом периоде своей жизни Крючков говорил так: «Сегодня стало модным клевать партийный аппарат, но я тем не менее хочу сказать: я многому там научился, познакомился со многими замечательными и приверженными делу людьми. Хотя как и везде были неприятные исключения.» За годы работы в Центральном Комитете Крючков отточил искусство политики и интриги. Когда в 1967 году Андропов стал председателем КГБ, Крючков возглавил его секретариат и получил доступ к самым главным секретам КГБ. Примерно в 1971 году он получил должность заместителя начальника ПГУ по европейским операциям, а через три года сменил Мортина.