На суде, начавшемся 14 декабря 1954 г., Абакумов виновным себя не признал, утверждая, что дело его сфабриковано Берией, Кобуловым и Рюминым. Тем не менее Абакумов и некоторые его соучастники были приговорены к расстрелу. Приговор был приведен в исполнение незамедлительно. Абакумову даже не дали возможности его обжаловать.
В 1955–1956 гг. Руденко участвовал и в процессах над бывшими грузинскими «друзьями» Берии – Рапавой, Рухадзе, Церетели, Савицким, Кримяном, Надария, Хазаном и Парамоновым, а также «соратником» Берии – бывшим первым секретарем ЦК компартии Азербайджана и председателем Совета министров республики Багировым. Вместе с Багировым на скамье подсудимых оказались еще пятеро руководителей органов внутренних дел Дагестана, Армении и Азербайджана.
Однако времена менялись, и Р. А. Руденко чувствовал императив к приоритету права. Роман Андреевич начал постепенно расчищать авгиевы конюшни, в которые фактически превратились органы правопорядка, да и сама законность в стране. Именно Руденко осуществил мероприятия по восстановлению в своих правах прокурорского надзора после долгих лет диктатуры и произвола. И не просто восстанавливал, а создавал гарантии социалистической законности, соответствующей духу перемен.
Он подчеркивал обязательность советских законов для всех, недопустимость противопоставления законности и целесообразности, неразрывную связь законности с культурностью. Эти идеи он проводил в жизнь, конечно, в тех пределах, которые допускались руководством страны. Однако и в этой ситуации перемены к лучшему были хорошо заметны. Например, при нем в центральном аппарате появилась стабильность кадров – чехарда, свойственная предыдущим годам, исчезла.
Ранее безликие и, по существу, бесправные прокуроры стали наиболее активными проводниками социалистической законности. Слово «закон» стало, наконец, употребляться в связке с такими понятиями, как справедливость, порядочность, честность. Началось постепенное, пока еще медленное и нерешительное, исправление недостатков и преступлений, имевших место в сталинское время.
Одной из причин произвола при расследовании преступлений, пусть не главной, был низкий уровень следственной работы, недостаточная квалификация следователей. Приказ Руденко «О мероприятиях по повышению квалификации следователей органов прокуратуры» от 14 октября 1953 г. был одной из его первых директив. По всей стране началась учеба кадров, улучшалось техническое оснащение следствия.
После июльского (1953 г.) Пленума ЦК КПСС повеяло «оттепелью» и какой-то, пусть урезанной, ограниченной определенными рамками, но все же свободой. Прежде всесильные органы внутренних дел и государственной безопасности были поставлены в рамки закона и играли уже не ту роль, что прежде, в жизни общества. Восстанавливались в своих правах суды и прокурорский надзор. Внесудебные расправы ликвидировались.
Вскоре после назначения Генеральным прокурором Р. А. Руденко подписал первые документы, касающиеся реабилитации лиц, невинно привлеченных к уголовной ответственности. Раньше других справедливость была восстановлена в отношении высшего командного состава Красной армии. 19 марта 1954 г. Руденко, министр внутренних дел Круглов, председатель КГБ Серов и министр юстиции Горшенин направили в Президиум ЦК записку с предложением образовать Центральную комиссию по пересмотру дел осужденных за «контрреволюционные преступления», содержащихся в лагерях, колониях, тюрьмах (467 946 человек) и находящихся в ссылке на поселении (62 462 человека). Кроме Центральной, предлагалось создать соответствующие комиссии в республиках, краях и областях. 4 мая 1954 г. такие комиссии были образованы и вскоре приступили к работе.
Первая кампания по пересмотру дел была довольно осторожной. Примерно каждый второй из осужденных получал отказ в реабилитации. Характерен такой пример. Поэтесса А. А. Ахматова обратилась к К. Е. Ворошилову с просьбой пересмотреть дело ее сына, Льва Николаевича Гумилева, молодого ученого-востоковеда, вторично арестованного органами МГБ СССР в 1949 г. и приговоренного особым совещанием к 10 годам лишения свободы. На письме имеется резолюция Ворошилова: «Руденко Р. А. Прошу рассмотреть и помочь». Тем не менее в своей записке на имя Ворошилова Руденко сообщил, что Гумилев занимался антисоветской деятельностью, осужден правильно и что Центральная комиссия по пересмотру дел 14 июня 1954 г. приняла решение отказать Ахматовой в ее ходатайстве.
Но тенденция к расширению процесса реабилитации была очевидной. Р. А. Руденко подчеркивал: «Всем нам придется столкнуться с тем, что оценки некоторых событий и их участников, казавшиеся неизменными, нужно будет пересмотреть. Сделать это надо во имя истины, справедливости и правды истории».
Важно было также не делать новых ошибок. 4 августа 1955 г. Генеральный прокурор Союза издал приказ, который касался усиления прокурорского надзора за соблюдением законности при задержании, аресте и привлечении граждан к уголовной ответственности. Р. А. Руденко потребовал от подчиненных ювелирной точности при решении этих вопросов.
В приказе прямо предписывалось применять арест в качестве меры пресечения лишь при совершении тяжких преступлений, тогда как многие прокуроры прибегали к нему по незначительным поводам. Как пример Р. А. Руденко привел действия прокурора одного из районов Баку, который за единичный случай обвеса покупателя арестовал продавщицу, на иждивении которой находилось девять человек, из них семь малолетних детей. В Московской области районный прокурор арестовал трех подростков за кражу голубей.
С другой стороны, Роман Андреевич активно боролся с волокитой, которую демонстрировали некоторые прокуроры при привлечении к ответственности лиц, совершивших тяжкие преступления.
В начале 1957 г. была реформирована структура Прокуратуры СССР, а затем и прокуратур республик, краев и областей. Этими мерами руководство стремилось подчеркнуть изменения, наметившиеся в правоохранительной системе, показывая, что с прошлым покончено раз и навсегда. Менялось судопроизводство, уголовное, уголовно-процессуальное и даже гражданское законодательство. Прокуратура СССР и Р. А. Руденко, как ее руководитель и одновременно депутат Верховного Совета СССР, деятельно участвовали в подготовке законопроектов, обсуждая и шлифуя каждую статью новых нормативных актов.
Улучшению деятельности прокурорской системы способствовало образование в феврале 1959 г. в Прокуратуре СССР и в прокуратурах союзных республик коллегий. Коллегиальность была хорошим средством снизить число поспешных, необоснованных и субъективных решений. Первыми членами коллегии Прокуратуры Союза стали: Р. А. Руденко (председатель), A. T. Горный, П. И. Кудрявцев, В. В. Куликов, A. M. Мишутин, Г. Н. Новиков, И. Е. Савельев, Д. Ш. Салин, Г. А. Терехов.
При Руденко изменилась не только форменная одежда прокурорских работников, но что самое главное, содержание служебной деятельности стражей законности. Прокуроры, оставаясь главными защитниками государственных интересов, теперь были ориентированы в неизмеримо большей степени, чем раньше, на обеспечение прав и законных интересов граждан.
Занятый государственными делами, Руденко уже не так часто, как в первые годы, поднимался на судебную трибуну. Однако, как только возникло громкое уголовное дело, Генеральный прокурор взялся поддерживать по нему обвинение. Это было дело американского летчика-шпиона Ф. Г. Пауэрса, сбитого над территорией СССР 1 мая 1960 г.
Процесс над Пауэрсом показал большой прогресс, достигнутый советской правоохранительной системой, и высочайшую квалификацию Р. А. Руденко. После окончания судебного следствия и исследования всех доказательств Роман Андреевич произнес исключительно аргументированную, взвешенную и обстоятельную обвинительную речь. По оценкам западных юристов, Руденко был предельно справедлив по отношению к Пауэрсу.
«Я не думаю, что если бы Пауэрса судили в США, то к нему отнеслись бы так же вежливо и внимательно», – подчеркнул американский юрист В. Холлинен. Английский же юрист Л. Дейчес заметил, что ему было «приятно отметить вежливую, сдержанную манеру допроса обвиняемого Генеральным прокурором. Его допрос не оскорблял и не задевал Пауэрса. Именно такой стиль допроса обвиняемого любят в Англии».