15 сентября 1940 года Роман Андреевич стал слушателем Высших академических курсов Всесоюзной правовой академии. Одновременно зачислен в экстернат Московской юридической школы Наркомата юстиции РСФСР. Таким образом, учиться ему пришлось на «два фронта» — очно на высших курсах, а также самостоятельно готовиться к экзаменам в Юридической школе, причем сразу же за двухгодичный курс обучения. Программа школы все же существенно отличалась от той, которая была на высших курсах. Наряду со специальными юридическими дисциплинами, такими как уголовное право и процесс, гражданское право и процесс, криминалистика, трудовое право, являвшимися обязательными и на курсах, в юридической школе преподавали историю народов СССР, математику, географию, балансоведение. На курсах же он изучал основы марксизма-ленинизма, политическую экономию, теорию государства и права, судебную психологию. Словом, предметы высших курсов и школы как бы дополняли друг друга, давая более обширные знания по специальным и общеобразовательным дисциплинам.
Роман Андреевич успешно справлялся с учебными планами и, по отзывам преподавателей, был дисциплинирован, выдержан и учился на «отлично». Это не мешало ему быть хорошим активистом. Почти сразу же после зачисления на курсы его избрали в партбюро и он стал первым заместителем секретаря парторганизации. Нагрузка, конечно, возросла, так как по поручениям Московского городского и Краснопресненского районного комитетов партии ему часто приходилось выступать с лекциями и беседами на предприятиях и в организациях столицы.
Выпускные экзамены на высших курсах совпали с началом Великой Отечественной войны. Свидетельство об окончании курсов Руденко получил 27 июня 1941 года. Оценки по всем предметам у него были отличные. А еще через три дня, 1 июля, Роман Андреевич успешно выдержал экзамены за двухгодичный курс юридической школы. Из 17 изучаемых дисциплин по 12 ему были выставлены оценки «отлично», а по двум — «хорошо».
После окончания курсов и юридической школы 26 июня 1941 года Руденко приказом Прокурора СССР назначается начальником отдела по надзору за органами милиции Прокуратуры СССР. В Москве он работал до весны следующего года.
Вот как оценивалась его деятельность на этом участке в официальном заключении, подписанном заместителем прокурора СССР Кругликовым и начальником сектора управления кадров Бибиковым: «За период военного времени отделом значительно активизирована работа по надзору за милицией. Силами отдела была проверена работа в 13 областях, выявленные недостатки на месте исправлялись, давались конкретные указания по вопросам оказания всемерного содействия военным властям в использовании всех сил и средств для нужд обороны и обеспечения общественного порядка и безопасности. По этим вопросам издано 3 приказа прокурора Союза ССР и поставлен вопрос перед НКВД Союза ССР об улучшении работы органов милиции. Прокуроры на местах проверяют в органах милиции следственные дела в процессе расследования и дают по ним указания. В результате указанных мероприятий мы имеем уменьшение прекращенных и возвращенных на доследование дел, сокращение сроков расследования».
Отдел также проводил проверки в Азербайджанской, Грузинской, Узбекской, Казахской и Карело-Финской союзных республиках.
В коллективе Прокуратуры СССР Руденко прижился быстро, пользовался большим авторитетом, его уважали за выдержанность, спокойствие, трудолюбие. Он был избран в партбюро аппарата прокуратуры.
В феврале 1942 года встал вопрос о направлении Руденко в Прокуратуру Украинской ССР на должность заместителя прокурора республики вместо Беляева, утвержденного прокурором Узбекской ССР. Наверное, это было сделано не без инициативы тогдашнего первого секретаря ЦК компартии Украины Хрущева, хотя официально вопрос согласовывался с секретарем ЦК Спиваком. 25 февраля 1942 года Прокурор Союза В. М. Бочков обратился с такой просьбой к секретарю ЦК ВКП(б) Маленкову. В ЦК партии не возражали, и 12 марта 1942 года Бочков издал приказ о назначении Руденко заместителем прокурора Украинской ССР по общим вопросам с окладом 1600 рублей в месяц. В августе того же года по приказу Бочкова он возглавил специальную оперативную группу республиканской прокуратуры, став одновременно исполняющим обязанности прокурора Украинской республики. Руководимая Руденко оперативная группа немедленно организовала работу органов прокуратуры в освобожденных от немцев городах и районах. Здесь восстанавливались советский правопорядок и законность. Вскоре таких групп стало несколько. Прокуроры и следователи входили в освобожденные местности Украины вместе с частями Красной Армии. В Киеве, например, они стали работать уже в первый день его освобождения.
В одной из характеристик Романа Андреевича этого периода сказано: «Будучи и. о. прокурора УССР, товарищ Руденко в сложных условиях работы в освобожденных от оккупации районах сумел правильно организовать прокурорскую и следственную работу периферии. Органы прокуратуры УССР в специфических условиях прифронтовой обстановки активно способствовали правительственным органам и военному командованию в выполнении сложных и серьезных задач, стоящих перед ними в деле использования сил и средств для разгрома врага, восстановления народного хозяйства, ликвидации последствий оккупации».
Далее в характеристике отмечается, что Р. А. Руденко «своевременно и правильно ориентировал периферийные органы прокуратуры на разоблачение изменников Родины, их сообщников и дезертиров, на организацию надзора за соблюдением социалистической законности, охрану соцсобственности».
По мнению заместителя прокурора СССР Каховского, подписавшего характеристику, Р. А. Руденко «принципиален, настойчив, во взаимоотношениях с работниками выдержан, требователен к себе и подчиненным». Он отмечает также оперативность Руденко, его авторитетность и постоянное стремление, несмотря на условия военного времени, к повышению своей квалификации. Сразу же после окончания высших курсов и юридической школы Роман Андреевич поступил в экстернат Московского юридического института, чтобы самостоятельно подготовиться к государственным экзаменам.
В марте 1943 года Р. А. Руденко был присвоен чин государственного советника юстиции 3 класса, а 23 июня того же года он назначается на ответственный пост прокурора Украинской ССР вместо Л. И. Яченина, который в то время был прокурором фронта. Спустя еще четыре дня Руденко становится государственным советником юстиции 2 класса, что соответствовало тогда воинскому званию генерал-лейтенанта. Роману Андреевичу было тогда 37 лет.
Забот у руководителя прокуратуры крупнейшей республики, серьезно пострадавшей от фашистского нашествия, было предостаточно. Он лично возглавил работу по расследованию злодеяний нацистов на украинской земле, их бесчинств и террора против мирных жителей. Собранный по этому вопросу огромный документальный материал немедленно передавался в созданную Правительством Чрезвычайную государственную комиссию.
26 марта 1945 года Роман Андреевич Руденко получил свою первую правительственную награду — орден Ленина, которого он был удостоен за «выдающиеся заслуги в деле осуществления социалистической законности и укрепления советского правопорядка». Всего ордена и медали были вручены 711 прокурорам и следователям. Так Родина оценила вклад, который внесли прокурорско-следственные работники во время Великой Отечественной войны.
С 20 по 22 июня Военная коллегия Верховного суда СССР под председательством Ульриха рассматривала дело по обвинению генерала Л. Б. Окулицкого и других лиц (всего 15 человек), руководивших польским подпольем, действовавшим в тылу Красной Армии. В результате террористической деятельности так называемой «Армии Крайовой» было убито и ранено около 500 советских солдат и офицеров. По предложению Сталина процесс проходил в Колонном зале Дома Союзов с широким привлечением как советской, так и зарубежной прессы, с трансляцией по радио. На нем присутствовали дипломаты и корреспонденты из многих стран. Основным обвинителем был утвержден Главный военный прокурор Афанасьев. Когда при обсуждении этого дела у Сталина возник вопрос, кто будет помогать обвинителю, Афанасьев назвал прокурора Украинской ССР Руденко. Сталин с ним согласился.
