В августе 1935 года Вышинский участвовал в судебном процессе в Баку по делу о гибели танкера «Советский Азербайджан».
В начале сентября того же года он выступил в Тифлисе с большой речью «О социалистической законности и об очередных задачах суда и прокуратуры» на совещании ответственных работников суда и прокуратуры Закавказских республик. Сообщения на нем сделали наркомы юстиции и прокуроры республик Армянской — Кетыкян, Азербайджанской — Ягубов и Грузинской — Рамишвили.
В 1935 году, когда Вышинский был уже прокурором Союза, власти стали несколько ограничивать размах репрессий против трудящихся, в основном крестьян. Они «осудили» также практику «несанкционированных арестов» и потребовали от должностных лиц согласования арестов с прокурорами. Было принято секретное постановление Совнаркома СССР и ЦК ВКП(б) от 17 июня 1935 года «О порядке согласования арестов». Нельзя не отметить, что на практике это положение не всегда соблюдалось, особенно по «контрреволюционным делам», на что прокуроры попросту «закрывали глаза». Более того, отмечались даже случаи, когда они отдавали в органы НКВД подписанные чистые бланки на арест, в которых требовалось только проставить фамилию, имя и отчество арестованного, а также давали санкции «задним числом». Во время массовых кампаний прокуроры нередко дежурили по ночам, чтобы работники НКВД могли получить санкцию на арест незамедлительно.
Одновременно с усилением «контроля за арестами» начался и процесс пересмотра некоторых дел в отношении колхозников и представителей сельской власти, осужденных в начале 30-х годов. Вышинский очень верно ухватил эту ситуацию и в декабре 1935 года обратился в ЦК ВКП(б) с предложением о необходимости пересмотра приговоров по закону от 7 августа 1932 года, вынесенных до 1 января 1935 года. Политбюро с ним согласилось, и в январе 1936 года был принят соответствующий указ. Десятки тысяч осужденных за хищения были выпущены на свободу.
Довольно насыщенной была работа Вышинского и в последующие годы. Например, 13 февраля 1936 года он встретился в Прокуратуре Союза с работниками и активистами прокуратуры Калининской области. Беседа продолжалась около четырех часов. Первым попросил слова прокурор области Назаров. По его словам, только за последний год число активистов увеличилось вдвое и превысило семь тысяч человек. Они сигнализировали о замеченных ими нарушениях законности, хищениях и злоупотреблениях, помогали рассматривать жалобы и газетные заметки, выступали в качестве обвинителей в суде, помогали изучать уголовные дела, подлежащие опротестованию, а наиболее юридически подготовленные из них даже самостоятельно расследовали уголовные дела. Из числа активистов отбирали некоторых соцсовместителей прокуроров и следователей и затем выдвигали их на постоянную работу в органы прокуратуры.
После Назарова выступили присутствовавшие на встрече работники прокуратуры области и члены группы содействия прокуратуре. Приведем небольшой фрагмент из этой беседы.
Пшеорская (помощник прокурора г. Калинина). Я бывшая работница фабрики имени Вагжанова. До поступления в прокуратуру работала в активе. В 1934 году была выдвинута на должность помощника прокурора. С этого времени мне пришлось возглавить работу с активом города... Из актива созданы специальные бригады: по алиментным делам, которая следит за своевременной уплатой алиментов на содержание детей; по кооперации, которая ведет активную борьбу с растратами и хищениями в торговых точках, и другие.
Вышинский. А вам не трудно, товарищ Пшеорская, работать?
Пшеорская. С порученной мне работой я справляюсь, хотя никакой специальной юридической подготовки до сих пор не имею. Сейчас этот вопрос разрешен, и для повышения моей грамотности областной прокуратурой прикрепляется специальный преподаватель. Деньги на это товарищ Назаров уже отпустил.
Вышинский. Товарищ Пшеорская, вам помогают в вашей практической работе?
Пшеорская. Безусловно, помогают, ибо без этой помощи я, рядовая работница, не сумела бы справиться с такой большой работой. В частности, очень хорошо мне помогает товарищ Назаров. Часто обращаюсь за помощью и к своему городскому прокурору товарищу Рагозину. Обещаю повышать свою политическую и юридическую грамотность и добьюсь еще лучших показателей в своей работе.
Затем выступила колхозница А. А. Валова, работавшая в группе содействия более года. На вопрос Вышинского, как же она успевает работать в колхозе, воспитывать четверых детей и активно помогать прокуратуре, она ответила: «Когда мне нужно заниматься общественной работой, я с детишками оставляю своего мужа».
Вышинский. А он у вас тоже активист?
Валова. Да, активист, когда выпьет вина, а в трезвом состоянии он совсем отсталый человек. Мне приходится часто спорить и доказывать ему, что нужно больше работать и меньше пить. Эти трудности меня не остановят, буду продолжать работать по-стахановски в колхозе и в активе прокуратуры.
На этой встрече выступили также активисты прокуратуры рабочий Белозеров, тракторист Чумаков, преподаватель Галахова и другие.
В заключение Вышинский отметил большие успехи, достигнутые прокуратурой Калининской области в организации и развитии связей с группами содействия, особенно выделив деятельность прокурора области Назарова, его помощника Садовникова, прокуроров г. Калинина Рагозина, Себежского района Пирогова и Вышневолоцкого района Евграфова. «Работа калининцев, — подчеркнул он, — свидетельствует о том, что группы содействия прокуратуре пустили в нашей земле глубокие корни. Это хорошо, и это очень важно. Здесь осуществляется один из важнейших принципов социалистического строительства — непосредственное участие трудящихся масс в управлении государством». Вышинский поблагодарил активистов за их работу и сказал, что Прокуратура Союза из этой беседы извлечет для себя серьезный урок. Он обещал оказать активистам помощь в организации заочного обучения и снабжении их соответствующей литературой.
Весной 1936 года Вышинский сделал доклад в Институте уголовной политики на тему «Проблемы оценки доказательств в советском уголовном процессе». В нем он подверг критике установки, прозвучавшие в докладах профессоров М. М. Гродзинского и В. С. Строговича, которые, по его мнению, недооценивали в судебной работе «субъективные начала». Первый считал необходимым выбросить из Уголовно-процессуального кодекса упоминание о «внутреннем убеждении», второй — «выхолащивал творческо-активную роль» внутреннего убеждения судьи. Вышинский сказал, что отказ от внутреннего убеждения как критерия, как способа оценки доказательств ведет к сужению творческой деятельности судьи, а это неизбежно должно повлечь за собой внесение в такую важную и сложную область судебной работы признание формального порядка, который связывает волю и деятельность судьи. «Это положение стоит в прямом противоречии с требованиями нашей эпохи», — подчеркнул он. В заключение Вышинский сказал, что работа судьи творческая, активная, политическая и что «объективизация доказательств» не должна ему навязываться. «Суд должен быть максимально свободен в оценке доказательств».
В марте 1936 года Вышинский выступил на Пленуме Верховного суда СССР по вопросам судебной политики и судебной работы (доклады сделали Председатель Верховного суда Винокуров и директор Института уголовной политики Шляпочников). Прокурор Союза подверг сокрушительной критике доклад Винокурова, назвав его «статистическо-бухгалтерским», а не политическим отчетом, так как в нем, по его мнению, не были «выделены узловые вопросы судебной политики», нет «руководящей нити», нет «основного стержня». Отсюда и прения шли «разбросанно, сумбурно», захватывая те или иные темы «поверхностно, безалаберно, без ясных установок». Выступление Антонова-Саратовского Вышинский назвал «странным», а содержание его речи — »трудно-уловимым». Не понравились ему также доклад Шляпочникова, который «ничего не дал», и выступление Крыленко.
29 мая того же года Вышинский провел в Прокуратуре СССР встречу с народными следователями прокуратур Московской и Калининской областей. Первым выступил прокурор Калининской области Назаров. Он привел удручающую картину состояния следственного аппарата. Из 69 следователей более 65 процентов были с низшим образованием, со средним — 29 процентов. Высшее образование было только у троих следователей; годичную юридическую школу окончили два следователя, а шестимесячные курсы — 16. И тем не менее каждый из следователей умудрялся заканчивать до 7 дел в месяц. Научно-технические средства практически не применялись. К тому же 13 следователей еще временно исполняли обязанности прокуроров районов.