Распоряжения прокурора Союза могли отменить (или приостановить) только ЦИК СССР и СНК СССР. Прокурор участвовал с совещательным голосом в заседаниях Президиума, Совнаркома СССР, Совета труда и обороны и Комиссии исполнения при СНК. Он имел право законодательной инициативы.
С самого начала работы в Прокуратуре Вышинский стал активно использовать судебную трибуну для борьбы с преступлениями, «врагами народа» и «контрреволюционерами». Одно из первых дел, в котором он принял участие в ранге заместителя прокурора Союза, было дело о некомплектной отгрузке комбайнов, рассматривавшееся уголовно-судебной коллегией Верховного суда СССР с 16 по 22 августа 1933 года. Суду были преданы 11 крупных хозяйственных руководителей, в их числе заместитель начальника Союзсельхозснаба Реттель, начальник управления сбыта Союзсельмаша Моев, директор Запорожского завода «Коммунар» Шабашвили, его заместитель Дик и другие. Основанием для возбуждения дела послужили многочисленные факты некомплектной отгрузки комбайнов заводом «Коммунар», что приводило к их длительным простоям. И хотя следствием не было выявлено какого-либо злого умысла со стороны обвиняемых, Вышинский в своей речи пытался представить дело как «отражение еще не оконченной в стране классовой борьбы». Подсудимых он называл проводниками «капиталистической партизанщины» и «враждебных советскому социалистическому строительству настроений, традиций, привычек, взглядов, методов работы», а их действия — как «прямой заговор группы государственных служащих против советского закона». И все же в этом процессе он был пока еще склонен «всякое сомнение толковать в пользу подсудимого» и даже посчитал излишним «излагать рецепты наказаний для каждого из подсудимых». Может быть, поэтому судьи и вынесли довольно мягкий для тех лет приговор — пятерым они определили принудительные работы, а остальным — общественное порицание или предупреждение.
В марте 1934 года прокурор Союза И. А. Акулов издал приказ «О перестройке аппарата прокуратуры в центре и на местах». Наверное, если бы он был более сведущим в прокурорской деятельности, то не стал бы разрушать уже сложившуюся и хорошо зарекомендовавшую себя структуру аппарата прокуратуры, построенную по функциональному принципу. В приказе отмечалось, что отделы перестраиваются по производственному и производственно-территориальному принципу. По мнению руководства Прокуратуры Союза ССР, это должно обеспечить «высокое качество работы по охране общественной (социалистической) собственности и осуществлению социалистической законности» во всех сферах народного хозяйства и государственного аппарата, усилить единоначалие и личную ответственность каждого прокурора за порученную ему работу.
Для того чтобы сосредоточить «основное внимание органов прокуратуры на судебно-следственной деятельности», было признано необходимым ликвидировать разделение в структуре прокуратуры на общий и судебный надзоры, а также упразднить бюро жалоб. При этом предполагалось, что каждый отдел будет осуществлять весь комплекс задач, стоящих перед органами прокуратуры, начиная с разрешения жалоб и заявлений и заканчивая надзором за рассмотрением дел в судах. Вместо отдела общего надзора, судебного надзора и бюро жалоб были образованы следующие секторы: по делам промышленности; по делам сельского хозяйства; по делам торговли, кооперации и финансов; по делам водного транспорта; по делам административно-судебного и культурного строительства; по судебно-бытовым делам и сектор мобработы. Было учреждено также справочное бюро, которое давало посетителям необходимые разъяснения.
Прокурорам союзных республик, краев и областей предлагалось перестроить свою работу применительно к структуре Прокуратуры Союза. В небольших областях вместо секторов надлежало иметь ответственных исполнителей (прокуроров) «по отдельным частям работы», а в районных прокуратурах перестройка должна быть направлена лишь на изменение методов руководства.
В Прокуратуре Союза ССР сохранялись Главная военная прокуратура, Главная транспортная прокуратура (с выделением из нее Главной прокуратуры водного транспорта, прокуратура по спецделам, сектор надзора за местами лишения свободы и управление делами.
Вышинский как квалифицированный юрист, наверное, понимал всю нелепость искусственного разделения отделов по производственному принципу. Поэтому, когда он стал прокурором Союза, то вновь перестроил работу органов прокуратуры по функциональному принципу, который, с теми или иными изменениями, сохранился и в наше время.
Неоценимую роль в дальнейшей централизации органов прокуратуры сыграло первое Всесоюзное совещание судебных и прокурорских работников, в работе которого Вышинский принимал самое деятельное участие. Оно открылось 23 апреля 1934 года в здании Прокуратуры Союза ССР. Доклад «Решения ХVII партсъезда и задачи органов юстиции» сделал прокурор Союза ССР И. А. Акулов. В своем выступлении он остановился на всех наиболее актуальных вопросах практической деятельности прокуроров, судей и народных следователей, проанализировал задачи, стоящие перед органами юстиции на современном этапе, обратив особое внимание на целый ряд «недочетов и извращений» и предложив конкретные меры по их устранению. Как писали тогда газеты, «докладчик говорил просто, без малейшей погони за вычурной красивой фразой».
С содокладом выступил председатель Верховного суда СССР А. Н. Винокуров, а в прениях — главный военный прокурор Орловский, член Верховного суда СССР Антонов-Саратовский, и. о. прокурора РСФСР Нюрина-Нюренберг, ученый-юрист Пашуканис, нарсудья из Самары Игольчук, прокурор города Москвы Филиппов, председатель Верховного суда РСФСР Булат и другие.
На вечернем заседании 24 апреля с докладом «О практике применения закона 7 августа 1932 года и директивы 8 мая 1933 года» выступил Н. В. Крыленко. В обсуждении его доклада приняли участие народные судьи из Белоруссии Гинзбург и Пашутина, заместитель председателя Верховного суда ССР Красиков, директор Института уголовной политики Шляпочников и другие.
Вечернее заседание 25 апреля открылось большим докладом заместителя прокурора Союза ССР А. Я. Вышинского «О мерах к улучшению качества судебной и прокурорской работы». В нем он коснулся самых разнообразных вопросов. Вышинский начал с того, что напомнил, «как опасна и как вредна» для государства «каждая, даже самая незначительная, на первый взгляд, ошибка, совершаемая теми или другими органами советской юстиции», что недооценка роли и значения суда и прокуратуры — «результат влияния чуждых идеологий», что в условиях, когда классовый враг пользуется тысячами «воровских махинаций», нельзя притуплять «классовую бдительность». Затем он перешел к более конкретным проблемам. Признав, что в «судебно-прокурорских организациях имеются очень серьезные болезни», Вышинский все же не согласился с выступившим перед ним Сольцем, сказавшим, что в советских органах гнездится лишь одна «неправда черная». По мнению Вышинского, для улучшения работы «сильно мешают пережитки революции». Далее он пояснил, что понимает под этим выражением. Он сказал, что в органах юстиции, суде и прокуратуре встречаются люди, которые не в ладу с законом и которые не только не знают законов, но и не желают их знать.
Говоря о роли суда, он подчеркнул, что она «не может исчерпываться репрессией», хотя и «без репрессии нет суда», и что суд призван осуществлять «меткую репрессию», а иногда и «беспощадную репрессию». Далее он сформулировал следующие задачи суда: 1) разрушить вредное убеждение в ненаказуемости виновных; 2) сочетать задачу подавления классового врага с задачами принуждения и воспитания трудящихся; 3) поднять каждое уголовное дело на определенную политическую высоту; 4) обеспечить всем ходом судебного процесса доказательность, убедительность приговора; 5) максимально сократить промежуток времени, отделяющий совершение преступления от рассмотрения дела в суде.
Остановившись затем на работе прокуратуры и следственного аппарата, Вышинский сказал, что здесь главная задача — кадры, особенно следователей, неукомплектованность которых достигала 20 процентов. По его мнению, это явилось результатом того, что на следственную работу все время смотрели как на «третьестепенное или десятистепенное дело», считая, что «следственная работа — это пустяки вроде буржуазного предрассудка, как и сам следователь». «Мы безобразно относились к нашим следователям, — продолжал Вышинский, — не хранили, не накопляли, не воспитывали их. У меня в портфеле имеется десяток писем от следователей, которые пишут, что на них вообще не обращают внимания, начиная с материально-бытового их положения и кончая вопросами руководства. В результате следователь у нас потерял свое лицо. Надо сказать, что следователь у нас не политический работник, а «делопут», как его называют, который путает дела. Следователь у нас — это затычка на всякий несчастный прокурорский случай, вот что собой представляет сейчас следователь». Поэтому, как полагает Вышинский, следователи «не блещут достоинствами». После этого он привел несколько «анекдотичных фактов».
