Признанный виновным в уклонении от уплаты налогов, Капоне начал отбывать наказание в 1932 году. Страдая от прогрессирующего сифилиса, он провел семь лет в страшной тюрьме Алькатрас и других строгих федеральных тюрьмах. Освободившись в 1939 году, некогда непобедимый Капоне превратился в сломленного, жалкого инвалида. Он никогда не вернулся в Чикаго и умер в 1947 году в своем особняке во Флориде.

Его падение не оказало никакого влияния на нью-йоркских боссов, разве что стало предупреждением о расследовании случаев уклонения от уплаты налогов. Авторитет Капоне ограничивался районом Чикаго, и его место в Комиссии мог легко занять один из его лейтенантов. Ньюйоркцы также считали Капоне сомнительным приверженцем мафиозной культуры и ее структуры. Они сомневались в нем, потому что он отказался соблюдать ритуал посвящения в члены своей банды, не назначил ни капо, ни консильери. По сути, они не были уверены, что он вообще считает себя мафиози. По мнению пуристов Коза Ностра, банда Капоне больше походила на товарищество, чем на традиционную боргату, и он нарушил кардинальную традицию, делегировав обязанности неитальянцам.

Капоне заработал состояние на рэкете, но его репутация среди теневых нью-йоркских крестных отцов была подпорчена его склонностью к публичности. Его слава была больше, чем его реальное влияние и власть. В конце концов, преувеличенная значимость Капоне в преступном мире стала для него роковой помехой.

Злоключения Аль Капоне в начале 1930-х годов не имели аналогов в Нью-Йорке, где местные и федеральные правоохранительные органы были либо слишком коррумпированы, либо слишком равнодушны, либо слишком невежественны, чтобы беспокоить мафиозные семьи.

Городские газеты, которые в то время были главным источником новостей и информации, столь же пассивно отнеслись к расследованию и освещению появления нового явления организованной преступности. Гангстеры, убийства и похищения людей стали хорошей копией во время сухого закона, почти желанным облегчением после мрачных экономических новостей Депрессии. В основном репортеры и редакторы изображали отдельных рэкетиров с симпатией, а красочные рассказы Дэймона Раньона «Парни и куклы» о милых мошенниках стали общепринятым универсальным мифом о мафиози и преступниках. Вместо того чтобы разоблачать почти открытые азартные игры, рэкет, вымогательство и проституцию, некоторые влиятельные редакторы и обозреватели общались, играли и пили с героями преступного мира. Герберт Байярд Своуп, редактор престижной газеты New York World, в свое время задолжал букмекерам мафии 700 000 долларов. Уолтер Уинчелл и другие бродвейские обозреватели, выходившие на национальном синдикате, поддерживали отношения с гангстерами ради сплетен и сенсаций.

Правоохранительные органы были еще более небрежны, чем подхалимская пресса. Череда избранных окружных прокуроров Манхэттена (округ Нью-Йорк), центра городской индустрии порока, так и не расследовала ни одного случая откровенного рэкета. Окружными прокурорами обычно становились некомпетентные люди, назначаемые клубом Таммани-Холл Демократической партии, группой партийных лидеров, контролировавших выдвижение кандидатов и выборы в Манхэттене, оплоте демократов. С первых дней сухого закона лидеры «Таммани» были на содержании у итальянских и еврейских главарей банд, чтобы защитить их от потенциальных крестоносцев реформ и вмешательства полиции.

Рутинная процедура созыва большого жюри на Манхэттене в марте 1935 года неожиданно спровоцировала землетрясение в правоохранительных органах. Следуя своему обычному интересу к легко раскрываемым преступлениям, неэффективный окружной прокурор Манхэттена Уильям Коупленд Додж велел присяжным сосредоточиться на предъявлении обвинений обычным подозреваемым, арестованным за мелкие правонарушения. Единственной приоритетной целью Доджа была абсурдная угроза «красной угрозы», и он предложил присяжным сосредоточиться на газете коммунистической партии The Worker, которая, по его мнению, использовала депрессию для разжигания мятежа.

Задача большого жюри — взвесить улики и решить, достаточно ли доказательств для привлечения обвиняемого к суду. Обычно присяжные легко манипулируют прокурорами и, выслушав только версию обвинения, конвейерным способом выносят обвинительные заключения по уголовным делам. Но двадцать три присяжных Манхэттена, возглавляемые решительно настроенным членом, взбунтовались и потребовали провести независимое расследование распространившегося в городе рэкета. Их возмущение поддержала городская ассоциация адвокатов, а также несколько священнослужителей и общественных объединений. Сбежавшие присяжные стали сенсацией для газет, и их давление заставило губернатора Герберта Лемана назначить специального прокурора для изучения обвинений реформаторов.

Леман, демократ, выбрал 33-летнего бывшего федерального прокурора, республиканца Томаса Э. Дьюи. Выросший в небольшом городке Овоссо, штат Мичиган, Дьюи остался в Нью-Йорке после получения юридического образования в Колумбийском университете. Трехлетняя работа в прокуратуре США на Манхэттене превратила его в грозного прокурора. Большинство его федеральных дел были связаны с бутлегерством и налоговыми сборами, и Дьюи быстро проявил свой фирменный судебный талант: удивительную память на мельчайшие детали преступления, которые могли поставить в тупик враждебно настроенного свидетеля на перекрестном допросе. Бросив успешную практику на Уолл-стрит, Дьюи ухватился за возможность работать прокурором в компании Lehman, даже если это означало значительное сокращение зарплаты.

В отличие от апатичных окружных прокуроров Таммани-холла, агрессивный Дьюи не сидел сложа руки, ожидая, пока дела сами придут к нему. Он понимал, как собирать улики, и обладал прозорливостью, чтобы сделать своей целью уничтожение преступных организаций, а не осуждение низкопробных хулиганов. На момент его назначения в Нью-Йорке практически не было ограничений на использование телефонных прослушиваний прокурорами штата, и Дьюи максимально использовал этот инструмент для поиска улик и зацепок.

Дьюи не обладал точными знаниями о существовании мафиозных боргатов или их организационных структур, но он инстинктивно понимал, что ему противостоит новый тип преступника — рэкетир, который никогда лично не совершал убийств, угонов и не вымогал у жертв ни пенни. Грязная работа возлагалась на приспешников, которые сами рисковали быть арестованными.

Чтобы эффективно преследовать боссов мафии, Дьюи пришлось пересмотреть громоздкий уголовно-процессуальный закон. Согласно существующему нью-йоркскому правилу, обвиняемого можно было судить только по каждому конкретному пункту. Это означало несколько судебных процессов, даже если преступнику было предъявлено обвинение в сотне отдельных деяний. С помощью лоббирования со стороны политиков и организаций, выступающих за реформы, Дьюи убедил законодательный орган разрешить «объединение» обвинительных заключений — процедуру, используемую в федеральных судах, которая позволяла проводить один процесс по объединенным обвинениям. Это было юридическое оружие, которое Дьюи мог использовать в суде, чтобы судить ведущих гангстеров по нескольким пунктам и связать их с преступлениями, фактически совершенными их подручными.

Первым известным рэкетиром, против которого выступил Дьюи, был Голландец «Датч» Шульц. Урожденный Артур Флегенхаймер, Шульц был еще одним отъявленным преступником, который нажился на шлюзах, открытых сухопутным законом. Он сколотил банду бутлегеров, состоящую в основном из еврейских силачей, и взял на себя распространение пива в Бронксе. Используя тактику террора, убийства, похищения и пытки, Шульц соперничал с мафией по размаху своих операций и по той вражде, которую он вызывал. Когда Дьюи стал специальным прокурором штата, банда Шульца была единственной неитальянской организацией в Нью-Йорке, которая не подчинялась мафии. Знатоки преступного мира называли пять семей Коза Ностра и банду Шульца «Большой шестеркой».