В тот же день в комендатуре Административно-хозяйственного управления НКВД СССР, куда был доставлен Либерберг, по квитанциям от него было принято на хранение два фанерных чемодана, значок ВЦИК, 3 книги, 4 блокнота, одёжная щётка, безопасная бритва, поясной ремень, прибор для бритья, 7 подворотничков, 4 галстука, портянки, пояс от пальто, а также деньги в сумме 2393 руб. 80 коп.
В ходе личного обыска Либерберга, который продолжался далеко за полночь (протокол датирован 21.08.1936 г.), были изъяты: партбилет нового образца № 0501520, членский билет ВЦИК № 269, значок ВЦИК, членский билет крайисполкома ДВК № 131, профсоюзный билет № 150751, паспорт № 140368, разная служебная переписка, телеграммы, материалы к докладу, заявления, статьи на русском и еврейском языках, различные письма, адреса и собственноручно написанная им перед отъездом из Биробиджана автобиография (в ней он указывает год рождения — 1899, что расходится с известными другими документами, ранее опубликованными, где годом его рождения значится 1897. Это одна из загадок Иосифа Либерберга.). На вопрос о наличии у него оружия Либерберг заявил, что у него имеется револьвер «Браунинг», который находится по месту жительства в Биробиджане.
Через неделю после ареста Либерберга доставили из Москвы в Киев, где 29.08.1936 г. оперуполномоченный СПО (секретно-политического отдела) УГБ НКВД УССР Гречихин вынес постановление об избрании меры пресечения в отношении И. Либерберга — содержание под стражей в спецкорпусе Киевской тюрьмы. Только после переезда в Киев Иосиф начал догадываться о причинах своего ареста. Он был в курсе многих политических событий в стране, несмотря на то, что почти год не выезжал из Биробиджана.
После убийства Кирова на фоне продолжавшейся антитроцкистской кампании НКВД развернул политические преследования против всех, кто ранее придерживался троцкистской платформы или даже взглядов. Сталин решил расправиться со Львом Троцким и всеми, кто хоть словом высказывался в его поддержку, в первую очередь — по политическим вопросам. Начавшийся в августе в Москве процесс над убийцами Кирова должен был вывести на Центр, который занимался подготовкой террористических актов, в том числе подготовкой убийства Сталина, и получал прямые указания из-за границы от Троцкого. По этому делу проходили: Мрачковский, Евдокимов, Дрейцер, Рейнгольд, Бакаев, Пикель, Каменев, Зиновьев, Смирнов, Ольберг, Берман-Юрин, Гольцман, Н. Лурье, М. Лурье, Тер-Ваганян, Фриц Давид.
Газеты ежедневно сообщали об этих событиях, и не вызывало сомнения, какие решения будут вынесены по этому делу. По всей стране НКВД была поставлена задача: раскрыть террористические центры на местах. Даже там, где их не было, их «находили», выдумывая для этого и создавая троцкистское подполье, террористические группы, включая в их состав всех, кто даже в кулуарах высказывал недовольство жизнью, политикой партии.
Первый допрос Либерберга состоялся 2 сентября 1936 года. Иосиф признал, что в 1923 году во время троцкистской оппозиции выступал в военно-политической школе в Киеве с поддержкой троцкистской платформы, но в январе 1924 года отошёл от троцкистской оппозиции. Скрывать не было смысла, так как об этом он написал в автобиографии. В тот период времени он был связан с работавшими в ВПШ троцкистами Корытным, Карповым, Портновым и другими. Позднее по работе сталкивался с троцкистами Маренко и Голубенко, но никакой организационной троцкистской связи с ними не было.
Несмотря на это, через три дня помощник уполномоченного СПО УГБ НКВД УССР старший лейтенант госбезопасности Грозный, рассмотрев имеющиеся материалы, нашёл, что Либерберг является участником контрреволюционной троцкистско-террористической организации, в которой проводил активную контрреволюционную работу. На основании ст. ст. 126 и 127 УПК УССР постановил привлечь Либерберга И.И. в качестве обвиняемого, предъявив ему обвинение по п. 8 ст. 54 и п. 11 ст. 54 УК УССР.
6 сентября «Биробиджанская звезда» впервые проинформировала жителей области о том, что в ходе работы по очистке от чуждых и вражеских элементов от контрреволюционеров-троцкистов, зиновьевцев, шпионов и жуликов разоблачены троцкисты Либерберг и Волобринский — заклятые враги и обманщики.
9 сентября 1936 года Президиум облисполкома ЕАО принял решение:
«1. Снять Либерберга И.И. с должности председателя облисполкома, исключить его из состава членов пленума и президиума исполкома ЕАО.
2. Просить Далькрайисполком исключить Либерберга И.И. из состава членов пленума и президиума Далькрайисполкома.
3. Просить ВЦИК СССР исключить Либерберга И.И. из состава членов ВЦИК».
Газета «Биробиджанская звезда» от 23 сентября 1936 года писала: «Как заклятый враг, Либерберг снят с работы председателя облисполкома и выгнан из партии. Либерберг все время скрывал свою контрреволюционно-троцкистскую деятельность в 1923 году…». Вспомнили его работу и в Киевском Институте еврейской пролетарской культуры, который был превращён «в гнездо контрреволюционеров-троцкистов». Как председатель облисполкома «он окружил себя классово-враждебными элементами, пытался выставить себя единственным строителем еврейской национальной культуры, окружил себя подлыми троцкистами и зиновьевцами…».
О событиях тех дней написано было немало, но даже официальные источники — газеты, журналы, публицистика тридцатых годов — были впоследствии недоступны. Пресса тех лет пестрела разоблачениями врагов народа — троцкистов, шпионов, контрреволюционеров, и крайне сложно было узнать, что же в действительности происходило в те месяцы и дни.
Почти еженедельно в тюрьме проходят допросы Либерберга, на которых его обвиняют в троцкистской деятельности во время работы в Киеве. Ему предъявляют свидетельские показания ранее арестованных его бывших коллег по работе — Я. Розанова, С. Посвольского, М. Киллерога, И. Гуревича, Е. Перлина, которые причисляют Иосифа к троцкистской оппозиции. Признавая знакомство, он категорически отрицает организационную связь с ними как активными участниками троцкистско-террористической организации и называет все эти показания ложными.
16 октября 1936 года оперуполномоченный Гречихин вынес постановление о приобщении к следственному делу на Либерберга материалов, поступивших в СПО УГБ НКВД УССР, подтверждавших его участие в контрреволюционной троцкистско-террористической деятельности. Среди этих документов находились:
1. Информация парторганизации Академии Наук УССР № 6/с от 11.09.1936 г. и зав. отделом науки ЦК КП(б)У от 11.09.1936 г. о том, что:
— Либерберг скрыл от партии свою принадлежность к троцкизму в 1923 году;
— являясь редактором библиографического сборника, проявил притупление бдительности и пропустил в сборник троцкистско-националистическую работу библиографа Квитного;
— работая в Институте еврейской пролетарской культуры в Киеве, он содействовал принятию на работу контрреволюционеров-троцкистов-националистов, имевших связь с заграницей;
— на официальное открытие кафедры еврейской культуры при АН УССР пригласил враждебных советской власти и компартии лиц;
— в члены-корреспонденты АН УССР Либерберга рекомендовали арестованные участники контрреволюционной троцкистской организации Киллерог и Семковский.
2. Информация Спецсектора АН УССР № 333 с телеграммой М. Киллерога, что свидетельствует о его связи с Либербергом.
3. Документы, обнаруженные при обыске у Либерберга:
— автобиография, в которой он написал, что состоял в еврейской социал-демократической рабочей партии (Поалей-Цион), и его троцкистских взглядах в 1923 году;
— письмо Либерберга, свидетельствующее о его связях с арестованными участниками контрреволюционной организации Розановым, Посвольским и Лозовиком.
19 октября 1936 года в обком ВКП(б) ЕАО был отправлен партбилет Либерберга № 0501520. В сопроводительном письме, подписанном ВРИД начальника СПО УГБ НКВД УССР капитаном госбезопасности Рахлисом, было указано, что Либерберг арестован за троцкистскую контрреволюционную деятельность.