Постоянные стычки на партийной почве между чекистами с большевистскими и эсеровскими партбилетами постепенно нарастали, и летом 1918 года этот нарыв прорвался кровью первых чекистов, павших от рук своих же товарищей по службе. Мятеж своей партии против тихой узурпации власти партией Ленина, поводом к которому стало заключение ленинским правительством Брестского мира с Германией, эсеры в чекистском ведомстве поддержали практически единогласно. Сам мятеж 6 июля 1918 года начался с типично эсеровской акции – теракта с убийством германского посла Мирбаха прямо в здании немецкого посольства, совершенного непосредственно эсерами из ЧК Блюмкиным и Андреевым с ведома заместителя председателя ВЧК Александровича.

Затем эсеры-чекисты приняли участие в уличных боях с Красной гвардией, во временном захвате главного здания ЧК на Лубянке и в недолгом захвате в заложники самого Дзержинского вместе с еще несколькими руководителями ЧК. После подавления эсеровского выступления почти все они были вычищены из чекистских рядов и арестованы. В том же июле Александрович и еще 12 участников выступления из числа чекистов-эсеров расстреляны вчерашними коллегами. Это была первая расправа органов ЧК над большой группой самих чекистов из длинной череды подобных и гораздо более масштабных акций в будущем. Пока еще чекисты из большевиков казнили чекистов из эсеров, но и с воцарением внутри всероссийской ЧК однопартийности вскоре принадлежность жертв даже к старой ленинской гвардии большевиков не будет смущать инициаторов таких кампаний по чистке рядов. В июле же 1918 года закончился недолгий, уникальный и почти забытый эксперимент по принадлежности сотрудников советских органов госбезопасности к различным партиям. Затем вплоть до краха Советского Союза такое в стенах советских спецслужб уже невозможно будет представить.

В декабре 1917 года стартовала история советских спецслужб, занявшая более семи десятилетий. Первый штаб российской ЧК разместился в Петрограде на Гороховой улице, в бывшей конторе петербургского градоначальника, но в марте 1918 года вместе с правительством служба Дзержинского перебралась в Москву. Здесь чекисты расположились на Лубянской площади, переименованной затем советской властью на долгие годы в площадь Дзержинского и украшаемую до судьбоносного августа 1991 года монументом Железному Феликсу в ее центре. На Гороховой осталась петроградская ЧК, хотя сама Гороховая в начале 20-х годов была большевиками вслед за большинством питерских улиц переименована в Комиссаровскую.

«Лубянка» надолго станет нарицательным словом среди населения Советского Союза, ассоциируясь исключительно с деятельностью органов ЧК – ГПУ – НКВД – КГБ. Хотя на самом деле это место можно признать исторически культовым для органов российского тайного сыска, ведь рядом с Лубянкой еще во времена Петра I находилась московская головная контора Преображенского приказа и недалеко стоял особняк главного «преображенца» князя Ромодановского. А при Екатерине Великой в этих же местах располагалось московское представительство Тайной канцелярии, здесь же в подвалах находился следственный изолятор канцелярии, это мрачное здание было снесено только в конце XIX века. Марк Алданов в свое время писал об этих совпадениях как о мистическом знаке и особой исторической отметке на этом месте, напоминая, что здесь же в середине XVIII века находился мрачный особняк помещицы Салтычихи. Так что в целом тайный сыск со времен петровских преображенцев это обжитое место так и не покидал: здесь же на Лубянке при Екатерине II находилась книгопечатная контора вольнодумца Новикова, разрушенная по решению Тайной канцелярии после его ареста, позднее жандармы Третьего отделения по многочисленным лубянским ночлежкам делали облавы на «нигилистов». Только на самом пороге ХХ века политический сыск временно покидал эти священные для него места, уступая напору больших денег, когда в последние годы жизни Российской империи в построенном здесь предпринимателем Мосоловым комплексе зданий расположилось страховое общество. Но уже весной 1918 года молодая спецслужба Дзержинского перебралась из Петрограда в Москву и сразу заняла привычные для сыска лубянские просторы, поселившись в здании бывшей страховой конторы на этой площади, которую тогда еще на месте будущего памятника самому Феликсу Эдмундовичу по центру украшал прекрасный лубянский фонтан.

И сегодня органы госбезопасности Российской Федерации находятся в этом многовековом святилище тайного сыска России, занимая все тот же заметно разросшийся с годами комплекс зданий бывшего государственного страхового общества на Лубянской площади. Правда, с уже возвращенным ей историческим названием и с мрачно высившимся какое-то время посредине пустым постаментом из-под чугунного родоначальника ВЧК. С 20-х годов в советское общество вошла поговорка о том, что на Лубянке вместо Госстраха поселился «Госужас», под которой затем готовы были подписаться представители многих поколений советских и российских граждан.

Сам Дзержинский разработал основные положения деятельности нового органа политической безопасности сначала Советской России, а затем и СССР, он же был главным разработчиком и внутренней структуры ВЧК. Уже в начале 1918 года внутри ЧК появились отделы борьбы с контрреволюцией, борьбы со шпионажем (политическая контрразведка), политического следствия, борьбы с бандитизмом, борьбы с саботажем и со спекуляцией, охраны границ Советской России.

На ведущие позиции уже тогда выдвинулся Особый отдел, занимавшийся впрямую подавлением политической оппозиции советской власти и организацией «красного террора», как и работой ЧК на фронте, его первым руководителем стал опытный большевик Михаил Кедров с большим стажем подпольной работы. Кроме Кедрова этот особый отдел одно время возглавлял другой член коллегии ВЧК Янушевский, а в конце Гражданской войны здесь утвердился уже Менжинский. Этот отдел временами конкурировал с занимавшимся схожими проблемами отделом по борьбе с контрреволюцией, возглавляемым с 1918 года одним из самых известных чекистов дзержинского призыва, латышским большевиком Мартином Лацисом. Внутри этого отдела создано небольшое отделение по борьбе с иностранными шпионами в Советской России под началом двадцатилетнего чекиста Блюмкина из левых эсеров, который вскоре преподнесет ВЧК свой сюрприз в виде убийства германского посла Мирбаха. А для оперативной работы создается Секретно-оперативный отдел под руководством Николая Скрыпника. За работу на местах губернских и уездных органов ЧК в центральном штабе ВЧК отвечал Иногородний отдел во главе с чекистом Григорием Морозом, перешедшим к большевикам из террористов еврейского союза Бунд.

Позднее в ВЧК создан Следственный отдел (затем Следственная часть ВЧК) под началом известного чекиста Манцева, а затем пришедших ему на смену Пинеса, Ихновского, Мороза, Валескална. Поначалу, с конца 1917 года, следственные действия кроме ЧК могли у новой власти большевиков вести и другие временные органы: Следственная комиссия при Советах во главе с Красиковым, следственный отдел Наркомата внутренних дел или Комитет по борьбе с погромами при ВЦИК под началом Бонч-Бруевича. Но с созданием отдельной структуры ВЧК по политическим делам вся эта работа передается на Лубянку, устраняя дублирующие и размытые комиссии. Кроме этого существовал важный Административный отдел, ведавший в том числе и всем кадровым вопросом в ВЧК, его поначалу возглавлял Брагинский из «прикомандированных» левых эсеров, а позднее Апетер. Управделами ВЧК стал вскоре взлетевший Генрих Ягода.

Созданный уже в 1918 году Тюремный отдел отвечал в ВЧК за все места содержания арестованных, его поначалу возглавил Евсеев, позднее того сменил пришедший в ЧК из боевиков польской ППС Бялогродский, одновременно назначенный комендантом переданной в ведение ВЧК Бутырской тюрьмы. С тех пор в ЧК – ГПУ – НКВД установилась традиция, по которой начальник Тюремного отдела этой спецслужбы был одновременно и комендантом ее главной следственной тюрьмы – Бутырки, Лефортова или внутренней тюрьмы на самой Лубянке.