Президиум ВЧК, учитывая коренные преобразования в экономической политике страны, начал упразднять параллельные звенья чекистского аппарата, объединяя однородные отделы в оперативные подразделения, сосредотачивая усилия местных аппаратов на основных направлениях работы. По инициативе Дзержинского были созданы новые оперативные подразделения, в том числе на базе экономического отдела ВЧК: экономическое управление находилось в центре, а его отделы на местах боролись со шпионажем, контрреволюцией и саботажем в различных отраслях народного хозяйства.
В декабре 1921 года центральный аппарат ВЧК состоял из пяти управлений (Секретно-оперативного, Экономического, Административно-организационного, Управления войск ВЧК и Управления делами) и несколько самостоятельных отделов (Транспортного, Шифровального, Следственной части и Специального).
Одновременно с перестройкой центрального аппарата ВЧК была, соответственно, изменена организационная структура ее местных органов. Система местных чекистских органов в 1921 году включала в себя губернские чрезвычайные комиссии (губчека), транспортные ЧК (ТЧК) и особые отделы фронтов и армий.
Губернские чрезвычайные комиссии организовывались при губисполкомах и представляли собой самостоятельные отделы. В частности, Петроградская губернская ЧК функционировала на правах отдела при Петроградском Совете. Структура отдела строилась примерно по образцу ВЧК: отдел состоял из административной части, которая ведала организационными вопросами и поддерживала связь с уездными политбюро (при уездной милиции); секретно-оперативной части, которая проводила непосредственную борьбу с контрреволюцией; а также экономического отдела. Возглавлял губчека председатель при нём состоял совещательный орган – коллегия из пяти членов.
Транспортные чрезвычайные комиссии состояли из районных транспортных ЧК (РТЧК) и создавались при управлениях железных дорог и водных систем. Они направляли оперативную деятельность подчиненных им участковых транспортных ЧК (УТЧК). Последние функционировали при наиболее важных железнодорожных узлах и станциях (крупных пристанях) и вели борьбу со всеми преступлениями на железнодорожных и водных путях.
Политбюро являлось подсобным органом губчека в уезде, работало под ее руководством и исполняло все ее задания. В начале 1922 года Приказом ВЧК № 35 от 17 января 1922 года уездные политбюро были упразднены. Вместо них были созданы информационные пункты, возглавлявшиеся уполномоченными Петроградской Губернской ЧК.
Особые отделы делились на фронтовые, окружные и армейские. В Петрограде действовал Особый отдел Петроградского Военного округа, который тесно взаимодействовал с Петроградской губернской ЧК. Он был образован 28 мая 1921 года на базе двух