21 июня 1919 года следствие было сосредоточено в одном отделе, который стал называться Следственной частью, в ее состав вошло Юридическое бюро, ведавшее систематизацией нормативных актов о ВЧК и выдачей справок по запросам. 13 сентября 1920 года в структуре ВЧК появился новый орган – Управление делами, его начальником стал член Коллегии ВЧК Г. Г. Ягода.
21 сентября 1920 года под руководством Л. М. Брагинского стал действовать Административный отдел, преобразованный позднее в Управление, начальником которого стал бывший начальник особого отдела Западного фронта И. А. Апетер. Управление занималось разработкой структуры органов ЧК, подбором и расстановкой кадров, учетом личного состава, проверкой работы местных ЧК. 29 июля 1920 года Совнарком ввел в состав Коллегии ВЧК новых членов: В. Н. Манцева – Начальника Центрального управления ЧК Украины, В. Р. Менжинского – нового начальника Особого отдела ВЧК, управделами ВЧК Г. Г. Ягоду, начальника Транспортного отдела ВЧК Н. Н. Зимина, заместителя председателя МЧК С. А. Мессенга и заместителя наркома внутренних дел, начальника войск внутренней охраны В. С. Корнева.
26 ноября 1920 года при Президиуме ВЧК создается Специальное отделение по охране партийных и государственных деятелей и правительственных объектов, которое возглавил сотрудник ВЧК, начальник охраны Ленина А. Я. Беленький. Весной 1921 года, одновременно с проведением в России экономической реформы, началась перестройка работы советского государственного аппарата, которая привела к очередным изменениям в системе органов государственной безопасности. Приказом ВЧК от 14 января 1921 года было образовано Секретно- оперативное управление, которое возглавил В. Р. Менжинский. Его заместителем стал Г. Г. Ягода, помощником начальника был назначен А. Х. Артузов.
В Особых отделах ВЧК находилась служба военной цензуры. Инструкция содержала подробное изложение методов перлюстрации и требовала соблюдения строжайшей конспирации. 13 августа 1921 года военная цензура была возложена на Информационный отдел. На Секретный отдел Управления возлагались выявление и борьба с антисоветской деятельностью монархистов, кадетов, меньшевиков, эсеров, оппозиционно настроенного духовенства. Отдел включал работу 9 отделений по различным направлениям. С конца 1920 года, согласно приказу ВЧК, в Секретном отделе постановке на постоянный учет подлежали все выявленные члены небольшевистских партий и других организаций.
Оперативный отдел управления осуществлял ведение наружной разведки и установки. В отдел входили секретариат, оперативное отделение, техническое отделение, активная часть Оперода, отделение обработки материалов, бюро обработки, бюро печати, регистрационно-статистическое отделение, справочное бюро, бюро розыска, бюро статистики, архив. В управление был включен и Иностранный отдел. В течение 1921 года легальные резидентуры были созданы в Англии, Франции и Германии, одновременно осуществлялось