Созданный уже в 1918 году Тюремный отдел отвечал в ВЧК за все места содержания арестованных, его поначалу возглавил Евсеев, позднее того сменил пришедший в ЧК из боевиков польской ППС Бялогродский, одновременно назначенный комендантом переданной в ведение ВЧК Бутырской тюрьмы. С тех пор в ЧК – ГПУ – НКВД установилась традиция, по которой начальник Тюремного отдела этой спецслужбы был одновременно и комендантом ее главной следственной тюрьмы – Бутырки, Лефортова или внутренней тюрьмы на самой Лубянке.
В 1919 году в структуре ВЧК появляется Специальный отдел по техническим делам и надзору внутри самой партии большевиков, который возглавляет вырвавшийся из сданного врагам Баку первый начальник ЧК Бакинской коммуны Саак Тер-Габриелян. Позднее во главе заметно расширившего свои полномочия внутри ВЧК Спецотдела его сменит Глеб Бокий, переведенный из начальников Петроградской ЧК. Ведавший вопросами учета и регистрации дел Регистрационный отдел на Лубянке возглавил Роцен.
Чуть позднее, в 1920 году, в этой структуре появился еще один важнейший Иностранный отдел (ИНО ВЧК) – внешнеполитическая разведка под началом Якова Давтяна. Так была сформирована структура чекистского ведомства, которая затем с некоторыми изменениями просуществовала все время работы первой советской спецслужбы ВЧК до 1922 года. Эта же структура в общих чертах переходила по наследству к сменявшим ВЧК новым службам госбезопасности и разведки Советского государства. Тогда же в 1920 году одним из последних вместе с внешней разведкой на Лубянке создается Юридический отдел под началом Луцкого – до того в угаре бессудного и непроцессуального «красного террора» службе Дзержинского было не до законодательных тонкостей. И тоже в 1920 году одним из последних появился Отдел охраны государственных деятелей во главе с главным в ЧК телохранителем Ленина Абрамом Беленьким.
К 1920 году в структуре ВЧК появился Транспортный отдел (поначалу он именовался Железнодорожным отделом ввиду важности безопасности именно на железных дорогах Советской республики). Первым начальником транспортных чекистов был Жуков, затем его периодически и очень быстро сменяли Фомин, Чугурин, Слюсарев, Ковылкин, Зимин, Ганецкий. Последний из них, Ганецкий, был очень заметным и сейчас почти забытым функционером ленинской РКП(б) (настоящая его фамилия Фюрстенберг), он имел запутанную биографию и в ленинской части РСДРП был своего рода казначеем, именно через Ганецкого-Фюрстенберга шли тайные переговоры ленинцев с Парвусом и германской разведкой до 1917 года. После Ганецкого в 1920