Управленческий аппарат ВЧК возглавляла коллегия; руководящим органом был Президиум во главе с председателем, который имел двух заместителей.
В 1918 году были созданы местные органы ВЧК: губернские, уездные (упразднены в январе 1919 года), транспортные, фронтовые и армейские ЧК.
В первые два месяца своего существования Чрезвычайная Комиссия обладала лишь правом предварительного следствия, но постепенно полномочия ВЧК расширялись.
С февраля 1918 года Совет Народных Комиссаров наделил ВЧК правом внесудебного решения дел с применением высшей меры наказания – расстрела. С этого времени органы ВЧК вели не только оперативную работу, но и проводили следствие и выносили приговоры, заменяя следственные и судебные органы.
Для осуществления своих полномочий ВЧК имела собственные вооружённые силы: отряды ВЧК, части особого назначения (ЧОН), контролировавшиеся РВС республики, свою систему исправительно-трудовых учреждений. ВЧК работала в контакте с НКВД и Наркоматом юстиции.
Структура органов госбезопасности в дальнейшем менялась неоднократно, но важнейшими их элементами являлись следующие подразделения: контрразведывательные отделы (КРО), отделы военной контрразведки (Особый отдел, образованный 19 декабря 1918 года), подразделения внешней разведки (Иностранный отдел ВЧК был образован 20 декабря 1920 года).
О масштабах деятельности ВЧК можно судить по числу её сотрудников – в конце февраля 1918 года оно не превышало 120 человек, к 1921 году достигло максимума – 31 тыс. человек.
В ноябре 1920 года на ВЧК была возложена охрана границ государства (до этого охрана границ в какой-то степени обеспечивалась „завесами“ – системой подвижных военных отрядов).
6 февраля 1922 года ВЦИК принял постановление об упразднении ВЧК и образовании Государственного политического управления (ГПУ) при НКВД РСФСР, в задачи которого входила борьба со шпионажем, контрреволюцией и бандитизмом.
Вслед за образованием СССР на базе ГПУ возникло Объединённое ГПУ (ОГПУ СССР). В 1934 году ОГПУ было объединено с органами внутренних дел (милицией) и образован союзно-республиканский Наркомат внутренних дел. В 1943 году из НКВД был выделен Народный комиссариат государственной безопасности, переименованный в 1946 году в Министерство государственной безопасности.
В марте 1953 года было принято решение об объединении Министерства внутренних дел и Министерства госбезопасности в единое МВД СССР. 13 марта 1954 года был создан Комитет государственной безопасности при Совете Министров СССР. 3 декабря 1991 года Президент СССР Михаил Горбачёв подписал Закон „О реорганизации органов государственной безопасности“, на основании которого КГБ СССР был упразднён и на переходный период на его базе созданы