В середине 1921 года в прессе началось обсуждение вопросов революционной законности. Большинство выступлений сводилось к тому, что должна быть повышена роль традиционных судебных органов в борьбе с контрреволюцией и уголовной преступностью, а практика внесудебного рассмотрения дел чрезвычайными комиссиями прекращена. 23 июня 1921 года ВЦИК издал декрет об объединении всех военных трибуналов республики. Однако, несмотря на окончание гражданской войны и разгром белогвардейских и иностранных армий, внесудебные полномочия чекистских органов фактически остались, хотя они и регулировались в правовом отношении актами высших органов государственной власти (ВЦИК, СНК, СТО). С момента создания ВЧК руководство РСФСР постепенно сформировало систему мер, направленных на введение деятельности органов государственной безопасности в правовое русло, ограничение произвола в деятельности спецслужб.
Однако поток жалоб и обращений о самоуправстве и незаконных действиях центральных и местных органов государственной безопасности не ослабевал. Особой жестокостью отличались чрезвычайные комиссии на Украине. Правительство было вынужденно назначить председателем Всеукраинской ЧК М. Я. Лациса. Однако спустя два месяца Лацис сообщил председателю Совнаркома, что «чистка» невозможна, поскольку заменить «малоспособных и малонадежных» некем. Многие чекисты открыто демонстрировали нарушения правовых норм, демагогически прикрываясь принципом классовой целесообразности в деятельности ВЧК. Грубейшие нарушения законности органы ВЧК допускали в сфере борьбы с буржуазными и мелкобуржуазными партиями и течениями. Деятельность спецслужб тормозила проведение политических и экономических преобразований в стране, а перед руководством РСФСР остро встал вопрос о необходимости реорганизации ВЧК. 1 декабря 1921 года Политбюро ЦК ВКП(б) постановило преобразовать Всероссийскую Чрезвычайную Комиссию.