Серьезная критика деятельности органов госбезопасности в 1930-1950-е годы, начало которой положил доклад Первого секретаря ЦК КПСС Н. С. Хрущёва на закрытом заседании XX съезда КПСС 25 февраля 1956 года (более подробный рассказ об этом еще впереди), оказала самое непосредственное воздействие на комплектование и деятельность органов КГБ СССР, причем последствия в данном случае были двоякими: как позитивными, так и весьма негативными.
После сообщения 10 июля 1953 года о снятии Берии со всех постов и его аресте в органы прокуратуры, МВД и ЦК КПСС стали поступать многочисленные заявления и жалобы осужденных и их родственников по поводу пересмотра ранее возбужденных уголовных дел, вынесенных приговоров и незаконных методов ведения следствия.
В записке в Президиум ЦК от 19 марта 1954 года генерального прокурора СССР Р. А. Руденко и министра внутренних дел С. Н. Круглова отмечалось, что в лагерях, колониях и тюрьмах содержатся 467 946 осужденных за контрреволюционные преступления (немалую долю среди которых составляют предатели, каратели и пособники немецко-фашистских оккупантов), а в ссылке после отбытия основного наказания за контрреволюционные преступления находятся еще 62 462 человека. В то же время подчеркивалось, что с августа 1953 по 1 марта 1954 года в органы прокуратуры поступило 78 982 обращения граждан с ходатайствами о реабилитации, в связи с чем предлагалось создать специальную комиссию по пересмотру дел осужденных.
В результате в мае 1954 года Президиум ЦК КПСС принял решение об образовании Центральной комиссия по рассмотрению жалоб граждан, осужденных за контрреволюционную деятельность по статье 58 Уголовного кодекса РСФСР 1928 года. Данная статья имела десять частей, предусматривавших различный состав преступлений: от шпионажа, диверсии и вредительства до терроризма, антисоветской агитации и пропаганды.
На основании выявленных Центральной комиссией фактов, имевших место в КГБ СССР, КГБ союзных и автономных республик, а также в управлениях КГБ по краям и областям, под руководством Генеральной прокуратуры СССР и нижестоящих прокуроров были созданы аналогичные специальные комиссии для пересмотра уголовных дел. В ходе работы этих комиссий вскрывались многочисленные случаи нарушения законности в процессе ведения следствия и необоснованного привлечения к уголовной ответственности граждан, что влекло пересмотр их дел, смягчение формулировок обвинения с досрочным освобождением осужденных либо сокращение сроков наказания вплоть до фактически отбытого.
Двадцать девятого апреля 1955 года генеральный прокурор СССР Руденко докладывал Президиуму ЦК КПСС о результатах работы Центральной комиссии в отношении осужденных за «контрреволюционные преступления»: были пересмотрены уголовные дела на 237 412 человек, при этом было отказано в смягчении наказания 125 202 проходившим по ним лицам. Комиссией были отменены приговоры или прекращены уголовные дела в отношении 8973 человек, что означало их реабилитацию: