Несмотря на это, перехват шифропереписки по многим линиям связи вёлся нерегулярно, возможности выделенных технических средств были очень ограничены. Все работы, связанные с анализом шифроматериалов, проводились только вручную. Были и другие трудности. Однако по мере укрепления Спецотдела, роста мастерства его сотрудников объём криптологических исследований по раскрытию шифров начал неуклонно расти. К 1925 году проводилась разработка шифров уже 15 держав. К 1927 году началось чтение японской переписки, а к 1930 году – переписки по некоторым линиям связи США.
Кроме разработки шифров иностранных государств одним из актуальных задач дешифровального отделения Спецотдела в этот период была разработка так называемой внутренней шифрованной переписки, т.е. нелегальной переписки белогвардейских и других контрреволюционных организаций, враждебных советскому строю. Архивные документы свидетельствуют, что специалисты 4-го отделения Спецотдела смогли раскрыть сотни разных шифров, ключей и условностей. Ими были прочитаны тысячи всевозможных писем, донесений и других конспиративных документов, в частности выполненных тайнописью.
В начале 1920-х годов Спецотделом было исследовано множество шифроматериалов царского Департамента полиции и жандармерии. Было прочитано 90 документов, по которым составлено 10 основных ключей. По дешифрованным материалам было установлено много секретных агентов полиции и жандармерии, работавших теперь на фабриках и заводах различных городов.
Одной из контрреволюционных организаций, шифропереписку которой было впервые дешифровано в 1921 году, был «Народный союз защиты Родины и свободы» Бориса Викторовича Савинкова. Анализом ряда шифрованных документов было установлено, что члены этой организации использовали шифры пропорциональной замены. Вскоре они были раскрыты.
Шифры организации Б.В. Савинкова строились в квадрате 10х10 или были шифрами по слову на длину алфавита, строки ключа которых чередовались. Фактически выходили ключи к шифру или в прямоугольнике 10х30, или оказывалась 10-значная перешифровальная гамма. Было раскрыто 26 ключей к шифру и дешифровано более 30 документов, содержавших пароли и конспиративные явки.
В 1922-24 годах главным образом раскрывались материалы меньшевистских организаций. За эти годы было дешифровано 38 документов и раскрыто 17 ключей к шифру. По этим материалам было установлено 65 адресов с паролями и явками.
Перехватывалась и доставлялась в Спецотдел переписка уголовного розыска Китайской военной железной дороги. Было дешифровано 355 телеграмм, раскрыто 33 ключа к шифру и один код на 900 величин.
6 февраля 1922 года на базе ВЧК было создано Государственное политическое управление (далее – ГПУ) при НКВД. 1 декабря 1922 года был введён новый штат центрального аппарата ГПУ в количестве 2213 человек, в составе которого остался Спецотдел по руководству шифровальным делом в стране, контролю за деятельностью