Для органів державної безпеки особливу цінність мали дешифровані телеграми, що освітлювали шпигунську діяльність кадрових розвідників, що знаходилися під офіційним прикриттям іноземних дипломатичних, військових і консульських представництв у СРСР. Так, почате у 1924 році читання дешифрованого листування польських військових аташе дозволило отримувати таємні повідомлення польської розвідки, яка намагалася широко проводити шпигунську роботу на території СРСР. Радянська розвідка була дуже зацікавлена в отриманні подібної інформації.
Природно, що в початковий період своєї роботи Спецвідділу довелося зустрітися з великими труднощами. Досвідчених криптологів було мало, і кожному з них доводилося очолювати роботу по декількох напрямах. Молоді співробітники ще не володіли необхідними криптологічними та мовними знаннями. Перехоплення шифролистування по багатьох лініях зв'язку велося нерегулярно, можливості виділених технічних засобів були дуже обмежені. Всі роботи, пов'язані з аналізом шифроматериалів, проводилися тільки вручну. Були й інші труднощі. Проте у міру зміцнення Спецвідділу, зростання майстерності його співробітників обсяг криптологічних досліджень з розкриття шифрів почав неухильно зростати. До 1925 року проводилася розробка шифрів вже 15 держав. У 1927 році почалося читання японського листування, а у 1930 році – листування деяких ліній зв'язку США.
Окрім розробки шифрів іноземних держав одним з актуальних завдань дешифрувального відділення Спецвідділу у цей період була розробка так званого внутрішнього шифрованого листування, тобто нелегального листування білогвардійських та інших контрреволюційних організацій, ворожих радянському ладу політичних угрупувань. Архівні документи свідчать, що фахівці 4-го відділення Спецвідділу змогли розкрити сотні різних шифрів, ключів і умовностей. Ними були прочитані тисячі всіляких листів, донесень і інших конспіративних документів, зокрема виконаних тайнописом.
На початку 1920-х років Спецвідділом досліджено багато шифроматеріалів царського Департаменту поліції і жандармерії. Було прочитано 90 документів, за якими складено 10 основних ключів. За дешифрованими матеріалами встановлено багато таємних агентів поліції і жандармерії, що працювали тепер на фабриках і заводах різних міст.
Однією з контрреволюційних організацій, шифролистування якої було вперше дешифроване у 1921 році, був «Народний союз захисту Батьківщини та свободи» Бориса Савінкова. Аналізом ряду шифрованих документів встановлено, що члени цієї організації використовували шифри пропорційної заміни. Незабаром