7 січня 1925 року комісія при таємно-шифрувальній частині НКЗС заслухала доповідь про роботу секретної частини та ухвалила об'єднати секретну й шифрувальну частини та назвати знов створену частину таємно-шифрувальною частиною НКЗС. Через два місяці, 7 березня 1925 року, було ухвалено рішення про ліквідацію секретної частини, а замість неї створити у складі шифрувальної частини 3-е відділення (секретне), а 9 березня 1925 року Колегія НКЗС затвердила це рішення.
У цьому ж році Нарком закордонних справ СРСР Г. Чичерін знов порушує питання про поповнення персоналу шифрувальників. 21 квітня і 8 травня 1925 року він звертається з цього питання в секретаріат ЦК РКП (б): «Недостатність персоналу нашої шифрочастини стає вже державною небезпекою».
У кінці 1925 року секретаріат колегії НКЗС почав функціонувати на правах управління, секретно-шифрувальна частина була перейменована в секретно-шифрувальний відділ, а три відділення, що входили в його склад, перейменовані в перший, другий і третій підвідділи відповідно.
У вересні 1926 року найменування управлінь Штабу РСЧА стали номерними. Військове Розвідувальне Управління перетворилося на IV Управління Штабу РСЧА. Шифрувальне відділення було виведене з складу 2-го (агентурного) відділу та реорганізоване у 1-у (шифрувальну) частину IV Управління, начальником якої став Закіс, а його помічником – Едуард Янович Озолін. Шифрувальний відділ при РВР СРСР був реорганізований у 2-й відділ Управління справами НКВМС і РВР СРСР.
9 грудня 1927 року наказом ОДПУ №242/96 було затверджено Положення про спеціальні відділення при Повноважних представництвах (далі – ПП) ОДПУ. Ці відділення виконували такі завдання:
– організовували секретне та шифрувальне діловодство у всіх установах, розташованих на території ПП ОДПУ як місцевого, так і союзного значення;
– здійснювали контроль за порядком ведення і зберігання мобілізаційних і шифрувальних матеріалів;
– вели облік осіб, що відали секретним листуванням в радянських установах;
– виробляли шифри і забезпечували ними всі установи, розташовані на території повноважного представництва за винятком тих, які користувалися шифром, встановленим Спеціальним відділом ОГПУ.
У 1927 році шифрувальний відділ НКЗС, який складався з трьох підвідділів, був реорганізований у секретно-шифрувальний відділ у складі двох підвідділів. На базі 3-го підвідділу був утворений секретний архів НКЗС.
1 грудня 1929 року наказом ОДПУ №282 у складі ОДПУ, крім Спецвідділу, було утворене ще Центральне шифрувальне бюро (начальник – В.М.Колосов, він же – начальник 1 відділення Спецвідділу), яке відповідало за шифрований зв'язок.
У той час Спецвідділ