В течение 20—30-х годов органы государственной безопасности неоднократно реорганизовывались, меняли структуру и название, а потому менялось и название отдела: с 5 мая 1921 г. по 6 февраля 1922 г. – 8-й спецотдел при ВЧК; с 6 февраля 1922 г. по 2 ноября 1923 г. – Спецотдел при ГПУ; со 2 ноября 1923 г. по 10 июля 1934 г. – Спецотдел при ОГПУ; с 10 июля 1934 г. по 25 декабря 1936 г. – Спецотдел при ГУГБ НКВД СССР; с 25 декабря 1936 г. по 9 июня 1938 г. – 9-й отдел при ГУГБ НКВД СССР. Но, несмотря на все реорганизации и в отличие от других подразделений, Спецотдел всегда пользовался автономией, подчиняясь непосредственно Политбюро, минуя руководство ведомства, при котором отдел находился. По сути, служба Бокия оставалась практически неподконтрольной.
Спецотдел размещался не только на Малой Лубянке, но и в помещении Народного комиссариата иностранных дел (на Кузнецком мосту, 21), где занимал два верхних этажа. Историки считают, что задачами отдела «являлись масштабная радио– и радиотехническая разведка, дешифровка телеграмм, разработка шифров, радиоперехват, пеленгация и выявление вражеских шпионских передатчиков на территории СССР. Пеленгаторная сеть камуфлировалась на крышах многих государственных учреждений, и таким образом осуществлялось слежение за радиоэфиром Москвы. В сфере внимания Спецотдела находились не только автономные неофициальные передатчики, но и передающие устройства посольств и иностранных миссий. В них устанавливалась подслушивающая аппаратура и отслеживались телефонные разговоры. Отделу непосредственно подчинялись и все шифроотделы посольств и представительств СССР за рубежом». Добавлю, что в наличии у Спецотдела Бокия были и собственные радиостанции, причем наиболее эффективной считалась располагавшаяся в Кучино. Секретный специальный отдел также вел контроль за деятельностью наркомата связи.
В начале 20-х годов отдел включал шесть, затем семь отделений; «собственно криптографические задачи решали только три из них: 2-е, 3-е и 4-е». Сотрудники 2-го отделения под началом Тихомирова занимались «теоретической разработкой вопросов криптографии, выработкой шифров и кодов для ВЧК-ОГПУ и других учреждений страны». Перед 3-м отделением стояла задача «ведения шифрработы и руководства этой работой в ВЧК». Состояло оно вначале всего из трех человек, руководил отделением старый большевик, бывший латышский стрелок Федор Иванович Эйхманс (1897–1938), одновременно являвшийся заместителем начальника Спецотдела. Эйхманс организовывал шифросвязь с заграничными представительствами СССР, направлял, координировал их работу. Наверняка он курировал работу и сотрудников советской торговой корпорации «Амторг», которая в 1924 г. учредила свои представительства в Нью-Йорке, превратившись в советско-американскую внешнеторговую фирму. К примеру, результатом деятельности «Амторга» стал весомый контракт на поставку военных самолетов