2 ноября 1932 года начальник ИНО ОГПУ А.Х. Артузов подписал распоряжение о реорганизации внешней разведки. В нем, в частности, говорилось:
«Перестроение всей агентурно-оперативной деятельности провести на основе возможного переключения всей работы в случае каких-либо осложнений с “легальных” рельс (берлинская резидентура) исключительно на подполье».
Необходимость такой реорганизации была вызвана тем, что после относительно благоприятной обстановки для деятельности советских учреждений в Европе в предшествовавшее десятилетие в ряде европейских стран наметилась тенденция к ужесточению режима пребывания работников советских представительств, в том числе и сотрудников внешней разведки.
Следует отметить, что к середине 1930-х годов на Западе усилились антифашистские настроения. Не только простые люди, но и представители высших кругов общества, демократической интеллигенции смотрели в то время на Советский Союз с надеждой, как на силу, которая может противостоять фашизму и агрессии. Именно на таких людей опиралась советская внешняя разведка, искала и находила среди них тех, кто соглашался на сотрудничество по политическим и идейным соображениям.
Решение сложнейших задач, стоявших в 1930-е годы перед советской разведкой, потребовало мобилизации всех ее внутренних резервов, укрепления материальной базы и кадров, постоянной корректировки конкретных целей. Правительство, как и в предыдущие годы, уделяло самое серьезное внимание повышению её эффективности. Так, в 1934 году на заседании правительства были рассмотрены вопросы об улучшении работы ИНО ОГПУ и Разведывательного управления РККА и о координации их деятельности.
10 июля 1934 года постановлением ЦИК СССР был образован Народный комиссариат внутренних дел (НКВД), в который вошли ряд главков, в том числе Главное управление государственной безопасности (ГУГБ). Иностранный отдел стал 5-м отделом ГУГБ НКВД СССР. Его задачи правительство определило следующим образом:
«Выявление направленных против СССР заговоров и деятельности иностранных государств, их разведок и генеральных штабов, а также антисоветских политических организаций; вскрытие диверсионной, террористической и шпионской деятельности на территории СССР; руководство деятельностью закордонных резидентур».
Несмотря на обрушившиеся на разведку репрессии, она продолжала вести активную работу по освещению деятельности правящих кругов ведущих капиталистических стран Европы, США и Японии и частичному срыву их планов и мероприятий, направленных против СССР.
Немало полезного сделала советская разведка в эти годы в Испании. Она систематически получала сведения о поддержке франкистов Германией и Италией. В