На посту начальника КРО ОГПУ СССР Артузов руководил и принимал непосредственное участие в разработке и проведении многих ответственных чекистских операций. В частности, в ликвидации заговора монархистов-николаевцев, в знаменитой операции «Синдикат-2» по выводу на территорию СССР и аресту известного террориста Бориса Савинкова, в операции «Трест», завершившейся арестом международного шпиона и заговорщика, британского разведчика Сиднея Рейли и многих других. За поимку Савинкова Артузову была объявлена благодарность советского правительства.
В 1930 году Артузов переходит на работу во внешнюю разведку: занимает пост заместителя начальника ИНО ОГПУ. 1 августа 1931 года он становится начальником советской внешней разведки и членом Коллегии ОГПУ.
Под руководством Артузова была проведена коренная реорганизация работы Иностранного отдела ОГПУ, сочетавшая ведение разведки с «легальных» и нелегальных позиций.
В 1933 году по инициативе Артузова была воссоздана нелегальная резидентура в Англии, руководимая знаменитым разведчиком-нелегалом Арнольдом Дейчем, лично завербовавшим свыше двадцати агентов. Этой резидентурой была приобретена знаменитая «Кембриджская пятерка», от которой в дальнейшем поступала документальная информация о деятельности МИДа и МВД Великобритании, об англо-германских отношениях, о положении в основных политических партиях страны, о торговой политике Великобритании, а также по другим актуальным вопросам, интересовавшим Москву. В годы Великой Отечественной войны от «Кембриджской пятерки» на регулярной основе поступала информация не только по Великобритании, но и по гитлеровской Германии, где в тот период не существовало резидентуры советской внешней разведки.
В мае 1934 года, когда угроза гитлеровской агрессии стала реальностью и не исключалось создание блока западных стран на антисоветской основе, Политбюро ЦК партии рассмотрело вопрос о координации деятельности военной и политической разведок. Начальник ИНО ОГПУ Артур Артузов был назначен по совместительству заместителем начальника Разведывательного управления (РУ) РККА. 21 мая 1935 года он был освобожден от обязанностей начальника ИНО Главного управления государственной безопасности (ГУГБ) НКВД СССР и полностью сосредоточился на работе в военной разведке, которую тогда возглавлял Ян Карлович Берзин. Артузову было присвоено воинское звание корпусного комиссара.
Уже за первый год своей работы в военной разведке Артузов многое сделал для совершенствования ее деятельности. В частности, он активно добивался, чтобы сотрудники военной разведки за границей прекратили всякие связи с членами компартий, отказались от практики их вербовки,