Иностранный отдел ЧК (ИНО) был основан в 1921 году, и во главе его стал ветеран-большевик Михаил Трилиссер. К тому времени остатки белых армий, бегущих из России, докатились до Балкан, многие тысячи эмигрантов осели в Париже и Берлине. Чтобы расколоть политическую эмиграцию и развалить еще сохранившиеся русские антисоветские военные силы, ЧК посылала своих агентов и набирала шпионов и провокаторов среди эмигрантов. Эти действия, хотя и проводились на зарубежных территориях, все еще рассматривались как вынужденная оборона – как «борьба против контрреволюции».
Вскоре, однако, ИНО и его агенты за рубежом перешли от оборонительной стратегии к наступательной и сосредоточили свое внимание главным образом на политической информации и закулисных событиях. Новые резиденты ГБ обслуживали Коминтерн и нелегальные пути пересечения границы. Они находились в тесном контакте с новым коммунистическим подпольем в разных странах, перевозили оружие, создавали Т-группы (террор), Д-группы (диверсии), чтобы быть готовыми на случай «неизбежной» революции. Только к середине двадцатых годов революционный хаос начальных лет сменился бюрократическим порядком, потребовалась эффективность работы, начали поступать точные приказы. Шпионаж всех видов стал неотъемлемой частью работы ГБ: шпионаж против русской эмиграции, тотальная слежка за советскими гражданами за границей и шпионаж против зарубежных стран. Советские посольства и дипломатические миссии служили прикрытием тайной деятельности ГБ.
Вторым советским агентством с разведывательными функциями был Четвертый отдел Генерального штаба Красной Армии, позже переименованный в ГРУ – Главное разведывательное управление, иногда называемое Разведупр. О нем никогда не писали в прессе, оно избегало известности, но никогда не скрывало своих целей и функций. Иногда, в силу необходимости, советским разведывательным органам приходилось работать в контакте с иностранными спецслужбами. Так, например, во время Второй мировой войны ГРУ и его шефы официально действовали совместно с американской и британской разведками. Первым начальником ГРУ и его главой в течение пятнадцати лет был Ян Берзин, выдающаяся личность и прекрасный организатор.