Сам Коминтерн не был разведывательной организацией, однако он поддерживал тесные связи с советской разведкой. В рамках Коминтерна существовал Отдел международных связей (ОМС), который ведал оказанием финансовой помощи зарубежным компартиям и деятельностью заграничных эмиссаров Коминтерна. Многие американские коммунисты регулярно выполняли различные поручения ОМС, который среди прочего занимался вопросами тайной переброски своих агентов и денежных средств по всему миру, включая изготовление фальшивых паспортов, организацию явок и создание разветвленной сети шифрованной связи с Москвой. Курировала деятельность ОМС так называемая «Подпольная комиссия», в которую в основном входили руководители Коминтерна, однако помимо них туда обычно включался представитель внешней разведки КГБ. Например, в 1923 году в работе этой комиссии участвовал Михаил Трилиссер, в 1920-е годы возглавлявший внешнюю разведку КГБ. В мае 1923 года комиссия провела важное заседание по вопросу поддержания правильного баланса между легальной и подпольной работой американских коммунистов. После консультаций с Израэлем Амтером, представлявшим КПА в Коминтерне, комиссия отправила руководству КПА несколько директив, призванных расширить партийные возможности по ведению «секретной работы». Но прошло еще шесть лет, прежде чем главный печатный орган КПА «Дейли уокер» опубликовал официальное заявление о том, что «партия закончила все необходимые приготовления для перехода руководящих партийных органов на нелегальное положение».
Возглавил секретный аппарат КПА Иосиф Петерс. Еврей по национальности, он родился в Австро-Венгрии в семье рабочего. Во время Первой мировой войны Петерс проходил службу в австро-венгерской армии, в которой дослужился до офицера. В 1924 году он эмигрировал в США. Там Петерс вступил в КПА и в 1931 году был отправлен на стажировку в Москву. Оттуда он два года спустя вернулся обратно в США, где, согласно документам, сохранившимся в архиве Коминтерна, Центральный комитет КПА «поручил ему работу в секретном аппарате. Он проработал там до июня 1938 года».
Под руководством Петерса секретный аппарат занимался вопросами обеспечения партийной безопасности – своевременным обнаружением слежки со стороны полиции, разоблачением вражеских лазутчиков в партии и защитой партийного имущества, включая протоколы собраний и регистрационные документы членов партии, от конфискации. При Петерсе секретный аппарат также отвечал за подготовку к переходу компартии на нелегальное положение. Например, Петерс закупал и прятал в тайники типографское оборудование, предназначенное для печати