В 1932 году он прибыл в Москву и поступил на факультет журналистики Коммунистического университета национальных меньшинств Запада, который закончил в 1935 году. Непродолжительное время работал в центральном аппарате Коминтерна, а оттуда был направлен в Иностранный отдел (ИНО) ГУГБНКВД СССР.
В 1936 году под впечатлением беседы с начальником РУ РККА Яном Карловичем Берзиным почувствовал, что войны с Германией не избежать, а потому надо готовиться к созданию широко разветвленной агентурной сети на территории очередного рейха. Ему предложили работу. Но после ареста Берзина 27 ноября 1937 года отправка Треппера за рубеж задержалась. В декабре 1938 года кандидата для работы за границей вызвал новый начальник РУ Генштаба А.Г. Орлов и предложил по согласованию с его прежним руководством отправиться в Бельгию, где жил в Брюсселе его друг еще по Палестине Лео Гроссфогель, для создания разветвленной разведывательной сети. Леопольд получил паспорт на имя канадского фабриканта Адама Миклера.
В 1939 году в Бельгию РУ НКО направило в качестве нелегального резидента хорошо подготовленного офицера капитана Константина Ефремова – псевдоним «Паскаль».
К 1940 году, когда связь с Центром по почтовым каналам и через курьеров стала затруднительной, из СССР на помощь Трепперу прибыли офицеры военной разведки: бывший летчик старший лейтенант Михаил Макаров, он же «Хемниц», по паспорту уругвайский гражданин Карлос Аламо, и Анатолий Гуревич, ставший Винсентом Сьерра. В РУ НКО ему дали псевдоним «Кент». Готовился в Москве как шифровальщик и радист. Оба разведчика еще с Москвы получили фальшивые паспорта с находящимися рядом порядковыми номерами, но разным временем их выдачи. Уже этот факт предопределял их возможный провал – не-продуманность и спешка налицо.
Как летчик, в Испании Макаров был востребован – сражался геройски. По возвращении в СССР Макарову предложили работу в РУ НКО и направили в спецшколу. В Брюсселе, куда его направило РУ, ему порекомендовали поучиться в местном университете, но студенческая аудитория – не его сфера деятельности, и он забросил учебу. Резидент Треппер, видя, что такое праздное времяпрепровождение может привлечь внимание спецслужб, потребовал заняться торговлей и посодействовал приобретению в Остенде небольшой лавчонки. Это «Хемница» вполне устраивало, т. к. он проводил все свободное время в кафе. Потом он разбил служебную автомашину. Возник вопрос о его откомандировании на родину ввиду неполного служебного соответствия. Но за него заступился Треппер. Москва согласилась с выводами резидента пока оставить Макарова в Брюсселе. Он продолжал работать радистом. Материалов группа получала много, поэтому радисту приходилось подолгу висеть в эфире на одном и том же месте, что грозило быть запеленгованным. Любой разведчик знает, что каждая лишняя минута