Сталин учел, что правые числят заместителя председателя ОГПУ Меира Трилиссера среди своих сторонников, и при очередной перестановке убрал его из аппарата госбезопасности. Впрочем, похоже, и Генрих Ягода жаждал устранения Трилиссера, удачливого руководителя разведки, как вероятного соперника в борьбе за должность председателя ОГПУ. Они оба были замами, оба понимали, что Менжинский серьезно болен и что в ЦК подыскивают ему замену.
Конфликт двух замов окончился победой Ягоды. Трилиссер публично обвинил Генриха Григорьевича в поддержке «правых уклонистов», в дружеских отношениях с лидерами правых. Сталину это не понравилось. Трилиссер сыграл ва-банк и проиграл. 27 октября 1929 года Трилиссер был освобожден от работы в ОГПУ.
В феврале 1930 года Трилиссер получил должность заместителя наркома рабоче-крестьянского контроля. Его ввели в состав президиума Центральной контрольной комиссии ВКП(б). В 1934 году назначили уполномоченным Комиссии советского контроля по Дальневосточному краю. 10 августа 1935 года решением политбюро Трилиссера перевели на работу в Коминтерн. После седьмого конгресса его избрали членом президиума и утвердили секретарем исполкома Коминтерна – под псевдонимом Москвин.
Сталина, отдыхавшего на юге, не поставили в известность, что Трилиссеру изменили фамилию. И он прислал Кагановичу возмущенное письмо: «Почему кандидатуру Трилиссера в ИККИ заменили кандидатурой Москвина? В чем дело?»
Сталин подумал, что члены политбюро решили выдвинуть Ивана Михайловича Москвина. Это был известный партийный работник. В двадцатых годах он работал в Ленинграде и презирал ленинградского вождя Зиновьева. Иван Москвин был одним из немногих ленинградцев, резко выступивших против Зиновьева. Сталин приметил Москвина, перевел его в Москву, сделал членом оргбюро ЦК, кандидатом в члены секретариата ЦК и поставил управлять всеми руководящими партийными кадрами. Своим заместителем в организационно-распределительном отделе ЦК Москвин поставил исполнительного Николая Ивановича Ежова. Но вскоре Сталин в Москвине разочаровался: Иван Михайлович был ригористом и партийным романтиком, верил в то, что говорил. Поэтому из партаппарата его убрали.
Лазарь Каганович, оставшийся на время отпуска Сталина на партийном хозяйстве, поспешил успокоить вождя: «Трилиссера переименовали в Москвина ввиду того, что его фамилия известна как бывшего работника НКВД».
Коминтерновские дела были Трилиссеру не в новинку. Еще в декабре 1922 года решением оргбюро ЦК он был включен в «постоянную нелегальную комиссию исполкома Коминтерна». Задача состояла в том, чтобы помочь компартиям научиться действовать, находясь на нелегальном положении: разрабатывались средства связи в условиях строжайшей конспирации, шифры, методы создания тайных типографий.
Как руководитель иностранного отдела Трилиссер тесно сотрудничал с отделом