В сентябре 1918 года после подавления мятежа левых эсеров Блюмкин бежал на Украину, где участвовал в повстанческом движении и подготовке террористического акта против гетмана Скоропадского.
В апреле 1919 года явился с повинной в Киевскую ЧК и был амнистирован Президиумом ВЦИКа.
В 1920 году вступил в РКП(б) и был направлен на военную работу. Летом 1920 года являлся военным комиссаром штаба Красной армии Гилянской Советской Республики. Вступил в Иранскую компартию (ИКП). Одновременно являлся заведующим отделом ЦК ИКП по работе в деревне, председателем агитационной комиссии и членом комиссии по созыву персидских представителей на съезд народов Востока (Баку, 1920).
В сентябре 1920 года, после Гиляна, Блюмкин становится слушателем восточного факультета Академии Генерального штаба РККА. После окончания академии в 1922 году он назначается офицером для особых поручений Льва Давидовича Троцкого – председателя Революционного военного совета Республики, наркома по военным и морским делам. Блюмкин выполнял особо важные и секретные поручения наркома и даже редактировал первый том книги своего шефа «Как вооружалась революция» (1923). Влияние Троцкого на Блюмкина было так велико, что он стал убежденным, последовательным сторонником его взглядов, троцкистом.
С осени 1923 года – сотрудник Иностранного отдела (ИНО) ГПУ – ОГПУ, нелегальный резидент ИНО в Палестине.
В 1924 году Блюмкин был назначен помощником полномочного представителя ОГПУ в Закавказье. В конце 1925 года он некоторое время работал ответственным сотрудником Наркомата торговли.
В 1926–1927 годах находился на оперативной работе за рубежом, являясь главным инструктором государственной внутренней охраны (службы безопасности) Монголии. Близость к Троцкому и быстрый карьерный рост вскружили Блюмкину голову, и он стал относиться к монгольским коллегам высокомерно и бестактно. В ноябре 1927 года по настоянию председателя ЦК Монгольской народно-революционной партии Дамбе-Дорчжи Блюмкин был отозван в Москву, где, несмотря на явную протекцию начальника ИНО ОГПУ Трилиссера, несколько месяцев оставался в резерве внешней разведки.
В 1928 году Трилиссер поручает Блюмкину ответственное задание – организовать нелегальную резидентуру на Ближнем Востоке. Он должен был обосноваться в Стамбуле, а затем создать нелегальную разведывательную сеть в Палестине и Сирии.
В сентябре 1928 года Блюмкин с паспортом на имя персидского купца Якуба Султанова выезжает из Одессы в Стамбул, где открывает магазин персидских ковров и успешно легализуется. Из Стамбула он совершает поездки в Иерусалим, Вену, Париж.
В марте 1929 года, находясь в Берлине, Блюмкин узнает о высылке из СССР в Турцию его кумира Льва Троцкого. Он принимает решение немедленно возвратиться в Стамбул, где 12 апреля встречается с сыном Троцкого Львом Седовым. 16 апреля встречается с самим «демоном революции» и в ходе продолжительной беседы заявляет, что