3 мая 1921 года Серебрянский был переведен в кадровый резерв назначения Административно-организационного управления ВЧК. Возможно, это было связано с его собственным желанием, но скорее всего, такое решение было принято в связи с обострением политической ситуации: Серебрянский – бывший правый эсер, и к тому же он не был членом РКП(б).
К концу 1921 года закончился первый этап службы Серебрянского в органах госбезопасности: 26 июня он демобилизовался из ВЧК. После «увольнения» Яков стал студентом Московского электротехнического института народной связи (МЭИНС) им. В.Н. Подбельского. Вскоре после поступления в институт случилось неожиданное. Не успел Яков проучиться и одного семестра… как его арестовали. 2 декабря 1921 года Серебрянский зашел в гости к старому товарищу по правоэсеровской партии Давиду Моисеевичу Абезгаузу, где попал в засаду ВЧК. Почти четыре месяца он находился под следствием.
29 марта 1922 года постановлением Президиума ГПУ, рассмотревшего вопрос о принадлежности Серебрянского к правым эсерам, находившимся в Советской России под запретом, наш герой был освобожден из-под стражи. Однако его взяли на «учет с лишением права работы в политических, разыскных и судебных органах, а также в Наркомате иностранных дел». Вскоре Яков устроился на работу заведующим канцелярией нефтетранспортного отдела треста «Москвотоп».
А его приятель Я. Блюмкин после окончания военной академии стал адъютантом наркома по военным и морским делам Л.Д. Троцкого. Блюмкин выполнял особо важные и секретные поручения наркома и даже редактировал первый том книги своего шефа «Как вооружалась революция» (изд. 1923 г.). Влияние Троцкого на Блюмкина было так велико, что тот стал убежденным, последовательным сторонником его взглядов, стал троцкистом. Это его в дальнейшем и погубит.
С весны 1922 года совместная секретная деятельность советских спецслужб и спецструктур ИККИ была направлена на разложение вооруженных сил белой эмиграции.
Отметим, что значительная часть среди резидентов и разведчиков, работаших в ИНО ГПУ – ОГПУ и РУ РККА в 1920–1930 годы, начинала карьеру разведчиков именно по линии Коминтерна. Р. Зорге, Л. Tpeппep, Ш. Радо, А. Дейч, И. Григулевич, В. Фишер, А. Шнеэ и многие другие стали разведчиками по идеологическим соображениям.
Между тем Я. Серебрянского продолжал преследовать злой рок. В 1922 году его арестовали по подозрению во взяточничестве в тресте. Но следствие не подтвердило участия Якова в этом деле, и в 1923 году он был освобожден.
В октябре 1923 года его приняли на работу в редакцию газеты «Известия». Несколько позже он подал заявление о приеме в РКП(б) и вскоре стал кандидатом в члены партии.
Осенью 1923 года Ф. Дзержинский предложил Я. Блюмкину перейти на службу в ОГПУ, возглавив новую нелегальную резидентуру в Палестине. В Блюмкине Дзержинский учитывал прежде всего его способности к нелегальной работе, а также опыт по