Весной 1920 года, воспользовавшись тем, что основные силы Красной Армии были отвлечены на борьбу с остатками армии Врангеля, полчища Пилсудского вторглись на территорию Украины и Белоруссии. Так Польша, получившая независимость от Советской Республики, «отблагодарила» ее. 25 мая 1920 года поляки заняли Киев. В целях усиления разведывательной работы в тылу банд Пилсудского весной 1920 года в Особом отделе ВЧК создается особое подразделение – Иностранный отдел, а при особых отделах армий – иностранные отделения.
Поход польских белогвардейцев против Советской Республики закончился их поражением. В конце 1920 года под ударами Красной Армии польские интервенты были вынуждены очистить Украину и Белоруссию. Войска Тухачевского быстро продвигались к Варшаве. Перед лицом окончательного поражения Польши министр иностранных дел Великобритании лорд Керзон предъявил советскому правительству ультиматум. Одновременно страны Антанты оказали обанкротившемуся режиму Пилсудского срочную военную помощь. Обороной Варшавы руководил непосредственно французский генерал Вейган, являвшийся военным атташе Франции в этой стране.
Воспользовавшись тем, что тылы Красной Армии отстали от авангарда, а также массированной военной помощью Антанты, поляки отвергли мирные предложения советского правительства и перешли в контрнаступление. Польские войска оккупировали Западную Украину и Западную Белоруссию. Международное и внутреннее положение Советской России осложнилось. В связи с этим в сентябре 1920 года Политбюро ЦК РКП(б), проанализировав сложившуюся обстановку, пришло к выводу о том, что одной из причин неудачи Красной Армии в отражении польской агрессии явилось слабое ведение разведывательной работы в тылу интервентов.
Правда, еще с 1919 года органы ВЧК стали использовать заброску в тыл белогвардейских войск агентов для их последующего внедрения во вражеские формирования. Одному из таких агентов удалось даже проникнуть в организацию Савинкова «Союз защиты Родины и свободы» на территории Польши и выявить активных ее участников. Но этого было явно недостаточно. Политбюро ЦК РКП(б) приняло решение о кардинальной реорганизации внешней разведки. На созданный в структуре ВЧК Иностранный отдел было возложено ведение закордонной разведки. Таким образом, Иностранный отдел стал руководящим органом закордонной агентуры ВЧК.
В августе 1921 года в связи с переходом руководителя ИНО ВЧК Давыдова (Давтяна) на работу в Наркомат по иностранным делам, Могилевский был назначен руководителем внешней разведки.