Поход польских белогвардейцев против Советской Республики закончился их поражением. В конце 1920 года под ударами Красной Армии польские интервенты были вынуждены очистить Украину и Белоруссию. Войска Тухачевского быстро продвигались к Варшаве. Перед лицом окончательного поражения Польши министр иностранных дел Великобритании лорд Керзон предъявил советскому правительству ультиматум. Одновременно страны Антанты оказали обанкротившемуся режиму Пилсудского срочную военную помощь. Обороной Варшавы руководил непосредственно французский генерал Вейган, являвшийся военным атташе Франции в этой стране.
Воспользовавшись тем, что тылы Красной Армии отстали от авангарда, а также массированной военной помощью Антанты, поляки отвергли мирные предложения советского правительства и перешли в контрнаступление. Польские войска оккупировали Западную Украину и Западную Белоруссию. Международное и внутреннее положение Советской России осложнилось. В связи с этим в сентябре 1920 года Политбюро ЦК РКП(б), проанализировав сложившуюся обстановку, пришло к выводу о том, что одной из причин неудачи Красной Армии в отражении польской агрессии явилось слабое ведение разведывательной работы в тылу интервентов.
Правда, еще с 1919 года органы ВЧК стали использовать заброску в тыл белогвардейских войск агентов для их последующего внедрения во вражеские формирования. Одному из таких агентов удалось даже проникнуть в организацию Савинкова «Союз защиты Родины и свободы» на территории Польши и выявить активных ее участников. Но этого было явно недостаточно. Политбюро ЦК РКП(б) приняло решение о кардинальной реорганизации внешней разведки. На созданный в структуре ВЧК Иностранный отдел было возложено ведение закордонной разведки. Таким образом, Иностранный отдел стал руководящим органом закордонной агентуры ВЧК.
В августе 1921 года в связи с переходом руководителя ИНО ВЧК Давыдова (Давтяна) на работу в Наркомат по иностранным делам, Могилевский был назначен руководителем внешней разведки. Начальником ИНО ВЧК он являлся до марта 1922 года. К этому времени Гражданская война в России в основном завершилась победой Красной Армии. Только на Дальнем Востоке и в Приморье оставались японские оккупанты, которые были изгнаны оттуда осенью 1922 года.
6 февраля 1922 года по предложению В. И. Ленина декретом ВЦИК РСФСР Всероссийская чрезвычайная комиссия была упразднена. На ее базе было образовано Государственное политическое управление при Наркомате внутренних дел РСФСР. Его работа ограничивалась, в основном, решением политических задач. В ГПУ было создано Секретно-оперативное управление (СОУ), в состав которого вошел и Иностранный отдел. На него по-прежнему возлагалась задача ведения разведывательной работы за