Операция советской разведки, связанная с похищением Миллера, способствовала полному развалу РОВС. И хотя окончательно РОВС как организация прекратил свое существование с началом Второй мировой войны, советская разведка, дезорганизовав и разложив его, лишила гитлеровскую Германию и ее союзников возможности активно использовать в войне против СССР около двадцати тысяч членов этой организации.
Активно работал Шпигельглаз и против других белогвардейских организаций, главной целью которых было свержение советской власти в России. Среди последних следует, в частности, отметить Народно-трудовой союз (НТС), Организацию украинских националистов (ОУН), объединение грузинских меньшевиков во главе с Ноем Жорданией.
Под непосредственным руководством Шпигельглаза советская разведка добыла совершенно секретные материалы германского генерального штаба, касающиеся военной доктрины Германии в отношении СССР.
В период гражданской войны в Испании Шпигельглаз неоднократно выезжал в эту страну для оказания на месте конкретной оперативной помощи резидентуре НКВД, а также для проведения в тылу германо-итальянских союзников генерала Франко специальных разведывательно-диверсионных операций. «Летучие бригады» Шпигельглаза, как их называли сами разведчики, наносили по врагу чувствительные удары.
С февраля по июнь 1938 года Сергей Михайлович Шпигельглаз исполнял обязанности руководителя советской внешней разведки. Одновременно он преподавал в Школе особого назначения (ШОН) ГУГБ НКВД СССР.
Полноправным начальником внешней разведки Шпигельглаз так и не стал. Еще в 1937 году нарком внутренних дел Ежов решил устранить этого перспективного руководителя, проявлявшего излишнюю самостоятельность и имевшего право направлять напрямую Сталину разведывательные донесения разведки. После вынужденного назначения Шпигельглаза исполняющим обязанности начальника внешней разведки и открывавшихся перед ним перспектив занять этот пост без приставки и.о., Ежов активизировал свои действия, чтобы в будущем поставить на это место своего ставленника. Он инициировал проверочную комиссию, которая начала собирать компрометирующие материалы на Шпигельглаза. 9 июня 1938 года последний был освобожден от занимаемой должности, а 2 ноября того же года арестован.
29 января 1940 года за «измену Родине, участие в заговорческой деятельности, шпионаж и связь с врагами народа» Сергей Михайлович Шпигельглаз был осужден Военной коллегией