В 1913 г. вместе с матерью, сестрами и братьями переехал к отцу в Иркутскую губернию, куда тот был сослан в 1908 г. Участвовал в деятельности местной социал-демократической организации и нелегального профсоюза горнорабочих. В 1915 г. арестован во время провала подпольной типографии в Черемхово, однако вскоре освобожден за недоказанностью вины. Вторично арестован в 1916 г. в Усолье за уклонение от военной службы, бежал из-под ареста и перешел на нелегальное положение. Вел революционную агитацию в Нижнеудинске и на Николаевском заводе.
После Февральской революции в мае 1917 г. добровольцем ушел в армию. Служил в 12-м Сибирском полку на Северном фронте под Ригой, затем – в 17-м Сибирском полку, был избран председателем полкового комитета, избран кандидатом в члены Учредительного Собрания от Северного фронта и русских войск в Финляндии. После Октябрьской революции в составе 17-го полка направлен в Сибирь. Участвовал в установлении Советской власти в Челябинском регионе. После освобождения Троицка от войск Дутова работал в этом городе: одновременно – командующий войсками, военный комиссар, зампредисполкома и председатель ЧК. С лета 1918 г., после отступления из Троицка, командовал вместе с Н. Д. Томиным партизанским отрядом на Урале, влившимся впоследствии в партизанское соединение, возглавляемое В. К. Блюхером. После прорыва фронта и соединения с частями Красной Армии – начальник штаба и комиссар бригады. С ноября 1918 г. – уполномоченный по информации, а затем – начальник ОО Екатеринбургской ГубЧК.
После начала войны с Польшей направлен на Западный фронт, где работал в ОО, с сентября 1920 г. – помощник начальника по агентурной работе ОО 16-й армии. Летом 1921 г. после расформирования 16-й армии переведен в аппарат ЧК БССР. С июня 1921 г. – начальник Особого отдела, с июля 1921 г. – уполномоченный Ударной группы по разработке иностранных миссий.
С июля 1922 г. – начальник Заславльского пограничного особого отделения, принимал активное участие в операции «Синдикат-2», персонально отвечал за переход в СССР Б. В. Савинкова и его сподвижников на участке советско-польской границы, находившемся в его ведении. Выдавая себя за члена легендированной антисоветской подпольной организации «Либеральные демократы», внедрялся в группы савинковцев, участвовал в их ликвидации.
С июля 1923 г. по 25.02.1924 г. – начальник Западного пограничного округа ОПК войск ГПУ и помощник председателя ГПУ БССР.
В 1924 г. переведен в Москву, работал в 3-м отделении КРО ОГПУ, затем – в аппарате ИНО ОГПУ. В 1926 г. направлен в Данциг в качестве помощника резидента внешней разведки. С 1927 г. возглавлял резидентуру в Польше (под прикрытием 2-го секретаря полпредства).
За участие в операции «Трест» в декабре 1927 г. награжден Коллегией