В декабре 1908 г. освобожден из тюрьмы, вернулся в г. Санкт-Петербург, с января 1909 по март 1916 гг. работал гидротехником при Министерстве земледелия, одновременно руководитель большевистской фракции в Горном институте и один из руководителей «Объединенного комитета социал-демократических фракций высших учебных заведений», с декабря 1915 г. член Петроградского комитета РСДРП. В марте – декабре 1916 г. находился под стражей, освобожден по болезни, с декабря 1916 г. член Русского бюро ЦК РСДРП, одновременно (до апреля 1917 г.) заведующий отделом сношений с провинцией Русского бюро ЦК. В апреле 1917 – марте 1918 гг. член Исполнительной комиссии и секретарь Петроградского комитета РСДРП(б), по совместительству в октябре – ноябре 1917 г. член Петроградского ВРК и в феврале – марте 1918 г. член Комитета революционной обороны Петрограда. В период VII съезда РКП(б) (март 1918 г.) примыкал к «левым коммунистам».
В органах госбезопасности[67] с марта 1918 г.: заместитель председателя и (с августа 1918 г.) председатель ЧК Союза Коммун Северной области и Петроградской ЧК. В октябре – ноябре 1918 г. агент ЦК РКП(б), направлен в обком РКП (б) Западной коммуны (г. Минск) «…для ознакомления с постановкой и ведением нелегальной работы в оккупированных местностях». В ноябре 1918 – июле 1919 г. член коллегии НКВД РСФСР, одновременно в декабре 1918 г. заведующий отделом управления НКВД РСФСР и в декабре 1918 – январе 1919 гг. председатель контрольно-ревизионной комиссии НКВД РСФСР и в декабре 1918 – марте 1919 гг. представитель НКВД РСФСР при ВЧК.
С марта 1919 г. начальник ОО Восточного фронта, одновременно в июле – сентябре 1919 г. председатель Симбирской губернской ЧК. С сентября 1919 г. по август 1920 г. начальник ОО Туркестанского фронта, совмещал с должностями члена Туркестанской комиссии ВЦИК и СНК РСФР и (в апреле – августе 1920 г.) полпреда ВЧК по Туркестану. С января 1921 г. начальник специального (шифровального) отделения ВЧК, с февраля 1921 начальник специального отдела ВЧК. В феврале 1922 г. – июле 1934 гг. начальник специального отдела ГПУ РСФСР – ОГПУ СССР, одновременно в июле 1921 – феврале 1922 гг. член Коллегии ВЧК, в июле 1922 – июле 1934 гг. член Коллегии ГПУ РСФСР – ОГПУ СССР и (с августа 1931 г.) уполномоченный ОГПУ СССР при СНК РСФСР. Одновременно по совместительству: с сентября 1923 по декабрь 1930 гг. член Коллегии НКВД РСФСР, с января 1924 по июль 1934 гг. член Верховного Суда СССР, с июня 1924 г. постоянный член Особого совещания ОГПУ СССР, с 1929 г. начальник Комиссии