В юности работал подмастерьем в гравёрной мастерской М. И. Свердлова, отца революционера Я. М. Свердлова. Впоследствии женился на И. Л. Авербах, племяннице Я. М. Свердлова.
В 1907 году примкнул к группе нижегородских анархистов-коммунистов, в 1911 году направлен в Москву для участия в ограблении банка, задержан полицией за нарушение паспортного режима, приговорен судом к двум годам ссылки в Симбирске.
В 1915 году призван в армию, служил на Западном фронте. Осенью следующего года демобилизован по ранению, поселился в Петрограде, где сотрудничал в газете «Солдатская правда». К этому периоду относится его знакомство с писателем Максимом Горьким. Член РСДРП (б) с июля 1917 года.
Участник Октябрьской Революции. В начале 1918 года по личной рекомендации Я. М. Свердлова поступил в петроградское ЧК. С 1920 года член коллегии ГПУ, с июля 1926 года первый заместитель председателя ОГПУ.
Руководил разгоном антисталинских демонстраций в 1927 году, строительством Беломорканала силами заключённых, организовал систему исправительно-трудовых лагерей ГУЛАГ. Носил официальный титул «первый инициатор, организатор и идейный руководитель социалистической индустрии тайги и Севера».
В июле 1934 года возглавил образованный НКВД СССР, в 1935 году Ягоде было присвоено звание «генеральный комиссар госбезопасности», аналогичное воинскому званию маршал. Организатор первого московского антитроцкистского судебного процесса (процесс Зиновьева-Каменева) в августе 1936 года.
В сентябре 1936 года снят с должности наркома внутренних дел и назначен наркомом связи. В январе 1937 года снят с этого поста, исключен из ВКП (б) и арестован. Являлся одним из главных обвиняемых на третьем московском антитроцкистском судебном процессе в марте 1938 года. Расстрелян 15 марта 1938 года в Лубянской тюрьме НКВД.
Протокол допроса № б/н от 13 марта 1938 г.
В. Вернёмся к прерванному допросу. Врача отпустить?
О. Да, я чувствую себя вполне сносно. В нашей семье у всех всегда было хорошо с сердцем. Надеюсь, я не исключение.
В. Перед приступом Вы сообщили, что хотели сделать заявление. Вы по-прежнему на этом настаиваете?
О. Да. Это очень важное заявление. Это заявление существенным образом окрашивает те признания, которые я уже сделал. То есть оно не меняет их, но объясняет подоплёку моего поведения и поведения многих других людей тоже.
В. Если готовы, то приступайте.
О. Это было примерно за полгода до убийства Кирова1. Ко мне попросился на приём Молчанов, тогда рядовой сотрудник Особого отдела ОГПУ. Это было, конечно, очевидное нарушение субординации, сначала он должен был обратиться к своему непосредственному начальнику, но я решил его принять. Менжинский2 к тому времени уже сильно болел, фактически я исполнял обязанности председателя ОГПУ, исполнял их хорошо, я не сомневался в том, что после смерти Менжинского меня назначат на этот высокий пост. Поэтому был заинтересован окружить себя максимальным количеством преданных лично мне людей. О Молчанове я кое-что знал, знал, что у него в прошлом были какие-то уголовные дела, дал указание не ворошить их, до поры, до времени. Поздно вечером, когда людей в здании управления было сравнительно мало, я принял его. Молчанов сообщил мне буквально следующее. Несколько дней назад в Особый отдел поступил письменный приказ Менжинского подготовить в кратчайшие сроки подробную аналитическую записку о состоянии дел в военных округах, настроениях среди красноармейцев, особенно, среди командиров, главный упор сделать на вопросы образованности, стремления к карьерному росту и т. д. «Любопытно, – подумал я тогда. – Менжинский мне ничего не говорил об этом приказе. Не лежится старому лису на домашнем диване». «Что вас настораживает, товарищ Молчанов, – спросил я. – Текущая проверка боеготовности нашей армии. Международная обстановка напряжённая, в Германии Гитлер пришёл к власти. Времена наступают такие, что всего можно ожидать». «Так-то оно так, – сказал Молчанов, – но, как мне удалось выяснить, точно такие же приказы, за подписью Менжинского, поступили в Особые отделы на местах, причём со строжайшим запретом информировать о сделанной работе центральный аппарат». «Такие проделки не в стиле Менжинского, – подумал я. – Похоже, старика кто-то использует вслепую. Хотелось бы знать, кто?» «Но это ещё не всё, – сказал Молчанов. – В Генштабе у меня есть агент-информатор, бывший полковник царской армии Карамзин, можно сказать, мой личный агент, я работаю с ним с Гражданской. Я помог ему пересидеть в штабе Приволжского округа, пока шла операция „Весна“3, когда чистка закончилась, содействовал возвращению в Генштаб. Вчера я с ним встретился на конспиративной квартире с целью прощупать, не связаны ли запросы по нашей линии с какими-то телодвижениями у военных. Выяснилось следующее. По секретному указанию Политбюро из бывших „весновцев“ сформировано несколько групп экспертов, которые