Ягода впоследствии женился явно по расчету на его племяннице Идее Леонидовне. До 1913 года будущий глава чекистского ведомства жил в городах Симбирске, Нижнем Новгороде и Москве.
По мобилизации попал в 1915 году в армию, где и примкнул к большевикам. В боевых действиях не участвовал. Писали, что скрывался где-то в тылах. В 1917 году оказался в Петрограде, и уже с 1918 года он – сотрудник аппарата Высшей военной инспекции. Таких «образованных» тогда свои с удовольствием брали во власть.
С 1919 года он уже на службе в ВЧК, ГПУ и ОГПУ. В 1934 году в связи с расформированием ОГПУ Ягода был назначен народным комиссаром внутренних дел (НКВД) СССР. В это же время Главное управление госбезопасности (ГУГБ) вошло в новосозданный наркомат. На этом посту он проявил себя как один из главных организаторов и исполнителей массовых репрессий.
Кроме всего прочего, он любил роскошь и, естественно, был жаден до денег. Проживая в двадцатикомнатной даче, устраивал оргии и любил побаловаться слабым полом. В суть оперативной работы особенно не вникал, хотя палаческие функции исполнял исправно, даже с «перевыполнением планов».
25 сентября 1936 года И. В. Сталин явно был не столько напуган и оскорблен той кровью, которую пролил сибарит Ягода, сколько его бездеятельностью в борьбе с главными его врагами – Троцким и троцкизмом. А скорее Сталин на основании полученных оперативных материалов подозревал, что сам главный чекист органически «вплетен» в троцкистский заговор, направленный против него – «вождя всех народов, заселяющих великий Советский Союз».
Кстати, в это время прозревший правитель СССР находился на отдыхе в Сочи вместе с наиболее приближенным к телу вождя партийным чиновником А. А. Ждановым. После краткого обсуждения «кадрового вопроса» со своим очередным любимцем, которых для профилактики менял часто, он неожиданно для многих кремлевских работников направляет в Политбюро ЦК телеграмму такого содержания:
«Считаем абсолютно необходимым и срочным делом назначение т. Ежова на пост наркомвнудела. Ягода явным образом оказался не на высоте своей задачи в деле разоблачения троцкистско-зиновьевского блока. ОГПУ опоздал в этом деле на 4 года. Об этом говорят все партработники и большинство областных представителей НКВД».
И уже 29 марта 1937 года Генрих Ягода был внезапно арестован по обвинению