Централизованная и независимая прокурорская система СССР окончательно сложилась к середине 30-х годов, когда 20 июля 1936 г. было принято постановление ЦИК и СНК СССР «Об образовании Народного Комиссариата юстиции Союза ССР». Такая централизованная система прокуратуры была закреплена и в «сталинской» Конституции 1936 г. На прокуратуру возлагался высший надзор за точным исполнением законов всеми Народными комиссариатами, подведомственными им учреждениями, должностными лицами и гражданами.
В условиях культа личности Сталина имело место падение авторитета прокуратуры. В эти годы вопреки конституционным установлениям были допущены грубейшие нарушения принципов законности, прав человека, массовые и незаконные репрессии. В связи с этим для представителей прокурорского надзора были созданы неприемлемые условия надзора за расследованием многих дел этой категории, их расследование осуществлялось органами государственной безопасности: прокурорский надзор был лишен своих правоохранительных функций, особенно при расследовании уголовных дел о наиболее тяжких так называемых контрреволюционных преступлениях, лишен власти в пресечении незаконных репрессий.
В годы сталинских репрессий прокуроры входили в состав квазисудебных органов, так называемых троек, рассматривавших дела «врагов народа». 5 ноября 1934 г. было принято Постановление ЦИК и СНК СССР «Об Особом совещании при Народном комиссариате внутренних дел СССР», в соответствии с которым народному комиссариату предоставлялось право применять определенные меры к лицам, признаваемым общественно опасными. Предусматривалось, что в заседаниях Особого совещания должен обязательно участвовать Прокурор Союза ССР или его заместитель, который в случае несогласия как с самим решением Особого совещания, так и с направлением дела на рассмотрение Особого совещания имеет право протеста в Президиум ЦИК СССР. Таким образом, в деятельности прокуратуры был допущен резкий крен в сторону уголовного преследования и обвинения. Все другие направления деятельности прокуратуры оказались ослабленными. Этому способствовала и проведенная на основании приказа прокурора Союза ССР от 25 марта 1934 г. «О перестройке аппарата прокуратуры в центре и на местах», перестройка аппарата прокуратуры с отказом от деления его по специальным отраслям прокурорского надзора. Этим приказом были ликвидированы разделение в структуре органов прокуратуры на общий и судебный надзор, а также специально выделенное для рассмотрения жалоб и заявлений отдельных лиц существующее в органах прокуратуры Бюро жалоб.
В годы Великой Отечественной войны деятельность прокуратуры была подчинена общей задаче – победе над немецким фашизмом. Многие прокуроры и следователи ушли на фронт в действующую армию или в партизанские отряды. Высококвалифицированные прокуроры и следователи СССР принимали активное участие в судебном процессе над нацистскими преступниками, проходившем в Нюрнберге с ноября 1945 г. по октябрь 1946 г.
В