Входящие в состав Прокуратуры СССР Военная и Транспортная прокуратуры действовали на основе особых о них положений.
Указания и распоряжения Прокурора Союза ССР были обязательны для всех органов прокуратуры. Прокуроры союзных республик назначались и отзывались Прокурором СССР по согласованию с центральными исполнительными комитетами союзных республик. Краевые и областные прокуроры и прокуроры автономных республик и областей назначались и отзывались прокурорами союзных республик с согласия Прокурора СССР.
Постановлением ЦИК и СНК СССР от 20.07.1936 «Об образовании Народного Комиссариата юстиции Союза ССР» все органы прокуратуры были выделены из системы народных комиссариатов юстиции союзных и автономных республик и переданы в непосредственное подчинение Прокурору СССР.
Постановлением СНК СССР от 05.11.1936 была утверждена структура Прокуратуры СССР, включавшая: 1) Главную военную прокуратуру; 2) Главную прокуратуру железнодорожного транспорта; 3) Главную прокуратуру водного транспорта; 5) Отдел общего надзора; 6) Уголовно-судебный отдел; 7) Гражданско-судебный отдел; 8) Следственный отдел; 9) Отдел по специальным делам; 10) Отдел по надзору за местами заключения; 11) Отдел по жалобам; 12) Отдел кадров; 13) Группу учета и информации; 14) Особый сектор; 15) Управление делами; 16) Секретариат.
Как справедливо отмечают ученые, советский период занимает практически основную часть в развитии Прокуратуры России. Нормативные акты общесоюзного уровня, регулирующие прокурорский надзор, были рассчитаны на применение всеми органами прокуратуры союзных республик, в том числе и РСФСР, а поэтому не инкорпорировались в российском законодательстве.
Важное значение в дальнейшем развитии законодательства о прокурорском надзоре имело утверждение 5 декабря 1936 г. Чрезвычайным VIII Съездом Советов Конституции СССР, которая возложила на Генерального прокурора СССР осуществление высшего надзора за точным исполнением законов всеми министерствами и подведомственными им учреждениями, должностными лицами и гражданами СССР.
Прокуратура была выделена в единую самостоятельную систему государственных органов, действовавшую независимо от местных органов и подчинявшуюся только Генеральному прокурору СССР. Последний был подотчетен Верховному Совету СССР и ответствен перед ним.
Следующей вехой в развитии законодательства о прокурорском надзоре стало утверждение Президиумом Верховного Совета СССР 24 мая 1955 г. Положения о прокурорском надзоре в СССР, которое определило задачи, принципы прокурорского надзора, его содержание, основные направления (отрасли) и т. д.
Следующим шагом в развитии прокуратуры стало принятие в 1977 г. Конституции СССР, согласно которой высший надзор был возложен не только на Генерального прокурора СССР, но и на всех нижестоящих подчиненных ему прокуроров в пределах их компетенции,