В качестве структурных подразделений в Прокуратуру входили военная и транспортная прокуратура. Прокуратура Верховного Суда СССР была упразднена, однако прокуроры союзных республик оставались в системе республиканских народных комиссариатов юстиции. Постановлением ЦИК и СНК СССР от 20 июля 1936 г. «Об образовании Народного Комиссариата Юстиции СССР» все органы прокуратуры были выделены из системы народных комиссариатов юстиции, и тем самым была завершена централизация органов прокуратуры. Конституция СССР, утвержденная 5 декабря 1936 г. Чрезвычайным VIII съездом Советов, возложила на Генерального прокурора СССР осуществление высшего надзора за точным исполнением законов всеми министерствами и подведомственными им учреждениями, должностными лицами и гражданами СССР.
Прокуратура была выделена в самостоятельную, единую, строго централизованную систему государственных органов, действовавшую независимо от местных органов и подчинявшуюся только Генеральному прокурору СССР. Принципы единства, централизации и независимости прокурорского надзора от местных властей получили конституционное закрепление. Прокурор СССР назначался Верховным Советом СССР сроком на 7 лет, а нижестоящие – назначались и утверждались Прокурором СССР сроком на 5 лет. Вместе с тем искажения принципа централизации и подчинения закону в надзорной деятельности прокуроров, имевшие место в период культа личности Сталина, негативно (репрессивно) отразились на деятельности прокуратуры.
В годы Великой Отечественной войны работа органов прокуратуры во исполнение общей задачи – победы над фашизмом (обеспечение четкого исполнения законов о поставке военной продукции, об оказании помощи фронту, об укреплении тыла) была перестроена на военный лад.
В целях укрепления трудовой и исполнительской дисциплины Указом Президиума Верховного Совета СССР от 16 сентября 1943 г. прокурорско-следственным работникам были установлены классные чины с выдачей форменного обмундирования.
Одновременно была введена сравнительная градация классных чинов прокуроров и следователей, приравненных к воинским званиям. Высококвалифицированные прокуроры и следователи принимали активное участие в Нюрнбергском судебном процессе над главными военными преступниками.
Важной вехой в дальнейшем развитии законодательства в прокурорском надзоре явилось утверждение Президиумом Верховного Совета СССР 24 мая 1955 г. Положения о прокурорском надзоре в СССР, изданное на основе Конституции СССР 1936 г.
Данное Положение конкретизировало функцию высшего надзора применительно к основным его отраслям, определяло правовые