Вторая, и более важная, задача состояла в том, чтобы создать разветвленную партийную структуру по аналогии с существующей системой государственной власти и общественными институтами. Страна была поделена на области, или «гау», приблизительно соответствовавшие 34 избирательным округам по выборам в рейхстаг, во главе которых стояли назначенные Гитлером гаулейтеры. Было учреждено также семь дополнительных «ray» за пределами Германии: в Австрии, Данциге, Саарской и Судетской областях. «Гау» в свою очередь были поделены на «крайсы» (округа) во главе с крайслейтерами. В округа входили «ортсгруппы», то есть местные организации, которые делились на уличные ячейки, а последние – на квартальные блоки.
Политическая организация нацистской партии состояла из двух отделов: ПО-1 – предназначался для дискредитации и подрыва республиканского строя, ПО-2 – занимался строительством государства в государстве. Ко второму отделу относились подотделы сельского хозяйства, юстиции, экономики, внутренних дел, трудовых ресурсов, а в будущем подотделы расовых отношений, культуры и техники. ПО-1 состоял из подотделов внешних сношений, профсоюзов и печати рейха. Кроме двух ПО существовал особый отдел пропаганды со своей разветвленной структурой.
Часть нацистских головорезов, зачинщиков уличных драк и пьяных дебошей, была против вовлечения женщин и детей в нацистскую партию, но Гитлер и для них создал специальные организации. «Гитлерюгенд», например, объединял юношей в возрасте от пятнадцати до восемнадцати лет и имел свои секции (культуры, школьного образования, печати, пропаганды, оборонительных видов спорта и другие), а подростки в возрасте от десяти до пятнадцати лет вовлекались в организацию под названием «Немецкая молодежь». Для девочек существовала Лига немецких девушек, а для женщин – национал-социалистические союзы женщин. Студенты, преподаватели, служащие учреждений, врачи, адвокаты имели свои организации, а для художников и других деятелей культуры был учрежден «Национальный культурный бунд».
Потребовалось немало усилий, чтобы преобразовать организацию под названием СА (боевые отряды) в вооруженное формирование, насчитывавшее несколько тысяч человек и призванное охранять нацистские сборища, разгонять рабочие митинги и вообще терроризировать тех, кто выступал против Гитлера. Некоторые руководители СА рассчитывали, что с приходом фюрера к власти она заменит регулярную армию. Для начала был создан специальный военно-политический центр во главе с генералом Францем Риттером фон Эппом. По идее, пять его отделов должны были ведать такими вопросами как внешняя и внутренняя безопасность, силы обороны, оборонный потенциал. Однако на деле СА, состоявшая из молодчиков в коричневых рубашках, как была, так и осталась сбродом крикунов и громил. Многие из ее высших чинов, начиная с главаря Рема, были известны как гомосексуалисты, а лейтенант Эдмунд Хайнес, возглавлявший мюнхенские отряды СА, был судим за убийство.
Желая иметь в