А. Г. Рубинштейна заботил и социальный состав будущих учеников консерватории. Он писал: «Те сословия и те классы, из которых можно было бы ожидать появления большего числа лиц, занимающихся музыкой с целью приготовить себя для оркестров или в звание учителей, – или не имеют средств получить музыкальное образование, или … не имеют в виду надежды или уверенности, что, посвятив себя музыке, они будут иметь возможность продолжать постоянно идти по этому пути» (Цит. по: [Там же]). Он беспокоился о том, что одаренным людям, которые рождаются с музыкальным талантом независимо от социальной принадлежности, нечем будет платить за обучение или же их заберут в рекруты, в сельскую среду и т.д. Известно, что значительную часть своего директорского гонорара он вносил в виде платы за неимущих учеников.
Осенью 1862 г. состоялось торжественное открытие Петербургской консерватории – первой русской консерватории. А. Г. Рубинштейн обратился к преподавателям, ученикам и музыкальной общественности со словами: «Будемте работать вместе, будем помогать друг другу, будем стараться дорогое для нас искусство поставить на ту высоту, на которой оно должно стоять у народа, столь богато одаренного способностями к музыкальному искусству; будемте неутомимыми служителями того искусства, которое возвышает душу и облагораживает человека» [4. Т. 1. С. 263].
Занятия в консерватории велись по следующим специальностям: теория музыки и композиция, фортепиано, оркестровые инструменты, вокал. Из современных музыкальных специальностей отсутствовали только обучение хоровому дирижированию (оно было сосредоточено в Синодальном училище в Москве и Придворной певческой капелле в Петербурге), а также обучение игре на народных инструментах, которым еще предстояло завоевать право войти в круг профессиональных музыкальных инструментов. Не велось также и обучение оперному и симфоническому дирижированию: оно еще не выделилось в область музыкальной деятельности с четко очерченным предметом.
Преподавательский состав Петербургской консерватории еще более пополнился по сравнению с Музыкальными классами: в ней в разные годы вели педагогическую деятельность такие музыканты, как известнейшая во всем мире пианистка, ученица Ф. Листа С. Ментер; крупнейшая пианистка России и одна из звезд мировой величины А. Есипова (ученица Т. Лешетицкого); Л. Брассен (ученик И.Мошелеса); скрипач Л. Ауэр, виолончелисты К. Давыдов и А. Вержбилович. В 1871 г. начал свою многолетнюю работу в Петербургской консерватории Н.А. Римский-Корсаков.
Для того чтобы поднять престиж звания «свободного художника», которое консерватория получила право присваивать оканчивающим, А. Г. Рубинштейн подал заявление о своем желании «держать экзамен на звание свободного художника» (Цит. по: [4. Т. 1. С. 263]) и представил свои сочинения. Специально созданная комиссия из профессоров консерватории и других петербургских музыкантов единодушно присвоила ему искомое звание.