20 января 1797 года, то есть спустя всего два месяца после своего восшествия на престол и еще до коронации, состоявшейся на Пасху того же года, новый император подписал указ о составлении «Общего гербовника дворянских родов Всероссийской Империи».
Гербовник должен был стать официальным собранием утвержденных императором родовых и личных гербов российского дворянства. Очередные части (тома) комплектовались по мере составления и утверждения гербов, а внутри каждой части гербы группировались по статусу владельцев. Всего в Гербовнике насчитывалось три «отделения»: первое включало гербы титулованных родов и древних родов, принадлежавших к дворянству еще до петровского указа о единонаследии 1714 года, уравнявшего вотчины и поместья; второе – гербы дворян, возведенных в это достоинство русскими императорами; третье – гербы дворян, получивших дворянство по чину или по ордену, то есть по службе. Каждый герб изображался в цвете, после чего шло его словесное описание и краткая информация о происхождении рода, которому он принадлежал (с упоминанием о происхождении дворянского достоинства носителей). Объяснение элементов и деталей герба в официальном описании отсутствовало и возможно лишь при обращении к другим источникам, в том числе архивным материалам Герольдии.
Центральным принципом формирования Гербовника стала идея службы государю. Первыми шли «природные» княжеские роды потомков Рюрика, Гедимина и других правителей, затем роды располагались «по старшинству» службы, а не в алфавитном порядке фамилий гербовладельцев, хотя в конце каждой части прилагался алфавитный указатель.
Общее наблюдение за созданием Гербовника было возложено на генерал-прокурора князя Алексея Борисовича Куракина, работой над первыми частями руководил обер-прокурор Третьего департамента Сената, получивший известность на литературном поприще, будущий министр внутренних дел при Александре I Осип Петрович Козодавлев. Его помощником стал особый чиновник – ваппенрихтер (гербовый судья) Матвей Федорович Ваганов, подготовивший первые девять частей этого масштабного труда. 27 мая 1800 года Герольдмейстерская контора обрела статус коллегии и получила официальное наименование Герольдии.
Под стать содержанию был и внешний вид томов. Гербы в первых 12 частях изображались на пергамене (позднее в качестве материала использовалась плотная, так называемая бристольская бумага), первые десять частей были переплетены в малиновый бархат с вышитым золотом государственным гербом. Указ 1861 года изменил внешнее оформление переплета (в соответствии с изменениями государственного герба): теперь малый государственный герб Российской империи (черный двуглавый орел с регалиями и титульными гербами) помещался на золотом глазете, а по углам переплета располагались металлические