В мае 1881 года музей получил новое название – Императорский Российский Исторический музей и был передан в ведение Министерства народного просвещения. После этого он приобрёл статус правительственного учреждения.
Знакомство с экспозицией начиналось с парадных сеней. Роспись свода сеней с «Родословным древом государей Российских» была выполнена Фомой Гавриловичем Тороповым.
Каждый зал отражал важнейший этап исторического развития России.
Логике экспозиционного показа подчинялась не только планировка залов, но и детали архитектурно-художественного убранства представляемых эпох. Карнизы, наличники, мозаика пола экспозиционных залов точно воспроизводили стили эпох.
В отделке залов и в росписи принимали участие многие выдающиеся зодчие и художники, в том числе Иван Константинович Айвазовский, Виктор Михайлович Васнецов, Генрих Ипполитович Семирадский, Фёдор Андреевич Бронников, Илья Евграфович Бондаренко и другие.
Произведения искусства на исторические сюжеты, такие как «Каменный век», «Похороны руса в Булгаре» и «Святослав под Доростолом», «Крещение князя Владимира в Херсонесе», органично дополняли убранство залов.
В годы советской власти в связи с открытием новой экспозиции музея к двадцатилетию октябрьской революции, в 1937 году, многие росписи и детали интерьеров были забелены или уничтожены.
Ещё во время строительства здания были утверждены «Общие основания музея». В них определялась главная цель музея – «служить наглядной историей». Для осуществления этой цели «будут собираться все памятники знаменательных событий истории Русского государства».
Начало музейному собранию положили материалы исторического и севастопольского отделов Политехнической выставки 1872 года в Москве. Первая экспозиция Императорского Российского Исторического музея открылась в мае 1883 года, в день коронации императора Александра III. Первая экспозиция размещалась в одиннадцати залах. Экспозиция музея отличалась от западноевропейских музеев географической и хронологической систематизацией материалов. Кроме того, впервые была сделана попытка экспонировать памятники по единому научному плану.
Собрание музея формировалось из самых разных источников. В фонд главного исторического хранилища передавали материалы государственные и общественные учреждения, монастыри, архивы, библиотеки, академии, институты, университеты, издательства. Московская городская дума в 1887 году передала музею Голицынскую и Чертковскую библиотеки, крупные пожертвования поступали от семейств Голицыных, Масальских,