Музею было отведено здание бывшей Буюк-мечети, построенной турками в 1451–1494 гг. После изгнания турок из Болгарии это здание пустовало. Во время Освободительной войны 1877–1878 гг. в нем располагался госпиталь, потом министерство народного просвещения устроило в нем библиотеку, однако оказалось, что здание мечети совершенно не подходит для хранения книг. Впрочем, многие сомневались и в том, что оно подойдет и для музея. Так, известный чешский ученый Константин Иречек (1854–1918), много лет проработавший в Болгарии и внесший немалый вклад в становление болгарской науки (в 1881–1884 гг. он даже был министром народного просвещения Болгарии), оценивал выбор Буюк-мечети как «крайне неподходящий». Но, как бы то ни было, крупнейшая археологическая коллекция Балканского полуострова вот уже более ста лет продолжает оставаться в этом здании.
Музей официально был открыт для публики 18 мая 1905 г. С самого начала он являлся не только образовательным, но и научным учреждением. Сотрудники музея первыми начали вести археологические раскопки на территории Болгарии, их находки значительно обогатили музейные фонды. Уже в конце XIX в. началось планомерное исследование остатков столиц раннесредневекового болгарского государства – Плиски и Преслава, в первые десятилетия XX в. ученые вели раскопки римских городов Никополиса ад Иструм и Эскус (Гиген), фракийского святилища бога Асклепия, раннехристианской церкви Св. Софии в Софии. С 1911 г. на музей возложили задачу составления археологической карты Болгарии.
Одновременно музей использовал значительные средства на покупку предметов старины и художественных произведений, принадлежавших частным лицам. В итоге собрания музея настолько расширились, что уже в 1906 г. было решено выделить его этнографические коллекции в самостоятельный Этнографический музей. В 1909 г. музей в Буюк-мечети получил официальное наименование Национальный археологический музей, а в его структуре были созданы четыре отдела: древности, средневековья, нумизматический и художественный. В 1920 г. к ним добавился отдел предыстории.
В период 1938–1944 гг. к зданию Буюк-мечети были пристроены два крыла, что позволило переустроить экспозицию музея и открыть для всеобщего обозрения множество ценных памятников старины, ранее неизвестных широкой публике. В конце Второй мировой войны музей сильно пострадал от бомбардировки, сгорела часть музейной документации и библиотеки, однако, по счастью, основные фонды остались целы. После ремонта в 1948 г. музей вновь открылся для посетителей. Одновременно из его состава был выделен художественный отдел, на основе которого была создана Художественная галерея.
Сегодня постоянная экспозиция музея размещена в четырех залах: зале Предистории, зале Сокровищ, Центральном зале и зале Средневековья. Здесь представлены находки со всей территории современной Болгарии, от периода верхнего палеолита (1–1,5 млн лет до н. э.) до эпохи Второго Болгарского царства (1185–1396).
Экспозиция