На время строительства нового здания купцы получили возможность торговать во временных рядах, построенных вдоль Кремлевской стены на Васильевской площади.
Как правило, даты строительства нового здания Средних торговых рядов в литературе приводятся с ошибками: так, в первом томе монументального издания «Памятники архитектуры Москвы» утверждается, что они строились с 1889 по 1891 г., но, судя по газетам того времени и архивным данным, закладка производилась в июле 1890 г., к «разбивке» старых рядов приступили в октябре того же года, через год газеты сообщали о «строящихся рядах», а в декабре 1892 г. все уже было построено, однако отделка и приспособление продолжались довольно долго, и только 21 февраля 1894 г. состоялась торжественная церемония освящения Средних рядов. На ней присутствовали великий князь Сергей Александрович с супругой Елизаветой Федоровной и московские высшие чины, которых встречали в большой двусветной зале над главным входом напротив Лобного места. На празднике отмечалось, что «роскошные, подобные дворцам» здания Верхних и Средних торговых рядов являют собой всероссийскую выставку русской торговли и промышленности.
В плане Средние торговые ряды представляют собой неправильной формы замкнутый четырехугольник, внутри которого располагаются четыре отдельных корпуса с широкими проездами между ними, под которыми, в свою очередь, проложены подземные проезды. В отличие от Верхних тут нельзя было применить систему пассажей, так как при торговле тяжелыми и объемными товарами необходимо было предусмотреть отдельные подъезды к каждому помещению. Стоимость строительства составила 2 миллиона 800 тысяч рублей.
Обычно пишут, что в Средних рядах продавались только «тяжелые» товары – москательные, металлические и прочие в том же роде, но если судить по описанию рядов, опубликованному в «Русском альбоме» в 1894 г., то там велась торговля чаем, по Хрустальному переулку – писчебумажными и канцелярскими товарами, по тому же переулку и частью по Ильинке – фарфором, хрусталем и лампами, далее по Ильинке – парчой, дверными и оконными приборами, а в корпусах