Несмотря на личные заботы и дела, которые накладывала на него императорская служба, Шереметев не забывал о строительстве, ведущемся в Москве. По поручению графа Алексей Федорович Малиновский составил «Мнение о различных обстоятельствах, касающихся до созидаемого богоугодного заведения» (впоследствии этот документ был положен в основу шереметевской записки 1803 года – «Учреждение и стат Странноприимного в Москве дома… графа Шереметева»). В том исследовании Малиновский решительно выступал за «принцип абсолютной бесплатности», высказав твердое убеждение в том, что «всякое доброе дело теряет свою цену, как скоро за исполнение его берется хотя малая плата», а «безвозмездность – главное свойство добродетели». Предварительно Алексей Федорович посетил Голицынскую больницу для бедных, расположенную на другом конце Москвы, за Калужской заставой (также построенной в память о рано ушедшей из жизни молодой женщине – Екатерине Голицыной, дочери молдавского господаря Дмитрия Кантемира). Устройство больницы поверенному Шереметева не понравилось. 5 мая 1802 года он написал графу: «Для жительства лекарей и других смотрителей занято пространства немного менее половины главного корпуса, как будто не они для больных, а больные для них» (это наблюдение главного смотрителя будет учтено в «Учреждении и стате…» в разделах об обязанностях доктора, лекарей и подлекарей). Он полагал более целесообразным организовать «странноприимницу» – богадельню на 100 человек. «…100 человек довольствуемы будут жилищем, пищею, платьем и всякими потребностями жизненными», – впоследствии напишет императору Шереметев (совместно с богадельней будет открыта и больница на 50 человек, еще одним важным направлением деятельности Дома станут различные «общественные вспоможения»). В одном из корпусов выделялась большая зала «для питания в ней обедами неимущих ежедневно до 50 человек»; другая зала отводилась для больницы.
Святитель Димитрий Ростовский, митрополит Ростовский и Ярославский, создатель «Четий-Миней» был почитаем в роду Шереметевых, а в особенности Николаем Петровичем, чьи годы жизни по странной случайности совпали с датами рождения и смерти святого с разницей в 100 лет (1651–1709 и 1751–1809). Кроме того, графскую фамилию сближал со священником тот факт, что до пострижения в монахи Даниил (будущий Димитрий) учился в Киево-Могилянской академии вместе с Борисом Петровичем Шереметевым.
В 1752 году в Яковлевском монастыре произошло обретение мощей святителя. Начались чудесные исцеления, о которых митрополит Арсений сообщил Синоду уже через три недели. Святейший Синод дал разрешение на постройку каменной церкви во имя святителя Димитрия при монастыре только в 1794 году. Строительство осуществлялось на средства Н. П. Шереметева зодчими Назаровым (он же первый архитектор Странноприимного дома),