В 1837 году по приказу главнокомандующего генерала Вельяминова, начиная от деревянного здания Скальковских ванн вниз, в сторону шоссейной дороги, разбили бульвар с цветником. По обеим его сторонам были посажены пирамидальные тополя и липы.
В конце бульвара появилась станция дилижансов и почтовый дом. Бульвар и заложенный ранее Курортный парк были местом гуляний и развлечений отдыхающих и лечащихся.
Курортный сезон начинался 1 июня и заканчивался 1 октября. В 1845 году, через год после своего назначения наместником Кавказа и главнокомандующим войсками, генерал-адъютант князь М.С. Воронцов приехал в Кисловодск в сопровождении офицеров штаба, командующих отдельными войсками и охраной казачьей конницы. Михаил Семёнович остановился в усадьбе Реброва. Англоману-аристократу, привыкшему к жизни в солидных дворцах среди изысканной роскоши, не понравились легковесные, затейливо украшенные строения итальянских зодчих. Не произвела на него впечатления и крепость.
Воронцов распорядился всё это снести и поставить здесь каменные здания. С этой целью наместник Кавказа пригласил проживавшего в Крыму талантливого архитектора англичанина С.И. Уптона. По его проектам была пристроена фасадная сторона крепости с воротами. Рядом с территорией крепостного двора, так называемой новой слободы, возвели двухэтажное кирпичное здание с пристройками, где разместился целый полк (здание санатория «Крепость»). В 1849 году началась закладка Нарзанной галереи с помещением для ванн на 18 кабин, душевыми, бассейном для купания в цельном нарзане и новым каптажем.
Позаботился князь Воронцов и о собственной персоне. На старой части форштадта, которая возвышается с одной стороны над «кислым источником», а с другой – над проезжей частью улицы Бульварной, Воронцов выбрал место для своей летней резиденции.
А бывший бульвар с тополевой аллеей, начиная от входа в Курортный парк, был переименован в проспект Воронцова (потом проспект Мира).
Бархатный сезон Кисловодска в 1850 году ознаменовал своим приездом цесаревич Александр Николаевич. Его сопровождали наместник князь Воронцов с командующими отдельными войсковыми частями.
Среди многочисленной пышной свиты наследника был близкий друг Александра Николаевича князь А.И. Барятинский, который после восшествия на престол Александра II сменит Воронцова на Кавказе. Надо сказать, что князь Воронцов, несмотря на своё участие в войне с наполеоновской Францией, а также с Турцией в 1806 и 1828 годах, бывший генерал-губернатор Новороссии и наместник Бессарабской области, был человеком больше гражданским, чем военным. Достаточно сказать, что его экспедиция с многотысячным войском в Чечню потерпела полное поражение, да и сам он едва избежал позорного плена. Однако звание фельдмаршала ему присвоили.
Сменивший Воронцова князь А.И. Барятинский