4 января 1858 года, в четвертом часу пополудни, епископ Игнатий прибыл в Ставрополь Кавказский. Архиерейского дома не было, новоприбывший владыка остановился в приготовленной для него квартире в доме купца Стасенкова. Существовал небольшой деревянный домишко, похожий на хижину, который лет за 14 до этого подарил ставропольский купец Волобуев для временного помещения первого епископа Иеремии. К этой же хижине была пристроена столь же незатейливая половина из двух небольших комнат, названных залой и гостиной; последняя служила вместе и моленной для архиерея, так как из нее были сделаны окошечко и входная дверь в пристроенную к этой хижине небольшую каменную церковь – Крестовую. Тогда же и этот плохой домишко пришел в крайнее разрушение, так что граждане посовестились принять в него епископа; движимые благожеланием, они наняли для него приличную квартиру за свой счет. В день приезда преосвященный принимал в своей квартире духовенство кафедрального собора, граждан с хлебом-солью и начальника губернии, генерал-лейтенанта А. А. Волоцкого; вечером слушал дома всенощную и на другой день (воскресный), 5 января, служил литургию в рядской соборной церкви. В день Богоявления, по совершении литургии, освящал воду в бассейне, расположенном в средине города, при значительном собрании войск, с окроплением знамен и при многочисленном стечении народа, который принял владыку приветливо.
Епархия Ставропольская, совсем неустроенная, потребовала от преосвященного Игнатия больших трудов. Она учреждена была около 1840 года. Первым ее епископом был Иеремия, который по ревности к Православию слишком строго отнесся к раскольникам, которых весьма значительное число в Кавказском линейном казачьем войске. Вследствие этого Кавказское линейное начальство ходатайствовало об изъятии линейного казачьего населения из ведомства епархиального архиерея и о передаче в ведение обер-священника Кавказской армии. Таким образом, в только что учрежденной епархии из пятисот тысяч душ, составлявших ее паству, половина отошла из управления епископа, который никак не подозревал возможности такого отделения. Так как епархия эта была поставлена в разряд третьеклассных, то