Епископ Игнатий в столь продолжительное настоятельствование свое в Сергиевой пустыне не только не скопил себе никакого капитала, но дошел до такой нестяжательности, что при отбытии своем не имел даже собственных средств на дальнюю дорогу. Он всегда был чрезвычайно щедр на милостыню; отказа не делал никому, если имел что подать; когда не случалось денег, то подавал вещами, так что келейные старались наделять просящих деньгами, сколько было возможно, предупреждая просителей от личных отношений к архимандриту. Поэтому, когда надо было выехать из Петербурга, епископ вынужден был прибегнуть за денежным вспомоществованием к одному близкому ему по духовным отношениям лицу, которое и снабдило его пособием в тысячу рублей. 25 ноября он оставил Петербург и 26-го прибыл в Москву, откуда ездил в Сергиеву Лавру. Пробыв в Москве с неделю, он отправился на Харьков и Ростов (на Дону), останавливался в губернских городах у епархиальных архиереев, по приглашению их литургисал в Курске и Харькове, заезжал в Святогорский монастырь и 24 декабря, утром, выехал из Бахмута еще по летней сухой дороге. В ночь на Рождество он был застигнут в степи страшной снежной метелью, которая подвергала его жизнь большой опасности. Только к семи часам утра, 25 декабря, он кое-как добрался до жилья, в санях, в которых выехали его отыскивать священнослужители ближайшего села, извещенные кучерами, оставившими экипаж в степи и верхами поскакавшими на звон колоколов искать помощи.
4 января 1858 года в четвертом часу пополудни епископ Игнатий прибыл в Ставрополь Кавказский. Архиерейского дома не было; новоприбывший Владыка остановился в приготовленной для него квартире в доме купца Стасенкова.
Епархия Ставропольская, совсем неустроенная, потребовала от Преосвященного Игнатия больших трудов. Она учреждена была около 1840 года. Первым ее епископом был Иеремия, который по ревности к православию слишком строго отнесся к раскольникам, которых весьма значительное число в Кавказском линейном казачьем войске. Вследствие этого Кавказское линейное начальство ходатайствовало об изъятии линейного казачьего населения из ведомства епархиального архиерея и о передаче в ведение обер-священника Кавказской армии. Таким образом, в только что учрежденной епархии из пятисот тысяч душ, составлявших ее паству, половина отошла из управления епископа, который никак не подозревал возможности такого отделения.
Преосвященный Игнатий нашел в Ставрополе, как выше замечено, гражданским губернатором Волоцкого, Вологодского уроженца, своего сверстника по детству, с которым одновременно приехал в Петербург определяться на службу; начальником войск был генерал-лейтенант Филипсон, человек весьма благочестивый, а наместником — князь А. И. Барятинский. Вскоре Волоцкой уехал в отпуск и место его занял Ставропольский вице-губернатор П. А. Брянчанинов, родной брат епископа. При отправлении из С.-Петербурга обер-прокурор Синода граф А. П. Толстой уверял Преосвященного, что ему будут продолжать выдачу тех пособий от Синода, которые получали его предместники, но, несмотря на многократно повторенную просьбу, ни одного из помянутых прежде получаемых окладов ни разу не дали; между тем епископу было бы нечем жить, если бы особые случайные обстоятельства, как то: сближение сперва с товарищем детства, потом с родным братом — не дали возможности восполнять недостатки. Ко времени приезда епископа Игнатия на кафедру архиерейскому дому были даны только штатные служители, кусок земли пахотной, около двухсот десятин вдали от города, да лесная дача вблизи города, в который она входит одной частью своей, примыкая к Андреевской церкви, принадлежащей архиерейскому дому, при коей помещается ныне викарный епископ. С этой лесной дачей архиерейскому дому пришлось получить в свое ведение спорное дело с одним частным лицом, сделавшим в этой даче захват земли, на которой им устроен был кирпичный завод.
Первой заботой епископа Игнатия по управлению паствой было устроение богослужения в надлежащем церковном чине и восстановление должных отношений между духовенством и народом, как в городах, так и в селах. Сам он в обращении с духовенством был приветлив, прост и прям, постоянно заботился о его быте, образовании и взаимных отношениях, приличествующих священному сану; внимательно входил в действия благочинных, в нравственное состояние тех, кои подвергались наказаниям и замечаниям, стараясь, сколько возможно, отделять служебную виновность лица от его семейных обстоятельств и всяких домашних нужд. В исходе августа Преосвященный объехал юго-восточную часть епархии, посетил города Моздок и Кизляр и селениями восточной части губернии возвратился в Ставрополь, где на зиму и перешел во вновь построенный дом.
С наступлением весны 1859 года Преосвященный Игнатий весьма сочувственно отнесся к делу об улучшении быта крестьян с уничтожением крепостного права. Его глубоко огорчило кривое толкование воли Государя-Освободителя, извращение смысла слов «свобода» — «воля», благоволением Монарха дарованных своим подданным. По этому поводу Преосвященным были сделаны два предложения, разосланные циркулярно по епархии: в том и другом излагался евангельский взгляд на дело, и предлагалось духовенству руководствоваться этим взглядом в случаях сношения с прихожанами, когда эти будут обращаться за советом или вразумлением касательно крестьянского вопроса.
Но скорби не оставляли преследовать епископа Игнатия и в этом его положении, а кончина митрополита Григория лишила его ближайшего человека, принимавшего в нем дружеское участие. К тому же его постигла очень тяжкая болезнь: натуральная оспа, соединенная с сильной горячкой. Продолжительно тянулось его выздоровление, силы его стали заметно слабеть, он решился проситься прямо на покой в знакомый уже Николо-Бабаевский монастырь; в конце июля 1861 года подал о том рапорт в Синод и обратился с письмом к Государю Императору.
Августа 5-го состоялось увольнение с назначением пенсии по 1000 руб. в год; впоследствии она по Высочайшему повелению увеличена прибавкой 500 рублей.
При отъезде из Ставрополя, так же, как и прежде из Петербурга, у Преосвященного не имелось собственных денежных средств; он должен был опять прибегнуть к посторонней помощи, чтобы рассчитаться с некоторыми долгами и покрыть путевые издержки. На пути следования через Москву он остановился у старого знакомца своего Преосвященного Леонида, епископа Дмитровского, викария Московского, и прогостил у него за болезнью до двух недель. У него сделался нервный удар в правой ноге, и хотя принятыми медицинскими мерами и получил некоторое облегчение, но с того времени стал постоянно страдать слабостью этой ноги.
Во время пребывания своего на Кавказе Преосвященный Игнатий не оставлял своих духовно-литературных трудов. Кроме устно сказанных поучений, он написал здесь всю книгу «Приношение современному монашеству», составляющую 5-й том его творений. В ней преподает он современному монашеству советы жизни иноческой в правилах наружного поведения и во внутренней душевной деятельности применительно к тем многоразличным служениям, какие возлагаются на монашествующих в наше время. Составил слова: «О различных состояниях естества человеческого по отношению к добру и злу», «О видении духов» и «О спасении и христианском совершенстве».