Продолжая отход, 3-й конный полк подошел к городу Кривой Рог, расположившись на железнодорожной станции к северу от города, где простоял около недели, сдерживая натиск противника с северо-востока. Между тем красные, обойдя правый фланг полка, отрезали нам возможность войти в связь со стрелковой дивизией96 генерала Шевченко97, 45-м Донским и 2-м Лабинским Кубанским казачьими полками98.
Отбросив эти части и заставив их отступить к западу, за реку Ингул, красные повели наступление на 3-й конный полк и принудили его отойти к югу от Кривого Рога. Полк стал на ночлег в деревне около железнодорожного полотна.
10 января 1920 года разъезд Сумского эскадрона за железной дорогой встретил наступающую на деревню неприятельскую пехоту. Командир полка приказал 1-му Сумскому эскадрону задержать пехоту красных и дать время вывести полк из деревни. Под командой штабс-ротмистра Головина эскадрон численностью до 30 шашек лавой атаковал пехотную цепь противника, которая не выдержала удара и бросилась бежать, скрывшись в ближайшей деревне.
Продолжая отход, 3-й конный полк подходил к селу Софиевка, где была переправа через реку Ингулец. Важно было подойти к Ингульцу раньше красных, что полку и удалось сделать. Но оказалось, что другие части красных уже достигли Софиевки и в селе стоял обоз одной из их частей. Обоз был захвачен. Захватили несколько пулеметов, провиант, и было взято в плен человек сорок красноармейцев.
Ночью полк, переправившись через Ингулец, двинулся дальше на город Вознесенск. 3-й конный полк шел во главе колонны. Вслед за ним на подводах растянулся Кабардинский пехотный полк и еще другой пехотный, название которого забылось. Оба полка численностью до 300 штыков. За ними шел обоз. Когда вся колонна вытянулась по дороге на несколько верст, сзади послышались выстрелы. Оказалось, что на хвост обоза напали партизаны и захватили часть его, причем мы потеряли все, что было захвачено накануне, а также часть обоза Сумского дивизиона. Преследовать бандитов возможности не было, так как откуда-то слева по колонне был открыт артиллерийский огонь.
На следующий день, 11 января, 3-й конный полк прибыл в город Вознесенск, где стоял Осетинский конный полк, тотчас же ушедший далее.
В Вознесенске 3-й конный полк вошел в подчинение генералу Васильеву99 и получил приказание идти вдоль реки Буг в направлении на Николаев. В Вознесенске из полка были выделены подводы с больными и ранеными и отправлены в Одессу, куда и прибыли 23 января. В это время в Одессе были уже остатки полкового обоза, прибывшие незадолго до этого из Николаева, а также хозяйственная часть полка, отступившая из Ромен на Сумы и погрузившаяся в Мариуполе на пароход.
Едва полк выступил из Вознесенска, как в подгородной деревне разъезд 1-го Сумского эскадрона был окружен конницей противника и пробился, потеряв одного гусара убитым. Вслед за тем начался бой, продолжавшийся до поздней ночи, после которого полк