Однако М.И. Зинькович не стал дожидаться уплотнения кольца окружения. В 15.00 2 марта было установлено, что маршруты снабжения группы перерезаны. Колонна машин с горючим была частично уничтожена, частично вернулась назад, не имея возможности его доставить. Командующий группой шифром доложил Рыбалко: «Считаю наиболее целесообразным идти на присоединение к своим войскам». Около 22.00 того же дня пришел ответ из штаба армии, где ставилась задача прорываться в районе Тарановки, Рябухино и Охочае.
Уже в 22.30 соединения группы получили приказ Зиньковича на прорыв из наметившегося окружения. Группа строилась в две колонны, в каждой из которых лидировал танковый корпус. Правая колонна возглавлялась 15-м танковым корпусом с 138-м гаубичным артполком, левая – 12-м танковым корпусом с 265-м гаубичным артполком. Три стрелковые дивизии должны были двигаться вслед за танковыми корпусами. За 12-м корпусом шла 184-я стрелковая дивизия, за 15-м корпусом – 111-я стрелковая дивизия. Следует отметить грамотное решение Зиньковича с приданием каждому из танковых корпусов гаубичной артиллерии для сокрушения заслонов противника. Каждая из колонн должна была образовывать своего рода противотанковое «каре» с распределением противотанковых орудий по периметру, в готовности к отражению атаки с любого направления.
Соединения группы снялись с позиций и в 4.00 3 марта начали движение. Первым препятствием стала занятая частями «Дер Фюрера» Лозовая, атака на которую пехотой 184-й и 219-й стрелковых дивизий при поддержке 5 танков 106-й танковой бригады 12-го танкового корпуса успеха не принесла. Лозовую пришлось обходить. Вскрыв попытку прорыва, немцы обрушились на колонны сильным артиллерийским огнем. Уже в первые часы прорыва были уничтожены или выведены из строя все рации. 15-й танковый корпус насчитывал к началу прорыва всего 17 танков. Из окружения ни один танк не вышел, все они, так же как и артиллерия корпуса, были уничтожены в ходе прорыва. Командир 15-го танкового корпуса, генерал-майор танковых войск В.А. Копцов погиб в бою.12-й танковый корпус также начал прорыв с 17 танками. Из окружения вышли только восемь танков Т-34. Шесть машин были уничтожены экипажами из-за отсутствия топлива, остальные были подбиты в бою. Однако потери личного состава соединений были незначительными, из окружения вышли примерно 80 % начавших прорыв ночью 3 марта.
К 3 марта сражение окончательно перешло в фазу наступления немецких войск на всех направлениях и отхода войск 3-й танковой и остатков 6-й армии по всему фронту. Начиналась вторая часть сражения за Харьков – обещанное Манштейном Гитлеру возвращение города под контроль немецких войск. Выбив большую часть вырвавшихся вперед соединений 6-й армии, немцы получили