В мае – июне 1919 г. 4-я кавдивизия Красной Армии – такое наименование получило соединение – стала ядром мощного кавалерийского корпуса. Формирование корпуса командующий 10-й армией Егоров поручил Думенко, а поскольку до этого корпусная организация в штатах Красной Армии не предусматривалась, Бориса Макеевича назначили помощником начальника штаба армии по кавалерийской части, начальником же 4-й кавдивизии стал Буденный.
Создание новых конных соединений в 10-й армии шло одновременно с ее участием в ожесточенных боях. Численное превосходство деникинских войск было подавляющим. Против Южного фронта А. И. Деникин выставил 26 кавалерийских дивизий, большинство из которых были объединены в конные корпуса под командованием генералов Покровского, Улагая, Шкуро, Шатилова, Коновалова, Мамонтова, Секретева. Чтобы победить, красные должны были противопоставить коннице противника не менее мощные и численно сопоставимые кавалерийские соединения.
Красная Армия ответила созданием своих корпусов. 1-й Конный корпус из-за тяжелого ранения Думенко был в середине августа 1919 г. вверен Буденному и передан в 9-ю армию. Самому же Борису Макеевичу, вернувшемуся после излечения в строй в начале сентября, приказом по 10-й армии поручили формирование нового корпуса.
Позднее в исторической литературе строительство первых конных соединений в Красной Армии представляли в совершенно неузнаваемом виде. Дело в том, что в 1920 г. Думенко по лживому обвинению в антисоветской деятельности был предан суду и расстрелян. Его имя на десятилетия исчезло из литературы, а его воинскую славу, как ни прискорбно, беззастенчиво «приватизировал» Буденный.
В профессиональном же отношении Семен Михайлович оказался не просто состоятельным, но и талантливым. В историю Гражданской войны вошел возглавляемый им смелый рейд по разгрому конных корпусов генералов Мамонтова и Шкуро в октябре 1919 г. Красный корпус в составе двух дивизий сумел разгромить шесть казачьих дивизий белых, освободить Воронеж и ликвидировать 100-километровую брешь во фронте на московском направлении. За этот рейд Буденный удостоился почетного революционного оружия – шашки с орденом Красного Знамени на эфесе.
19 ноября 1919 г. 1-й Конный корпус был преобразован в 1-ю Конную армию (в ее реввоенсовет вошли С. М. Буденный, К. Е. Ворошилов и Е. А. Щаденко). Здесь талант «красного Мюрата», как называли командарма его коллеги, развернулся во всю ширь. Творчески подходя к организации боя и операции, Семен Михайлович добивался широкого взаимодействия конницы с пехотой, авиацией и бронесилами, прибегал к активному маневру огнем и колесами, действовал внезапно, в ночное время и непогоду.