С началом Великой Отечественной войны 2-й кавалерийский корпус Белова участвовал в боях на Южном фронте по удержанию пограничного рубежа в районе Тирасполя. Выполнял ряд боевых задач по прикрытию фронта 9-й и 18-й армий, удержанию водного рубежа на Днестре и в наступлении 9-й армии при выполнении армейского контрудара. Корпус под его командованием сражался против 11-й немецкой и 4-й румынских дивизий под Кишиневом, Бельцами, Котовском, отбил удар 50-й немецкой и 5-й румынской пехотных дивизий под городом Оргеев в июле. Корпус был передан Юго-Западному фронту.
Во время Киевской операции корпус Белова вел жестокие оборонительные бои в районе городов Ромны и Штеповка. За 5 суток боев гитлеровцы потеряли до 8 тысяч убитых, 20 танков, 150 орудий, около 100 автомашин и другое вооружение. За эту операцию командир корпуса был награжден орденом Ленина. Корпус был переброшен на оборону Москвы.
С ноября 1941 года – принимал участие в битве под Москвой на Западном фронте. Первоначально сдерживал немецкое наступление на фронте между г. Серпухов и г. Чехов. Затем корпус был переброшен под г. Каширу с задачей остановить прорвавшуюся и наступающую 2 танковую группу Гудериана. Заслуги корпуса и его командира в Московской битве трудно назвать иначе, как исключительные. Практически в одиночку части корпуса отбили удар основных сил 2-й танковой группы Гудериана на Москву с юга. За отличие в оборонительных сражениях летом и осенью 1941 года, 26 ноября 1941 года корпус был удостоен звания гвардейского, став 1-м гвардейским кавалерийским корпусом. В контрнаступлении и общем наступлении на западном направлении конники Белова не раз отличались в боях, в январе 1942 года прорвали фронт и совершили глубокий рейд по вражеским тылам, а затем более 5 месяцев, находясь в окружении, сражались во вражеском тылу на территории Смоленской обл. Сформировал в тылу врага три партизанские дивизии и партизанский полк. Его подчиненные отремонтировали в тылу врага 28 брошенных и подбитых танков, и из них был сформирован танковый батальон. Когда в окружение попадали и засчитанные недели уничтожались целые армии, его корпус не только выстоял под ударами врага, но и наносил ему ощутимые потери. Причем через линию фронта ему не было переброшено ни одного патрона и снаряда. Все собирали на позициях наших войск, брошенные при отступлении. Именно тогда им была сформулирована и отработана на практике концепция ведения боевых действий в тылу врага, которая легла в основу концепции боевых действий воздушно-десантных войск.
С июня 1942 года П.А.Белов – командующий 61-й армией. С 1942 г. до середины 1943 г. вели оборонительные и наступательные бои южнее и юго-западнее Белёва, в составе Брянского фронта участвовали в Орловской наступательной операции в Курской битве 1943 г., где армия Белова разгромила крупную вражескую группировку у города Болхов и 29 июля 1943 года освободила его.
Проявил полководческий талант в битве за Днепр. В период с 26 сентября по 1 октября 1943 года части и соединения 61-й армии форсировали реку Днепр у села Любеч и захватили плацдарм