В феврале 1705 года Пётр I направил А. Д. Меншикова для инспекции действующей армии с сообщением, что отныне вся конница вверяется Б. П. Шереметеву, а пехота – Г. Б. Огильви (известие о том, что большая часть армии отныне выведена из его подчинения, «зело опечалила Шереметева»). Вскоре «лёгкий корпус» под началом Б. П. Шереметева потерпел поражение в Курляндии от шведского генерала Левенгаупа при Гемауэртгофе, причём сам Шереметев был ранен.
В конце 1705 года направлен Петром I в Астрахань для подавления мятежа. Высочайшим указом от 1706 года генерал-фельдмаршал Б. П. Шереметев был первым в России возведён, с нисходящим его потомством, в графское Российского царства достоинство; его сын Михаил Борисович Шереметев получил чин полковника Астраханского пехотного полка.
Летом 1706 года произошло очередное изменение в русском командовании: теперь возвращённый в действующую армию генерал-фельдмаршал Б. П. Шереметев возглавил пехоту, а генерал от кавалерии князь А. Д. Меншиков – кавалерию.
В кампании 1708 года не оказал помощи А. И. Репнину в несчастном сражении при Головчине, что стало одной из причин поражения. В Полтавской битве (1709 год) формально возглавлял русскую армию (именно ему Пётр I, сделавший всё для обеспечения победы, на поле битвы вверил русскую армию), был щедро награждён поместьями. В 1709 – 1710 годах командовал армией при осаде Риги.
В 1711 году командовал русской армией (в присутствии царя) в неудачном для русской армии Прутском, вынужден был подписать невыгодный мир, в залог которого оставил своего сына Михаила Шереметева (умер по возвращению на родину в 1714 году).
В 1712 году Шереметев заявил Петру I о своём желании постричься в монахи Киево-Печерской лавры, но царь заменил монастырь женитьбой на молодой красавице А. П. Салтыковой.
В 1715 году Шереметев поставлен командующим русским экспедиционным корпусом в Померании и Мекленбурге для совместных действий с прусским королем против шведов – дело для Шереметева ничем не примечательное. В 1717 году он возвратился в Москву и после тяжёлой болезни скончался.
В завещании Шереметев просил похоронить его в Киево-Печерской лавре, но Пётр I, решив создать пантеон в Санкт-Петербурге, приказал похоронить Шереметева в Александро-Невской лавре, заставив служить государству даже мёртвого сподвижника.
Борис Петрович был дважды женат и имел детей:
Жена с 1669 года Евдокия Алексеевна Чирикова (ум. 1703 год), единственная дочь стольника Алексея Пантелеевича Чирикова и его жены Федосьи Павловны.
Софья Борисовна (1671—1694 годы), была замужем за боярином С. Н. Урусовым.
Михаил Борисович (1672—1714 годы), генерал-майор.
Анна Борисовна (1673—1726 годы), была замужем