В 1688 году Борис Петрович был назначен командующим войсками, расположенными в Белгороде и Севске. Пребывание вдали от Москвы избавило Шереметева от необходимости участвовать в событиях 1689 года. В борьбе за власть победил Петр I. Но это обстоятельство не изменило положение боярина – долгие годы он не призывался ко двору. Видимо, Борис Петрович не пользовался расположением молодого царя. Об этом свидетельствует и тот факт, что в первом Азовском походе (1695 год) Петр поручил ему командование войсками, которые наносили лишь отвлекающий удар. Доверие нужно было завоевывать делом, и Шереметев не жалел усилий. Без особого труда он разорил турецкие крепости по Днепру, а через год решительно пресек все попытки турок отбить их.
В июне 1697 года царь Петр поручил Борису Петровичу выполнение ответственной дипломатической миссии в ряде европейских стран. Целью поездки Шереметева было сколачивание антиосманского союза европейских держав. Создать такой союз российскому правительству не удалось, зато образовалась антишведская коалиция, в состав которой вошли Россия, Дания и Саксония.
18 августа 1700 года был подписан мир с Турцией, а на следующий день, 19 августа, началась война со Швецией. Начало Северной войны не предвещало для союзников неприятностей. Преодолевая бездорожье, конные и пешие полки русской армии, сопровождаемые огромным обозом, двигались к Нарве. К середине октября армия сосредоточилась под стенами крепости.
Пока русская армия двигалась к Нарве, шведский король Карл XII, в 18 лет проявивший замечательные полководческие дарования, успел заставить капитулировать датского короля. Затем он посадил войско на корабли, пересек Балтийское море и высадился в Ревеле и Пернове. Он спешил к Нарве, чтобы освободить ее от осады.
Шереметев во главе разведывательного отряда нерегулярной конницы в пять тысяч человек был направлен навстречу шведам. За три дня, продвинувшись на 120 верст на запад, он пленил два небольших шведских отряда. Пленные показали, что к Нарве движется тридцатитысячная армия шведского короля. Шереметев отступил, отправив донесение царю. Петр выразил недовольство отступлением и приказал боярину возвратиться на прежнее место.
Между тем шведские войска 4 ноября оставили Ревель и двинулись на восток. Первым вступил в соприкосновение с противником Шереметев. Он занял для обороны единственную дорогу, лежавшую между двумя утесами. Ее никак нельзя было обойти, ибо кругом – болота и кустарники. Но Шереметев, вместо того чтобы разрушить два моста через речушку и изготовиться для сражения со шведами, спешно отступил к Нарве. Прибыл он туда рано утром 18 ноября, сообщив, что за ним движется к крепости армия Карла XII.