Считая «русских мужиков» не опасными для себя, Карл XII обратил все усилия против Августа II Саксонского. Война стала вестись на двух отдельных театрах: польском (главные силы шведов с королем) и прибалтийском (заслон). Оставив на последнем корпус Шлиппенбаха (8000 чел.) в Лифляндии и корпус Кронгиорта (6000 чел.) в Ингрии, Карл счел эти силы достаточными для сдерживания русских.
Действительно, ужас и смятение охватили Россию при известии о нарвском разгроме. Армия лишилась начальников, лишилась всей артиллерии. Дух войск был подорван. Среди общего уныния не терялся лишь один Петр I. В течение зимы 1700–1701 годов была реорганизована армия, вновь сформировано десять драгунских полков, а из церковных колоколов отлито 770 орудий – вдвое больше, чем потеряно под Нарвой.
К весне 1701 года главные силы русской армии (35000) сосредоточились у Пскова. Войска возглавил Борис Петрович Шереметев. Боярин решил двинуться в шведские пределы, в бой вступать лишь при наличии подавляющего превосходства и, действуя осторожно и осмотрительно, постепенно приучать войска к полевой войне. 1701 год прошел в незначительных стычках, но 29 декабря Шереметев одержал первую крупную победу над шведами при Эрестфере (взято до 2000 пленных). Трофеями было 16 знамен и 8 пушек Шведов перебито было до 3000, урон русских – 1000 человек. Победа подняла дух русских войск. Шереметев был награжден орденом Андрея Первозванного с золотой цепью и алмазами и пожалован чином генерал-фельдмаршала.
В 1702 году Петр решил воспользоваться разобщенностью шведских сил и разбить их порознь. Шереметеву предстояло действовать в Ливонии против Шлиппенбаха, Петр же с главными силами направлялся в Ингрию – против Кронгиорта. 18 июля фельдмаршал наголову разбил противника при Гуммельсгофе, совершенно уничтожив корпус Шлиппенбаха. Он обладал 30000 солдат против 7000 шведов. Бой велся с крайним ожесточением, 5500 шведов были убиты, всего 300 взяты в плен с 16 знаменами и 14 орудиями.
Потери русских – 400 убитых и 800 раненых. Эта победа превратила Шереметева в полновластного хозяина Восточной Лифляндии.
Успех фельдмаршала был отмечен царем: «Зело благодарны мы вашими трудами».
Следующая операция с участием Шереметева была связана с овладением древнерусским Орешком, переименованным шведами в Нотебург. Одно из условий успеха, заложенное в плане операции, состояло в полной внезапности нанесения удара. Петр I в сопровождении двух гвардейских полков двигался из Нюхчи на Белое море к Нотебургу. Командование собравшимися войсками (свыше 10000) царь передал фельдмаршалу. Осадные работы начались 27 сентября, а 11 октября начался штурм. Крепость пала.
4 декабря 1702 года победы Шереметева в Лифляндии и овладение Нотебургом были отмечены торжественным маршем войск через трое триумфальных ворот, сооруженных в Москве. Сам виновник торжества в празднествах