После неудачных попыток заключить перемирие японцы перешли от стратегии мощных наступлений с целью быстрейшего разгрома врага к более осторожным действиям. С приближением войны в Европе они подозревали, что вскоре будут вынуждены перебросить часть своих огромных сил, сосредоточенных в Китае, на другие фронты. Они также продолжали довольно упорно верить в то, что смогут привлечь китайское население на свою сторону – и это после всех тех зверств по отношению к мирному населению, которые они совершили. Хоть войска националистов и мирное население Китая и продолжали нести огромные потери – около двадцати миллионов китайцев погибнут до окончания войны в 1945 г. – японская армия в Китае перешла к мелким операциям, направленным в основном на борьбу с партизанами в своем тылу.
Тем временем коммунисты набрали в свои партизанские отряды большое количество местных крестьян – например, в центральной части долины реки Янцзы они сформировали Новую Четвертую армию. Многие из партизан были вооружены только вилами, косами или в лучшем случае бамбуковыми кольями. Но после пленума Центрального комитета партии в октябре 1938 г. Мао дал строжайшую директиву: вступать в бой с японцами только в случае их нападения на подразделения коммунистов. Коммунистам необходимо было беречь свои силы для захвата территорий, находившихся под контролем националистов. Мао Цзэдун дал всем четко понять, что главным противником коммунистов, их «врагом номер один» является Чан Кайши.
Рейды японских войск в сельскую местность сопровождались массовыми убийствами и изнасилованиями, целью которых было запугать местное население. Японцы прежде всего убивали всех молодых мужчин в селе. «Они связывали их веревками, а затем рубили головы самурайскими мечами». После этого они обращали свое внимание на женщин. Капрал Накамура описал в своем дневнике в сентябре 1938 г. налет на деревню Лугочэнь к югу от Нанкина: «Мы захватили деревню и обыскали каждый дом. Девушек старались хватать самых красивых. Охота длилась почти два часа. Ниура застрелил одну из девушек, потому что у нее это было в первый раз, она была некрасива, и остальные солдаты ею побрезговали». Резня в Нанкине, а также бесчисленные зверства японцев в других районах страны вызвали возмущение крестьян и пробудили в них патриотизм. Такое невозможно было себе представить перед началом войны, поскольку крестьяне мало что знали о японцах, да и Китай как единую страну воспринимали с трудом.
Следующее крупное сражение произошло только в марте 1939 г., когда японцы