В это время в Мавераннахре, в Бухаре, вспыхнули шиитские беспорядки, вызванные подстрекательством местных шиитских главарей, которые воспользовались недовольством жителей, возмущенных жестокостями при сборе налогов теперь уже новыми, аббасидскими наместниками. Абу Муслим лично возглавил карательную экспедицию и в 750 году с большой армией вторгся в Мавераннахр, взял Бухару, сжег город, а главарей восстания приказал публично казнить. Эта расправа с шиитами была предзнаменованием будущей антишиитской политики Аббасидов. Своим поведением Абу Муслим, сам принадлежавший к шиитам крайнего толка, показал, что для него верность новой династии является приоритетом во всех его политических действиях.
Последние пять лет своего правления Марван II провел в непрерывной борьбе то с хариджитами в Мосуле, то с шиитами в Куфе, то с нубийцами, федерация племен которых в 745 году вторглась в Египет и заняла Фустат. В результате потерь в почти непрерывных войнах его войско было ослаблено и противостоять хорасанской армии уже не могло.
Однако Омейяды еще не полностью утратили способности к сопротивлению. Кахтабе понадобилось два года, чтобы окончательно добить омейядское войско. В начале 750 года аббасидская армия под командованием Абдаллаха, дяди Абуль-Аббаса, нанесла последнее и решающее поражение остаткам армии Марвана II на берегу северного притока Тигра, реки Большой Заб. Аббасиды заняли Харран, а затем вступили в Дамаск.
Последний омейядский халиф Марван II бежал в Египет. Там против него подняли восстание местные жители – копты, к которым присоединились стоявшие здесь гарнизоном арабские отряды. С остатками своих приверженцев Марван II бежал в Гизу где, по свидетельству источников, солдаты его вконец разложившейся армии бесчинствовали в расположенном поблизости женском монастыре. В конце концов Марван II был схвачен и убит. Началось поголовное истребление членов рода Омейя, и, хотя многие из них выразили готовность подчиниться новой власти, почти все они были перебиты. Правда, одному из омейядских эмиров, Абд ар-Рахману, удалось бежать из своего имения в Ираке в Северную Африку, а оттуда