Однако и поставленный кальбитами Йазид III (744) почти нигде не был признан. Кайситы Химса тут же восстали и двинулись на Дамаск. Тогда же выступил с претензиями на власть наместник Армении Марван ибн Мухаммад (внук Марвана I). Но прежде, чем успела разгореться война, Йазид III осенью 744 г. скончался, передав перед смертью престол своему брату Ибрахиму (744). Ни Марван, ни кайситы не признали нового халифа.
18 ноября произошло большое сражение у Айн ал-Джарр (между Ливаном и Антиливаном), в котором 80 тыс. сторонников Марвана наголову разгромили 120 тыс. армию Ибрахима. Последний отрекся от престола, и после сдачи Дамаска Марван II (744-750) был провозглашен халифом.
Новый правитель не блистал особыми талантами, но был храбрый воин и хороший администратор. Однако будь на его месте даже очень талантливый человек, он едва ли смог бы предотвратить падение династии.
В 745 г. восстали кайситы Северной Африки, во главе которых встал Абд ал-Рахман. Он захватил Кайруан, а затем овладел всеми провинциями к западу от Триполи. Тогда же от Халифата окончательно отпала Испания. В том же году Марвану пришлось вести войну с нубийцами, которые в 745 г. вторглись в Египет и заняли Фустат. Затем он двинулся в Ирак, где подняли восстание хариджиты. И все эти события были только легкой прелюдией к тому, что ждало халифа впереди. В 747 г. в районе Мерва в Средней Азии вспыхнуло мощное восстание, подготовленное старыми противниками Омейядов – братьями Ибрахимом, Абу-л-Аббасом и Абу Джафаром из рода Аббасидов. К ним сейчас же пристали арабы-кальбиты и многочисленные персидские шииты. Несколько повстанческих армий двинулись на запад и в течении трех лет завоевали весь Иран и Ирак. К началу 750 г. военные действия переместились к Мосулу, где Марван успел собрать большую армию. Сил для борьбы у него было достаточно, но в решительный момент, когда развернулось сражение у Большого Заба, часть находившихся под его знаменами арабов-кальбитов перешла на сторону Аббасидов. Марван потерпел поражение и бежал. В апреле победителям сдался Дамаск. Марван отступил в Египет и был еще раз разбит при Бушре. Выслеженный благодаря измене, он был выдан врагам и 5 августа 750 г. умерщвлен. После этого победители начали настоящую охоту