В 755 году Абд аль-Рахман и единственный кто с ним оставался, вольноотпущенник Бадр достигли территории современного Марокко недалеко от Сеуты. Они намеревались пересечь море и достигнуть аль-Андалус, но Абд аль-Рахман не мог быть уверен, примут ли его там или нет. Среди солдат сирийских джундов были очень много старых клиентов Омейядов, и Абд аль-Рахман надеялся, что в соответствии с арабскими традициями ему удастся возобновить старые привязанности и они его поддержат. Бадр отправился через пролив, чтобы связаться с клиентами семьи Омейядов и подготовить почву для прибытия принца.
Как вспоминал потом сам Абд ар-Рахман: «Вид убийства моего брата поразил меня ужасом: меня охватил сильный страх за мою жизнь, и я бросился бежать со всей быстротой; мои ноги едва касались земли; я летел, а не бежал»
В сентябре 755 г. Абд аль-Рахман высадился в Альмунекаре, к востоку от Малаги. За короткое время в Малаге он смог быстро заручиться поддержкой местного населения, и толпы людей стекались в Малагу, чтобы отдать дань уважения принцу, которого все считали мертвым, в том числе многие сирийцы. Тем не менее именно вожди сирийцев, опасаясь потерять свое самостоятельное положение, которое они к тому времени здесь достигли, не поддержали Абд ар-Рахмана, и собранная им армия состояла из непосредственно клиентов семьи Омейядов и йеменских джундов. Воспользовавшись, тем, что губернатор аль-Фихри находился на севере, чтобы усмирить очередное восстание, Абд ар-Рахман беспрепятственно занял Севилью.
Аль-Фихри устремился на юг, собирая все верные ему войска, и обе стороны сошлись в битве на равнине недалеко от Кордовы 14 мая 756 г. Армия Абд ар-Рахмана одержала победу31, и он торжественно вступил в Кордову. Это была пятница, день совместного полуденного богослужения в главной мечети, и Абд ар-Рахман совершил там хутбу32, утвердив тем самым себя в качестве нового правителя