То, что происходило в халифате дальше, в истории Андалусии принято называть Смутой (Фитна). С 1009 по 1031 год в стране сменилось шесть халифов. Принц аль-Махди оказался никудышным правителем, он больше развлекался, чем занимался делами государства. Реальной властью обладали берберские наемники, на которых опирались Амириды (потомки Альманзора) и славянская гвардия халифов.
Первыми восстали берберы, недовольные свержением Амиридов. Они выдвинули своего претендента на трон – еще одного омейядского принца Сулеймана. В ответ славянская гвардия решила вернуть Хишама и убила аль-Махди, но не смогла договориться с берберами, стоявшими за Сулеймана. Обе стороны пытались привлечь на свою сторону христиан-кастильцев, что еще больше ухудшило ситуацию. В стране началась гражданская война, сопровождавшаяся бесчисленными разбоями и грабежами. Города были разорены, начались эпидемии, казна опустела: в Кордове пришлось распродать знаменитую халифскую библиотеку. В конце концов, победу одержали берберы: они захватили Кордову, поставив на трон Сулеймана, а славянам пришлось бежать на юг. Хишам был не то убит, не то пропал без вести.
Укрепившись в Альмерии, славяне заключили союз с полководцем Али ибн Хаммудом, называвшим себя потомком пророка Мухаммеда (он утверждал, что был из рода халифа Али, хотя едва умел говорить по-арабски) и через три года снова выступили против берберов. Им удалось взять Кордову и убить Сулеймана, но тут начались раздоры в стане победителей. Али ибн Хаммуд попытался единолично захватить власть, а когда это не удалось, призвал на трон очередного омейядского принца, Абдаррахмана аль-Муртаду, жившего в Валенсии, и попытался сколотить союз одновременно с берберами, омейядами и христианами. В конце концов, он был убит, но на его место встал брат Касим, провозгласивший халифом самого себя, тогда как славяне и Омейады объявили халифом аль-Муртаду под именем Абдаррахмана IV. Последний вскоре погиб в битве с гранадцами, а Касим некоторое время благополучно правил в Кордове, пока против него не восстал его племянник Йахья, решивший, что и он может быть правителем не хуже всякого другого. Дальше история совсем запутывается: Йахья то берет Кордову, то снова теряет ее, в какой-то момент к нему присоединяются славяне, но позже отстают; берберы то предают Касима, то снова становятся на его сторону.
В 414 году хиджры Касим был свергнут, а в 427 казнен; в Кордове избрали Абдаррахмана V (вазиром при нем был известный философ Ибн Хазм), но уже вскоре тот был убит своим родственником аль-Мустакфи, тоже какое-то время продержавшемся у власти. Узнав, что на Кордову идет Йахья, он попытался бежать, но был убит своими же людьми. Вместо Йахьи, однако, на трон после долгого периода анархии сел Хишам Третий, последний из кордовских Омейядов. Не справившись с властью, он был изгнан из Кордовы,