В 638 году, совершив малое паломничество, Умар ибн ал-Хаттаб взялся за ремонт Каабы, пострадавшей после двух паводков. Снесенный селем «Макам Ибрахим» был установлен на новом месте, пространство вокруг Каабы обнесено стеной, часть близлежащих домов разобрана. Хозяева получили компенсацию – сколько попросили. Была сооружена дамба, защитившая мечеть от ливневых потоков, обновлены пограничные камни харама. Благоустроена дорога, по которой паломники шли от Медины до Мекки, построены стоянки для караванов с подведенной к ним водой и другие улучшения.
Третьего ноября 644 года халиф Умар ибн ал-Хаттаб был смертельно ранен персидским зиммием при выходе из мечети. Перед смертью Умар успел создать избирательный совет (аш-шура) из шести самых авторитетных представителей племени курейш с целью выборов из их числа нового халифа.
Умар ибн ал-Хаттаб был зятем Пророка. При нем Халифат достиг своего полного могущества. Его называли Фарух Мени – «Великий Прозорливец». Справедливость и прямота халифа Умара проявилась в его ответе шахиншаху Ирана, когда Йездигерд III отправил посла к повелителю правоверных сказать, что «…во всем мире нет двора более многолюдного, чем наш двор, нет казнохранилища более благоустроенного, чем наше казнохранилище, нет войска более отважного, чем наше войско, никто не имеет столько людей и снаряжения, сколько находится у нас». Халиф Умар ответил: «Да, двор ваш – многолюден, но жалобщиками, ваше казнохранилище благоустроено, но неправильными налогами, ваше войско отважно, но непослушливо. Когда уходит державность, не приносит пользы снаряжение и многолюдство. И это является доказательством вашей бездержавности. От вашего упадка спасение в том, чтобы ваш султан самолично творил справедливость, чтобы все стали справедливыми и чтобы никто не питал вожделения к недозволенному».