Одновременно с покорением Северной Сирии и Армении, арабы начали борьбу за Палестину, где вела завоевания армия под командованием Амра ибн ал-Аса. В 637 г. мусульманам сдался Иерусалим (его капитуляцию принял сам халиф Умар). В том же году Амр двинулся из Палестины на завоевание Египта. Поначалу в этом предприятии участвовало всего 3 тыс. человек. Тем не менее, как и везде, мусульманам сопутствовал полный успех. После двухмесячной осады пал ал-Фарм (Пелузий), являвшийся со времен античности ключом ко всей провинции. Отсюда Амр пошел вдоль восточной окраины дельты Нила к ее вершине и в марте 640 г. овладел крепостью Балбейс. Узнав об удачном начале экспедиции, Умар немедленно выслал Амру подкрепления. С их помощью тот овладел Файйумом и Абоитом. Осенью того же года, переждав летний подъем воды в Ниле, арабы спустились в дельту и после семимесячной осады взяли мощную крепость Бабалйун (Мисру). После этого им уже не трудно было овладеть всем Верхним и Нижним Египтом. Последней в сентябре 642 г. без боя капитулировала Александрия, бывшая при византийцах столицей всей провинции. При новых хозяевах этот город потерял свое значение. Главным центром их пребывания в завоеванной стране стал Бабалйун, вокруг которого вскоре возник большой военный лагерь, получивший название ал-Фустат. В том же 642 г. арабы двинулись из Египта дальше на запад, подчинили себе Барку и оазис Завилу, находившийся в центре Сахары. В 643 г. Амр совершил еще более далекий поход и разграбил Нибару (Триполи).
На иракском фронте, завоевания поначалу не были такими масштабными. Бои в течении нескольких лет шли на берегах Евфрата. В сентябре 634 г., когда персы вернули захваченную при Абу Бакре Хиру, Умар отправил против них армию во главе с Абу Убайдом. Тот одержал несколько побед над отдельными персидскими полководцами и овладел значительной частью междуречья Евфрата и Тигра. Однако в ноябре 634 г. неподалеку от Хиры на восточном берегу Евфрата произошла ожесточенная битва, в которой арабы понесли поражение. Эта неудача не обескуражила Умара. Он продолжал формировать и отправлять на Евфрат все новые и новые отряды добровольцев. В марте 635 г. при ал-Бувайба, неподалеку от Хиры, арабы разбили врага и захватили весь Ирак вплоть до берегов Персидского залива. Но затем они должны были вновь отступить за Евфрат.