Смерть великого императора стала чудовищным ударом не только для его войск и соратников, но и для всего франкского мира. Весть о том, что он идет во главе огромной армии, воодушевила рыцарей, сражавшихся на сирийских берегах. Казалось, у него одного достаточно силы, чтобы прогнать мусульман, и, когда к нему присоединились бы армии королей Франции и Англии, которые, как было известно, вскоре намеревались отправиться на Восток, вместе они наверняка бы вернули Святую землю в руки христиан. Даже Саладин опасался, что не справится с этой объединенной мощью. Услышав о том, что Фридрих уже на пути в Константинополь, султан послал своего секретаря и будущего биографа Бахауддина в Багдад предупредить халифа ан-Насира о том, что правоверным надлежит сплотить свои силы перед лицом угрозы, и призвал к себе всех своих вассалов. Он собирал информацию о каждом шаге германской армии и ошибочно полагал, что Кылыч-Арслан тайно пособничает христианам. Когда до мусульман дошла новость о внезапной гибели Фридриха, они подумали, что это чудо Господне, совершенное ради спасения правоверных. Армию, собранную Саладином для сдерживания германцев в Северной Сирии, можно было спокойно сократить и послать отряды для подкрепления его войск на палестинском побережье.
Исламу действительно грозила большая опасность, и Саладин был прав, видя свое спасение в смерти императора. Хотя во время нелегкого марша по Анатолии германская армия потеряла некоторое количество солдат и часть снаряжения, но все еще оставалась весьма внушительной.
Однако германцы с их странной потребностью поклоняться вождю обычно оказываются полностью деморализованы, когда остаются без своего лидера. Воины Фридриха пали духом. Герцог Швабский принял командование на себя, но при всей его храбрости ему не хватало силы отцовского характера. Одни князья решили вернуться со своими войсками в Европу, другие сели на корабли в Селевкии или Тарсе и поплыли в Тир. Герцог с весьма поредевшей армией продолжил путь по киликийской равнине в жарком и влажном мареве лета, неся с собой тело императора, которое хранили в уксусе. После некоторых колебаний армянский князь Левон решил нанести почтительный визит в немецкий лагерь. Но германские вожди не сумели надлежащим образом позаботиться о пропитании своих людей. Оставшись без императорского надзора, солдаты отбились от рук. Многие голодали, многие болели, и никто не желал подчиняться приказам. Сам герцог Швабский тяжело заболел и должен был задержаться в Киликии. Его армия продолжила путь без него, но при проходе через Сирийские ворота была атакована и понесла тяжелые потери. Германцы, подошедшие 21 июня к Антиохии, являли собою плачевное зрелище. Фридрих, оправившись от болезни, последовал за ними несколько дней спустя.
Антиохийский князь Боэмунд радушно встретил