Bei Nicäa kam man dann auch noch auf die »glorreiche« Idee, das Heer zu teilen. Der deutsche König zog mit dem Hauptheer weiter durch Kleinasien, während die Pilger und Unbewaffneten ohne große militärische Bedeckung unter der Führung Ottos von Freising entlang der Küste marschieren sollten. Bei Dorylaion wurden die deutschen Ritter am 25. Oktober 1147 in eine plumpe Falle gelockt, was zum Untergang fast der gesamten Kavallerie führte. Konrad III., der wieder einmal ein gewisses militärisches Unvermögen bewiesen hatte, zog sich mit dem Rest seiner Truppe, die nun vor allem aus Fußvolk bestand, vorerst geordnet zurück. Da die Seldschuken sie aber ständig bedrängten und demoralisierten, artete das Unternehmen bald in eine panikartige Flucht aus. Der deutsche König erreichte Anfang November mit etwa 2.500 erschöpften Überlebenden die Stadt Nicäa und flüchtete sich hinter die sicheren Mauern. Konrad III. selbst war wie viele seiner ihm verbliebenen Leute mehrfach verwundet worden. Ungefähr zur gleichen Zeit wurde die Kolonne unter Otto von Freising auch angegriffen, und es kam erneut zu einem fürchterlichen Massaker, dem die meisten Christen zum Opfer fielen.
Nachdem er und seine Leute sich einigermaßen erholt hatten, stieß Konrad III. zu den inzwischen angekommenen Franzosen, und man marschierte gemeinsam die Küste entlang. Auch der französische König wurde der Situation nicht Herr und immer mehr seiner Männer wurden Opfer der häufig stattfindenden Angriffe der Seldschuken. Außerdem waren das Wetter und die Versorgungslage extrem schlecht, was zu vielen Krankheiten führte. Konrad III. blieb dieses Mal die Teilnahme am völligen Zusammenbruch einer christlichen Streitmacht erspart, da er bereits in Ephesus schwer erkrankte und nach Konstantinopel zurück transportiert wurde. Letztlich erreichten nur sehr wenige der ausgezogenen deutschen und französischen Ritter Palästina.
Als sich der deutsche König wieder besser fühlte, fuhr er mit dem Schiff im April 1148 nach Akkon und besuchte von dort aus Jerusalem. In der Heiligen Stadt bereitete König Balduin III. dem deutschen König einen glänzenden Empfang und überredete ihn, die Eroberung von Edessa nicht mehr als Priorität zu betrachten und im Juli einen Kriegszug gegen Damaskus zu unternehmen. Der französische König Ludwig, der sich inzwischen unter schwersten Verlusten nach Tyrus durchgeschlagen hatte, konnte auch für diesen Plan gewonnen werden. Mitte Juli brach also ein vereintes und durch neue Zuzüge recht zahlreiches Christenheer, das angeblich mehr als 50.000 Mann umfasste, von Tiberias in Richtung Damaskus auf. Die mittelalterlichen Zahlenangaben sind hier allerdings mit großer Vorsicht zu genießen, denn bei der eigenen Stärke und den Verlusten des Gegners wurde meistens maßlos übertrieben. Auch wenn sich die Streitmacht der Christen durch Seuchen, Fahnenflucht und zuletzt auch Kämpfe laufend verringerte, so erreichten genügend die Stadt, die als sehr volkreich galt, und griffen ungestüm an.
Die Kämpfe um Damaskus erwiesen sich wie so oft bei den Kreuzzügen als sehr blutig, und Konrad III. zeigte große Tapferkeit und einen Kampfeswillen, der angeblich seine moslemischen Gegner in Angst und Schrecken versetzte. Die Christen konnten vor allem dank des rücksichtslosen Einsatzes der deutschen Ritter bei den moslemischen Verteidigern die Hoffnung auf weiteren Widerstand vertreiben. Aber als die Stadt bereits so gut wie sturmreif bzw. reif für die Kapitulation war, befiel die Christen eine seltsame Starre, und Konrad III. lieferte erneut ein Beispiel mangelnder Führungseigenschaften. Inzwischen drehte sich das Intrigenkarussel in Jerusalem, und vielen Kreuzrittern stieß die Dominanz der Deutschen übel auf. Außerdem befürchtete man das Eingreifen weiterer moslemischer Machthaber, die Jerusalem direkt bedrohen konnten.
König Konrad und König Ludwig ließen sich überreden, die Stadt weiter zu belagern und keinen Sturmangriff zu unternehmen. Nun kam der Mangel an Wasser und Nahrungsmitteln für Mensch und Tier immer mehr zum Tragen, die moslemischen Verteidiger zeigten wieder neuen Mut und besetzten sogar Stellungen der Belagerer. Konrad III. beschloss nach einigen Tagen schließlich die Aufgabe des Unternehmens und der französische König folgte seinem Beispiel. Ein weiteres kriegerisches Unternehmen des Stauferkönigs war damit gescheitert, und auch die Eroberung Edessas musste ad acta gelegt werden. Konrad III. kehrte schließlich dem Heiligen Land den Rücken und begab sich ins byzantinische Imperium.
Später behauptete der gescheiterte Staufer, er und sein Heer seien niemals von den Ungläubigen besiegt worden, sondern von Hunger und Krankheit. Doch man lastete ihm in der europäischen Öffentlichkeit weitgehend die Schuld an. Neben den riesigen Verlusten an Menschenleben wurde beklagt, dass er nichts »für die Erhabenheit des kaiserlichen und deutschen Namens« erreicht hätte. Viele Fürsten kehrten dem erfolglosen Herrscher nun den Rücken, und es wurde einsamer um König Konrad III.
In Saloniki schloss er schließlich Ende 1148 einen Vertrag mit dem byzantinischen Kaiser Emanuel I., der sich gegen Roger II. von Sizilien richtete, der mit dem schon sehr frühzeitig vom Kreuzzug desertierten Welf VI. ein Bündnis eingegangen war. Die alten Konflikte mit den Welfen waren also wieder aktuell geworden. Die Nachrichten aus seinem Reich waren für Konrad III. auch nicht allzu erfreulich, denn der kleine König Heinrich hatte sich als ziemlich machtlos erwiesen. Überall waren Fehden und Konflikte ausgebrochen, die auch die Macht der Staufer bedrohten.
»So reihte sich Kampf an Kampf, Niederlage an Niederlage. Daneben winkte immer noch vergebens die Kaiserkrone. Von Jahr zu Jahr hoffte Konrad, Zeit zu finden, um über die Alpen zu steigen. Immer neue Kämpfe schoben sich vor die geplante Romfahrt.« (Selchow 1928, S. 201)
Als Konrad III. im Mai 1149 nach Deutschland zurückkehrte, war er ziemlich gelähmt. Der schlimme Ausgang des Kreuzzuges hatte seinem Ansehen schwer geschadet, und außerdem war seine Gesundheit nicht die beste. Vorerst konnte er nicht wirklich aktiv werden. Er musste sein Vorgehen gegen Sizilien und sein geplantes Eingreifen in die chaotischen Verhältnisse in Rom, bei denen sich der Papst in schwerer Bedrängnis befand, aufschieben.
Die Hauptgefahr schienen vorerst die Welfen zu sein, die nun massiv ihren Machtanspruch anmeldeten und durch ein Bündnis mit König Roger von Sizilien zu viel Geld gekommen waren. Graf Welf VI. hatte schon frühzeitig Syrien verlassen und begonnen, die Besitzungen des Königs anzugreifen und auszuplündern, während er gleichzeitig Verbündete unter den deutschen Fürsten suchte. Welf VI. konnte im Februar 1150 bei Flochberg geschlagen und zum Frieden genötigt werden, aber Heinrich der Löwe, der in den mächtigen Zähringern Verbündete gefunden hatte, erhob erneut energisch seinen Anspruch auf Bayern und marschierte sogar in den Süden Deutschlands. Konrad III. glaubte, er könne das Problem durch Verhandlungen auf mehreren von ihm einberufenen Hof- und Reichstagen lösen, doch der Welfe erschien einfach nicht. Als der staufische König schließlich im Vertrauen auf den sächsischen Adel, der zu einem großen Teil welfenfeindlich war, auf eine militärische Lösung setzte und gegen Goslar und Braunschweig marschierte, scheiterte er wieder einmal. Heinrich der Löwe erschien vor Ort und konnte sich behaupten. Konrad III. räumte das Feld und überließ den Widerstand gegen den Welfen dem sächsischen Adel.
»So befand sich der König gegen Ende seiner Regierung auf demselben Punkt wie zu Anfang derselben. Seine Bestrebungen waren gescheitert. ... Es fehlte ihm die Energie des Willens. Was er begonnen hatte, führte er oft nicht zu Ende; er brach ab, wenn sich Hindernisse unerwarteter Art zeigten, oder wenn er den Schein eines Erfolges aufweisen konnte.« (Friedrich von Raumer)
Trotz aller ungelösten Probleme entschloss sich Konrad III. dazu, nach Italien und insbesondere Rom zu marschieren. Dabei wollte er einerseits endlich die Kaiserkrone erhalten und zweitens König Roger von Sizilien in seine Schranken weisen. Zu diesem Zweck wurden Gesandte in wichtige italienische Städte und zum Papst geschickt, sie sollten den Italienzug des Staufers vorbereiten. Doch es sollte alles anders kommen.
Ziemlich ernüchtert vom misslungenen Kreuzzug und seinem persönlichen Scheitern, sah er auch die Rolle der Kirche in einem anderen Licht. Man warf Konrad III., dem »Pfaffenkönig« vor, dass unter seiner Herrschaft die Macht und der Einfluss der Kirche