Von nun an blieb Konrad ein treuer Gefolgsmann des Kaisers, den er zuvor bekämpft hatte. Er folgte Lothar III. im Jahre 1136 auf dessen Zug nach Italien und hatte dabei die Rolle des kaiserlichen Bannerträgers inne. Das brachte ihm großes Ansehen, das er durch seine erfolgreichen kriegerischen Leistungen noch weiter steigerte. So schlug er am 8. November 1136 die Verteidiger von Pavia so vernichtend, dass die Stadt am nächsten Tag kapitulierte. Im Frühjahr 1137 eroberte er das Kastell Ragnano bei Siponto und belagerte San Angelo auf dem Monte Gargano. Neben seiner militärischen Tätigkeit kümmerte sich Konrad auch um die Politik, und es gelang ihm, die Freundschaft von Papst Innozenz II. zu erringen. Dabei kam ihm auch seine gute Beziehung zum Erzbischof Albero von Trier zugute, der das volle Vertrauen des Papstes genoss. Der wichtigste Grund der Bemühungen des Staufers um das Wohlwollen der Kurie war sicher die Absicht, die Kirche bei seiner möglichen Königswahl hinter sich zu wissen. Jeder wusste, dass Lothar III. alt und krank war und seine einzige Tochter an Herzog Heinrich den Stolzen von Bayern verheiratet hatte. Der Papst und seine Ratgeber fürchteten die Nachfolge des Welfen im Reich, was Konrad III. nur noch interessanter machte.
Der Tod König Lothars III. Ende 1137 brachte die Wende, und es zeigte sich, dass die Politik Konrads und seines Bruder gefruchtet hatte. Die Staufer wurden jetzt die Erben des deutschen Königtums. Doch Herzog Friedrich musste zurückstehen, und sein Bruder Konrad stand jetzt im Brennpunkt der Macht und der Aufmerksamkeit und konnte schließlich die Königswürde erringen.
Herzog Friedrich II. wurde als »kräftig, wenn auch nicht immer mit Glück« beschrieben, der »eine treue Stütze seines stets mit ihm einträchtig lebenden Bruders« gewesen sei. »Kriegerische Tapferkeit, Geschäftsklugheit, Leutseligkeit und Freigebigkeit« wurden ihm nachgerühmt. (Chr. Fr. v. Stälin 1878, S. 34) Bei allen Unternehmungen stand der Herzog seinem Bruder tatkräftig zur Seite, solange es seine Kräfte zuließen. Es stellt sich überhaupt die Frage, ob Konrad seine Königswürde überhaupt ohne Friedrich erreicht hätte. Der bereits sehr kranke Herzog übertrug 1146 im Angesicht seines nahenden Endes seinem Sohn Friedrich (Barbarossa) die Verwaltung seines Landes und den Schutz seiner zweiten Gemahlin und ihrer Kinder. Doch sein königlicher Bruder gab diesem die Erlaubnis zur Teilnahme am Kreuzzug, was den Herzog mit tiefem Schmerz erfüllt und vielleicht seinen Tod beschleunigt haben soll.
Als Herzog Friedrich II. 1147 in Alzey starb, folgte ihm sein Sohn Friedrich (Barbarossa) offiziell als Amtsinhaber nach. Und er sollte schon fünf Jahre später nach dem Willen seines Onkels Konrad III. den deutschen Königsthron besteigen. Beerdigt wurde der Bruder des Königs, der selbst um ein Haar König geworden wäre, im Kloster St. Walpurgis, das in der Nähe der von ihm gegründeten Stadt Hagenau liegt.
EIN STAUFER WIRD KÖNIG
»Lothar, der auf dem Rückmarsch (aus Italien) seinem Schwiegersohn die Markgrafschaft Tuszien übertrug, wurde bald von einer schweren Krankheit ergriffen. Wohl konnte er noch die Alpen überschreiten, am 4. XII. 1137 ist er aber in dem Dorf Breitenwang bei Reutte in Tirol gestorben. ... Als Gegner der salischen Partei war Lothar auf den Thron gekommen. Als König bog er aber in die vorgezeichnete Linie der deutschen Königspolitik ein und ist keineswegs, wie man gelegentlich gemeint hat, ein unselbständiger, von der Kirche abhängiger Herrscher gewesen.« (Gehardt 1970, S. 375)
Nachdem Lothar III., der zuletzt ein sehr gestörtes Verhältnis zu Papst Innozenz II. gehabt hatte, gestorben war, begann erneut ein Kampf um die Krone des Reiches. Wurde zunächst erwartet, dass der Schwiegersohn des verstorbenen Kaisers, der Welfe Heinrich der Stolze, seines Zeichens Herzog von Bayern und Sachsen, die größten Chancen bei der Wahl hatte, so entwickelten sich die Dinge rasch anders. Der Papst hatte den geschickten Kardinal Dietwin von Santa Rufina entsandt, der vom Erzbischof Albero von Trier unterstützt wurde. Die beiden setzten alles daran, dass ein anderer das Rennen machte. Zur Wahl des neuen Königs war eine Fürstenversammlung für den 22. Mai 1138 einberufen worden, doch schon vorher konnten die beiden Geistlichen einige Fürsten in Koblenz zusammenbringen. Diese wählten dann wunschgemäß am 7. März den Staufer Konrad zum König. Dieser wurde dann auch recht rasch am 13. März 1138 gekrönt. Kardinal Dietwin setzte ihm als Mann des Papstes die Krone aufs Haupt. Das sollte für die weitere Zukunft Konrads III. bedeutende Folgen haben und ihn in den Augen vieler zum »Pfaffenkönig« stempeln. Diese Art der Königserhebung war eigentlich ein Bruch des herkömmlichen Rechts, wurde jedoch nach und nach von den meisten Fürsten des Reiches akzeptiert. Als Konrad III. zu Pfingsten 1138 einen allgemeinen Reichstag in Bamberg abhielt, kamen viele bedeutende Herren des geistlichen und weltlichen Standes, um ihm zu huldigen.
Der neue König war sich der großen Gefahr bewusst, die von dem Welfen Heinrich dem Stolzen ausging, der ihm auch bezüglich seiner Hausmacht überlegen war. Deshalb verhängte er im Juli 1138 in Würzburg die Reichsacht über den Welfen und entzog ihm seine Herzogtümer. Während der Askanier Albrecht der Bär mit Sachsen belehnt wurde, erhielt Konrads Halbbruder, der Babenberger Leopold IV., das Land Bayern. Das führte natürlich dazu, dass der Konflikt mit den Welfen einen neuen Höhepunkt erreichte. Albrecht der Bär konnte sich in Sachsen als Herzog nicht behaupten, und ein von Konrad III. durchgeführter Kriegszug gegen die Welfen endete mit 1139 mit einem für ihn schmählichen Waffenstillstand.
Der relativ überraschende Tod Heinrichs des Stolzen am 20. Oktober 1139 brachte nur vorübergehend für Konrad III. eine Entlastung, da die Kaiserwitwe Richenza gemeinsam mit einem großen Adelsaufgebot nun die Rechte Heinrichs des Löwen, der ihr noch minderjähriger Enkel war, verfocht. Die Welfen wollten ihr Herzland Sachsen unter keinen Bedingungen aufgeben. Auch in Bayern kam es zu Kampfhandlungen, als Welf VI. sich in einem Gefecht bei Valley am 13. August 1140 gegen Leopold IV. durchsetzen konnte. Doch Konrad III. schaffte es, zumindest hier durch sein Eingreifen die Situation unter Kontrolle bringen. Er besiegte den Welfen am 21. Dezember 1140 bei der Burg Weinsheim.
Konrad III. sah im Geschlecht der Babenberger, das schon lange die Markgrafen von Österreich stellte, eine bedeutende Stütze seiner Herrschaft. So erhielt auch der Babenberger Heinrich Jasomirgott 1140 die Pfalzgrafschaft bei Rhein und somit eine der wichtigsten Positionen im Reich überhaupt. Nach dem Tod Leopolds IV. wurde Heinrich Jasomirgott schließlich zum Herzog von Bayern erhoben. Außerdem vermählte ihn der König 1146 mit der byzantinischen Prinzessin Theodora Komnena, immerhin einer Nichte Kaiser Manuels. Die beiden Babenberger Otto und Konrad erhielten zudem bedeutende geistliche Ämter. Während Konrad 1148 zum Bischof von Passau geweiht wurde, war der wohl bedeutendere Otto bereits seit 10 Jahren Bischof von Freising, wo er eine rege Tätigkeit als Geschichtsschreiber entfaltete und viele Werke produzierte, die heute noch als wichtige historische Quellen angesehen werden.
Die Königsherrschaft des ersten Staufers auf dem Königsthron konnte in den deutschen Territorien regional unterschiedlich stark durchgesetzt werden. Während er sicherlich am Rhein und in Ostfranken als Kernregionen sehr stark war, blieb Sachsen wie später noch so oft in der staufischen Geschichte ziemlich königsfern. Konrad III. konnte während seiner gesamten Herrschaft hier nicht Fuß fassen. Würzburg, Nürnberg, Regensburg, Frankfurt, Speyer und Bamberg wurden die wichtigsten Stützpunkte des Staufers, die der König während seiner Herrschaft immer wieder aufsuchte. In Konrads engstem Umkreis befanden sich einige wenige Fürsten, denen er auch sein Vertrauen schenkte. Dazu gehörten der Erzbischof von Köln, die Bischöfe von Würzburg und Worms, die Babenberger Heinrich Jasomirgott und Otto von Freising, der Königsbruder Friedrich und Albrecht der Bär. Bei seiner Verwaltung setzte der Staufer auf verschiedene Ministerialiengeschlechter, wobei der Ministeriale Arnold von Selenhofen schließlich auch zum Reichskanzler ernannt wurde.
Das Verhältnis zur Kirche des als »Pfaffenkönig« übel beleumdeten Staufers wurde immer wieder kritisch betrachtet und dokumentiert. Konrad III. fühlte sich dem Wormser Konkordat von 1122 verpflichtet und trachtete danach, zu den zu seiner Zeit oft wechselnden Päpsten immer gute Beziehungen zu haben. Er unternahm auch im Gegensatz zu seinem Vorgänger Lothar keinen Versuch, die königlichen Rechte bezüglich der Reichskirche wieder zurückzugewinnen. Da er natürlich Interesse daran hatte, dass bei der Neubesetzung der Bischofssitze ihm genehme Kandidaten zum Zug kamen, versuchte er, Einfluss über die Wahlgremien