Die österreichische Regierung über Holstein währte allerdings nur bis 1866: Durch den Deutschen Krieg gewann Preußen ganz Holstein für sich und setzte Carl Freiherr von Scheel-Plessen (*1811; †1892) zum Oberpräsidenten für die beiden Herzogtümer ein. Seinen Dienstsitz etablierte der frisch berufene Oberpräsident in Kiel, wo er bald darauf in den Mitteltrakt des Kieler Schlosses einzog. Kiel wurde damit 1866 wieder zur Hauptstadt Schleswigs und Holsteins. Dementsprechend fand auch in Kiel im großen Saal des Schlosses unter Salutschüssen und Glockengeläut am 24. Januar 1867 die feierliche Inbesitznahme der Herzogtümer durch genannten Scheel-Plessen im Namen des preußischen Königs Wilhelm I. (*1797; †1888) statt.
Doch wieder war Kiel der »Hauptstadtstatus« nicht lange vergönnt. Bereits zwei Jahre später, am 1. Oktober 1868, wurden nämlich die bisher getrennten Provinzialregierungen für Schleswig und Holstein zu einer einzigen zusammengefasst, die ihren Sitz nun nicht in Kiel fand, sondern in Schleswig. Oberpräsident Scheel-Plessen hatte hierzu seine eigene Meinung, hatte er doch schon im Juni 1866 verlautbaren lassen: »Mit Entschiedenheit ist auszusprechen, daß Kiel der passendste Sitz der Regierung beider Herzogtümer sein wird. Hier konzentriert sich das politische Leben des Landes.« Um gleichwohl die damalige Entscheidung der preußischen Regierung pro Schleswig und contra Kiel nachvollziehen zu können, sei daran erinnert, dass Kiel zu diesem Zeitpunkt nur eine mittelgroße Stadt mit rund 24 000 Einwohnern war. Flensburg beispielsweise war fast genauso groß, hier wohnten mit 22 000 Einwohnern fast ebenso viele Menschen. In Schleswig waren zwar im Gegensatz dazu lediglich 14 000 Personen beheimatet, doch hatte sich Schleswig wegen der Gottorfer Residenzzeit im Bewusstsein der Menschen stärker als rechtmäßige Hauptstadt der Lande festgesetzt. Vor allem aber gab die Nationalitätenfrage den Ausschlag: Mit dem Beschluss, den Regierungssitz nach Schleswig zu verlegen, sollte das Deutschtum im Schleswiger Landesteil gestärkt werden. Baulicher Ausdruck dieses Beschlusses wurde der bis heute architektonisch imposante Neubau des Regierungsgebäudes in Schleswig, welches bewusst genau gegenüber dem Gottorfer Schloss platziert wurde. Am 22. März 1876 erfolgte die Grundsteinlegung zu diesem »roten Elefanten« aus Backstein, der innerhalb von drei Jahren fertiggestellt wurde, sodass der Dienstsitz des Oberpräsidenten offiziell im Oktober 1879 von Kiel nach Schleswig verlegt werden konnte.
In Kiel blieben nur noch die Einrichtungen der provinziellen Selbstverwaltung zurück, bis auf den Provinziallandtag – dieser wurde im Frühjahr 1880 aus Rendsburg nicht nach Kiel verlegt, sondern ebenfalls nach Schleswig, wo er fortan im alten Ständesaal des Schleswiger Rathauses tagte. Ende des 19. Jahrhunderts jedoch wuchs Kiel zu einer Großstadt heran und übte eine immer stärkere Sogkraft auf das wirtschaftliche und politische Leben im ganzen Land aus. Folgerichtig wurden Pläne zu einer Rückverlegung des Oberpräsidentensitzes nach Kiel geschmiedet und sogar von Kaiser Wilhelm II. (*1859; †1941) unterstützt. Er bezeichnete die Schleswiger Lösung selbst als »größte Dummheit«. Ihren schriftlichen Niederschlag fanden die neuen Absichten in der Denkschrift des seit 1901 amtierenden Oberpräsidenten Adolf Wilhelm Kurt von Wilmowsky (*1850; †1941). Darin hieß es, dass der Oberpräsident nur in Kiel den Pulsschlag des Lebens fühlen und er nur hier am öffentlichen Leben der ganzen Provinz teilhaben könne. Doch das Staatsministerium beharrte in einem Beschluss vom 2. Juli 1904 auf Schleswig als Sitz des Oberpräsidenten. Anders verhielt es sich mit dem Provinziallandtag, der aus Schleswig fortzog und seit dem 19. März 1905 bis zum Ende des Ersten Weltkrieges in der Aula der Christian-Albrechts-Universität tagte. Danach zog er in den Sitzungssaal des 1911 bezogenen neuen Kieler Rathauses.
Die Pläne zu einer Rückverlegung des Oberpräsidiums nach Kiel wurden nun aber keineswegs fallengelassen, zumal die Stadt Kiel selbst Morgenluft witterte und ein lukratives Angebot unterbreitete: Die Stadt wollte ein kostenloses Grundstück für den Bau eines repräsentativen Oberpräsidiums zur Verfügung stellen und bis zu dessen Errichtung für einen Zeitraum von maximal fünf Jahren auf ihre eigenen Kosten Räume im Stadtgebiet anmieten, um einen möglichst raschen Umzug nach Kiel bereits während der Bauzeit gewährleisten zu können. Zu diesem Angebot hatte man sich in Kiel entschlossen, da ein Wiedereinzug des Oberpräsidenten ins Kieler Schloss mittlerweile unmöglich geworden war. Hier residierte seit 1888 der Kaiserbruder Heinrich (*1862; †1929) mit seinem Hof. Als Umzugsdatum wurde der 1. Oktober 1907 vorgeschlagen. Der 1906/07 amtierende Oberpräsident Kurt von Dewitz (*1847; †1925) begrüßte die Initiative. Er hatte sich krankheitshalber einige Zeit in der Kieler Universitätsklinik aufhalten müssen und seinen Worten zufolge mehr hochgestellte Leute am Krankenbett empfangen als in seiner ganzen vorangegangenen Amtszeit in Schleswig. Insbesondere liebäugelte er mit einem attraktiven Grundstück zwischen der Förde und dem Düsternbrooker Gehölz für den Neubau. Hier herrschte ein sauberes Klima, und von hier aus konnte er die großen kaiserlichen Schiffe sehen. Um von dem damals noch etwas abgelegenen Standort schnell ins Zentrum zu gelangen, hatte er die Idee eines überdachten Motorbootes, mit dem er die längere Wegstrecke problemlos zurücklegen wollte. Doch verhinderte das Preußische Abgeordnetenhaus die Umsetzung all dieser Pläne mit seinem Beschluss vom 5. März 1907. Als Kompromisslösung schlug der nachfolgende Oberpräsident Friedrich von Bülow (*1868; †1936) eine Teilung des Regierungsbezirks Schleswig-Holstein vor, wonach die Etablierung eines zweiten Regierungssitzes in Kiel möglich geworden wäre. Aber auch diese Idee stieß im Abgeordnetenhaus auf Ablehnung: Man fürchtete, einen Präzedenzfall zu schaffen, auf den sich andere preußische Regierungsbezirke berufen könnten. Vor allem aber hätte die Umsetzung dieser Kompromisslösung das schleswig-holsteinische Selbstverständnis im Kern erschüttert, verstand man sich hier doch bekanntlich als »up ewig ungedeelt«.
Erst der Erste Weltkrieg brachte Bewegung in diese verfahrene Angelegenheit. Kriegswichtige Zentralbehörden wie die Provinzialkartoffelstelle, die Provinzialfettstelle, die Provinzialeierverteilungsstelle oder die Provinzialfuttermittelstelle waren im zentralörtlichen Kiel, nicht im abgelegenen Schleswig eingerichtet worden. Diese Stellen unterstanden dem Oberpräsidenten, der jetzt immer häufiger nach Kiel reisen musste, um sie zu lenken, was eine nicht immer ganz unproblematische Aufgabe darstellte. Der Weg nach Kiel war nicht ohne weiteres zu bewältigen, denn ein eigenes Kraftfahrzeug stand für diese Fahrten nicht zur Verfügung, und der Eisenbahnverkehr zwischen Kiel und Schleswig war kriegsbedingt massiv reduziert. Um hier zu einer Erleichterung zu gelangen, beantragte der während des Krieges amtierende Oberpräsident Friedrich von Moltke (*1852; †1927) am 1. Januar 1917 die Verlegung seines Dienstsitzes nach Kiel und begründete diese als staatsnotwendig. Und tatsächlich erteilte das Innenministerium nun seine Zustimmung, lapidar in einem Telegramm, was nach dem langen Hin und Her davor schon überraschen mag. Die Entscheidung erklärt sich jedoch aus den Kriegsumständen; auch das Kriegsministerium stellte klar, dass es sich nur um eine Kriegsmaßnahme handeln könne.
Am 24. März 1917 legte der Kaiser in seinem Hauptquartier im belgischen Spa mit seinem Placet nach: »Sitz des Oberpräsidenten der Provinz Schleswig-Holstein ohne das Regierungsschulkollegium einstweilen von Schleswig nach Kiel verlegt.« Damit konnte sich Kiel wieder als Provinzhauptstadt begreifen. Um allerdings den provisorischen Charakter der Verlegung zu unterstreichen, erfolgte keine Einrichtung einer offiziellen Dienstwohnung für den Oberpräsidenten. Stattdessen wurde in der Schwanenallee 24 die Villa des Professors für Innere Medizin namens Heinrich Irenaeus Quincke (*1842; †1922) zu diesem Zweck angemietet. Auch wurden zwölf Beamte des Oberpräsidiums nur kommissarisch nach Kiel versetzt. Ihr offizieller Dienstsitz blieb Schleswig. Aber wie es sich so oft mit Provisorien in der Geschichte verhielt, entwickelte sich auch diese Zwischen- zur Dauerlösung: Der Oberpräsident