In Deutschland war Hermann von Helmholtz in Berlin die dominierende Persönlichkeit in der Physik mit Beiträgen auf den unterschiedlichsten Gebieten.Insgesamt breitete sich gegen Ende des 19. Jahrhunderts die Vorstellung aus, die Physik wäre mehr oder weniger abgeschlossen, es gebe nichts Neues mehr zu entdecken. Im Nachhinein zeigten sich aber schon damals einige deutliche Hinweise, dass dem nicht so war. Die Erklärung der in der Spektralanalyse (Joseph von Fraunhofer, Gustav Robert Kirchhoff, Robert Bunsen) gefundenen Regelmäßigkeiten der Spektren und deren Beeinflussbarkeit durch Magnetfelder im Zeemaneffekt (ein Hinweis auf Elektronen in Atomen), Hinweise auf den atomaren Aufbau der Materie und sich daraus ergebende Regelmäßigkeiten in der Chemie (wobei es Ende des 19. Jahrhunderts auch einflussreiche Gegner des Atomismus gab), die Entdeckung des Elektrons und damit verbunden die Frage der Stabilität der Atome, die ungeklärte Frage der Herkunft der Sonnenenergie und die Entdeckung der Radioaktivität.Verborgen in der Struktur der Maxwellgleichungen war auch die Relativitätstheorie, wie sich aus Untersuchungen der Elektrodynamik bewegter Körper von Hendrik Antoon Lorentz und Henri Poincaré andeutete und die Albert Einstein im folgenden Jahrhundert in voller Tragweite erkannte.
Das 20. Jahrhundert begann mit der Entdeckung der beiden grundlegenden Säulen der modernen Physik, der Quantentheorie durch Max Planck (1900) und der Relativitätstheorie durch Albert Einstein. Beide Theorien führten zu einer grundlegenden Umgestaltung der Physik.Auf experimenteller Seite war einerseits die Entdeckung der Radioaktivität Ende des 19. Jahrhunderts (Henri Becquerel) und deren Erforschung Anfang des 20. Jahrhunderts durch Marie Curie von ausschlaggebender Bedeutung, gefolgt von der Entdeckung des Atomkerns durch Ernest Rutherford (Rutherford-Streuversuch). Als erstes Elementarteilchen war noch im 19. Jahrhundert das Elektron in Kathodenstrahlen entdeckt worden (J. J. Thomson). Ein wichtiger Fortschritt war auch die Untersuchung bisher nicht bekannter Teile des elektromagnetischen Spektrums mit der Entdeckung der Röntgenstrahlung durch Wilhelm Conrad Röntgen, mit großen Auswirkungen auf die Medizin und die mikroskopische Untersuchung von Festkörpern (Max von Laue, William Henry Bragg, William Lawrence Bragg).Die spezielle Relativitätstheorie (SRT) wurde nach Vorarbeiten von Hendrik Antoon Lorentz und Henri Poincaré durch Albert Einstein begründet. Er erkannte als erster ihre volle Tragweite. Durch die postulierte Gleichberechtigung aller Beobachter (Relativitätsprinzip) und durch die Invarianz der Lichtgeschwindigkeit, war es notwendig geworden, Raum und Zeit neu zu definieren. Beide Größen waren nach der SRT nicht mehr absolut, sondern von der Wahl des Bezugssystems abhängig. An die Stelle der Galilei-Transformation trat nun die Lorentz-Transformation.Die ebenfalls von Einstein begründete allgemeine Relativitätstheorie (ART) dehnte die Erkenntnisse der SRT auf Nicht-Inertialsysteme aus. Demnach sind Gravitationswirkungen und Trägheitskräfte zueinander vollkommen äquivalent. Daraus folgte sowohl die Gleichheit von schwerer und träger Masse als auch die Krümmung der Raumzeit.
Die noch in der klassischen Physik stillschweigend als zutreffend angesehene euklidische Geometrie des Raumes erwies sich nun als nicht mehr tragfähig. Die ART fand schon bald nach dem Ersten Weltkrieg Bestätigung in Beobachtungen (Lichtablenkung am Rand der Sonne bei Sonnenfinsternis, Arthur Eddington) und die darin formulierten Kosmologischen Modelle (Friedmann, Georges Lemaître) in der Entdeckung der Expansion des Universums (Edwin Hubble).Die Quantentheorie hat ihre Wurzeln in der Quantenhypothese, mit der es Max Planck gelang, das Spektrum der Wärmestrahlung des Schwarzen Körpers durch das Plancksches Strahlungsgesetz zu erklären: Planck nahm an, dass die Materie Strahlung nicht kontinuierlich, sondern in kleinen „Portionen“ – Quanten – absorbiert und emittiert. Albert Einstein schloss daraus auf den Teilchencharakter des Lichts (Photon) und erklärte damit den Photoeffekt, der schon im 19. Jahrhundert von Wilhelm Hallwachs entdeckt worden war. Der Teilchencharakter des Lichts stand in krassem Widerspruch zu der Wellentheorie des Lichts, die sich bisher ausgezeichnet bewährt hatte. Louis de Broglie ging später sogar noch einen Schritt weiter und postulierte, dass dieser Welle-Teilchen-Dualismus nicht nur eine Eigenschaft des Lichts sei, sondern ein Grundprinzip der Natur. Daher schrieb er auch der Materie einen Wellencharakter zu. Niels Bohr, Arnold Sommerfeld und andere entwickelten das halbklassische Bohrsche Atommodell mit quantisierten Energien, das eine erste plausible Erklärung für die Linienspektren der Atome gab. Die ältere Quantentheorie erwies sich bald insbesondere in der Erklärung komplexer Spektren als ungenügend. Um 1925 wurde durch Werner Heisenberg, Max Born (von dem die statistische Interpretation der Wellenfunktion stammt), Pascual Jordan und Wolfgang Pauli die Matrizenmechanik entwickelt. Hier wurden die Quantisierungserscheinungen durch die Nichtvertauschbarkeit der den grundlegenden Messgrößen wie Impuls und Ort zugeordneten Operatoren erklärt.
Außerdem erkannte Heisenberg dass diese Größen nicht gleichzeitig exakt bestimmt sind und schätzte dies in seiner Unschärferelation ab. Erwin Schrödinger formulierte unabhängig davon mit der Schrödingergleichung die Grundlage der Wellenmechanik. Diese Gleichung ist eine Eigenwert-Gleichung: Die Eigenwerte des Hamilton-Operators sind die Energien der möglichen Zustände. Die Matrizen- und die Wellenmechanik erwiesen sich als zwei Aspekte derselben Theorie: Der eigentlichen Quantenmechanik. Bis Ende der 1920er Jahre war die Formulierung insbesondere durch Paul Dirac zu einem Abschluss gebracht worden und die neue Theorie erzielte große Erfolge durch Anwendung nicht nur in der Atomphysik, sondern auch bei Molekülen, Festkörpern und auf anderen Gebieten. Der Spin, eine fundamentale Eigenschaft aller Teilchen, die sich in der klassischen Physik nicht verstehen lässt, wurde entdeckt. Der grundlegende Unterschied von Bosonen (ganzzahliger Spin, Bose-Einstein-Statistik) einerseits und Fermionen (halbzahliger Spin, Fermi-Dirac-Statistik) andererseits wurde erkannt (siehe Spin-Statistik-Theorem von Wolfgang Pauli). Mit der Klein-Gordon-Gleichung und der Diracgleichung gelangen relativistische Formulierungen der Quantentheorie. Die daraus entwickelte Vorhersage von Antiteilchen konnte durch Carl D. Anderson bestätigt werden.
Die Grundlagen der Quantentheorie wurden in Schlüsselexperimenten wie im Franck-Hertz-Versuch (quantisierter inelastischer Stoß von Elektronen mit Atomen), im Millikan-Versuch (Quantisierung der Ladung), im Compton-Effekt (Streuung von Photonen an freien Ladungsträgern), im Stern-Gerlach-Versuch (Richtungsquantelung des Drehimpulses) und im Davisson-Germer-Experiment (Beugung von Materiewellen) bestätigt.Noch mehr als die spezielle und die allgemeine Relativitätstheorie stellte die Quantenphysik einen Paradigmenwechsel in der Physik dar. Die Klassische Physik war streng deterministisch. Das bedeutet, dass gleiche Anfangsbedingungen unter identischen Umständen immer zu den gleichen Versuchsergebnissen führen. Dieser Determinismus war in der Quantenphysik nicht gegeben. Max Born führte die statistische Interpretation der Wellenfunktionen ein, ausgebaut in der Kopenhagener Deutung der Quantentheorie durch Bohr und Heisenberg 1928. Einstein lehnte diese Deutung vehement ab, blieb damit aber isoliert.Die 1930er Jahre waren geprägt vom Ausbau der Kernphysik, die mit der Entwicklung der ersten Teilchenbeschleuniger (insbesondere das Zyklotron durch Ernest O. Lawrence) einen Aufschwung erhielt. Als weiterer grundlegender Elementarteilchen-Baustein neben dem Elektron und Proton kam das Neutron hinzu (James Chadwick) und bald darauf weitere Elementarteilchen, die zunächst vor allem durch natürliche Beschleuniger in Form der Kosmischen Höhenstrahlung untersucht wurden, wobei die wesentlichen neuen Entdeckungen erst nach dem Zweiten Weltkrieg ab der zweiten Hälfte der 1940er Jahre erzielt wurden (P. M. S. Blackett u. a.).
Das Neutron war grundlegend für das Verständnis der Kerne und sein Zerfall führte zur Entdeckung der vierten fundamentalen Wechselwirkung (neben Gravitation, elektromagnetischer und der die Kerne zusammenhaltenden starken Wechselwirkung), der schwachen Wechselwirkung. Es wurden erste Kernmodelle entwickelt, so z. B. das Tröpfchenmodell von Carl Friedrich von Weizsäcker. Bis heute gibt es jedoch keine in sich geschlossene befriedigende Theorie des Atomkerns. Ende der 1930er Jahre wurde die Kernspaltung durch Otto Hahn entdeckt und durch Lise Meitner theoretisch gedeutet. Nachdem der Zweite Weltkrieg ausgebrochen war, starteten die USA das Manhattan-Projekt zur Entwicklung von Atombomben. An dem Projekt, das unter der wissenschaftlichen Leitung von J. Robert Oppenheimer stand, waren zahlreiche namhafte Physiker beteiligt. Die erste kontrollierte Kettenreaktion gelang Enrico Fermi 1942