Die von Luther ausgelöste Reformation setzte eine tiefe Zäsur in die europäische Geschichte. Durch sie wurde die Idee der Einheitswelt eines Orbis christianus, die Hoffnung auf ein weltumspannendes christliches Reich, die das mittelalterliche Denken der Christen beherrscht und geleitet hatte, beerdigt. Sie fand zwar weiterhin Verfechter – bis hin zu den katholischen Gegenrevolutionären des 19. Jahrhunderts –, hatte aber keine Realisierungschance mehr. Folge der Reformation war die Spaltung der christlichen Kirche. Der Protestantismus trennte sich vom Katholizismus und entwickelte neue Formen der Kirchenverwaltung, des Glaubens und der Liturgie. Im Gefolge der Reformation durchlitt Europa im 16. und 17. Jahrhundert eine Welle blutiger Bürgerkriege, in denen sich die Christen gegenseitig abschlachteten. Sie erschütterte den Kontinent und erreichte ihren Höhepunkt im Dreißigjährigen Krieg (1618-1648). Als Katalysator der Formierung souveräner Staaten war die Reformation die wohl wichtigste Schubkraft im Prozess der Trennung von Religion und Politik und der Entstehung des europäischen Staatensystems, das im Westfälischen Frieden von1648 seine für Jahrhunderte gültige Form und Gestalt fand. Durch Konzentration und Zentralisation der politischen Entscheidungs- und herrschaftlichen Zwangsgewalt – in Händen von absoluten Monarchen oder Parlamenten – entstand der nach innen wie außen souveräne, aus ständischer Herrschaft gelöste, durch Bürokratie und stehendes Heer institutionell konsolidierte Staat, der auf einem fest umgrenzten Territorium das „Monopol legitimen physischen Zwanges“ bzw. der „Gewaltsamkeit“ behauptet,4 mit Hilfe von Polizei und Verwaltung den innerstaatlichen Frieden sichert und seine Beziehungen zu anderen Staaten in Krieg und Frieden rechtlich regelt, ohne eine übergeordnete Entscheidungsund Befehlsinstanz zu akzeptieren. Die klassische Begründung des modernen, rechtlich unbeschränkten Staates entwickelte Thomas Hobbes (1588-1679), der ihn auf den Vertrag eines jeden mit einem jeden zurückführte, durch den der Naturzustand beendet wird – der Krieg eines jeden mit einem jeden. Hobbes‘ Leviathan (1651) wurde zum Ausgangs- und kritischen Bezugspunkt aller folgenden Staatstheorien, die um die Frage nach der konkreten Staatsform (Monarchie oder Republik, Aristokratie oder Demokratie) und der Rechte und Grenzen des Staates kreisten. In ihrer kontroversen Diskussion reflektiert sich die moderne Transformation vom absolutistischen Fürsten- zum gewaltenteiligen Verfassungsstaat, vom monarchischen Macht- zum bürgerlichen Rechtsstaat, vom Stände- zum Repräsentativstaat und zur parlamentarischen Demokratie sowie schließlich vom liberalen Nachtwächter- zum Interventions-, Sozial- und Wohlfahrtsstaat. Der Demokratiebegriff behielt dabei lange den negativen Klang, den ihm einst Platon und Aristoteles eingelegt und abgelauscht hatten. Noch Marsilius von Padua, der für eine gemäßigte Demokratie votierte und die Partizipation der Bürger stärken wollte, verstand Demokratie im Anschluss an Aristoteles als Herrschaft des Pöbels (I,8,3).
Der erste Denker, der einen eindeutig positiv konnotierten Demokratiebegriff entwickelte, war Baruch de Spinoza (1632-1677), der ihn aus einer systematischen Kritik am Leviathan des Thomas Hobbes gewann. Spinoza folgt im Theologisch-politischen Traktat (TTP) von 1670 weitgehend den Hobbes’schen Vorgaben – vom Menschenbild über die Vertragstheorie bis hin zur Staatstheorie –, diskutiert aber alle relevanten Probleme stets im Hinblick auf die demokratische Regierungsform, die ihm als die natürlichste von allen galt, weil in ihr niemand sein Recht derart auf einen anderen überträgt, dass er selbst fortan nicht mehr zu Rate gezogen werden müsste – vielmehr überträgt er es auf „die Mehrheit der gesamten Gesellschaft, von der er selbst ein Teil ist. Auf diese Weise bleiben alle gleich, wie sie es vorher im Naturzustand waren“ (TTP, XVI, 240). Spinoza radikalisiert die Hobbes’sche Forderung nach Glaubens- und Gewissensfreiheit und betont nicht nur die Freiheit des Denkens und Fühlens im Inneren des Bürgers, sondern begründet auch dessen Recht auf Meinungsäußerung nach außen (TTP, XX, 301-307), auf Kritik und freie Wahl der Religion. Er aktualisiert damit den Gedanken der religiösen Toleranz, der bereits im Kontext der Hugenottenkriege in Frankreich von Jean Bodin und in der Englischen Revolution von den Levellers vertreten wurde.
Der Theoretiker der entstehenden bürgerlichen Gesellschaft, der Klassiker des Liberalismus und des britischen Konstitutionalismus war John Locke (1632-1704). Nach Hobbes‘ grandioser Ermächtigung hielt er es nun für geboten, den Staat in seine Schranken zu weisen. Der Emanzipation der Politik von der Religion sollte die Emanzipation der Ökonomie von der Politik folgen. Die ökonomischen Beziehungen waren dem Zugriff der Obrigkeit zu entziehen, die bürgerliche Gesellschaft sollte aus dem Staatsleben freigesetzt, der Merkantilismus durch ein System der Handelsfreiheit abgelöst werden. Der Staat sollte nur so viel Macht haben, wie nötig ist, um Leben und Privateigentum der Einzelnen vor Übergriffen zu schützen und sollte selbst nicht in die Eigentumsordnung eingreifen dürfen. Darüber hinaus begründete Locke die Gewaltenteilung zwischen Krone und Parlament, wie sie in der Bill of Rights (1689) festgelegt wurde. Hatte Hobbes das seit Jahrhunderten währende Machtgerangel zwischen beiden als eine Hauptursache von Bürgerkrieg und Unfrieden ausgemacht, so sollte es nunmehr – durch Regeln gebändigt – auf Dauer gestellt werden und Grundprinzip der Verfassung sein. Der König sollte die Außenpolitik, das Parlament die Innenpolitik bestimmen, wobei der König als king in parliament auch im Innern eine bedeutende Rolle spielt. Es ging somit (noch) nicht um die Trennung von Legislative, Exekutive und Judikative, sondern um Teilung und Balance der Staatsgewalt zwischen Krone und Parlament.
Die Prinzipien der Gewaltenteilung und der rechtlichen Begrenzung der Staatsgewalt wurden von Charles de Montesquieu (1689-1755) präzisiert. In seinem großen Werk Vom Geist der Gesetze (1748) konnte er zeigen, dass die Gesetze keine Diktate irgendwelcher Souveräne, sondern historisch erwirkte Festlegungen sind, die in einer Vielzahl gewachsener Gegebenheiten wurzeln. Sie sind abhängig vom Gesamtzusammenhang der jeweiligen natürlichen, sozialen, ökonomischen, religiösen, politischen, klimatischen und sonstigen Bedingungen und entspringen den konkreten Lebensverhältnissen, Gewohnheiten und Sitten, die nicht zur Disposition des Souveräns stehen. Als Grundvoraussetzung der Freiheit erschien Montesquieu die strikte Trennung von Legislative, Exekutive und Judikative, wobei die exekutive Befugnis in den Händen des Königs läge, die Gesetzgebung aber Sache gewählter Repräsentanten ist. Der Autor konnte sich auf eine mehr als 50-jährige Praxis der Gewaltenbalance in England beziehen, die ihm als vorbildlich und als beste aller damals bestehenden Ordnungen galt (11. Buch, 6. Kap.). Der englische Parlamentarismus schien die ideale Verkörperung der Republik zu sein, weil hier die besten Köpfe des Volkes – ohne Bindung an ihre Wähler durch ein imperatives Mandat – durch gemeinsame Beratung das Für und Wider der Entscheidungen erörtern und durch Abwägung der theoretischen und praktischen Alternativen das Gemeinwohl sowie die Wege zu seiner Verwirklichung ermitteln.
Der Klassiker der modernen Demokratietheorie ist Jean-Jacques Rousseau (1712-1778). Er verschärfte die Hobbes-Kritik Spinozas und präzisierte den Gedanken der Volkssouveränität. Alle Befugnisse und Kompetenzen der Regenten leiten sich demnach her vom Willen des Volkes, den zu vollstrecken ihre Pflicht und Aufgabe ist. Während Montesquieu den englischen Parlamentarismus als wohlgelungene Ordnung rühmte, erblickte Rousseau in ihm eine Illusion. Er sah in den englischen Repräsentanten nicht uneigennützige Vertreter des Volkes, sondern eine volksabgehobene und volksfeindliche Clique von machtgierigen und korrupten Egoisten, die sich um das Gemeinwohl nicht scheren und sich stattdessen auf Kosten des Volkes bereichern. Deshalb suchte er nach einer alternativen Form der politischen Organisation und fand diese in der Demokratie, die seinerzeit – wie schon in der Antike – immer als direkte oder unmittelbare Demokratie verstanden wurde und daher zum Staat im Gegensatz stand. Der Ausdruck „direkte Demokratie“ wäre Rousseau und allen Denkern bis zur Französischen Revolution als Pleonasmus erschienen. In dem später geprägten Begriff „repräsentative Demokratie“ hätten sie eine contradictio in adjecto erblickt, da in ihren Augen Stellvertretung und Demokratie einander ausschließen. Der allgemeine Volkswille, die volonté générale, schreibt Rousseau im Contrat Social (1762), könne nicht von Stellvertretern „repräsentiert“ werden, sondern nur von der Gesamtheit der Bürger. Einzelne