Die Verbindung des babylonischen Judentums mit Jerusalem war stets weitaus enger als die Beziehung zwischen der alexandrinischen Diaspora (»Zerstreuung«) und dem Tempelstaat. Nach dem jüdischen Krieg und ebenso nach dem Bar-Kochba-Aufstand (vgl. Kap. 1, Exkurs: Qumran) kamen zahlreiche Flüchtlinge aus Palästina nach Babylonien. Das Aramäisch sprechende babylonische Judentum konnte über die Jahrhunderte eine eigenständige religiöse und kulturelle Tradition entwickeln, die in der im Zweistromland zwischen Euphrat und Tigris entstandenen reichen rabbinischen Literatur, insbesondere im babylonischen Talmud (vgl. Kap. 2, Die Talmudim), erhalten ist.
Das Mutterland
Im Jahre 587/586 v. Chr. kam es zur endgültigen Einnahme der Stadt Jerusalem durch Nebukadnezzar II. Jerusalem, das einstige politische Zentrum des judäischen Staates, und der salomonische Tempel, der uneinnehmbar geglaubte befestigte Wohnsitz Gottes, waren von den Babyloniern nahezu vollständig zerstört worden. Der mächtig geglaubte Gottesberg Zion war nur noch ein Schutthügel in einer verwüsteten und entvölkerten, machtlosen und politisch abhängigen kleinen Stadt. Allerdings gab es in Jerusalem auch in den Jahrzehnten nach der Deportation des Großteils der Priesterschaft wahrscheinlich noch einen bescheidenen Opferbetrieb.
Nach dem Sieg des Kyros II. (601–530 v. Chr.) über die Neubabylonier wurde Judäa unselbständiger Teil einer persischen Provinz. Schon im darauffolgenden Jahr wurden der regelmäßige Opfergottesdienst und der Wiederaufbau des Heiligtums in Jerusalem durch ein königliches Dekret wieder gestattet. Diese Maßnahmen der Perser, die hierdurch das Problem der Kontrolle ihres weiten Herrschaftsraums zu lösen trachteten, beabsichtigten die Schaffung eines organisatorischen und räumlichen Zentrums der regionalen Verwaltung, das vor allem dem effizienten Eintreiben von Steuern und Tributen zugute kommen sollte. Sie trugen aber auch zur Förderung der ethnischen und religiösen Identität der jüdischen Stadtbevölkerung Jerusalems bei.
Unter den Bewohnern Jerusalems scheint das Bedürfnis nach einem Wiederaufbau des Tempels angesichts des allgegenwärtigen Elends zunächst gering gewesen zu sein. Dennoch propagierten priesterliche und prophetische Kreise die Notwendigkeit, das irdische Kultzentrum wieder herzurichten. Dieser Ort der rituellen Entsühnung des judäischen Volkes durch Opfer verhinderte ihrer Überzeugung nach die Anhäufung ungesühnter Schuld bzw. die hierdurch bewirkte Anballung unheilvoller Macht. Die Wiederherstellung des Jerusalemer Tempels sei unbedingte Voraussetzung allen von hier aus in die Welt strömenden Segens. Die Botschaft der Propheten Haggai und Sacharja, die diesen Gedanken Ausdruck verlieh, indem sie den Tempel als Quelle paradiesischen Heils schilderten, fand ihren Widerhall in der Hoffnung eines Teiles der Bewohner Jerusalems. Man glaubte, allein das baldige wunderbare Eingreifen Gottes selbst könne einerseits die überlebensnotwendige Fruchtbarkeit des Landes bewirken, andererseits der Stadt zu ihrer einstigen nationalen Bedeutung und Macht verhelfen und damit auch jeden Einzelnen aus seiner aktuellen Notsituation befreien.
Erst im Jahre 515 v. Chr. fand die Einweihung des mit persischer Unterstützung errichteten Zweiten Tempels in Jerusalem statt. Die in den folgenden Jahrhunderten mehrfach umgebaute und erweiterte Tempelanlage wurde nach dem Vorbild auf dem Fundament und nach den Maßen des zerstörten salomonischen Tempels errichtet, jedoch in weitaus bescheidenerem Rahmen als dieser. Ihre architektonische Grundstruktur unterteilte das Tempelgelände in verschiedene Bereiche abgestufter Heiligkeit, die als aufeinanderfolgende Höfe und Räume gleichsam konzentrischer Kreise das Allerheiligste als ideales Zentrum der göttlichen Sphäre umgaben und deren Betreten eine entsprechend abgestufte rituelle Reinheit (vgl. Kap. 3, Speise- und Reinheitsgebote) erforderte.
Vor allem das nach dem Ende des davidischen Königtums entstandene Machtvakuum in Judäa trug zu einem raschen Anstieg von Macht und Einfluss der Jerusalemer Priesterschaft bei. Als einzige auch in der Krisenzeit des babylonischen Exils noch organisierte und verfasste gesellschaftliche Gruppe trat sie gegenüber dem eigenen Volk und gegenüber den persischen Behörden zunehmend als Repräsentantin der Allgemeinheit auf. Man kann annehmen, dass die meisten dieser Priesterfamilien aus Babylonien kamen. Ihre Ansiedlung in Judäa wurde von den Persern, die so eine lokale Führungsschicht in der fernen Provinz zu installieren beabsichtigten, tatkräftig unterstützt. Es ist zu beachten, dass die aus dem Exil im babylonischen Kernland zurückgekehrten politischen und religiösen Funktionsträger hierdurch auch eine besondere ideelle Position in der judäischen Bevölkerung erlangten. Sie stellten nun wieder das Kultpersonal des Tempels unter der Führung der hohenpriesterlichen Dynastie mit eigenen, durch die bauliche Strukturierung des Tempelraums auch architektonisch gekennzeichneten Monopolbereichen. Ihre besondere Position ermöglichte es den Priestern bald, als die einzigen legitimen Hüter des religiösen und nationalen Erbes aufzutreten. Ungeachtet der Tatsache, dass die Bevölkerung Judäas und Jerusalems nun keine territoriale und staatliche Einheit mehr besaß, wuchs ihr Einfluss auf die bei der Wegführung im Land verbliebenen Judäer, die mittlerweile zugewanderten, ehemaligen Nordreichbewohner im Land und die jüdischen Gemeinden in der gesamten Diaspora.
Unter dem Statthalter Nehemia (ca. 445–433 v. Chr.) wurde Jerusalem die ummauerte und wieder von ca. 1200 bis 1500 Menschen besiedelte Hauptstadt der kleinen und armen, jedoch aufgrund des Verlaufs der wichtigen Fernhandelsstraßen wirtschaftlich äußerst wichtigen Provinz Jehud im Südwesten des Perserreiches zwischen Mittelmeer und Antilibanon. Dem Jerusalemer Tempel kam wieder eine hohe Bedeutung als religiöser und nationaler Orientierungspunkt für die jüdischen Bewohner der Provinz zu. Der fortgesetzte Opferkult (vgl. Kap. 1, Exkurs: Tempel und Tempelopfer) und die gemeinschaftlichen Feste im Tempel befriedigten das Bedürfnis vieler dieser Menschen nach Absicherung vor der drohenden Gefahr einer möglichen Wiederholung der erlebten nationalen Katastrophe. Schon allein aus diesem Grund finanzierte auch die jüdische Bevölkerung durch ihre Abgaben in Form von Geld und Naturalien den laufenden Kultbetrieb, notwendige Baumaßnahmen und auch den Unterhalt der Priester und Tempelbeamten.
Bereits im 5. Jahrhundert v. Chr. hatte sich auf dem Gebiet des ehemaligen Nordreichs Israel die samaritanische Religionsgemeinschaft als eine jüdische priesterliche Sondergruppe gebildet. Als strikte Jahweverehrer, die wohl nur das Kultmonopol Jerusalems ablehnten, errichteten die dissidenten Priester zur Zeit Alexanders des Großen (356–323 v. Chr.) auf dem Berg Garizim ein separates Kultzentrum mit eigenem Opferbetrieb gemäß den Bestimmungen der Tora. Der bei Sichem (dem heutigen Nablus) gelegene Garizim gilt den Samaritanern, von denen es gegenwärtig nur noch wenige Hundert gibt, bis heute als kultischer Mittelpunkt.
Durch die Zerstörung Sichems und des Tempels auf dem Garizim im Jahre 129 v. Chr. waren die Samaritaner genötigt, die Legitimation der eigenen Religionsgemeinschaft neu zu begründen und zu legitimieren. Es kam zur Fixierung einer besonderen samaritanischen Verständnistradition der Tora mit einer eigenständigen Schrifttradition. Im jüdischen Krieg (vgl. Kap. 1, Exkurs: Qumran) nahezu ausgerottet, kämpfte die kleine samaritanische Religionsgemeinschaft in den folgenden Jahrhunderten ums Überleben. Der Kultbetrieb auf dem Garizim kam jedoch bis heute nie gänzlich zum Erliegen.
Der Jerusalemer Tempel selbst übernahm neben seinen religiösen Aufgaben immer mehr politische und – z. B. als Bank – eine Reihe wirtschaftlicher Funktionen. Ebenso mündete die politische, gesellschaftliche und religiöse Entwicklung innerhalb des Judentums in einen immensen Machtzuwachs der priesterlichen Aristokratie. Die Bedeutungsfunktionen des Jerusalemer Heiligtums als eines kosmischen und gesellschaftlichen Zentrums verschmolzen zu einer Einheit. Für die priesterliche Oberschicht stellte der Tempel nun quasi die eigene Existenzgrundlage dar. Jedoch standen die Pläne und Interessen dieser Priester zunehmend im Widerspruch zu denen der bäuerlichen Bevölkerungsmehrheit.
Mit der Eroberung Syriens durch Alexander den Großen (332 v. Chr.) geriet Jerusalem endgültig in den unmittelbaren Einflussbereich des makedonischen Großreiches und der hellenistischen Einheitskultur. Auch den neuen Machthabern