Für die »Zeloten« (»Eiferer«) und weitere nationalistische Widerstandsgruppen war die Freiheit Israels von eschatologischer Bedeutung. Ihre Motive setzten sich aus religiösen und sozialen Impulsen zusammen, dem Streben nach politischer Freiheit und endzeitlicher Erlösung. Ziele der jüdischen Widerstandsbewegung gegen Rom waren die konsequente Verteidigung des Königtums Gottes gegenüber dem römischen Kaiserkult bzw. die Forderung nach einer eindeutigen Entscheidung zwischen Kaiserkult und Gottesherrschaft. Alle Herrschaftsansprüche der durch den römischen Kaiser und seine Exponenten verkörperten, heidnischen Weltmacht wurden von den Zeloten kategorisch ausgeschlossen. Für sie war die Freiheit Israels eschatologisch begründet. Die Zeloten strebten nach einer Restitution der Verhältnisse bzw. der toragemäßen, theokratischen Ordnung der idealen Vorzeit Israels.
Die angespannte Situation in Jerusalem spitzte sich rasch zu; die religiös und vor allem sozial motivierten jüdischen Unabhängigkeitsbestrebungen mündeten in den offenen Aufstand gegen Rom (66). Sie fanden ihr vorläufiges Ende mit der Belagerung und Einnahme Jerusalems und der Zerstörung der Tempelanlagen durch den römischen Feldherrn Titus (70).
Im Jahre 70 schlug eine gewaltige römische Übermacht den jüdischen Aufstand nieder und nahm Jerusalem ein. Große Teile der Stadt waren nach der römischen Eroberung verwüstet, ihr prächtiger Tempel zerstört, der Hauptteil ihrer Bevölkerung tot, versklavt oder geflohen. Die wenigen Juden, die in Jerusalem geblieben waren, mussten mitansehen, wie nun römische Soldaten, Veteranen und fremde Siedler einzogen, um hier zu leben. Die Bewohner der Stadt wurden zu harten Zwangsdiensten verpflichtet und mussten hohe Abgaben leisten. Die jüdischen Kleinbauern wurden enteignet und zu Pächtern auf römischem Grund. Judäa war nun einem römischen Statthalter unmittelbar unterstellt. Das Jerusalemer Heiligtum, der wichtigste Anknüpfungspunkt für das religiöse Selbstverständnis und für die Lebensgestaltung der jüdischen Mehrheit und sämtlicher jüdischer Sekten, war zerstört. Das Opfer im Tempel war nunmehr unmöglich. Das Judentum war fortan zum Verzicht auf alle diejenigen Formen der Religiosität genötigt, die nur im Jerusalemer Tempel gepflegt werden konnten.
Die überlebenden Priester, Leviten und Tempelbeamten waren nach der Tempelzerstörung ohne Amt, ohne kultische Funktion und ohne öffentliche Macht, wenn auch ihr Landbesitz und der relative Wohlstand ihrer aristokratischen Oberschicht nicht unmittelbar von den Umwälzungen, d. h. von der wirtschaftlichen Notlage betroffen waren. Ein Teil der Priesterschaft versuchte neben der aufstrebenden jüdischen Laiengelehrsamkeit, verkörpert vor allem durch die pharisäische Bewegung, als konsolidierte Gemeinschaft fortzubestehen. Man versuchte, die für Priester geltenden besonderen Gebote und kultischen Anordnungen weiterhin zu bewahren, um dadurch eine besondere gesellschaftliche Funktion im Bereich der Rechtsprechung zu erlangen. Die den Priestern des Jerusalemer Tempels von der jüdischen Bevölkerung zuvor zuerkannte Kompetenz scheint nicht abrupt an ihr Ende gekommen zu sein. Einige von ihnen betätigten sich fortan als rabbinische Gelehrte (vgl. Kap. 2, Exkurs: Der Rabbiner). War Jerusalem bis dahin das alleinige religiöse und politische Zentrum des palästinischen Judentums gewesen, so entstand nun in Jabne, einer kleinen Stadt in der Küstenebene südlich vom heutigen Tel Aviv, unter der Leitung von Priestern und schriftgelehrten Laien ein rabbinisches Lehrhaus. Diese rabbinischen Gelehrten zogen unter römischer Duldung bald Aufgaben der früher in Jerusalem angesiedelten jüdischen Selbstverwaltung an sich. In den Texten, die sie der Nachwelt hinterließen und die für das spätere Judentum maßgebliche Geltung erlangten, ist von Jerusalem und seinem Tempel nur selten die Rede. Dies dürfte daran liegen, dass man in Jabne das Studium der Tora (vgl. Kap. 2, Die Tora) an die Stelle des Tempelopfers (vgl. Kap. 1, Exkurs: Tempel und Tempelopfer) gesetzt hatte und ihm eine vergleichbare religiöse Bedeutung beimaß.
Nur wenige Jahrzehnte nach der Zerstörung des Jerusalemer Tempels schlug der wirtschaftliche Niedergang des Landes in eine Krise der gesellschaftlichen Ordnung um. In und um Jerusalem flackerte erneut gewaltsamer Widerstand gegen Rom auf. Der Beschluss des Kaisers Hadrian (117–138), auf den Trümmern der Stadt die römische Metropole Colonia Aelia Capitolina zu errichten (132), stieß auf den Widerstand radikaler Kreise um Simon ben Koseba (Bar Kochba). Er und seine Anhänger bewaffneten sich. Ein großer Teil der verarmten jüdischen Bevölkerung schloss sich ihnen an. Der römische Legionsstandort Jerusalem wurde rasch zum Zentrum dieser jüdischen Aufstandsbewegung. Auch der improvisierte Opferbetrieb auf dem Tempelplatz wurde von den jüdischen Rebellen nach dem Rückzug der Römer offenbar wieder aufgenommen. Nach der Niederschlagung der Erhebung durch eine gewaltige römische Übermacht wurde die Stadt in ein heidnisches Kultzentrum mit einem Jupiterheiligtum auf dem nahezu eingeebneten Tempelareal umgewandelt. Für Sieger und Besiegte war dies ein Symbol der völligen Unterwerfung des jüdischen Aufstandes und des Triumphs der überlegenen Weltmacht. Rom betrieb nun die totale Paganisierung Jerusalems. Ein kaiserliches Dekret verbot allen Beschnittenen bei Todesstrafe das Betreten der Stadt. Juden war das Betreten des Tempelbezirks und großer Teile der Stadt somit offiziell untersagt. Das Verbot, als Jude in Jerusalem zu wohnen, bedeutete für die Stadt den Verlust ihrer vormaligen identitätstiftenden Bedeutung als zentraler Ort der Versammlung und des gemeinsamen religiösen Lebens.
Der Zerstörung des Jerusalemer Tempels wurde im Judentum bald an einem jährlichen Tag der Trauer gedacht, dessen feierliche Begehung – späterhin am 9. Av (vgl. Kap. 3, Der 9. Av) – das bedrohte Gemeinschaftsgefühl immer wieder stärkte, Juden in allen Ländern verband und solidarisierte. Unter den Nachfolgern Hadrians entspannte sich die Lage wieder. In der Institutio Antoniniana gewährte Kaiser Caracalla (198–217) fast allen Provinzbewohnern, und damit auch allen Juden in Palästina, die römischen Bürgerrechte und Bürgerpflichten (212). Sie durften nun gleichberechtigt im römischen Militär dienen, mussten aber auch – mitunter kostspielige – kommunale Verwaltungsposten bekleiden. Die ersten jüdischen Jerusalempilger kehrten im dritten Jahrhundert in die verwüstete Stadt zurück.
Nach dem Zusammenbruch des Widerstandes gegen die Römer und der Tempelzerstörung im Jahre 70, endgültig nach dem Bar-Kochba-Aufstand in den Jahren 132–135, war jedoch Galiläa zum Kernland des palästinischen Judentums geworden. Die prekären Lebensbedingungen im zeitgenössischen Judäa, dessen agrikulturelle Infrastruktur weitgehend zerstört worden war und wo von den Römern zahlreiche Veteranen, Syrer und Araber angesiedelt wurden, kommen allein darin zum Ausdruck, dass nach 135 zahlreiche jüdische Ortschaften Judäas überhaupt nicht mehr erwähnt werden. Es kam zu einer starken Abwanderung der überlebenden jüdischen Bevölkerung in die Länder der Diaspora, vor allem in das benachbarte Syrien und nach Babylonien. Manche folgten den römischen Legionen oder kamen auf den Fernhandelsstraßen des Imperium Romanum bis an die Ränder des römischen Reichs. Das jüdische Leben in Judäa, dem vormaligen geistigen und wirtschaftlichen Zentrum des Judentums, war im zweiten Jahrhundert nahezu erloschen. In Galiläa hingegen, dem nördlichen Teil der römischen Provinz Syria Palaestina, existierten zu dieser Zeit nicht nur mit Sepphoris und Tiberias zwei mehrheitlich von Juden bewohnte Städte, sondern auch eine sesshafte jüdische Landbevölkerung. Dieses galiläische Judentum war zahlenmäßig zwar relativ klein, aber im zweiten Jahrhundert fraglos der bestimmende Faktor im palästinischen Judentum.
Als Ansprechpartner Roms boten sich in dieser Zeit die rabbinischen Schülerkreise an, um die Verwaltung der problematischen Provinz zu organisieren und zu erleichtern. Die Gelehrten in Uscha boten aus der Perspektive Roms das Modell eines durchschaubar organisierten jüdischen Gemeinwesens ohne Tempel und ohne bedrohliche politische Ambitionen. Nach 138 erreicht das Patriarchat sukzessive die Stellung eines offiziellen Repräsentanten der gesamten Judenschaft im römischen Reich. Die Stellung des Patriarchen als Vertreter der eingeschränkt autonomen jüdischen Volksgruppe in Palästina entsprach rechtlich der Stellung eines Vasallenkönigs. Nahezu drei Jahrhunderte sicherte das Patriarchat den Frieden im Land und verhinderte Aufstände gegen Rom. Zu Beginn des 5. Jahrhunderts erlosch das Amt des Patriarchen für immer.
Nach dem Bar-Kochba-Aufstand trat Rabbi Schimon ben Gamliel als Patriarch bzw. »Nasi« (»Fürst«) an die Spitze des Rabbinats. Er erfuhr nicht nur breite Anerkennung im jüdischen Volk, sondern