Спустя десять лет теперь уже Седекия предпринял попытку отложиться от Вавилона. В ответ на это Навуходоносор II во главе своего войска вновь двинулся на Иерусалим. После полутора лет осады вавилоняне ворвались в город. Царю Седекии с приближёнными удалось бежать, однако его схватили возле Иерихона и привели к Навуходоносору. Сыновей Седекии казнили у него на глазах, после чего его самого ослепили и в цепях отвели в Вавилон. По приказу вавилонского царя Иерусалим был сожжён, а его стены разрушены. На месте Иудейского царства в 586 г. до н.э. возникла вавилонская провинция Иудея с административным центром в городе Мицпа в колене Вениаминовом (вероятно, нынешний Тель-эн-Насбе в 12 км к северу от Иерусалима). Религиозным центром этой провинции стал храм в Вефиле.
В 539 г. до н. э. Вавилон завоевал персидский царь Кир Великий. Евреям было разрешено вернуться в Иудею. Первую волну вернувшихся возглавили Иисус, внук великого жреца Сераии, и Зоровавель, внук царя Иехонии. Строительство нового храма в Иерусалиме было завершено в 516 г. до н. э. После этого храм в Вефиле исчезает со страниц истории. Последний раз он упоминается в 518 г. до н.э., когда его посланцы приходили в Иерусалим с вопросом к жрецам и пророкам о посте (Зах. 7, 2—3). Однако административная столица Иудеи по-прежнему находилась в Мицпе, где пребывал персидский губернатор (арам. paḥa). Положение изменилось в середине V в. до н.э., когда, по всей видимости, в связи с восстанием в Египте и мятежом сатрапа Заречья Мегабиза персидские власти приняли решение об укреплении Иерусалима.
Согласно еврейскому преданию, персидский царь Артаксеркс I (465—424) направил своего придворного, еврея Неемию, в Иерусалим с заданием восстановить его стены, разрушенные вавилонянами в 586 г. до н. э. После того, как стены были восстановлены, Иерусалим стал царской крепостью с гарнизоном (арам. birta), в него также из Мицпы была переведена провинциальная администрация Иудеи. Помимо Неемии, Артаксеркс послал в Иерусалим выходца из жреческого рода Ездру с заданием: «Ты же, Ездра, по премудрости бога твоего, которая в руке твоей, поставь чиновников и судей, чтобы они судили весь народ за рекою, всех знающих законы бога твоего, а кто не знает, тех научите» (Езд. 7, 25). Подобного рода действия были бы невозможны без письменной фиксации и кодификации «законов бога», которые с этого момента вводились на территории персидской провинции Иудеи.
После того, как восстановление стен Иерусалима было завершено, «…собрался весь народ, как один человек, на площадь, которая перед Водяными воротами, и сказали писцу Ездре, чтобы он принёс книгу закона (tora) Моисеева, который заповедал Яхве Израилю. И принёс жрец Ездра закон (tora) перед собрание мужчин и женщин, и всех, которые