Несмотря на природную защищенность, Акрополь еще в древние времена был укреплен стеной, которую называли Пеласгийской. По предположению некоторых ученых, это произошло около 1100 года до нашей эры, когда сюда из Беотии (по другим сведениям – из Сицилии) прибыли пеласги, славящиеся своим искусством возводить стены. Персидский царь Ксеркс, захватив в 480 году до нашей эры Афины, повелел разрушить эти стены, но остатки их сохранились и до настоящего времени.
Превращать Акрополь из крепости в святилище первым стал правитель-тиран Писистрат. При нем на месте царского дворца был возведен Гекатомпедон (стошаговый, стофутовый), посвященный богине Афине. Греки так высоко чтили свою покровительницу, что отпустили на волю всех рабов, участвовавших в строительстве этого храма. В 479 году до нашей эры Гекатомпедон разрушили персы во время краткой оккупации Афин, но остатки фундамента этого храма и сейчас видны рядом с Эрехтейоном.
После изгнания Писистратов на Акрополе уже вовсе не было жилых домов, только храмы, жертвенники и статуи. При храмах жили жрецы и жрицы со своими помощниками и служителями.
Захват персами Акрополя, считавшегося неприступным, очень обеспокоил греков, и после их изгнания они начали большие работы по его укреплению. Афинянам пришлось не только восстанавливать укрепления, но и заново возводить почти все храмы. Была расширена площадка на вершине холма, при восстановлении Пеласгийской стены прежняя ее линия была значительно раздвинута, в особенности на север и северо-запад, так что часть долины, простиравшейся между холмами, присоединилась к древней крепости. В пространство между старыми и новыми стенами засыпали развалины храмов, остатки зданий и разбитые скульптуры. При этом древние авторы отмечали, что фрагменты старых храмов и обломки посвященных богам статуй были захоронены «с величайшим тщанием, уважением и почестями», чтобы никогда больше вражеская рука не надругалась над древними святынями.
Вероятно, около 460 года до нашей эры из Делоса в Афины была перенесена союзническая казна, а до этого город не имел своего сокровища. Первоначально богатства из касс союзников хранились скорее всего в святилище Афины, выстроенном на северной оконечности Акрополя. Сначала в храме хранились священные предметы спора между Посейдоном и Афиной – олива и трезубец, соединяя, таким образом, культы обоих божеств и знаменуя последовавшее после спора примирение между ними. Но храм сильно пострадал от персов и не мог больше быть надежным местом