Арабские государства выразили недовольство. Уже 15 мая египетские самолеты бомбили Тель-Авив. Бен-Гуриону пришлось возглавить оборону страны. Но первая израильско-арабская война не затормозила процессов формирования нового государства. На земли Израиля сыпались бомбы, а в стране проходили первые всеобщие выборы в кнессет (парламент). Партия МАПАИ получила наибольшее количество голосов, и Бен-Гуриону было поручено сформировать первое законно избранное правительство. Пост премьер-министра он совместил с постом министра обороны.
После перемирия, заключенного в июле 1949 года, правительство занялось решением законодательных проблем, в том числе законами о переселении евреев и их израильском гражданстве, о всеобщем и бесплатном образовании и другими. В первые же годы независимости Бен-Гурион выдвинул лозунг «мамлахтиют» (государственность), что означало подчинение всякого группового, классового, социального или экономического интереса высшим интересам государства.
Еще в самый разгар войны в страну стали прибывать беженцы из лагерей на Кипре, в Германии, из стран Восточной Европы, Йемена, Ирака, Сирии. Правительство Бен-Гуриона принимало всех, стремясь к скорейшему заселению территорий, освобожденных от арабов. Однако это создало много экономических, социальных и культурных проблем, что в конечном итоге вызвало враждебное отношение к МАПАИ со стороны населения.
В 1953 году Бен-Гурион ушел в отставку, поселился в кибуце Здех-Бокер в пустыне Негев и занялся сельскохозяйственным трудом. Он пас овец и изучал греческий язык, отвечал на сотни писем. Всеми силами и средствами бывший премьер стремился подчеркнуть важность освоения пустынных земель для будущего процветания Израиля. Однако ему недолго пришлось оставаться вне активной политической деятельности.
В 1954 году на границе вновь возросла напряженность с арабами. Бен-Гуриона призвали на пост министра обороны. В ноябре следующего года после выборов он вновь стал премьер-министром, оставив за собой портфель министра обороны. Осенью 1956 года он руководил Синайской кампанией, в результате которой были захвачены Синайский полуостров и сектор Газа. Важным достижением внешней политики премьера стал так называемый «периферийный альянс» с Турцией, Ираном и Эфиопией. Теперь у Израиля появились союзники, пробившие брешь во враждебном кольце арабских стран.
После неудачной попытки в 1959 году изменить закон о выборах Бен-Гурион вступил в конфликт с верхушкой собственной партии МАПАИ, а чуть позже с руководством Гистадрута. В 1961 году он вынужден был уйти в отставку, в августе того же года по результатам выборов вновь возглавил правительство, но в июле 1963 года опять ушел с поста премьера. Некоторое время он продолжал заниматься политической деятельностью в рядах созданной им независимой