Сразу же после завоевания Северной Африки началось строительство системы пограничных укреплений. Обычная численность армии, которую удавалось собирать для крупных военных кампаний, не превышала 25–50 тысяч человек, поэтому оборонительное строительство было совершенно оправданно. Оно позволяло защищать границу небольшими гарнизонами. Крепости и укрепления становились убежищами для местного населения, также включавшегося в оборону. Благодаря этой системе Византия могла иметь сравнительно небольшую мобильную армию. Обычно вооруженные конфликты заканчивались переговорами, компромиссом и выплатами.
В Остготском королевстве разгром вандалов оживил провизантийские силы, что привело к ответной консолидации остготской военной верхушки. Византийцы, воспользовавшись убийством своей сторонницы, королевы Амаласунты (дочери Теодориха), начали военные действия. В 534 году полководец Велисарий высадился в Сицилии. В течение нескольких месяцев эта житница Италии была очищена от остготов. Велисарий переправился в Италию и уже в 536 году вступил в Рим. Казалось, и здесь все предвещало легкую победу, когда в Северной Африке развернулось мощное антивизантийское движение, подавление которого потребовало значительных сил и средств. И все-таки в 540 году Велисарий вступил в столицу готов Равенну. Византийская столица отмечала новый триумф. Почти вся Италия оказалась под властью Византии.
В это время, воспользовавшись тем, что силы Византии были отвлечены на западе, разорвав «вечный мир», против нее неожиданно выступила Персия. Царь Хосров с огромной армией вторгся в восточные провинции, овладел столицей римско-византийского востока – Антиохией и вышел к Средиземному морю. Третий по значению и численности населения город империи был разрушен, а его жители частично перебиты, частично уведены в Иран. В 541 году произошло новое вторжение в Месопотамию; шла упорная борьба на Кавказе. Началась изнурительная война, в ходе которой было существенно подорвано благополучие богатейших восточных провинций. Велисария пришлось спешно перебросить на восток.
Получив передышку, остатки разгромленных остготов сплотились вокруг нового короля Тотилы, способного полководца и умного политика. За короткое время ему удалось изгнать византийцев с большей части территории Италии. В дополнение ко всем трудностям, которые переживала Византия в 542 году, с Востока пришла страшная эпидемия чумы, обходившая стороной Средиземное море по крайней мере на протяжении четырех столетий. Она унесла не менее 40 процентов населения столицы империи. Пострадало множество городов и областей. Византия надолго была обессилена экономически.
Римские землевладельцы и духовенство продолжали поддерживать Юстиниана. Папа Вигилий умолял его довести до конца неудачно начатую кампанию в Италии. В начале 550-х годов византийцам, с немалым напряжением сил,