В том же году король начал готовиться к поездке в Рим. В Аахене в качестве монарха Восточно-Франкского государства был коронован 7-летний сын Оттона (тоже Оттон). В следующем году Оттон Великий отправился за Альпы. Он быстро расправился с противником папы в Северной Италии правителем Ломбардии Беренгаром и вошел в Вечный город. В воскресенье, 2 февраля 962 г. впервые с 924 г. папа возложил на голову короля императорскую корону. Этот год считается датой основания Священной Римской империи, которая просуществовала до эпохи Наполеона (до 1806 г.). К моменту своего образования Священная Римская империя включала в себя германские, итальянские и чешские земли, а также Нидерланды и ряд других территорий. Словосочетание «Римская империя» как название государства стало использоваться с середины X в., а впервые было официально употреблено в 1034 г. при Конраде II. «Священная империя» встречается в документах императора Фридриха I Барбароссы начиная с 1157 г. С 1254 г. в источниках закрепилось полное обозначение «Священная Римская империя», а с 1442 г. к нему добавляются слова «немецкой нации», их добавили, чтобы отличить собственно немецкие земли от «Римской империи» в целом.
Папа и римская знать поклялись, что никогда не будут поддерживать врагов императора. Тот, в свою очередь, гарантировал папе неприкосновенность папского государства и даже несколько расширил его территорию. Многие земли в Италии Оттон, как и у себя на родине, раздал епископам. Таким образом закреплялось положение, при котором духовники напрямую зависели от светских правителей. К тому же власть папы в самой Италии подрывалась наличием куда более сильного правителя.
Иоанн очень быстро осознал чрезвычайную зависимость от императора и предал своего покровителя. Пока Оттон был в Германии, понтифик вошел в переговоры с Беренгаром, подстрекал к выступлениям венгров, византийцев и даже сарацин. Уже в ноябре 963 г. Оттон опять появился на Апеннинском полуострове, его войска вели бои с войсками папы, в результате поражения своих войск Иоанн бежал, а Оттон в Риме потребовал от избирателей присяги, что ни один папа более не будет назначен без согласования с императором. Специально созванный им собор осудил действия Иоанна, а новым главой кафедры Св. Петра был избран ставленник Оттона Лев VIII. Этот человек за один день прошел всю церковную иерархическую лестницу от низшего сана священника до «наместника Бога на земле». Однако вскоре после того как император покинул Рим, там вспыхнул бунт и в город вернулся Иоанн, Лев был низложен, новый старый папа жестоко расправился со всеми епископами, которые предали его. Но и у Оттона нашлись в Риме свои люди, они организовали заговор – и человек, возложивший на голову германского короля императорскую корону, умер при загадочных обстоятельствах