После Рудольфа императорскую корону какое-то время носил его сын Альбрехт I, но, когда этот жесткий и агрессивный монарх был убит, курфюрсты предпочли кандидата из другого знатного рода. Это дало Габсбургам возможность заняться укреплением и расширением альпийских владений. Вскоре под контроль Австрийского дома перешли многие горные перевалы в Альпах, важные для торговли между Германией и Италией, Тироль и Каринтия, Крайна и Горица (области в современной Словении), а также некоторые территории на нынешнем северо-востоке Италии. К XV веку возникла база для нового выдвижения Габсбургов на передний план европейской политики.
В это время большую часть родовых австрийских земель объединил под своей властью герцог Альбрехт V (позднее, как римско-германский император, – Альбрехт II). Этого воинственного и набожного правителя избрал союзником тогдашний император Сигизмунд из Люксембургской династии, прозванный Рыжим Лисом. У Сигизмунда не было сыновей, и, выдав за австрийца единственную дочь, старый император стал готовить зятя к роли преемника. В 1437 году, после смерти Сигизмунда, Альбрехт II действительно стал императором, а вдобавок еще и венгерским и чешским королем (эти государства были тогда выборными монархиями, короля избирали представители сословий). Так впервые возник призрак центральноевропейской империи Габсбургов – но ненадолго: два года спустя Альбрехт скончался от дизентерии во время похода против турок, и после ранней смерти его сына Ладислава чешская и венгерская короны на время уплыли из рук австрийской династии.
Корона Священной Римской империи у Габсбургов, однако, осталась. Ею более полувека владел представитель другой ветви габсбургского рода – Фридрих III, грубоватый нелюдимый человек, увлеченный алхимией и коллекционированием драгоценных камней. Фридрих оказался неважным полководцем (в конце его правления агрессивный венгерский король Матиаш Корвин даже выгнал императора из Вены), зато стал одним из организаторов династического брака, последствия которого принесли Габсбургам невиданное могущество. Сын Фридриха, Максимилиан, женился на первой невесте Европы, наследнице Бургундского герцогства Марии. Герцогам Бургундским принадлежали территории нынешних Бельгии, Голландии, Люксембурга, а также земли на западе Германии и северо-востоке Франции. Этот брак столкнул интересы Максимилиана I, который после смерти отца тоже стал императором