История у двукратного победителя Кубка Митропы славная и очень давняя. Клуб был основан в 1898 году, как первый рабочий футбольный клуб Австрии, и больше десяти лет именно так и назывался: «Первый рабочий футбольный клуб Австрии». Под новым названием «Рапид» он стал известен с 1899 года.
Австрия – одна из старейших футбольных стран Европы: австрийский Футбольный союз был основан в 1904 году, в том же году, что и ФИФА. Первый чемпионат страны, пока любительский, состоялся в 1912 году, и первым чемпионом стал именно «Рапид». Развитие австрийского футбола на время приостановила Первая мировая война, зато в 20-е годы в стране, которая называлась теперь Австрийской республикой, футбол стал еще более популярен. В 1924 году здесь был узаконен футбольный профессионализм, в этом Австрия опередила такие страны, как Италия и Испания.
В 20—30-е годы «Рапид» неизменно оставался на первых ролях австрийского футбола, а в 1930 году стал первым австрийским клубом, выигравшим международный трофей – Кубок Митропы. Ведущие игроки клуба входили в сборную Австрии, прославившуюся особой, «ажурной» манерой игры, которую исповедовал Хуго Майзль, руководивший командой.
Тогда во всех странах играли в силовой английской манере с дальними передачами и прямолинейными навесами на ворота, после которых голы забивались ударами головой. Каждый футболист действовал на строго определенной позиции. Майзль же пришел к противоположной идее: футболисты должны перемещаться по полю в неожиданных для противника направлениях, появляясь там, где их не ждут. Направление атаки менялось совершенно непредсказуемым образом. Такая игра, когда футболисты одновременно движутся, заменяя друг друга на разных участках поля и делая короткие передачи, зрителям и в самом деле казалась плетением ажурных кружев.
С этой тонкой, «ажурной» игрой сборная Австрия на чемпионате мира 1934 года дошла до полуфинала, но уступила сборной Италии – 0:1, будущему чемпиону мира. И в такой же манере играл тогда и «Рапид», полузащитник которого Пепе Смистик был капитаном сборной Австрии.
1938 год был особым годом в истории Австрии – страна была присоединена к гитлеровской Германии. Для «Рапида» год тоже стал примечательным: в розыгрыше Кубка Германии тогда участвовали и австрийские клубы. Финал состоялся 8 января 1939 года в Берлине, одним из финалистов был немецкий «Франкфурт», другим венский «Рапид». Он и победил, к восторгу всей Австрии, со счетом 3:1.
В 1941 году, когда проходил совместный чемпионат клубов Германии и Австрии, победу тоже одержал «Рапид». Так австрийский клуб к титулу обладателя Кубка Германии добавил и титул чемпиона Германии. А в послевоенные годы «Рапид» раз за разом продолжал выигрывать чемпионаты