Только в 1066 году Генриху, которому исполнилось 16 лет, удалось избавиться от опекунов в архиепископских ризах. Ставшего самостоятельным Генриха IV ожидало тяжелое наследство. В 1077 году в Германии началась гражданская война, которая длилась до дня смерти немецкого монарха.
Политика укрепления центральной власти привела к тому, что против короля поднялись его вассалы. В 1077 году началась гражданская война, которая в немецких землях то вспыхивала, то затухала в продолжение трех десятков лет. События начались с того, что король отбыл в Италию, чтобы помириться с папой Григорием VII. Этим воспользовались его враги. Они собрались на съезд в городе Форхгейме и избрали новым германским королем мужа одной из сестер Генриха – швабского герцога Рудольфа.
Однако мятежники просчитались. Когда Генрих IV вернулся из Италии, на его сторону перешло так много немецких графов и епископов, что его противнику пришлось отступить из Южной Германии в Саксонию. Рудольф стал собирать войска. На его сторону встало два влиятельных герцога – Вельф Баварский и Бертольд Каринтийский.
Летом 1078 года герцог Рудольф начал поход из Саксонии по земле Тюрингии, а швабская армия под начальством герцогов Вельфа и Бертольда стала медленно собираться между реками Рейн и Некар. Однако король сумел предупредить соединение главных сил мятежников. Он решительно двинулся навстречу саксонцам и встретился с ними у города Мельрихштадт, под которым 7 августа состоялось сражение.
В битве участвовала только закованная в броню тяжеловооруженная кавалерия. Особенностью столкновений рыцарей являлось то, что они не могли вести оборонительный бой, – обычно рыцари или наступали, либо бежали прочь. Дело завершилось тем, что саксонцы были разбиты и бежали вместе со своим самозваным королем Рудольфом Швабским.
Генрих IV тоже отступил с поля битвы, на котором остался только небольшой рыцарский отряд саксонцев под командованием пфальцграфа Фридриха. Благодаря удивительным обстоятельствам он не ушел с места боя, оставшись до утра следующего дня.
Рудольф счел за благо временно отойти в верную ему Саксонию. Однако отступавшие грабили деревни, и поэтому местное крестьянство взяло в руки оружие и перебило немало мятежников, а некоторых передало в руки короля.
Генрих IV мог праздновать победу, но неожиданно оказался без армии. Его рыцари, ушедшие с поля битвы под Мельрихштадтом, разъехались по своим замкам. Делать было нечего, и король отправился в Баварию и только в октябре смог собрать новую армию. После этого он двинулся в Швабию, где принялся разорять владения своего соперника.
Пока германский король все усиливался, герцог Рудольф в союзе с Оттоном Нордгеймским выступил ему навстречу и оказался в Тюрингии. 27 января 1080 года близ Флархгейма состоялось второе