Hannibal entstammte dem Geschlecht der Barkiden, einer mächtigen Familie, aus der viele Heerführer und Politiker Karthagos hervorgegangen waren. Schon sein Vater Hamilkar war ein bedeutender Feldherr, der auf Sizilien erfolgreich gegen die Römer gekämpft, einen Söldneraufstand in seiner Heimat niedergeschlagen und die Herrschaft Karthagos im südlichen Spanien begründet hatte.
Hamilkar sorgte dafür, dass sein Sohn eine gute Erziehung erhielt. Durch seinen Lehrer, den Spartaner Sosylos, erfuhr Hannibal viel über die Taten Alexanders des Großen, des Königs Pyrrhos von Epirus und anderer großer Heerführer. Auch auf den Gebieten der Politik, der Diplomatie und natürlich des Militärwesens wurde Hannibal gründlich ausgebildet und er verbrachte viel Zeit im Heerlager seines Vaters in Hispanien.
Auch Hannibals Brüder Hasdrubal und Mago erhielten eine militärische Ausbildung und sollten ebenfalls als Heerführer dienen. Die Römer setzten später die Legende in die Welt, dass Hannibal und seine Brüder Rom ewige Feindschaft schwören mussten.
Hamilkar eroberte in Spanien große Gebiete, um dadurch die Gebietsverluste Karthagos an das Römische Reich im Ersten Punischen Krieg auszugleichen. Außerdem stärkten diese Territorien die Machtgrundlage der Barkiden. Nachdem Hamilkar in einer Schlacht gegen aufständische iberische Stämme sein Leben verloren hatte, übernahm Hannibals Schwager Hasdrubal das Kommando in Spanien. Er erweiterte den karthagischen Besitz in großem Umfang und gründete die Stadt Cartagena. Im so genannten Ebro-Vertrag wurden die Grenzen zum römischen Machtbereich auf der Iberischen Halbinsel festgelegt.
Hannibal war einige Zeit in Karthago gewesen, kehrte jedoch auf Wunsch Hasdrubals nach Spanien zurück und übernahm das Kommando über die Reiterei. Hier bewährte er sich in mehreren heftigen Kämpfen gegen die Iberer.
Als Hasdrubal 221 v. Chr. ermordet wurde, übernahm Hannibal das Oberkommando und er führte die Kämpfe gegen die iberischen Stämme weiter. Seinen ersten Sieg in einer offenen Feldschlacht erzielte er am Tajo, über einen ihm zahlenmäßig weit überlegenen Gegner. Ab 220 v. Chr. belagerte Hannibal die Stadt Sagunt, die ihm die Unterwerfung verweigert hatte. Die Bewohner Sagunts schlossen daraufhin ein Bündnis mit Rom. Die Römer forderten von Hannibal die Aufhebung der Belagerung, was dieser ablehnte, da die Stadt im karthagischen Einflussbereich lag. Der Rat von Karthago ließ ihm diesbezüglich freie Hand.
Nachdem er die Stadt acht Monate lang belagert hatte, ließ Hannibal Sagunt stürmen und die Bewohner niedermetzeln. Die Römer verlangten von Karthago die Auslieferung des Feldherrn, andernfalls werde man den Konflikt militärisch lösen. Der karthagische Rat ging auf diese Erpressung nicht ein – der Zweite Punische Krieg begann, in dem Hannibal schließlich 16 Jahre lang gegen Rom kämpfen sollte.
Die Offensive des Karthagers, der nun mit 59.000 Mann nach Italien marschierte, schien mehr als tollkühn. Hannibal wollte mit seiner Armee, die 9.000 Reiter und angeblich auch 37 Elefanten umfasste, möglichst schnell vorrücken und über die Alpen ins Herz des römischen Machtgebietes einfallen. Eine Überquerung dieser Gebirgskette mit einer großen Armee hatte bis dahin noch kein Feldherr gewagt.
Wie geplant, rückte Hannibals Armee so schnell vor, dass die Römer diese nicht in Gallien abfangen konnten. Die eilige und improvisierte Überquerung der frühwinterlichen Alpen forderte aber vom karthagischen Heer ihren Tribut und so dürfte im November 218 v. Chr. wohl nur die Hälfte der Truppen in Italien angekommen sein. Doch für die Römer war die Überraschung perfekt. Es ist bis in unsere Tage viel darüber spekuliert worden, wo Hannibal die Gebirgskette überquert hat; der Col de Clapier, der in 2482 Metern Höhe über den Mont Cenis führt, scheint der für den Übergang geeignetste Pass zu sein. 1979 haben Forscher den Col de Clapier mit zwei Elefanten bewältigt, um diese Hypothese zu untermauern.
Während Hannibal nach der Alpenüberquerung durch das Gebiet verschiedener keltischer Stämme zog, konnte er sein dezimiertes Heer mit Kriegern aus der Region verstärken. Hatte er doch vor seinem Gebirgsmarsch durch Abgesandte freien Durchzug und Unterstützung mit den betreffenden Stämmen ausgehandelt. In einem Gefecht am Fluss Ticinus konnten die karthagischen Reiter einen ersten Erfolg gegen römische Einheiten erzielen, die sich zurückziehen mussten. In der Schlacht an der Trebia feierte Hannibal seinen ersten großen Triumph. Es gelang ihm mit einer List, die Römer über den Fluss zu locken und ihnen eine schwere Niederlage beizubringen. Hier zeigte der Heerführer sein großes Talent in der klugen Planung und gekonnten Ausführung einer bedeutenden Schlacht. Die Römer verloren angeblich 20.000 Mann und versetzten durch ihre ungeordnete Flucht ihre Landsleute in helle Panik. Hannibal verlor allerdings in dieser Schlacht bis auf einen alle Kriegselefanten, die den Marsch über die Alpen überlebt hatten. Damit stand ihm in der Folge ein wichtiges Hilfsmittel karthagischer Kriegskunst nicht mehr zur Verfügung. Doch hatte Hannibal nun Norditalien unter seine Kontrolle gebracht.
Im Frühjahr 217 v. Chr. rückten die Karthager Richtung Süden vor. Bei der Überquerung des Apennin erwies sich die Witterung Hannibals Heer nicht gnädig und er musste erneut Verluste in Kauf nehmen. Durch die geschickte Führung seiner Truppen gelang es ihm aber, sie an den römischen Armeen vorbeizuführen. Diese nahmen die Verfolgung Hannibals auf, eine Unternehmung, die zum nächsten römischen Fiasko führte, denn es gelang dem Karthager, seine Feinde am Trasimenischen See in eine Falle zu locken. Der römische Konsul Flaminius war weitaus weniger gut über die Lage unterrichtet als Hannibal, der stets eine große Anzahl von Spähern und Kundschaftern aussandte, die ihn mit den nötigen Informationen versorgten. So positionierte er sein Heer in versteckten Stellungen am Nordostufer des Trasimenischen Sees, weil er erwartete, dass Flaminius mit seinen Truppen auf dem schmalen Uferstreifen den See entlangziehen würde. Der römische Kommandeur tat Hannibal diesen Gefallen und ließ seine Armee in einer langen Reihe vorrücken. Die Karthager griffen schließlich auf der gesamten Länge an und fielen über die überraschten Römer her. Viele Soldaten Roms wurden getötet, andere flohen in den See, von denen die meisten ertranken. Die Vorhut der Römer konnte zunächst fliehen, wurde dann aber gestellt und gefangen genommen. Auch eine Entsatztruppe von 4.000 Reitern wurde aufgerieben. Der römische Konsul war wie die meisten seiner Soldaten gefallen.
Nach diesem neuerlichen Sieg versuchte Hannibal, möglichst viele Verbündete Roms auf seine Seite zu ziehen. Das gelang ihm aber kaum, denn er wurde von diesen als Bedrohung empfunden und so besetzte seine Armee schließlich auch deren Gebiete. Um ihrer Panik Herr zu werden, griffen die Römer auf eine Maßnahme zurück, die nur für Notzeiten vorgesehen war – sie wählten einen Diktator. Die Wahl fiel auf Quintus Fabius Maximus, der später „Cunctator“ genannt wurde, weil er alle seine Entscheidungen sehr genau abwog und meist zögerlich vorging. Die Römer erwarteten jetzt einen direkten Angriff auf ihre Stadt, der aber unterblieb. Ein karthagischer Reitergeneral soll wegen dieses Versäumnisses zu Hannibal gesagt haben: „Du verstehst zu siegen, Hannibal. Den Sieg zu nutzen aber verstehst du nicht!“ Der karthagische Feldherr beabsichtigte, Rom durch die Vernichtung von dessen Bundesgenossensystem lediglich so zu schwächen, dass es keine große Gefahr mehr für Karthago darstellen würde; doch diese Hoffnung erfüllte sich nie. Vielleicht lag Hannibals Verhalten auch darin begründet, dass es ihm schlicht an Belagerungsgerät und die dafür nötigen Spezialisten fehlte. Aber hätte jemand, der auf allen Gebieten erfolgreich improvisierte, wirklich an diesem Problem scheitern können?
Der am 2. August 216 v. Chr. folgende dritte große Sieg Hannibals über die Römer sollte als einer der bedeutendsten Schlachtensiege in die Geschichte eingehen. Bis in die Gegenwart hinein zeigten sich Heerführer begeistert von diesem großartigen Sieg des Karthagers und versuchten, ihm nachzueifern.
Die Konsuln des Jahres 216, Lucius Aemilius Paulus und Gaius Terentius Varro, rückten von der zögerlichen Politik des „Cunctators“ ab und es gelang ihnen, die bis dahin größte Armee Roms aufzustellen. So standen nun mehr als 80.000 Mann gegen Hannibals Truppen, die aus ca. 40.000 Fußsoldaten und 10.000 Reitern bestanden. Hannibal hatte einige Zeit in der Stadt Gerunium verbracht und erwartete jetzt mit seinen gut ausgeruhten und verpflegten