In einer neuen Theorie wird vermutet, dass das Gehirn des Neandertalers besonders stark darauf ausgelegt war, gut sehen zu können und ihren massigen Körper zu kontrollieren. Dadurch sei weniger Gehirnkapazität für komplexe Denkprozesse verfügbar gewesen. Dies habe es den Neandertalern – im Gegensatz zum modernen Menschen – erschwert, große soziale Gruppen zu bilden.
Bei der Vermessung von Neandertalerschädeln wurde festgestellt, dass Neandertaler erheblich größere Augenhöhlen als moderne Menschen aufwiesen. Damit hatten sie – so wird gefolgert – auch eine größere Netzhaut und ein größeres Hirnareal zum Sehen. In früheren Studien hatten Wissenschaftler meist die Hirnmasse von Neandertalern und modernen Menschen aus der Schädelform abgeleitet. Auf Grund der etwa gleich großen Gehirne beider Menschenarten sind sie daher davon ausgegangen, dass auch die Gehirnstruktur und die Größe der verschiedenen Hirnareale ähnlich waren. Neue Untersuchungen deuten darauf hin, dass die Gehirne der beiden Menschenarten zwar etwa gleich groß, aber verschieden organisiert waren. Die Neandertaler benötigten demnach neben dem größeren Sehzentrum auch größere Hirnareale, um ihre massigeren Körper zu kontrollieren.27
Bereits aus Studien war die Theorie bekannt, dass moderne Menschen umso größere Sehareale im Gehirn ausbildeten, je weiter sie vom Äquator entfernt lebten, möglicherweise um den geringeren Lichteinfall zu kompensieren. Da die europäischen Neandertaler in höheren Breitengraden auf der Nordhalbkugel lebten und auch massigere Körper als moderne Menschen hatten, mussten sie dem Sehen und der Körperbeherrschung mehr Hirnkapazität widmen. Somit blieben weniger Gehirnareale übrig, um komplexere Aufgaben wie etwa das Sozialverhalten zu bewältigen. Das hatte für die Urmenschen vielleicht weitreichende Folgen: Das Zusammenleben in eher kleinen Gruppen machte es für die Neandertaler schwieriger, auf Dauer den harten Umweltbedingungen in Europa zu trotzen. Diese unterschiedlich genutzten Gehirnareale bei Neandertalern und modernen Menschen könnten ein Grund sein, weshalb Neandertaler ausstarben, während sich die modernen Menschen kulturell weiterentwickelten und überlebten.
Andere Wissenschaftler vermuteten, die flexiblere Ernährung, die neben Fleisch zusätzlich vegetarische Kost umfasste, hätte den modernen Menschen den Neandertalern überlegen gemacht: Durch die pflanzliche Nahrung habe der moderne Mensch mehr Energie aufnehmen können als der Neandertaler, der nahezu ausschließlich auf sein Jagdglück angewiesen war. Dieser Annahme widersprechen aktuelle Analysen von mikroskopischen Untersuchungen an Neandertalerzähnen. Schon zu Lebzeiten der Neandertaler bildete sich an den Zähnen Zahnstein, der durch die Einlagerung von Mineralien in Zahnbelag entsteht. Zahlreiche Nahrungsbestandteile haben darin die Jahrtausende überdauert. Die Untersuchungen offenbarten Stärkekörnchen aus einem breiten Spektrum pflanzlicher Kost: Wildgräser, Hülsenfrüchte, Wurzeln und Knollen. Die Struktur einiger dieser Partikel weist auf die Einwirkung von Hitze durch Kochen hin. Daraus wird abgeleitet, dass Neandertaler schon in der Lage gewesen sind, pflanzliche Nahrungsquellen ihrer jeweiligen Umwelt zu nutzen und durch Kochen leichter genießbar zu machen. Das haben sie offensichtlich regelmäßig getan, somit besteht diesbezüglich kein prinzipieller Unterschied zum modernen Menschen.28
Eine weitere Theorie geht davon aus, dass der moderne Mensch dem Neandertaler technisch überlegen und dieser dadurch bei der Jagd und beim Sammeln von Pflanzen benachteiligt war. Hier haben in letzter Zeit Funde darauf hingewiesen, dass ein Austausch von Technologie zwischen den beiden Menschenarten stattgefunden hat. Neue Funde aus Abri Peyrony und Pech de l’Azé in Südfrankreich legen sogar den Schluss nahe, dass die Neandertaler als erste Menschen Lissoirs (gebogene Knochenstäbchen) zur Lederbearbeitung herstellten. Die Funde sind älter als die ersten handwerklichen Zeugnisse von Homo sapiens in Europa. Als diese in Europa einwanderten, verwendeten sie zunächst neben den Steinwerkzeugen nur spitze Knochenwerkzeuge. Man sieht in den Funden einen Beleg dafür, dass die Neandertaler eine eigene Technologie hatten, die bisher dem modernen Menschen zugeschrieben wurde. Die Funde aus der Dordogne lassen allerdings einige Fragen unbeantwortet. So wissen Anthropologen nicht, wie gängig die Lissoir-Anfertigung unter den Neandertalern überhaupt war. Vielleicht hatte nur eine Gruppe diese Werkzeuge erfunden oder verschiedene Gruppen haben unabhängig voneinander Lissoirs erfunden, oder aber die Erfinder brachten ihren Artgenossen bei, wie man die Knochenwerkzeuge herstellte.
Eine weitere Theorie ging davon aus, dass der moderne Mensch den Neandertaler gewaltsam ausgerottet haben könnte. Es gibt aber bisher keine Anzeichen für kriegerische Handlungen oder für einen sehr raschen Übergang der Besiedelung Europas von den Neandertalern zum modernen Menschen. Auch das zwischen 40.000 und 30.000 Jahren v. Chr. allmählich kälter werdende Klima in Europa scheint keinen maßgeblichen Einfluss darauf genommen zu haben, denn die Hauptvereisung Europas begann erst vor rund 25.000 Jahren und erreichte ihr Maximum vor 20.000 Jahren, als die Neandertaler bereits ausgestorben waren. Möglich wäre es, dass der moderne Mensch den Neandertaler durch seine besseren sozialen Fähigkeiten und durch seine bessere Technik aus den besten Jagdgebieten verdrängt und so zum Untergang des Neandertalers beigetragen hat.
In die Überlegungen wurde auch die Geburtenrate mit einbezogen, die beim modernen Menschen durch seine Möglichkeiten, in größeren Gruppen zu leben, höher als beim Neandertaler gewesen sein dürfte. Nach der »Bottle-neck«-Theorie29 könnten unterschiedliche Umweltbedingungen zum Ausfall von mehreren Neandertaler-Generationen geführt haben, welche die nicht allzu dichte Bevölkerung weiter dezimierten. Schätzungen gehen davon aus, dass in Europa nur etwa 7.000–10.000 Neandertaler-Individuen gleichzeitig gelebt haben. Statistische Bevölkerungsmodelle zeigen, dass schon Unterschiede von wenigen Prozent bei der Fortpflanzungsrate ausreichen, um in wenigen tausend Jahren eine so kleine Menschengruppe völlig in einer anderen aufgehen zu lassen bzw. zum Aussterben der weniger begünstigten Gruppen zu führen.
So könnten die modernen Menschen eine geringere Sterblichkeit, ein früheres Reifealter, was zur Möglichkeit der höheren Geburtenrate führte, ein größeres Nahrungsspektrum sowie bessere Kleidung oder bessere Unterkünfte während der Kaltzeiten als der Neandertaler gehabt haben. Vermischungen von Neandertalern mit dem modernen Menschen scheinen in einem geringen Umfang vorgekommen zu sein, wie der Fund des Kindes von Riparo di Mezzena nahelegt30, zudem finden sich im modernen Menschen bis zu vier Prozent des Genmaterials des Neandertalers erhalten. Besonders die Vererbbarkeit roter Haare, die Dicke der Haut und die Anlagen für Diabetes und Morbus Crohn scheinen mit den Resten des Neandertaler-Genoms im heutigen Menschen in einem Zusammenhang zu stehen.31
Dies belegt, dass es sexuelle Interaktionen zwischen Neandertalern und modernen Menschen gegeben haben muss, was aber eine für die Anthropologie kritische Frage aufwirft: Wenn sich Neandertaler und Homo sapiens mischen und fruchtbare Nachkommen zeugen konnten, wie der Genfluss beweist, muss künftig darüber diskutiert werden, inwiefern die Vorstellung von zwei verschiedenen Menschenarten noch zulässig ist oder ob die Grenzen hier neu gezogen werden müssen.
Nachdem der moderne Mensch um 60.000–35.000 v. Chr. nach Europa kam und der Neandertaler hier um 27.000 v. Chr. verschwand, lebten die beiden Spezies rund 35.000 Jahre nebeneinander, was eher auf eine friedliche Koexistenz als auf ein gewaltsames Auslöschen deutet. Vermutlich hat die rasante Ausbreitung von Homo sapiens den Neandertaler einfach verdrängt, ihn in klimatisch und nahrungsmäßig ungünstige Gebiete vertrieben und so zu seinem Aussterben, verursacht auch durch fehlende soziale Anpassung, beigetragen. »Auch das Datum des Aussterbens der Neandertaler wird nach neueren Forschungen verschoben, neue Methoden der Radiokarbondatierung lassen vermuten, dass dies in Europa bereits um 39.000 v. Chr. geschehen ist.«32
Die neueste Theorie geht davon aus, dass es ein »Aussterben« des Neandertalers nicht gegeben hat. Dieser sei dem anatomisch modernen Menschen in nichts unterlegen gewesen, habe dasselbe geistige und kulturelle Niveau besessen und sei durch Vermischung und Assimilation in der Population des Homo sapiens aufgegangen33, wovon heute noch die Reste seines Genoms