DIE TURING-ABWEICHUNG. William Hertling

konnte. Sie ignorierte das schwarze Loch, von dem aus der EMP ausgelöst worden war, und riss Netzwerkknoten an sich, erst Tausende, dann Zehntausende und schließlich Millionen. Ihre Persönlichkeit breitete sich aus, bis sie den größten Teil Nordamerikas umfasste; ihr Verstand lief in unzähligen parallelen Prozessen mit der Geschwindigkeit einer KI. Sie dachte über die von Helena aufgeworfenen Fragen nach. Denkbar wäre es, die Nanos zu hacken. Sie machte einen Versuch, fand sie erst nicht, drang dann tiefer vor und probierte verschiedene Protokolle und Frequenzen, wobei sie nahegelegene Mesh-Knoten benutzte. Sie bekam eine Rückmeldung auf einer alten Fernsehfrequenz und stellte zufrieden fest, dass die Nanos so programmiert waren, dass sie Kommandos von Dritten ausführten. Sie würde immer noch ihre Sicherheitsprotokolle hacken müssen, aber das konnte sie schaffen. Was war mit der anfliegenden Bombe? Sie konnte den Marschflugkörper jetzt orten, der bereits in der Luft war, abgefeuert von einem Stützpunkt in Georgia und mittlerweile auf Mach 4. Die Lenkwaffe war online, unter militärischer Kontrolle, und bereit, neue Befehle auszuführen. Sie konnte sie mit Leichtigkeit übernehmen, den Gefechtskopf entschärfen oder sie einfach in den Ozean stürzen lassen.

      Aber was würde geschehen, wenn sie den Marschflugkörper aufhielte? Sie warf einen raschen Blick in die Zukunft, ließ Tausende von Simulationen durchlaufen. Mit jeder Entscheidung erzeugte sie weitere Simulationen und errechnete die Wahrscheinlichkeit für zukünftige Ereignisse.

      Eine Vision erschien dabei wieder und wieder: Eine beängstigende Trümmerlandschaft, in der fast nichts lebte. Es war nicht der Effekt der unkontrollierten Nanotech oder der anfliegenden Kernwaffe, sondern die Konsequenz eines umfassenden, globalen Krieges ohne klare Fronten. Mensch gegen Maschine, Mensch gegen Mensch und Maschine gegen Maschine. Ihr Entsetzen wuchs, als eine Simulation nach der anderen die Bilder von zerstörten Städten zeigte, von ausgefallenen Stromnetzen, aber was noch schlimmer war, von einer Mondlandschaft mit Fahrzeugwracks und verlassenen Ruinen.

       Wie konnten nur so viele sterben?

      Für Cat war es ein Wettlauf gegen die Zeit in der realen Welt, aber sie brauchte Antworten. Sie versuchte, die Katastrophe auf ihre Ursachen zurückzuführen, aber die einzige Gemeinsamkeit, die sie entdecken konnte, war, dass sie die Bombe aufhielt. Wenn sie von dieser Möglichkeit Gebrauch machte und diesen wahnsinnigen Plan verhinderte, Miami zu bombardieren, was zum Verlust von Millionen von Menschenleben führen würde, dann konnte sie etwas weit Schlimmeres auslösen: Einen katastrophalen Verlust von Menschenleben, der in die Milliarden ging.

      Sie öffnete die Augen. Die Transportdrohne war inzwischen auf der Straße gelandet, jetzt für einen vertikalen Start konfiguriert.

      Cat schüttelte benommen den Kopf. Ihre Kehle war wie zugeschnürt. Sie dachte daran, dass sie gerade Millionen von Menschen zum Tode verurteilte. »Ich kann die Bombe nicht aufhalten. Wir haben noch drei Minuten. Lass uns verschwinden.«

      Helena starrte Cat an, ihre optischen Linsen fixierten Cats Augen, als könnte sie nicht glauben, was sie da hörte. Cat schrumpfte unter ihrem Blick zusammen. Dann nickte Helena feierlich.

      »Ach so, na dann …«

      Was sie geschlussfolgert hatte, sagte sie nicht. Sie schnellte vor, ignorierte die Sprossen der Leiter und sprang die fast zwei Meter direkt in die offene Luke. Cat folgte ihr.

      Dieses Mal wartete die Drohne nicht einmal darauf, dass sie sich hinsetzten. Sie beschleunigte heftig in einem vertikalen Aufstieg, sobald Cat sich im Inneren befand. Cats Knie gaben unter den enormen G-Kräften nach. Sie stürzte schwer zu Boden und ein scharfer Schmerz fuhr durch ihre Schulter.

      Das Flugzeug wendete und Helena fixierte Cat mit ihren Tentakeln. Sie schossen davon.

      Ein plötzlicher Lichtblitz erhellte den Himmel mit solcher Intensität, dass trotz der kleinen Seitenfenster der Innenraum blendend hell erleuchtet wurde. Cat spürte, wie das Netz waberte und brannte, bevor es ganz erlosch. Millionen von Menschen verschwanden aus dem Netz.

      Cats Herz pochte heftig in ihrer Brust. Die Stadt Miami war gerade ausgelöscht worden. Sie hätte es verhindern können, aber eine Vision der Zukunft hatte ihr geraten, es nicht zu tun.

      »Warum habe ich nichts getan?«

       2025, während des Jahres ohne Internet (JOI) – vor zwanzig Jahren

      Als Teenager hatte Leon Tsarev versehentlich den Phage-Virus erschaffen, einen Computervirus, der alle Computer des Planeten befiel, sich in der Folge rasch weiterentwickelte und ein Bewusstsein erlangte. Diese Virusrasse von KIs hätte beinahe einen Weltkrieg ausgelöst. Er hatte damals nicht erwartet, dass ihn das einmal in die Position als einer der Leiter des Instituts für Angewandte Ethik bringen würde.

      Aber genau das war er jetzt, gerade einmal achtzehn Jahre alt und an der Seite von Mike Williams arbeitend, einem der Schöpfer der ersten künstlichen Intelligenz, die dem Phage-Virus vorausgegangen war, einer dem Menschen wohlgesonnenen KI namens ELOPe. Im Jahr 2015 erschaffen und von Mike über zehn Jahre sorgsam überwacht hatte ELOPe sowohl für Fortschritte in der Medizintechnologie und der Umweltforschung als auch für den Weltfrieden und die Stabilität der globalen Finanzmärkte gesorgt. Nur eine Handvoll Menschen auf der ganzen Welt hatten von ELOPes Existenz gewusst.

      Aber die Fortschritte bei Hard- und Software hatten auch dazu geführt, dass jeder Hacker die Entstehung einer KI reproduzieren konnte. Der Geist in der Maschine war aus der Flasche entkommen.

      Das Primärziel des Instituts für Angewandte Ethik war die Entwicklung eines ethischen Rahmenwerks für neu entstandene KIs. Diese Richtlinien mussten sicherstellen, dass die zielgerichteten und wissbegierigen KIs nicht dem Menschen, seiner Infrastruktur oder seiner Kultur schaden würden.

      Leon ging vor einem Whiteboard auf und ab. »Die KIs müssen sich gegenseitig überwachen«, sagte er. »Es ist nicht möglich, jedes denkbare ethische Dilemma vorauszusagen und in einen Programmcode zu packen.«

      »Klar«, bestätigte Mike, »aber was sollte so eine KI davon abhalten, Dinge zu tun, die eine andere KI nicht bemerkt?«

      »Absolut alles muss verschlüsselt und authentifiziert werden. Niemand darf ohne Authentifizierung auch nur ein einziges Datenpaket senden. Kein Programm darf auf einem Rechner laufen, ohne einen Schlüsselcode für den Prozessor zu haben.«

      »Und wer stellt die Schlüsselcodes zur Verfügung?«, fragte Mike. »Ein Mensch kann diese Prozesse, die in Millisekunden ablaufen, nicht überblicken.«

      »Andere KIs schon. Die, die am vertrauenswürdigsten sind. Darum brauchen wir das soziale Reputationssystem, damit wir die Vertrauenswürdigkeit bewerten und belohnen können.«

      Eine Leere umgab sie und lastete schwer auf Leon. Das Büro des Instituts bot Raum für zweihundert Mitarbeiter, aber jeder, den sie für das Institut anwerben wollten, war immer noch bis über beide Ohren damit beschäftigt, die weltweite digitale Infrastruktur wieder aufzubauen. Beinahe die Hälfte aller Informationssysteme musste von Grund auf neu konzipiert werden, um den von ihnen veröffentlichten Sicherheitsstandards zu genügen. Ohne global vernetzte Computersysteme konnte es keine weltumspannende Versorgungskette geben, keinen Warentransport, keine Elektrizität oder Öl, keine Nahrungsmittel oder Wasser. In der Öffentlichkeit sprach man vom Jahr 2025 schon als dem Jahr ohne Internet, dem JOI.

      Zurzeit bestand das Institut nur aus Mike und ihm.

      »Noch mal von Anfang an, Herr Software-Architekt«, sagte Mike seufzend. »Ich habe also eine KI, die eine gute Reputation hat, aber sich entscheidet, etwas Böses zu tun. Sagen wir, sie will eine Bank ausrauben, indem sie sie hackt und die Guthaben transferiert. Was hält sie davon ab?«

      »Zunächst muss man sich klarmachen, dass sie dazu konditioniert ist, sich korrekt zu verhalten. Eine positive Reputation entsteht auch erst mit der Zeit. Die KI wird durch wiederholte Erfahrungen gelernt haben, dass eine hohe Reputation zu einer besseren Beziehung zu anderen KIs führt und damit zu besserem Datenzugang und Rechenleistung. Das ist sehr viel wertvoller als alles, was sie sich von dem gestohlenen Geld kaufen könnte. Sie würde sich also gegen den Bankraub entscheiden.«

      »Das wäre der logische Weg«, wandte