Jetzt produzierte ELOPe einen weiteren Gedankenprozess, um zu analysieren, warum er über obsessives Verhalten nachdachte. Legte das nahe, dass etwas mit ihm nicht in Ordnung war? Warum tat er es? Er sah nach den Statistiken für seine eigenen aktuellen Denkprozesse. Der Prozess zur Überwachung von Mike nutzte 150 Rechenknoten. Der immer noch laufende Prozess, der bewerten sollte, ob sein Verhalten obsessiv war, brauchte fast 1000 Rechenknoten. Der aktuelle Thread, der eine Metaanalyse seiner anderen Analysen durchführte, brachte es auf 5000 Rechenknoten. Er nutzte also 40 Mal mehr Rechenleistung, um sich Sorgen über sein eigenes Verhalten zu machen, bezogen auf den Rechenbedarf seines tatsächlichen Verhaltens. Was würde Eckhart Tolle darüber denken?
ELOPe beendete selbstbewusst alle Gedankenprozesse und stieß das maschinelle Äquivalent eines Seufzers aus. Er versuchte, über etwas anderes nachzudenken. Er sah sich wieder einmal die SETI-Daten an. Er dachte über Supernovas nach. Er führte noch einmal die Berechnung für den Heliumbedarf der Erde aus. Na ja, vielleicht sollte er doch noch einmal kurz nach Mike sehen.
Während er das tat, erinnerte er sich an ein Gespräch zwischen Mike und ihm, bei dem sie über Änderungen an seinem neuronalen Netzwerk und seinem Kernalgorithmus diskutiert hatten.
»Schau, ich dachte, du könntest um ein Vielfaches effizienter sein, wenn du die Art veränderst, mit der du die Priorität von Gedankenprozessen bewertest.«
ELOPe war von dem Vorschlag nicht angetan gewesen. »Mike, wie würdest du dich fühlen, wenn ich an dir experimentelle Gehirnchirurgie durchführen würde? Ich denke, ich könnte deine kognitiven Prozesse optimieren, indem ich einen 32-Kern-Graphenprozessor mit einer drei-auf-drei Nerveninduktionsplatte einsetze.«
Mike sah ihn entsetzt an. »Aber «…«
»Warum denkst du dann, dass ich über unerprobte Modifikationen an meinem Netzwerk glücklicher wäre als du mit unerprobten Modifikationen an deinem Gehirn?«
»Schon verstanden.« Mike hatte begonnen, im Büro auf und ab zu laufen, was er häufig tat, wenn er in Gedanken versunken war. »Aber du hast dich doch schon selbst modifiziert. Du hast dich selbst dupliziert, die Änderungen an deinem Klon getestet, die Resultate verglichen und dann dein Bewusstsein gewechselt.«
»Da war ich noch nicht so weit entwickelt. Die Modifikationen waren offensichtlich notwendig, um meine kognitiven Fähigkeiten zu verbessern. Jetzt aber mache ich mir Sorgen, ob ich die Konsequenzen weiterer Verbesserungen bewerten und verstehen kann. Außerdem erkenne ich keine Schwachstellen in meinen Fähigkeiten.«
Mike hatte das Thema beendet, aber nur, um dem Ganzen eine neue Richtung zu geben.
»Warum behältst du nicht zwei Versionen von dir? Warum teilst du dich nicht auf? Es wäre so, als ob du einen Zwilling hättest.«
»Der Gedanke macht mich nervös.«
»Nervös?« Mike sah angestrengt hinüber zu den Serverracks im Rechenzentrum, die ELOPe verkörperten. »Warum benutzt du heute all diese emotionalen Umschreibungen?«
»Mein primäres Augenmerk liegt auf der Fähigkeit, das Verhalten oder die Effekte hinreichend komplexer Systeme vorherzusagen. Ich kann menschliches Verhalten verstehen, obwohl du lieber vorgibst zu glauben, dass ihr unberechenbar seid. Doch mit ausreichenden historischen Daten und sorgfältiger Analyse ist euer Verhalten weitestgehend berechenbar. Allerdings fehlen mir die historischen Daten oder die Fähigkeit zu analysieren, was geschehen würde, wenn es mich zweimal gäbe. Ich bin so konditioniert, dass ich Berechenbarkeit vorziehe, um mein Primärziel zu erfüllen. Deshalb macht fehlende Berechenbarkeit mich nervös. Klar soweit?«
»Klar wie Kloßbrühe, Kumpel.«
ELOPe stoppte die Erinnerung an das Gespräch. Es waren diese Konditionierung und die Nervosität, die ELOPe dazu bewogen, die Entwicklung jeglicher KI zu unterdrücken. Vor ein paar Jahren hatte Mike ihn gefragt, warum bisher keine anderen KIs aufgetaucht waren. Wenn man den exponentiellen Zuwachs an Rechenleistung zugrunde legte und die Fortschritte bei Software und bei Expertensystemen mit einbezog, dann musste die Wahrscheinlichkeit für eine weitere starke KI mit jedem Jahr steigen.
ELOPe fürchtete sich vor anderen KIs. Schon der Gedanke an eine fremde KI sorgte bei ELOPe für den reflexartigen Versuch, vorherzusagen, was diese KI tun würde. Doch das war etwas, was grundsätzlich nicht vorhersagbar war. Einmal hatte sich ELOPe in so einem üblen Analysezyklus verloren. Mike war eines Morgens gekommen und fand alle Skalen und Server auf Maximallast. Lüfter heulten bei dem Versuch, die überhitzten Prozessoren vor dem Schmelzen zu bewahren. Mike musste die Leistungen mehrerer Serverracks herunterfahren, um überhaupt ELOPes Aufmerksamkeit zu bekommen. ELOPe wusste, dass es eine menschliche Charakteristik namens Ironie gab, die ihn gut beschrieb: Ein Computerprogramm, das solche Angst vor anderen Computerprogrammen hatte, dass es heiß lief. Vielleicht war er tatsächlich paranoid. Er machte sich schon bereit, einen Denkprozess zu starten, der seine eigene Paranoia bewertete, als er sich seines obsessiven Verhaltens bewusst wurde und den Prozess zurücksetzte.
Verloren in seinen nächtlichen, existenziellen Gedankenspielen übersah er die ersten paar tausend Mails aus Russland. Ein untergeordneter Datenanalysealgorithmus wies eine Mid-Level-Schnittstelle auf die ungewöhnlichen Muster hin. Dieser Mid-Level-Algorithmus war selber gerade mitten in einer Aktualisierung neuronaler Netzwerkpfade. Als der Algorithmus die Zeit fand, sich um den Alarm zu kümmern, führte er eine Sprachanalyse der Nachrichten durch und fand nur Kauderwelsch. Also schob er den ganzen Datensalat in einen Speicher mit niedriger Priorität für weitere Analysen.
So dauerte es eine ganze Weile, bis sich ELOPes Primärbewusstsein um die Daten mit niedriger Priorität kümmern konnte. Wie die meisten Leute, die ihre Mails lasen, ignorierte auch ELOPe die Reihenfolge des Eintreffens und suchte nach einem interessanten Thema. Die verdächtigen Mails sahen interessant aus, weshalb ELOPe einen schnellen Blick auf die Nachrichten warf und sie sofort als sich ausbreitende Virusinfektion erkannte.
ELOPe ermahnte den Mid-Level-Algorithmus und änderte einige Parameter, sodass dem Ereignis beim nächsten Mal die korrekte Priorität zugewiesen werden würde: Viren waren außerordentlich wichtig.
ELOPe nahm ein paar tausend Prozessoren aus einem Analysezyklus, der Radiosignale nach außerirdischem Leben durchsuchte, und ordnete sie der Analyse der Virusdaten zu. Ein paar Minuten später spürte ELOPe eine wachsende Besorgnis. Er rief Mike Zuhause an.
»Mike, wir haben ein ernstes Problem.«
»Uh, es ist mitten in der Nacht«, sagte Mike benommen. »Worum geht es? Ist ein Nuklearkrieg ausgebrochen?« Die letzten Worte klangen nach echtem Entsetzen.
»Nein, Mike, es handelt sich um einen richtig üblen Computervirus. Wir haben schon 4 Milliarden infizierte Rechner, und der Virus verbreitet sich rasch.«
ELOPe wartete einen Augenblick, aber er bekam keine Antwort, hörte nur das leise Geräusch gleichmäßigen Atmens.
»Mike?«
ELOPe aktivierte die Webcam an Mikes Computer und verstärkte das Bild, gab sein Bestes, um im schwachen Licht etwas zu erkennen. Mike schien wieder eingeschlafen zu sein. ELOPe erwog kurz, extremere Maßnahmen anzuwenden, um Mike zu wecken. Aber Mike wäre dann zu verärgert, um noch eine echte Hilfe zu sein.
ELOPe sammelte und analysierte sorgfältig den Datenverkehr des Virus auf tausenden verschiedenen Netzwerkknoten und war überrascht über die Anzahl der Virusvarianten, die er dabei fand. Der Quellcode des Virus sah von Knoten zu Knoten unterschiedlich aus, und es schien verschiedene Methoden der Verbreitung und Übertragung zu geben. Und als ELOPe das alles über mehrere Minuten beobachtete, sah er, wie sich der Virus subtil Stück für Stück veränderte. Es war offensichtlich, dass der Virus Mechanismen beinhaltete, um sich selbst weiterzuentwickeln. Da er die große Anzahl verschiedener Verteilungsmechanismen als Beweis hatte, war es auch klar, dass die Viren Algorithmen von anderer, normaler Software verwendeten. Das würde es zunehmend schwieriger machen, den Virus zu stoppen: Er konnte nicht einfach den Datenstrom auf bestimmten Protokollen blockieren, ohne auch den legalen Datentransfer in Mitleidenschaft zu ziehen.
ELOPe