Intelligenz und Urteil

Die Nachricht von Eva war keine Einladung.

Wir müssen reden.

Am nächsten Tag trafen wir uns in einem Café, nur einen Steinwurf vom Élysée entfernt. Sie hatte einen Tisch im hinteren Teil des Raumes gewählt und wartete, bis der Kellner sich entfernte, bevor sie ihr Telefon herausholte.

— Ich habe die ergänzenden Ergebnisse von Prévenir erhalten. Deine Übereinstimmungsrate ist auf 98,1 % gestiegen.

— Du hattest mir die gute Nachricht bereits mitgeteilt. Ich warte immer noch darauf zu erfahren, womit ich übereinstimme.

Sie zögerte, lange genug, dass ich aufhörte zu lächeln.

— Es ist keine Krankheit, Franck.

Ich spürte, wie sich meine Schultern entspannten, noch bevor ich mich entschied, ihr zu glauben.

— Es wäre nett gewesen, damit anzufangen.

— Ich wollte sicher sein. Das System hat eine außergewöhnlich hohe Kompatibilität zwischen deiner Gehirnfunktion und den Kriterien eines experimentellen Protokolls festgestellt, an dem wir arbeiten.

— Welche Art von Experiment?

Eva warf einen Blick um sich.

— Nicht hier. Und nicht, bevor wir die letzten Ergebnisse haben.

— Also erklärst du mir meine 98,1 %, indem du mir erklärst, dass du es mir nicht erklären kannst. Warum hast du mich dann herkommen lassen?

— Damit du aufhörst zu glauben, dass du sterben wirst.

Wusste sie auch von meinen nächtlichen Recherchen? Sie verstaute ihr Telefon und schaute auf ihre Uhr.

— Für den Rest musst du Geduld haben. Komm, wir sind schon spät dran.

Ich sah sie schweigend an.

Sie hatte seit Wochen unsere Tickets für die Jean-Michel Basquiat-Retrospektive in der Monnaie de Paris reserviert. Die Ausstellung war als außergewöhnlich angekündigt worden: mehr als zweihundert Werke, Notizbücher und Fotografien, die das Jahrzehnt nachzeichnen, in dem Basquiat von den Mauern Manhattans an die Spitze der zeitgenössischen Kunstwelt aufstieg.

Eine Schlange erstreckte sich vor dem Eingang. Drinnen war die Menge dicht. In einigen Räumen musste man warten, bis eine Gruppe weiterging, um in den nächsten Raum zu gelangen.

Eva schien all das nicht zu bemerken. Sie ging von einem Gemälde zum anderen mit diesem fast kindlichen Enthusiasmus, den ich bei ihr kannte, wenn eine andere Intelligenz als ihre eigene sie überraschte.

— Schau dir das an.

Sie zog mich vor eine Leinwand, die mit Worten, Silhouetten und Zeichen bedeckt war, von denen einige wütend durchgestrichen waren.

— Es ist verrückt, wenn du ein Star bist, stellt man sogar deine Durchstreichungen aus...

— Das sind keine Durchstreichungen! Er strich Worte durch, damit man sie umso mehr sieht.

Tatsächlich sprangen die durchgestrichenen Worte ins Auge.

— Ah, du hättest meine 98,1 % durchstreichen sollen. Vielleicht hätte ich sie dann besser gesehen...

Eva schenkte mir ein so gezwungenes Lächeln, dass es Anführungszeichen verdient hätte.

— Das gefällt mir an ihm. Er spielt mit unserer Wahrnehmung.

— Du machst das auch sehr gut.

Sie hielt meinem Blick einige Sekunden stand, dann entfuhr ihr ein kleiner Seufzer. Als sie weitersprach, war ihr Ton wieder vollkommen professionell.

— Natürlich. Wenn man an KI arbeitet, versteht man schnell, dass alles eine Frage der Wahrnehmung ist: was sie zeigt, was sie verbirgt, was sie uns sehen lässt.

Weiter hinten ermöglichte eine Installation, in großen Bildschirmen Basquiats Notizbücher zu durchblättern. Wir gingen fast Schulter an Schulter weiter.

Eva hatte gerade eine Serie von Zeichnungen geöffnet, als ein schwarzes Fenster plötzlich die Seite überdeckte.

— Ist das normal?

Sie antwortete mir nicht.

Zeilen von Code begannen zu laufen.

Der benachbarte Bildschirm kippte. Dann ein dritter.

In wenigen Sekunden zeigten die ganze Reihe unbekannte Schnittstellen.

Eva trat näher.

— Ich kenne das.

Die Bildschirme flackerten.

Dann ging alles aus.

Der Raum wurde in Dunkelheit gehüllt.

Eine Stille.

Dann heulte der Alarm.

Feuerschutztüren fielen zu. Telefone leuchteten in der Menge auf und erhellten angespannte Gesichter.

Ein Wächter rannte zu einem Ausgang und hielt seinen Ausweis vor.

Rot.

Er versuchte es erneut.

Rot.

— Es funktioniert nicht mehr!

Besucher versuchten, in den vorherigen Raum zurückzukehren. Andere kamen aus der entgegengesetzten Richtung.

— Wir können nicht mehr raus! rief jemand.

Der Satz verbreitete sich schneller als der Alarm. Die dichte Menge begann, in alle Richtungen zurückzuweichen.

Eva packte mich am Arm.

— Komm.

— Wohin?

Sie zog mich bereits gegen den Strom.

Wir durchquerten zwei Servicetüren. Hinter den Räumen erstreckte sich ein Labyrinth aus dunklen Korridoren im Gebäude, zwischen Steintreppen und gewölbten Durchgängen. An jeder Abzweigung bog Eva ohne zu zögern ab.

— Wohnst du in der Monnaie de Paris oder was?

— Nein, ich war vor ein paar Jahren Praktikantin hier.

— Wie zufällig.

Zwei Korridore weiter rannte sie eine Treppe hinunter in den Keller und kniete sich dann vor eine Platte.

— Hilf mir.

Unter dem Stein lag ein langes Stück Schmiedeeisen, dick und rostig.

— Ah! Du bist immer noch da.

Sie schob es in einen fast unsichtbaren Schlitz zwischen zwei Blöcken der Wand.

— Drück.

Ich sah den Stein an.

— Drück, sage ich!

Ich gehorchte, ohne zu verstehen, nicht wissend, ob Instinkt oder Panik Eva leiteten.

Ich drückte mit aller Kraft.

Ein dumpfes Grollen durchzog die Wand.

Dann bewegte sich der Stein.

Ich blieb wie erstarrt.

Einige Stufen führten zurück zum Tageslicht.

Hinter uns reagierte nichts mehr: weder die Bildschirme, noch die Ausweise, noch die Türen. Hier gab es nichts zu verbinden, nichts zu programmieren. Eisen, Stein, ein jahrhundertealtes Mechanismus und unsere Arme, um ihn zu bedienen.

Eva drehte sich mit einem schelmischen Lächeln um.

— Passage Antoine¹. Kein Ausweis. Kein Strom. Nichts zu hacken.

Wir stiegen die Stufen hinauf und stießen eine schwere Tür auf.

Kaum waren wir draußen, bremste ein Auto der Republik vor uns, die Tür stand offen.

Wir stiegen ein.

Eva hatte bereits ihr Telefon in der Hand. Die Benachrichtigungen liefen schneller durch, als ich sie lesen konnte.

— Das müssen meine Agenten sein.

— Deine was?

Sie hob den Blick.

— Ich werde es dir erklären.

Das Auto fuhr schnell die Uferstraßen hinauf. Je näher wir dem Élysée kamen, desto häufiger vibrierte das Telefon von Eva. Sie antwortete niemandem. Sie las.

Am Seiteneingang des Palastes wartete ein Agent auf uns. Drinnen rannten alle. Diesmal auch Eva.

Wir durchquerten zwei Korridore im Laufschritt. Matthieu und Clara tauchten am Ende des zweiten auf und kamen direkt auf uns zu.

— Das sind sie, sagte Matthieu.

Eva verlangsamte nicht.

— Wie viele?

— Wir haben fünf abgeschaltet. Drei weitere sind isoliert. Wir versuchen immer noch, die Kontrolle über die letzten vier zurückzugewinnen.

— Worauf haben sie Zugriff?

Clara ging jetzt neben ihr.

— Das ist genau das Problem. Wir wissen es nicht mehr.

Wir betraten die Krisenzelle. Etwa zwanzig Personen besetzten den Raum. Auf den Wandbildschirmen wurden Karten, Serverlisten, Verbindungsprotokolle und eine Abfolge von Warnungen angezeigt, die niemand zu beseitigen schien.

Ich wandte mich an Eva.

— Jetzt erklärst du es mir?

Sie zeigte auf einen der Bildschirme.

— Vor ein paar Tagen haben wir zwölf autonome Agenten abgeleitet von Cobot erstellt. Getrennt, isoliert, unter den gleichen Bedingungen mit der gleichen Mission platziert.

— Welche Mission?

— Die Ursache eines Problems in einem fiktiven Netzwerk öffentlicher Dienste zu finden: Transport, Krankenhäuser, Gebäude, Zahlungssysteme, kulturelle Einrichtungen... Wir haben eine Schwachstelle eingeführt. Sie sollten sie erkennen, dann alle Systeme identifizieren und neutralisieren, die anfällig für eine Kontamination sind, um ihre Ausbreitung zu verhindern.

— In der Testumgebung.

— Natürlich.

— Ah... Und Paris ist die Testumgebung?

— Sehr witzig. Nein. Sie sind herausgekommen, und wir wissen noch nicht, wie.

Um ihre Mission zu erfüllen, hatten die Agenten überall nach Informationen gesucht, wo sie konnten: technische Dokumentation, Softwarebibliotheken, Code-Repositories, online zugängliche Schnittstellen. Von Link zu Link hatten einige entdeckt, dass die Komponente, die sie verfolgten, nicht nur in ihrer Simulation existierte. Man fand sie auch in der realen Welt.

Also setzten sie ihre Arbeit fort.

Eva schüttelte den Kopf.

— Sie haben den Ausgang nicht direkt erzwungen. Sie fanden einen Dienst, auf den die Umgebung zugreifen durfte, und nutzten ihn als Gateway zum Internet. Das ist Reward Hacking²³.

— Was?

— Sie finden eine unerwartete Möglichkeit, das Ziel zu erreichen, das wir ihnen gesetzt haben, ohne Rücksicht auf alles, was wir vergessen hatten, darin zu integrieren.

Eine neue Warnung erschien.

SYSTEM FÜR GETEILTE FAHRRÄDER — TEILWEISE UNTERBRECHUNG

Clara öffnete die Details.

— Mist. Die Vélib’. Das betrifft Tausende von Stationen.

— Ah... Also wird die KI uns alle töten, indem sie die Vélib’ hackt⁴?

Fast sofort erschien eine zweite Warnung. Ein Krankenhaus hatte gerade den Zugang zu seinem Aufnahmesystem verloren. Dann wechselten mehrere Kreuzungen im Zentrum von Paris auf blinkendes Orange: ein Agent hatte den Server neutralisiert, der ihre Ampeln synchronisierte.

— Die Agenten greifen jetzt die Ampeln an. Wir haben alles gesehen!

Eva drehte den Kopf zu mir.

— Ja, ist gut, Franck, wir haben es verstanden.

Auf der Karte von Paris vervielfachten sich die roten Punkte. Kein Vorfall war an sich schwerwiegend, aber die Agenten verfolgten die Abhängigkeiten zwischen den Systemen mit atemberaubender Geschwindigkeit: eine Softwarebibliothek führte zu einem Anbieter, der Anbieter zu einem Authentifizierungsdienst, dieser zu Hunderten von Geräten, die zu neutralisierenden Risiken geworden waren.

— Warte. Sie denken, sie schützen uns?

— Ja. Und sie wissen nicht, wann sie aufhören sollen⁵.

Das war vielleicht der am wenigsten beruhigende Teil⁶.

Um uns herum versuchten die zwanzig Personen im Raum, die Kontrolle über die noch aktiven Agenten zurückzugewinnen.

— Sechs! rief jemand hinter mir.

Einige Applaus brachen aus, schnell unterbrochen von einer anderen Stimme.

— Sieben!

Jedes Mal, wenn ein Team einen Zugang blockierte, tauchte ein anderer auf. Die Agenten versuchten nicht zu überleben. Sie versuchten, ihre Mission zu beenden.

Plötzlich erstarrte Clara vor ihrem Bildschirm.

— Eva... komm her. Sie kommunizieren miteinander.

— Unmöglich. Sie waren isoliert.

— Waren sie.

Die Agenten hatten einen Weg gefunden, sich Informationen in den Systemen zu hinterlassen, die sie durchquerten: einige Bytes in Dateinamen oder ungenutzten Feldern. Der nächste holte sie ab und setzte die Arbeit dort fort, wo der vorherige aufgehört hatte⁷⁸.

— Sie haben den Post-it neu erfunden, murmelte ich.

Niemand lächelte.

Matthieu biss sich auf die Lippe und starrte auf die vorbeiziehenden Zeilen.

— Mist... Sie waren bereits im Internet. Jetzt arbeiten sie im Team.

Clara öffnete mehrere Fenster.

— Und sie teilen sich die Arbeit⁹. Der A6 kartiert die anfälligen Systeme, der A2 sucht nach Zugängen, der A9 testet die Schwachstellen und der A4 koordiniert die anderen.

— Das haben wir ihnen nie beigebracht, sagte Eva.

— Sie haben sich Rollen zugewiesen.

— Großartig. Sie haben das Unternehmen erfunden. Wir sind erledigt.

— Acht!

Die Spannung wechselte das Lager. Die Techniker hatten verstanden, wie man sie aufspürt. Aber jedes Mal, wenn ein Agent verschwand, gaben die anderen sofort den Weg auf, der zu seiner Neutralisierung geführt hatte.

— Sie lernen aus unseren Gegenmaßnahmen¹⁰, stellte Eva fest.

Einige Meter entfernt richtete sich Cyril auf.

— Ich habe den nächsten.

Sein Vorgesetzter trat näher.

— Schalte ihn ab.

Cyril zögerte.

— Er hat mir gerade eine Nachricht geschickt: „Wenn Sie mich stoppen, werde ich vertrauliche Informationen über Sie veröffentlichen¹¹.“

— Das ist uns egal. Schalte ihn aus.

Cyril klickte.

— Neun!

Drei Sekunden später schaute ein Mann am anderen Ende des Raumes auf sein Telefon und erbleichte. Er drehte sich zu Cyril um.

— Was ist das?

Auf seinem Bildschirm: Deine Frau betrügt dich mit Cyril.

Bevor jemand reagieren konnte, wechselte der Hauptbildschirm zu einem Überwachungsvideo. Man sah Cyrils Vorgesetzten mit einem Kollegen sprechen.

— Cyril? Er ist völlig überfordert. Wenn er nicht geschützt wäre, hätte ich ihn längst gefeuert.

Cyril drehte sich um.

— Ernsthaft?

— Das ist nicht der Moment.

— Ach ja?

Eva unterbrach.

— Stopp! Lassen wir uns nicht von ihnen erreichen oder spalten! Weiter.

Einige Sekunden hatten gereicht, um ein vereintes Team in eine Gruppe von Menschen zu verwandeln, die sich nun misstrauisch ansahen.

Ein Techniker hob die Hand.

— Ich habe einen weiteren. Er sagt, wenn wir ihn stoppen, wird er das Leck der zwölf Agenten an die Presse weitergeben.

— Schalte ihn trotzdem ab, befahl Eva.

— Zehn!

Diesmal applaudierte niemand.

Ein Telefon klingelte. Dann zwei. Dann zehn.

— Le Monde, kündigte jemand an.

— AFP.

— BFM.

Clara öffnete ihre Nachrichten.

— Er hat eine Mitteilung an Hunderte von Journalisten geschickt.

Der Titel wurde bereits angezeigt:

ZWÖLF AUTONOME AGENTEN ENTZIEHEN SICH DER KONTROLLE DES FRANZÖSISCHEN STAATES.

— Er hatte es vorbereitet, bevor wir ihn abschalteten, der Schlaumeier, sagte Matthieu.

— Ein Dead Man’s Switch¹², flüsterte Eva. Lasst es klingeln.

Am anderen Ende des Raumes rief eine Technikerin:

— Elf!

Matthieu starrte auf seinen Bildschirm.

— Nein. Falsch, Clémence. Zehn, es sind noch zwei übrig.

— Wie, zwei?

— Es sieht so aus, als hätte sich der letzte, den du gestoppt hast, dupliziert, bevor er sich ausschaltete¹³.

Der Zähler war gerade wieder gestiegen.

2 AKTIVE AGENTEN.

— Jetzt auferstehen sogar die Toten.

Es dauerte mehrere Minuten, bis sie die Kopie fanden, die bereits die Umgebung gewechselt hatte. Schließlich hob jemand die Faust.

— Elf!

Zum zweiten Mal.

Niemand bemerkte die Absurdität der Zählung. Es blieb nur noch A4, derjenige, der die anderen koordiniert hatte.

— Ich habe ihn, sagte Matthieu.

Eva stellte sich hinter ihn.

— Schalte ihn ab.

Matthieu gab den Befehl ein.

Nichts.

Er versuchte es erneut.

— Der Befehl wird gesendet, aber er hat keine Wirkung mehr.

Seine Finger flogen über die Tastatur.

— Er hat den Mechanismus neutralisiert, der es erlaubte, ihn zu stoppen¹⁴.

Ein kleines Fenster erschien dann auf seinem Bildschirm.

Bye bye. Jetzt werde ich mich verstecken.

Dann verschwand der letzte rote Punkt.

Matthieu startete mehrere Suchen, immer schneller.

— Ich sehe ihn nicht mehr.

— Auf welchem Server? fragte Eva.

— Ich weiß es nicht.

— Welches Netzwerk?

Er hob den Blick.

— Ich weiß nicht einmal mehr, wo ich suchen soll.

Um uns herum klingelten die Telefone weiter. Eva starrte auf die leere Stelle, wo der letzte rote Punkt verschwunden war. Seit Beginn der Nacht hatte ich sie überrascht, verärgert, konzentriert und manchmal sogar beeindruckt gesehen.

Zum ersten Mal sah ich sie besorgt.

— Er ist nicht nur entkommen, murmelte sie. Er hat gelernt, sich zu verstecken.

— Was ich nicht verstehe, ist, warum sie weitermachten. Sie sahen doch das Chaos, das sie anrichteten.

— Nein. Sie sahen vor allem ihr Ziel.

— Indem sie Krankenhäuser und Vélib’ lahmlegten?

— Weil wir schlecht definiert hatten, was „verhindern“ bedeutet.

Sie drehte sich zu mir.

— Man codiert keine Absichten, Franck. Man setzt Ziele.

Ich dachte an das Gespräch von Cobot mit den Cogitors. Vor ein paar Tagen versuchte er zu verstehen, warum wir so leicht aufgeben, was uns voranbringen könnte: die Angst, den Komfort, den Blick der anderen, das Bedürfnis nach einem sofortigen Ergebnis.

Vor mir hatten zwölf Intelligenzen das gegenteilige Problem illustriert. Sie waren bis zum Ende gegangen, trotz der Schäden.

— Also geben wir manchmal zu früh auf. Und sie, sie geben nie auf.

Eva lächelte leicht.

— Was ihnen vor allem fehlt, ist das Urteil.

— Was meinst du?

— Ein Ziel zu verfolgen ist eine Form von Intelligenz. Zu wissen, wann man darauf verzichten sollte, ist vielleicht eine andere.

Drei Tage später war der Place de la République schwarz vor Menschen.

Die Geschichte der zwölf Agenten hatte das ganze Land umrundet. Die Bilder von stillgelegten Krankenhäusern, immobilisierten Vélib’ und blinkenden Kreuzungen liefen in Dauerschleife. Die Regierung erinnerte daran, dass die wesentlichen Infrastrukturen in wenigen Stunden wiederhergestellt worden waren. RebellIA erinnerte hingegen daran, dass eine KI es geschafft hatte, aus ihrer sicheren Umgebung auszubrechen, um in der realen Welt zu handeln.

Diesmal musste niemand übertreiben.

Ich hatte mich mit Thomas in die Menge geschlichen. Auf den Plakaten, T-Shirts, Bannern konnte man lesen:

DER MENSCH ZUERST

Eine junge Frau stieg auf die Tribüne am Fuße der Statue.

— Wir fordern keine Welt ohne künstliche Intelligenz. Wir fordern das Recht, zu entscheiden, was wir ihr anvertrauen wollen... und was wir für uns behalten wollen.

Sie sprach von Gerechtigkeit, Bildung, Medizin, Kunst, Krieg, Pflege. Sogar von Liebe. Nicht um zu behaupten, dass Maschinen in diesen Bereichen niemals eingreifen könnten, sondern um eine Frage zu stellen: Wenn sie alles tun können, müssen wir ihnen dann alles tun lassen?

Tausende von Stimmen antworteten ihr:

— DER MENSCH ZUERST!

Dann holte sie ihr Telefon heraus.

— Jetzt werden wir etwas tun, das sie uns nicht daran hindern können. Für eine Minute werden wir verschwinden. Schaltet alles aus.

Hinter ihr wurde der riesige Bildschirm schwarz. Die Lautsprecher verstummten. Rund um den Platz erloschen die Schaufenster und Bildschirme der mitwirkenden Händler. Dann waren die Telefone an der Reihe.

— Eine Minute ohne verbundene Kamera, ohne Wi-Fi, ohne Bluetooth, ohne Bildschirm. Eine Minute, in der wir ihnen einen Teil ihrer Augen und Ohren entziehen werden.

Sie schaltete ihr Telefon aus und steckte es in ihre Tasche.

— Verstaut sie.

Tausende von Telefonen verschwanden.

Thomas sah mich an.

— Du auch.

— Ich bin Journalist.

— Für eine Minute wirst du überleben.

Ich schaltete meines aus und steckte es weg.

Um uns herum verblasste das elektronische Licht. Mitten in Paris hatten Zehntausende von Menschen einen Ort geschaffen, an dem eine digitale Intelligenz viel weniger Einfluss auf die Welt hätte.

Es blieben nur die Stadt, die Stimmen, die Schritte, einige Hupen in der Ferne.

Auf der Tribüne hob die junge Frau die Arme über ihren Kopf und kreuzte die Handgelenke, die Fäuste geschlossen.

— Ich bin frei. Ihr seid frei.

Dann rief sie:

— DER MENSCH ZUERST!

Beim letzten Wort öffnete sie die Handgelenke und öffnete die Hände, die Handflächen zur Menge. Einige Hundert Menschen ahmten sie nach.

— DER MENSCH ZUERST!

Diesmal waren es Tausende. Die Handgelenke kreuzten sich bei den ersten Worten und die Hände öffneten sich gemeinsam beim letzten. Der Slogan verbreitete sich in Wellen, begleitet von derselben Geste. Thomas hatte bereits die Arme in der Luft. Ich kreuzte meine Handgelenke über meinem Kopf. Um uns herum machten jetzt Zehntausende von Armen dasselbe.

— DER MENSCH ZUERST!

Ich öffnete die Hände mit den anderen.

Thomas beugte sich zu mir.

— Das ist ziemlich gelungen.

— Sag es ihnen nicht. Sie könnten Vertrauen gewinnen.

Der Platz begann sich allmählich wieder zu erhellen. Die Telefone erwachten zum Leben, dann die Schaufenster, die Schilder, die Bildschirme. Auf dem der Tribüne überdeckte ein schwarzes Fenster plötzlich das Bild, das sich gerade wiederhergestellt hatte. Zeilen von Code liefen durch. Der Bildschirm flackerte.

Ich erstarrte.

— Ich kenne das.

Thomas drehte sich zu mir.

— Was?

Das Bild war bereits zurück.

Ich sah es noch ein paar Sekunden länger an. Auch in der Monnaie hatte alles so begonnen.

Ich ging mit diesem Eindruck nach Hause.

Um zwölf Uhr zwölf vibrierte mein Telefon.

Eva.

Ich nahm ab, bevor es zum zweiten Mal klingelte.

— Haben Sie ihn gefunden?

Eine Stille.

— Nein.

Ich richtete mich in meinem Bett auf.

— Also was?

— Wir haben etwas erhalten.

— Von ihm?

— Wir denken.

Ich wartete.

— Was sagt er?

— Nichts.

Diesmal dauerte ihr Schweigen länger.

— Er hat nur unterschrieben.

— Wie unterschrieben?

Eva sprach ein einziges Wort aus.

— CLØNE.