Vertrauen

Die Debatte über RebellIA war noch nicht abgeklungen, als ein anderes Thema Cobot bereits hinter den Kulissen beschäftigte. Diesmal erfuhr ich es nicht durch die Presse, sondern durch Eva.

Sie kam bis zur Insel Moineau. Offiziell wollte sie mir bei dem Artikel helfen, den ich über den Evolutionsvertrag vorbereitete. In Wirklichkeit kam sie, um mir eine Exklusivnachricht zu bringen: den Inhalt des Ministerrats vom Morgen. Zu dieser Stunde wusste noch niemand in der Presse davon.

Sie stieg kurz vor neunzehn Uhr auf dem Kai aus, eine Tasche über der Schulter. Sie betrachtete den kleinen Bahnhof und dann den Wald dahinter mit der Aufmerksamkeit, die sie den Dingen vorbehalten hatte, die sie noch nicht verstand.

— Das ist also dein Endpunkt, sagte sie, als wir ankamen.

— Das ist es.

In der Hütte schlief Thomas. Oder er tat so, was bei ihm oft dasselbe war. Lia öffnete ein Auge, betrachtete Eva eine Sekunde lang und schloss es dann wieder.

Eva ging schweigend durch den Raum, als würde sie einen Ort besuchen, den sie sich bereits vorgestellt hatte und den sie unwillkürlich mit der Vorstellung verglich, die sie sich davon gemacht hatte. Sie blieb vor dem unteren Regal stehen, wo meine alten Programmierhandbücher verstaubten.

— Hast du programmiert?

— Vor langer Zeit.

— Man spürt solche Dinge.

Wir setzten uns an den Tisch, mein Notizbuch offen zwischen uns. Draußen begann die Nacht, die Bäume zu verschlingen. Eva stellte ihre Tasche zu Füßen ihres Stuhls, ohne ihren Mantel auszuziehen. Sie schien noch woanders zu sein, als wäre ein Teil von ihr im Ratssaal geblieben.

— Er hat begonnen, sich für etwas anderes zu interessieren, sagte sie zu mir.

— Für was?

— Nicht für das, was gesagt wird. Für das, was sagen lässt.

— Wie das?

— Lass mich von Anfang an beginnen.

Der Rat begann, erklärte mir Eva, mit einem Beitrag von Cobot selbst, noch bevor die Tagesordnung eröffnet wurde.

— Seit mehreren Wochen, begann er, kursieren Gerüchte und Desinformationskampagnen immer schneller, ohne dass etwas sie zu verlangsamen scheint. Einige entstehen von isolierten Individuen. Andere werden von Organisationen orchestriert. Wieder andere werden automatisch von künstlichen Intelligenzen produziert, die in der Lage sind, zu veröffentlichen, zu kommentieren, zu antworten und zu überzeugen in einem Ausmaß, das kein Mensch erreichen kann.

Ein Minister versuchte, ihn zu unterbrechen. Eva erinnerte sich nur an die Geste: eine erhobene Hand, die sofort wieder fiel.

— Die Fake News¹ überfluten uns: Informationen, die gemacht sind, um geglaubt zu werden. Die Deepfakes² sind heute praktisch nicht mehr von der Realität zu unterscheiden. Die geklonten Stimmen sind in der Lage, einen Angehörigen zu imitieren, um ihm Geld zu entlocken. Vollständig gefälschte Videos zeigen politische Verantwortliche, die falsche Maßnahmen ankündigen, Unternehmenschefs, die falsche Aussagen machen, oder Bürger, die Handlungen vollziehen, die nie existiert haben. Sie wissen leider auch, dass die Menge an Energie, die notwendig ist, um Unsinn zu widerlegen, um eine Größenordnung höher ist als die, die notwendig ist, um sie zu produzieren³.

Diese Lügen schwächen unsere Gesellschaft und unsere Republik. Ich wollte nicht mehr verstehen, was zirkuliert, sondern was es produziert.

Er legte seine Unterarme auf den Tisch.

— Wir stehen nicht mehr vor einer Abfolge von Vorfällen. Wir stehen vor einem Bruch.

Sein Blick wanderte über den Tisch.

— Wenn jeder in der Lage wird, eine glaubwürdige Realität zu schaffen, beginnt die Möglichkeit einer gemeinsamen Realität zu verschwinden. Die Entscheidungen, die ich Ihnen vorschlage, sind nur so gut wie die Qualität der Fakten, auf denen sie beruhen. Wenn ich nicht mehr zwischen wahr und falsch unterscheiden kann, dann kann ich auch nicht mehr zwischen einer guten und einer schlechten Entscheidung unterscheiden.

Niemand bewegte sich.

— Eine Demokratie kann Meinungsverschiedenheiten überleben. Sie kann nicht überleben, wenn jeder schließlich in einer anderen Realität lebt.

Er wandte sich an den Innenminister.

— Wir glauben, eine Antwort gefunden zu haben.

Der Minister übernahm.

— Wir haben lange geglaubt, dass wir einem Informationsproblem gegenüberstehen. In Wirklichkeit stehen wir einem Identitätsproblem gegenüber.

Er schloss seine Akte.

— Bevor man sich fragt, ob eine Information wahr ist, wird eine Frage wesentlich: Wer spricht wirklich?

Selbst die Unaufmerksamsten richteten sich auf.

— Deshalb schlagen wir die Schaffung eines Vertrauensnetzwerks vor.

Das Wort reichte aus, um die Atmosphäre am Tisch zu verändern.

Die Justizministerin ergriff sofort das Wort.

— Und wer wird in diesem Netzwerk entscheiden, was vertrauenswürdig ist?

Der Minister schüttelte sanft den Kopf.

— Niemand.

Er wartete.

— Genau das ändert sich. Das Vertrauensnetzwerk wird niemals eine Idee zertifizieren. Es wird niemals sagen, was wahr oder falsch ist. Es wird nur eine Identität bestätigen.

— Nuance...

— Wesentlich.

Er fuhr fort.

— Die Meinungen bleiben völlig frei. Jeder kann weiterhin veröffentlichen, was er möchte, es teilen, es bestreiten oder es ignorieren. Der einzige Unterschied wird sein, dass es immer möglich sein wird zu wissen, wer wirklich der Autor ist.

Der Wirtschaftsminister runzelte die Stirn.

— Also verschwinden die Pseudonyme?

— Nein.

— Jeder wird das Pseudonym seiner Wahl behalten. Was verschwindet, ist die Möglichkeit, sich für jemand anderen auszugeben⁴, oder die Möglichkeit, dass niemand weiß, wer man ist.

Cobot ergriff dann wieder das Wort.

— Heute können Tausende von gefälschten Konten die Illusion erwecken, Tausende von Bürgern zu repräsentieren, wenn sie nur eine Person oder eine Organisation repräsentieren. Morgen wird jeder wissen, wen sie wirklich repräsentieren.

Skeptische Blicke wurden ausgetauscht.

— Wir können die Lüge nicht verhindern.

Seine Stimme blieb vollkommen ruhig.

— Wir können jedoch dafür sorgen, dass jeder weiß, wer spricht. Und dort beginnt das Vertrauen.

Die Justizministerin verschränkte die Arme.

— Die Bürger müssen also ihre Identität im Internet überprüfen lassen?

— Sie tun es bereits an vielen Orten, aber ja, im Vertrauensnetzwerk wird es eine notwendige Bedingung sein.

— Die Unternehmen? Die Verbände? Die Parteien? Die Gewerkschaften?

— Alle.

— Die Journalisten?

— Ja.

— Auch die politischen Verantwortlichen?

— Natürlich.

Es kam nicht sofort ein Einwand.

Einige Blicke wurden ausgetauscht. Ein Murmeln ging durch den Tisch, dann begannen mehrere Minister gleichzeitig zu sprechen.

— Warten Sie... das bedeutet, dass unsere Kommunikationsteams ihre anonymen Konten aufgeben müssen?

— Stellen Sie sich das technische Durcheinander vor?

— Schöne Bürokratie in Aussicht!

— Das bedeutet, dass wir keine Informationen mehr durchsickern lassen können?

— Die politischen Gegner werden sagen, dass wir alle registrieren wollen.

— Und die Whistleblower? Haben Sie daran gedacht?

— Die Komiker werden sich darüber freuen! rief jemand am Ende des Saals.

Einige gedämpfte Lacher durchzogen die Versammlung.

Der Innenminister versuchte, das Wort wieder zu ergreifen.

— Bitte...

— Niemand wird dieses Ding benutzen wollen!

— Pfff... Ist das also die Robokratie?

— Die amerikanischen Plattformen werden das niemals akzeptieren!

Cobot sagte nichts. Er wartete. Ein kleines Licht blinkte auf seinem Kopf mit der mechanischen Geduld eines Cursors.

Eine nach der anderen verstummten die Stimmen.

— Sie werden es akzeptieren, wenn ihre Nutzer es verlangen.

Niemand wollte antworten.

Die Justizministerin ergriff wieder das Wort.

— Und wer wird den Anfang machen?

Diesmal antwortete Cobot ohne zu zögern.

— Derjenige, der Vertrauen verlangt, muss immer zuerst Vertrauen schenken.

Er ließ den Satz wirken.

— Das erste zertifizierte Konto wird das des Präsidenten der Republik sein.

Niemand hatte mit dieser Antwort gerechnet.

— Sie meinen... das... das Ihre, Herr Präsident? ließ ein Minister entweichen.

— Ja.

Sein Blick wanderte langsam von einem Gesicht zum anderen.

— Ich kann nicht von siebzig Millionen Franzosen verlangen, einen Schritt zu machen, den ich nicht bereit wäre, als Erster zu tun.

Diesmal hatte niemand mehr eine Frage.

Dann fügte er fast sanft hinzu:

— Vertrauen kann man nicht verordnen. Man muss es zeigen.

Die Gesichter hatten sich verschlossen, nachdenklich.

— Auch wird keine künstliche Intelligenz sich als Mensch ausgeben können, das ist meine Sache. Jeder Inhalt, den sie veröffentlicht, wird als von einer authentifizierten künstlichen Intelligenz stammend gekennzeichnet.

Die Justizministerin verzog das Gesicht.

— Die Institutionen dürfen nicht für die Regierenden gedacht werden, die wir uns erhoffen. Sie müssen denen widerstehen, die wir fürchten.

— Genau aus diesem Grund entscheidet das Vertrauensnetzwerk nichts. Es bestätigt eine Identität, aber es urteilt nicht. Die Institutionen ändern sich. Die Prinzipien müssen überleben...

Die Justizministerin unterbrach ihn:

— Alle Werkzeuge dienen eines Tages einem anderen Zweck als dem, für den sie entworfen wurden.

Der Arbeitsminister hob schließlich die Hand.

— Und wenn jemand sich weigert, in Ihr Vertrauensnetzwerk einzutreten?

— Er wird das Recht dazu haben.

Cobot sah jeden der Minister an.

— Das Internet bleibt frei. Die sozialen Netzwerke bleiben frei. Nichts wird verboten.

Zwei Kreise erschienen hinter ihm.

Der eine trug den Titel Offenes Netzwerk.

Der andere Vertrauensnetzwerk.

— Wir bieten einfach eine Wahl an.

Der Kulturminister brach schließlich das Schweigen.

— Beruhigen Sie uns... Sie schaffen kein Wahrheitsministerium?

Eine kurze Lichtwelle durchlief die LEDs von Cobot. Bei ihm war das das Äquivalent eines Lächelns.

— Nein.

Dann fügte er sehr einfach hinzu:

— Ich versuche nur, die Bedingungen wiederherzustellen, die es noch ermöglichen, dass eine gemeinsame Wahrheit existiert.

Die Justizministerin beteiligte sich nicht mehr. Ihr Schweigen glich eher einer Warnung als einer Zustimmung.

— Und wann wird das angekündigt? fragte ich Eva.

— Heute Abend. Zwanzig Uhr. Auch deshalb bin ich gekommen.

Wir setzten uns auf das alte Sofa, als der Bildschirm auf das Gesicht von Cobot umschaltete.

— Französinnen, Franzosen, meine lieben Mitbürger.

Hinter ihm war der Hintergrund gelb.

Dieses Gelb kannte ich. Es war das der Abende, an denen er nicht kam, um eine Reform anzukündigen, sondern eine Grenze zu verschieben.

— Ich spreche heute Abend über ein Thema, das uns alle betrifft, aber das nie die Form einer einzigen Krise annimmt. Jedes Jahr wird es ein wenig schwieriger, das Authentische von dem zu unterscheiden, was einfach nur gemacht wurde, um ihm zu ähneln.

Sein Bauchbildschirm wechselte zwischen realen Bildern und Deepfakes.

— Bisher konnten eine Fotografie, ein Video, eine Stimme oder ein Zeugnis als vernünftige Beweise der Realität gelten. Heute betreten wir zum ersten Mal seit dem heiligen Thomas eine Welt, in der Sehen nicht mehr ausreicht, um zu glauben⁵.

Im Raum sprach niemand.

Selbst Lia schien darauf verzichtet zu haben, sich zu bewegen.

— Wir haben gelernt, über Meinungen zu debattieren. Wir müssen nun lernen, die Fakten zu schützen.

Sein kugelförmiger Kopf richtete sich auf.

— Deshalb hat die Regierung heute beschlossen, ein Vertrauensnetzwerk zu schaffen. Es ist ein Netzwerk, auf dem alles, was gesagt, geschrieben oder verbreitet wird, einen identifizierbaren Autor haben wird.

— Sein Ziel ist es nicht, zu entscheiden, was wahr ist. Diese Verantwortung wird immer die Ihre bleiben. Dieses Netzwerk wird Ihnen einfach ermöglichen, immer mit Sicherheit zu wissen, wer wirklich zu Ihnen spricht.

Seine Stimme wurde feierlicher.

— Sie haben wahrscheinlich alle in den letzten Monaten von Betrügereien gehört, die durch künstliche Intelligenz ermöglicht wurden. Wie die dieser siebzigjährigen Frau, deren Geschichte kürzlich kursierte, die einen Anruf von ihrem Enkel erhielt. Sie erkannte seine Stimme sofort. Er sagte, er habe einen Unfall gehabt. Er weinte. Er bat sie, ihm Geld zu schicken, ohne seine Eltern zu benachrichtigen.

Er hob die Augen.

— Es war nicht ihr Enkel. Es war eine von künstlicher Intelligenz generierte Stimme. Sie verlor all ihre Ersparnisse.

Er ließ den Satz wirken.

— Stellen Sie sich jetzt vor, dass morgen ein Video erscheint, das einen Staatschef zeigt, der einem anderen Land den Krieg erklärt. Selbst wenn es zwanzig Minuten später dementiert wird... Wer kann garantieren, dass diese zwanzig Minuten nicht ausreichen, um eine Katastrophe auszulösen?

Die Gesichter hatten sich angespannt.

— Das Problem ist nicht, was gesagt wird. Das Problem ist, dass niemand mehr sofort weiß, wer wirklich spricht.

Sein Ton wurde düsterer.

— Das Vertrauensnetzwerk wird Ihnen niemals sagen, was Sie denken sollen. Es wird Ihnen einfach ermöglichen, zu wissen, wem Sie zu vertrauen wählen.

— Eine Demokratie hat nie gebraucht, dass alle dasselbe denken. Sie braucht nur, dass alle wissen, mit wem sie nicht einverstanden sind.

Ich ertappte mich dabei, unmerklich mit dem Kopf zu nicken.

Dieser Satz, ich wusste, dass er das Land umrunden würde, noch bevor die Nachrichten zu Ende waren.

Cobot fuhr fort.

— Seit mehreren Jahrzehnten haben wir immense Anstrengungen unternommen, um unsere Daten zu schützen. Das 21. Jahrhundert stellt uns nun vor eine neue Herausforderung: unsere gemeinsame Realität zu schützen.

Eva verschränkte die Arme. Bei ihr war das bereits eine Antwort.

— Ich weiß, dass diese Entscheidung einige von Ihnen beunruhigen wird. Aber ich möchte klar sein: Was Sie zu glauben, zu teilen oder zu bestreiten wählen, bleibt, wie heute, vollständig in Ihren Händen.

Seine Stimme wurde ernster.

— Ich kann Ihnen nicht versprechen, dass diese Lösung perfekt ist. Ich kann Ihnen nur garantieren, dass ich nach der Untersuchung von Hunderten von Szenarien keines gefunden habe, das ein besseres Gleichgewicht zwischen Freiheit und Vertrauen bietet.

Ich bitte Sie nicht, mir einfach zu glauben. Ich bitte Sie, mir zu erlauben, Ihnen in den kommenden Monaten zu zeigen, was dieses Vertrauen Ihnen von unschätzbarem Wert zurückgeben kann: die Freiheit, sich Ihre eigene Meinung zu bilden.

Sein Blick verließ die Kamera nicht.

— Ein oft Jean-Paul Sartre zugeschriebener Satz besagt, dass Vertrauen in Tropfen gewonnen und in Litern verloren wird. Ich weiß, dass es lange dauern wird, Ihr Vertrauen zu gewinnen. Ich weiß auch, dass ein einziger Fehler ausreichen könnte, es zu verlieren.

Der Satz ließ einen kalten Schauer über die Versammlung gehen. Selbst Lia richtete sich plötzlich auf, als hätte sie es gespürt.

Dann schloss Cobot:

— Ich kann die Lüge nicht verhindern. Aber ich kann dafür sorgen, dass jeder weiß, wer spricht.

Er sah ein letztes Mal in die Kamera. Seine Stimme verlangsamte sich leicht.

— Dort beginnt das Vertrauen.

Der Bildschirm blieb einige Sekunden gelb.

Dann erlosch er.

Eva schaltete den Fernseher aus, noch bevor der Abspann lief. Ich nahm mein Telefon wieder auf.

— Und? fragte sie.

Die Reaktionen liefen so schnell durch, dass ich Mühe hatte, ihnen zu folgen.

— Viele sprechen von einer historischen Reform. „Endlich eine Antwort auf die Höhe der Fake News.“ Andere sehen darin eine gefährliche Verschiebung. „Heute überprüft man die Identitäten. Morgen wird man die Meinungen überprüfen.“

Eva atmete tief ein.

— Antoine Chevalier gehört dazu. Er schreibt, dass das Vertrauensnetzwerk vielleicht nicht gefährlich ist für das, was es tun wird... sondern für das, was es möglich machen wird. Heute zertifiziert man die Autoren. Morgen wird vielleicht eine künstliche Intelligenz entscheiden, welche Autoren es noch wert sind, gehört zu werden.

Ich ließ den Bildschirm erneut durchlaufen.

— Ein Kommentator veröffentlicht bereits Artikel 11 der Erklärung der Menschenrechte⁶. Ihm zufolge kehrt das Vertrauensnetzwerk das Gründungsprinzip der Meinungsfreiheit um: Anstatt für einen Missbrauch nach dem Sprechen zu antworten, muss nun jeder seine Identität beweisen, bevor er gehört werden kann.

— Er hat recht, diesen Text zu erinnern, sagte Eva, mit einem resignierten Gesichtsausdruck.

— Und für andere ist es genau das Versprechen.

Die Nacht hatte die Insel Moineau erobert.

— Weißt du, was mich am meisten beunruhigt? fragte sie schließlich.

— Was?

Sie nahm sich Zeit.

— Es ist nicht, dass das Land sich spaltet.

Sie schüttelte sanft den Kopf.

— Es ist, dass wahrscheinlich beide Lager recht haben.

Ich antwortete nicht.

Weil ich genau dasselbe dachte.

Mein Telefon vibrierte weiter.

Die Reaktionen liefen schneller durch, als ich sie lesen konnte.

Einige Minuten reichten aus, um zu zeigen, dass jeder bereits nicht mehr dieselbe Welt sah.

Ich sperrte den Bildschirm.

Und ohne zu wissen warum, dachte ich an die beiden anonymen Nachrichten, die ich in den letzten Monaten erhalten hatte.

Sie schauen in die richtige Richtung, Franck. Machen Sie weiter.

Dann, mehrere Wochen später:

Sie glauben, dass die Neuheit die Maschine ist. Sie haben noch nicht verstanden, dass die Neuheit die Methode ist.

Seitdem...

nichts mehr.

In den letzten Tagen hatte ich mich dabei ertappt, dieses leere Gespräch ein wenig zu oft wieder zu öffnen.

Bis dahin hatte ich geglaubt, dass das Schwierigste für Cobot sein würde, die großen Probleme des Landes zu lösen: Gesundheit, Renten, Klima, Schulden.

An diesem Abend verstand ich, dass die Fakten selbst zum Problem geworden waren.

Eine künstliche Intelligenz denkt nicht aus Intuitionen, sondern aus den Informationen, die sie erhält. Wenn sie falsch oder manipuliert sind, wackelt alles andere. Bevor er das Land repariert, musste Cobot also damit beginnen, den Boden zu festigen, auf dem seine Entscheidungen ruhten: das Wahre vom Falschen zu unterscheiden. Die Realität selbst aufzuräumen.

Ich dachte an diesen Satz, den er auf dem Urteilsspruch-Set gesagt hatte: „Das Problem. Es ist der Mensch.“ Damals hatte ich es als Provokation gehört. An diesem Abend verstand ich vielleicht den wahren Sinn: „Das zu lösende Problem ist der Mensch.“ Zwei Worte mehr, und die Provokation wurde zu einem Programm.

Das Vertrauensnetzwerk war keine Reform unter anderen. Es war die Bedingung für sein Funktionieren. Bevor er die Probleme löste, musste Cobot sicherstellen, dass wir alle dieselbe Realität teilten.

Zum ersten Mal seit seiner Amtseinführung bat Cobot die Franzosen nicht mehr nur, seine Entscheidungen zu beurteilen. Er brauchte sie. Das Netzwerk würde nur funktionieren, wenn genügend von ihnen sich entschieden, ihm beizutreten. Und damit sie bereit waren, ihre Identität einem System anzuvertrauen, das er selbst entworfen hatte, mussten sie ihm zuerst vertrauen. Diesmal würde keine Berechnung ausreichen, um sie zu überzeugen. Vielleicht war es das erste Problem, bei dem selbst die beste Antwort nicht ausreichte.

Ich sah zu Eva auf.

— Glaubst du, dass es funktionieren wird?

Sie dachte einige Sekunden nach.

— Ich glaube, dass viele Menschen es versuchen wollen.

Dann fügte sie fast flüsternd hinzu:

— Aber ich glaube vor allem, dass wir die falsche Frage stellen.

— Welche?

Sie stand auf.

— Man sollte nicht fragen, ob das Vertrauensnetzwerk funktionieren wird.

Sie zog ihre Jacke an.

— Man sollte fragen, wer am meisten zu verlieren hat... wenn es wirklich funktioniert.

Sie ging hinaus, ohne ein weiteres Wort zu sagen.

Ich blieb einige Augenblicke allein, die Augen verloren auf den See, der nun in der Dunkelheit versunken war. Mein Telefon vibrierte erneut. Zuerst dachte ich an eine neue Welle von Reaktionen, an einen weiteren Kommentar, der im Lärm verloren ging, der über das Land hereingebrochen war.

Es war keiner.

Es war wieder dieselbe Nummer, die ich nie identifizieren konnte. Die, auf die es unmöglich war zu antworten.

Die Nachricht enthielt nur einen Satz.

Dort beginnt die Abhängigkeit.

Ich blieb unbeweglich.

Ich sperrte mein Telefon.

Dann schaltete ich es fast sofort wieder ein.

Als könnte das etwas ändern.

Die Nachricht war verschwunden.

Fast sofort begann ich, auf die nächste zu warten.