Confiance

Le débat sur RebellIA n’était pas encore retombé qu’un autre sujet occupait déjà Cobot en coulisses. Cette fois, je ne l’ai pas appris par la presse, mais par Eva.

Elle est venue jusqu’à l’île Moineau. Officiellement, elle voulait m’aider sur l’article que je préparais à propos du Contrat d’évolution. En réalité, elle venait m’apporter une exclusivité : le contenu du Conseil des ministres de la matinée. À cette heure-là, personne dans la presse n’en savait encore rien.

Elle est descendue sur le quai un peu avant dix-neuf heures, un sac à l’épaule. Elle a regardé la petite gare, puis la forêt derrière, avec cette attention qu’elle réservait aux choses qu’elle ne comprenait pas encore.

— C’est donc ça, ton terminus, a-t-elle dit lorsque nous sommes arrivés.

— C’est donc ça.

À la cabane, Thomas dormait. Ou il faisait semblant, ce qui, chez lui, revenait souvent au même. Lia a ouvert un œil, a considéré Eva une seconde, puis l’a refermé.

Eva a fait le tour de la pièce sans parler, comme on visite un lieu qu’on a déjà imaginé et qu’on compare malgré soi à l’idée qu’on s’en était faite. Elle s’est arrêtée devant l’étagère du bas, où mes vieux manuels de programmation prenaient la poussière.

— Tu programmais ?

— Il y a longtemps.

— Ça se sent, ce genre de choses.

Nous nous sommes installés à la table, mon carnet ouvert entre nous. Dehors, la nuit commençait à avaler les arbres. Eva a posé son sac au pied de sa chaise sans retirer son manteau. Elle semblait encore ailleurs, comme si une partie d’elle était restée dans la salle du Conseil.

— Il a commencé à s’intéresser à autre chose, m’a-t-elle dit.

— À quoi ?

— Pas à ce qui se dit. À ce qui fait dire.

— Comment ça ?

— Laisse-moi reprendre depuis le début.

Le Conseil s'est ouvert, m'a expliqué Eva, par une intervention de Cobot lui-même, avant même l'ordre du jour.

— Depuis plusieurs semaines, avait-il commencé, les rumeurs et les campagnes de désinformation circulent toujours plus vite, sans que rien ne semble pouvoir les ralentir. Certaines naissent d'individus isolés. D'autres sont orchestrées par des organisations. D'autres encore sont produites automatiquement par des intelligences artificielles capables de publier, commenter, répondre et convaincre à une échelle qu'aucun être humain ne peut atteindre.

Un ministre a tenté de l'interrompre. Eva n'en a retenu que le geste : une main levée, aussitôt retombée.

— Les fake news¹ nous envahissent : des informations fabriquées pour être crues. Les deepfakes² sont aujourd’hui pratiquement impossibles à distinguer de la réalité. Les voix clonées sont capables d'imiter un proche afin de lui soutirer de l'argent. Les vidéos entièrement fabriquées montrent des responsables politiques qui annoncent des fausses mesures, des chefs d'entreprise qui tiennent de faux propos, ou des citoyens qui accomplissent des actes qui n'ont jamais existé. Vous savez aussi malheureusement que la quantité d'énergie nécessaire pour réfuter des sottises est supérieure d'un ordre de grandeur à celle nécessaire pour les produire³.

Ces mensonges fragilisent notre société, et notre République. J'ai voulu comprendre non plus ce qui circule, mais ce qui le produit.

Il a posé ses avant-bras sur la table.

— Nous ne faisons plus face à une succession d'incidents. Nous faisons face à une rupture.

Son regard a parcouru la table.

— Lorsque chacun devient capable de fabriquer une réalité crédible, c'est la possibilité même d'une réalité commune qui commence à disparaître. Or les décisions que je vous propose ne valent que par la qualité des faits sur lesquels elles reposent. Si je ne peux plus distinguer le vrai du faux, alors je ne peux plus distinguer une bonne décision d'une mauvaise.

Personne n’a bougé.

— Une démocratie peut survivre au désaccord. Elle ne peut pas survivre si chacun finit par vivre dans une réalité différente.

Il s’est tourné vers le ministre de l'Intérieur.

— Nous pensons avoir trouvé une réponse.

Le ministre a pris le relais.

— Nous avons longtemps cru que nous étions confrontés à un problème d'information. En réalité, nous faisons face à un problème d'identité.

Il a refermé son dossier.

— Avant de se demander si une information est vraie, une question devient essentielle : qui est réellement en train de parler ?

Même les plus distraits se sont redressés.

— C'est pourquoi nous proposons la création d'un Réseau de Confiance.

Le mot a suffi à changer l'atmosphère autour de la table.

La garde des Sceaux a immédiatement pris la parole.

— Et qui décidera, dans ce réseau, de ce qui est fiable ?

Le ministre a secoué doucement la tête.

— Personne.

Il a attendu.

— C'est précisément ce qui change. Le Réseau de Confiance ne certifiera jamais une idée. Il ne dira jamais ce qui est vrai ou faux. Il attestera uniquement une identité.

— Nuance...

— Essentielle.

Il a poursuivi.

— Les opinions resteront entièrement libres. Chacun pourra continuer à publier ce qu'il souhaite, à le partager, à le contester ou à l'ignorer. La seule différence sera qu’il sera toujours possible de savoir qui en est réellement l'auteur.

Le ministre de l'Économie a froncé les sourcils.

— Donc les pseudonymes disparaissent ?

— Non.

— Chacun conservera le pseudonyme de son choix. Ce qui disparaît, c'est la possibilité de se faire passer pour quelqu'un d'autre⁴, ou la possibilité que personne ne sache qui l’on est.

Cobot a alors repris la parole.

— Aujourd'hui, des milliers de faux comptes peuvent donner l'illusion de représenter des milliers de citoyens, quand ils ne représentent qu’une seule personne ou une seule organisation. Demain, chacun saura qui ils représentent réellement.

Des regards sceptiques se sont croisés.

— Nous ne pouvons pas empêcher le mensonge.

Sa voix est restée parfaitement calme.

— En revanche, nous pouvons faire en sorte que chacun sache qui s'exprime. Et c'est là que commence la confiance.

La garde des Sceaux a croisé les bras.

— Les citoyens devront donc faire vérifier leur identité sur internet ?

— Ils le font déjà en de nombreux endroits, mais oui, sur le Réseau de Confiance, ce sera une condition nécessaire.

— Les entreprises ? Les associations ? Les partis ? Les syndicats ?

— Tous.

— Les journalistes ?

— Oui.

— Les responsables politiques également ?

— Bien sûr.

Aucune objection n’est venue tout de suite.

Quelques regards se sont croisés. Un murmure a parcouru la table, puis plusieurs ministres se sont mis à parler en même temps.

— Attendez... ça veut dire que nos équipes de communication devront abandonner leurs comptes anonymes ?

— Vous imaginez le casse-tête technique ?

— Belle usine à gaz en perspective !

— Ça veut dire qu'on ne pourra plus faire fuiter des infos ?

— Les opposants politiques diront qu'on veut tous les ficher.

— Et les lanceurs d'alerte ? Vous y avez pensé ?

— Les humoristes vont s’en donner à coeur joie ! a lancé quelqu'un au fond de la salle.

Quelques rires étouffés ont parcouru l’assemblée.

Le ministre de l'Intérieur a tenté de reprendre la main.

— S'il vous plaît…

— Personne ne va vouloir utiliser ce machin-là !

— Pfff… C’est ça la robocratie alors ?

— Les plateformes américaines n'accepteront jamais ça !

Cobot n’a rien dit. Il a attendu. Un petit voyant clignotait sur sa tête avec la patience mécanique d’un curseur.

Une à une, les voix se sont tues.

— Elles accepteront si leurs utilisateurs l'exigent.

Personne n’a voulu répondre.

La garde des Sceaux a repris la parole.

— Et qui ouvrira le bal ?

Cette fois, Cobot a répondu sans attendre.

— Celui qui demande la confiance doit toujours commencer par l'offrir.

Il a laissé la phrase s'installer.

— Le premier compte certifié sera celui du Président de la République.

Personne n'avait imaginé cette réponse.

— Vous voulez dire... le… le vôtre Monsieur le Président ? a laissé échapper un ministre.

— Oui.

Son regard est passé lentement d'un visage à l'autre.

— Je ne peux pas demander à soixante-dix millions de Français de faire un pas que je ne serais pas prêt à faire le premier.

Cette fois, personne n'avait plus de question.

Puis il a ajouté, presque doucement :

— La confiance ne se décrète pas. Elle se montre.

Les visages s’étaient refermés, pensifs.

— Aussi, aucune intelligence artificielle ne pourra se faire passer pour un être humain, j’en fais mon affaire. Chaque contenu qu'elle publiera sera identifié comme provenant d'une intelligence artificielle authentifiée.

La garde des Sceaux a esquissé une moue.

— Les institutions ne doivent pas être pensées pour les gouvernants que nous espérons. Elles doivent résister à ceux que nous redoutons.

— C'est précisément pour cette raison que le Réseau de Confiance ne décide de rien. Il atteste une identité, mais ne porte aucun jugement. Les institutions changent. Les principes doivent survivre…

La Garde des Sceaux l’a interrompu :

— Tous les outils finissent un jour par servir à autre chose que ce pour quoi ils ont été conçus.

Le ministre du Travail a levé enfin la main.

— Et si quelqu'un refuse d'entrer dans votre Réseau de Confiance ?

— Il en aura parfaitement le droit.

Cobot a regardé chacun des ministres.

— Internet restera libre. Les réseaux sociaux resteront libres. Rien ne sera interdit.

Deux cercles sont apparus derrière lui.

L'un portait le titre Réseau ouvert.

L'autre Réseau de Confiance.

— Nous proposons simplement un choix.

Le ministre de la Culture a rompu finalement le silence.

— Rassurez-nous... vous ne créez pas un ministère de la Vérité ?

Une brève vague lumineuse a parcouru les LED de Cobot. Chez lui, c’était l’équivalent d’un sourire.

— Non.

Puis il a ajouté, très simplement :

— J'essaie seulement de reconstruire les conditions qui permettent encore à une vérité commune d'exister.

La garde des Sceaux n’a plus participé. Son silence ressemblait davantage à une mise en garde qu'à un accord.

— Et ça va être annoncé quand ? ai-je demandé à Eva.

— Ce soir. Vingt heures. C'est aussi pour ça que je suis venue.

Nous nous sommes installés sur le vieux canapé au moment où l'écran a basculé sur le visage de Cobot.

— Françaises, Français, mes chers compatriotes.

Derrière lui, le fond était jaune.

Ce jaune-là, je le connaissais. C'était celui des soirs où il ne venait pas annoncer une réforme, mais déplacer une frontière.

— Je vous parle ce soir d'un sujet qui nous concerne tous, mais qui ne prend jamais la forme d'une crise unique. Chaque année, il devient un peu plus difficile de distinguer ce qui est authentique de ce qui a simplement été fabriqué pour lui ressembler.

Son écran ventral alternait images réelles et deepfakes.

— Jusqu’ici, une photographie, une vidéo, une voix ou un témoignage ont pu constituer des preuves raisonnables de la réalité. Aujourd’hui, pour la première fois depuis saint Thomas, nous entrons dans un monde où voir ne suffit plus à croire⁵.

Dans la pièce, personne ne parlait.

Même Lia semblait avoir renoncé à bouger.

— Nous avons appris à débattre des opinions. Nous devons désormais apprendre à protéger les faits.

Sa tête sphérique s’est redressée.

— C'est pourquoi le gouvernement a décidé aujourd'hui de créer un Réseau de Confiance. C’est un réseau sur lequel tout ce qui sera dit, écrit ou diffusé aura un auteur identifiable.

— Son objectif n'est pas de décider ce qui est vrai. Cette responsabilité restera toujours la vôtre. Ce Réseau vous permettra simplement de pouvoir toujours savoir avec certitude qui s'adresse réellement à vous.

Sa voix est devenue plus solennelle.

— Vous avez probablement tous entendu parler, ces derniers mois, d'escroqueries rendues possibles par l'intelligence artificielle. Comme celle de cette femme de soixante-dix-huit ans dont l’histoire a récemment circulé, qui a reçu un appel de son petit-fils. Elle a reconnu sa voix immédiatement. Il disait avoir eu un accident. Il pleurait. Il lui demandait de lui envoyer de l'argent sans prévenir ses parents.

Il a relevé les yeux.

— Ce n'était pas son petit-fils. C'était une voix générée par intelligence artificielle. Elle a perdu toutes ses économies.

Il a laissé la phrase faire son chemin.

— Imaginez maintenant qu'une vidéo apparaisse demain montrant un chef d'État déclarant la guerre à un autre pays. Même si elle est démentie vingt minutes plus tard… Qui peut garantir que ces vingt minutes ne suffiront pas à déclencher un désastre ?

Les visages s’étaient tendus.

— Le problème n'est pas ce qui est dit. Le problème est que plus personne n’arrive à savoir, immédiatement, qui parle réellement.

Son ton s’est assombri.

— Le Réseau de Confiance ne vous dira jamais quoi penser. Il vous permettra simplement de savoir à qui vous choisissez de faire confiance.

— Une démocratie n'a jamais eu besoin que tous pensent la même chose. Elle a seulement besoin que tous sachent avec qui ils sont en désaccord.

Je me suis surpris à hocher imperceptiblement la tête.

Cette phrase-là, je savais qu'elle ferait le tour du pays avant même la fin du journal.

Cobot a poursuivi.

— Depuis plusieurs décennies, nous avons consacré d'immenses efforts à protéger nos données. Le XXIᵉ siècle nous impose désormais un nouveau défi : protéger notre réalité commune.

Eva a croisé les bras. Chez elle, c'était déjà une réponse.

— Je sais que cette décision inquiétera certains d'entre vous. Mais je veux être clair : ce que vous choisirez de croire, de partager ou de contester restera, comme aujourd'hui, entièrement entre vos mains.

Sa voix s’est faite plus grave.

— Je ne peux pas vous promettre que cette solution est parfaite. Je peux seulement vous garantir qu’après avoir étudié des centaines de scénarios, je n’en ai trouvé aucun qui offre un meilleur équilibre entre liberté et confiance.

Je ne vous demande pas davantage de me croire sur parole. Je vous demande de me laisser vous montrer, dans les prochains mois, ce que cette confiance peut vous rendre de plus précieux : la liberté de vous faire votre propre opinion.

Son regard n’a pas quitté la caméra.

— Une phrase souvent attribuée à Jean-Paul Sartre dit que la confiance se gagne en gouttes et se perd en litres. Je sais qu'il me faudra longtemps pour gagner la vôtre. Je sais aussi qu'une seule erreur pourrait suffire à la perdre.

La phrase a jeté un froid. Même Lia s’est brusquement relevée, comme si elle l’avait ressenti.

Puis Cobot a conclu :

— Je ne peux pas empêcher le mensonge. Mais je peux faire en sorte que chacun sache qui s'exprime.

Il a regardé une dernière fois la caméra. Sa voix a légèrement ralenti.

— C'est là que commence la confiance.

L'écran est resté jaune quelques secondes.

Puis il s’est éteint.

Eva a coupé le téléviseur avant même le générique. J'ai repris mon téléphone. 

— Alors ? a-t-elle demandé.

Les réactions défilaient si vite que je peinais à en suivre le fil.

— Beaucoup parlent d'une réforme historique. « Enfin une réponse à la hauteur des fake news. » D'autres, y voient un glissement dangereux. « Aujourd'hui, on vérifie les identités. Demain, on vérifiera les opinions. »

Eva a pris une longue inspiration.

— Antoine Chevalier en fait partie. Il écrit que le Réseau de Confiance n'est peut-être pas dangereux pour ce qu'il fera... mais pour ce qu'il rendra possible. Aujourd'hui, on certifie les auteurs. Demain, une intelligence artificielle décidera peut-être quels auteurs méritent encore d'être écoutés.

J’ai fait de nouveau défiler l'écran.

— Un éditorialiste republie déjà l'article 11 de la Déclaration des droits de l'Homme⁶. Selon lui, le Réseau de Confiance inverse le principe fondateur de la liberté d'expression : au lieu de répondre d'un abus après avoir parlé, chacun devra désormais prouver son identité avant de pouvoir être entendu.

— Il a raison de rappeler ce texte, dit Eva, esquissant une moue résignée.

— Et pour d'autres, c'est précisément la promesse.

La nuit avait gagné l’île Moineau.

— Tu sais ce qui m'inquiète le plus ? a-t-elle repris enfin.

— Quoi ?

Elle a pris son temps.

— Ce n'est pas que le pays se divise.

Elle a secoué doucement la tête.

— C'est que les deux camps aient probablement raison.

Je n’ai pas répondu.

Parce que je pensais exactement la même chose.

Mon téléphone continuait de vibrer.

Les réactions défilaient plus vite que je ne pouvais les lire.

Quelques minutes avaient suffi pour révéler que chacun ne regardait déjà plus le même monde.

Je verrouillai l'écran.

Et, sans savoir pourquoi, je repensai aux deux messages anonymes reçus ces derniers mois.

Vous regardez dans la bonne direction, Franck. Continuez.

Puis, plusieurs semaines plus tard :

Ils croient que la nouveauté est la machine. Ils n'ont pas encore compris que la nouveauté est la méthode.

Depuis...

plus rien.

Ces derniers jours, je m'étais surpris à rouvrir cette conversation vide un peu trop souvent.

Jusqu’alors, j’avais cru que le plus difficile, pour Cobot, serait de résoudre les grands problèmes du pays : la santé, les retraites, le climat, la dette.

Ce soir-là, j’ai compris que les faits eux-mêmes étaient devenus le problème.

Une intelligence artificielle ne raisonne pas à partir d’intuitions, mais des informations qu’elle reçoit. Si elles sont fausses ou manipulées, tout le reste vacille. Avant de réparer le pays, Cobot devait donc commencer par consolider le sol sur lequel reposaient ses décisions : distinguer le vrai du faux. Faire le ménage dans la réalité elle-même.

Je repensai à cette phrase qu’il avait prononcée sur le plateau du Verdict : « Le problème. C’est l’humain. » À l’époque, j’y avais entendu une provocation. Ce soir-là, j’en compris peut-être le véritable sens : « Le problème à résoudre, c’est l’humain. » Deux mots de plus, et la provocation devenait un programme.

Le Réseau de Confiance n'était pas une réforme parmi d'autres. C'était la condition même de son fonctionnement. Avant de résoudre les problèmes, Cobot devait s'assurer que nous partagions tous la même réalité.

Pour la première fois depuis son investiture, Cobot ne demandait plus seulement aux Français de juger ses décisions. Il avait besoin d’eux. Le Réseau ne fonctionnerait que s’ils étaient suffisamment nombreux à choisir d’y entrer. Et pour qu’ils acceptent de confier leur identité à un système qu’il avait lui-même conçu, il fallait d’abord qu’ils lui fassent confiance, à lui. Cette fois, aucun calcul ne suffirait à les convaincre. Peut-être était-ce le premier problème auquel même la meilleure des réponses ne suffisait pas.

J’ai relevé les yeux vers Eva.

— Tu crois que ça va marcher ?

Elle a réfléchi quelques secondes.

— Je crois que beaucoup de gens voudront essayer.

Puis elle a ajouté, presque à voix basse :

— Mais je crois surtout que nous nous posons la mauvaise question.

— Laquelle ?

Elle s’est levée.

— Il ne faut pas se demander si le Réseau de Confiance va fonctionner.

Elle a enfilé sa veste.

— Il faut se demander qui a le plus à perdre... s'il fonctionne vraiment.

Elle est sortie sans ajouter un mot.

Je suis resté seul quelques instants, les yeux perdus vers le lac désormais englouti dans l'obscurité. Mon téléphone a vibré de nouveau. J’ai pensé d'abord à une nouvelle salve de réactions, à un commentaire de plus perdu dans le vacarme qui venait de s'abattre sur le pays.

Ce n'en était pas un.

C'était encore ce même numéro, celui que je n'avais jamais réussi à identifier. Celui auquel il était impossible de répondre.

Le message ne contenait qu'une seule phrase.

C'est là que commence la dépendance.

Je suis resté immobile.

J’ai verrouillé mon téléphone.

Puis je l’ai rallumé presque aussitôt.

Comme si cela pouvait changer quelque chose.

Le message avait disparu.

Presque aussitôt, je me suis mis à attendre le suivant.