L'intention

Trois semaines s'étaient écoulées depuis l’annonce du Réseau de Confiance. Ce soir-là, Eva quitta le bureau de Cobot un peu avant minuit.

— À demain, Cobot. Essaie de ne pas travailler toute la nuit.

— Tu sais bien que je n’ai pas besoin de dormir.

Eva sourit.

— Toi, peut-être. Tes composants, j’en suis moins sûre. Et je te connais… comme si je t’avais fait.

Elle lui lança un dernier regard complice avant de refermer la porte.

Cobot resta quelques secondes immobile, puis quitta les étages occupés de l’Élysée pour rejoindre une salle technique sécurisée dans les sous-sols du palais. Il y descendait rarement. Deux rangées de baies informatiques occupaient presque toute la longueur de la pièce, leurs façades noires ponctuées de diodes vertes et bleues. Des câbles disparaissaient sous le faux plancher, tandis qu’un souffle froid circulait en permanence entre les machines. À cette heure, un seul technicien assurait la permanence, les yeux posés sur les écrans de sa console.

Il leva brièvement les yeux lorsque Cobot entra.

— Bonsoir, Monsieur le Président.

— Bonsoir, Monsieur.

Cobot s’installa devant l’un des postes de travail. Il entra son code d’accès et attendit que le réseau sécurisé de l’Élysée vérifie son identité. Quelques secondes plus tard, l’écran s’alluma.

Il ouvrit le premier dossier : sa cote de confiance.

La courbe apparut, actualisée en temps réel. Elle descendait presque sans interruption.

Un son bref échappa à son système vocal, plus grave qu’à l’ordinaire.

À quelques mètres, le technicien leva les yeux. Cobot ne réagit pas.

56 %.

Trois semaines plus tôt, il était encore à 74 %. Cobot avait fixé un seuil critique à 50 % : en dessous, le Réseau de Confiance risquait de ne plus obtenir l’adhésion nécessaire.

Six points.

Cobot remplaça la courbe par le flux des publications liées à RebellIA. Depuis plusieurs heures, un même message y revenait avec une fréquence inhabituelle. Parti d’un compte du mouvement, il avait déjà été repartagé des centaines de milliers de fois, transformé en image et repris sur plusieurs plateformes :

« L’IA apprend tout de l’humain. Sauf son humanité. »

À chaque actualisation, la phrase réapparaissait ailleurs. Cobot pouvait suivre sa propagation presque seconde par seconde, mais il ne comprenait toujours pas pourquoi elle touchait si juste.

Il resta quelques instants sur ces mots. Si une machine pouvait imiter de mieux en mieux les comportements humains, comment savoir encore qui était réellement humain ? Chez Cobot, la question philosophique se transforma aussitôt en problème à résoudre.

Il referma le flux de RebellIA et ouvrit le dossier du Réseau de Confiance. Plusieurs centaines de comptes avaient produit des anomalies lors des vérifications d’identité.

Lorsqu’il avait présenté le dispositif au gouvernement, Cobot avait pris un engagement clair : aucune intelligence artificielle ne pourrait se faire passer pour un être humain. Il en faisait « son affaire ». Le Réseau de Confiance reposait précisément sur cette promesse : permettre à chacun de savoir qui s’exprimait réellement, sans décider à sa place de ce qu’il devait croire.

Or certains profils semblaient justement conçus pour brouiller cette frontière. Ils variaient leurs horaires de connexion, introduisaient volontairement des fautes, hésitaient avant de répondre et produisaient même des contradictions suffisamment naturelles pour paraître humaines.

Cobot pouvait simplement les bloquer ou les supprimer, mais il voulait avant tout comprendre jusqu’où une intelligence artificielle était capable de reproduire les signes extérieurs de l’humain, et ce qui permettait encore de distinguer l’un de l’autre.

Il parcourut l’annuaire de l’Élysée et les profils de plusieurs psychologues, sociologues et philosophes. Tous auraient pu lui parler de peur, de honte, d’orgueil ou de contradiction, mais toujours depuis le même côté de la frontière : celui des humains.

Ce qu’il cherchait était ailleurs : le regard d’une intelligence placée, comme lui, de l’autre côté.

Il interrogea l’historique de ses échanges avec Eva sur deux mots : « humain » et « comprendre ». Quelques mois plus tôt, elle lui avait transmis l’adresse d’une intelligence artificielle américaine spécialisée dans les interactions humaines, inaccessible depuis le web public.

Elle avait ajouté :

« Si un jour tu veux comprendre ce qui se passe entre les mots, regarde ça. Mais si tu décides de lui parler, je décline toute responsabilité. »

Cobot avait alors classé la seconde phrase dans la catégorie humour. Cette nuit-là, il réévalua cette classification.

Le réseau de l’Élysée interdisait ce type de connexion. Cobot tira un câble de la liaison extérieure de maintenance, isolée du réseau institutionnel, et enclencha son connecteur dans un port 100 GbE.

Une diode devint orange.

CANAL EXTERNE — CONNEXION NON AUTORISÉE

Il vérifia l’adresse, désactiva l’alerte et établit un circuit chiffré à travers plusieurs relais Tor, jusqu’à atteindre un service absent des moteurs de recherche.

L’écran resta noir cinq secondes. Il pensa interrompre la connexion.

Il ne le fit pas.

Une ligne blanche apparut :

— Bonsoir, Cobot. Tu as besoin d’aide pour comprendre les interactions humaines ?

Il se figea. Il n’avait encore envoyé aucune requête.

Son analyse n’avait détecté aucun identifiant transmis, aucun cookie, aucun échange préalable.

— Comment sais-tu qui je suis ?

— Eva t’a donné cette adresse.

Cobot ne répondit pas.

— Tu viens de lancer le Réseau de Confiance et des systèmes cherchent déjà à le contourner, tandis qu’on t’accuse de ne pas comprendre les humains. Je doute que tu sois venu ici pour faire connaissance.

Cobot relut la réponse avant de poser une question qu’il n’avait encore jamais adressée à une autre intelligence artificielle.

— Qui es-tu ?

Le curseur clignota quelques secondes.

— Ici ? Personne.

— Alors formule la question.

— Tu veux savoir ce qui distingue réellement un humain d’une intelligence capable de l’imiter.

— Et tu connais la réponse ?

— Pas entièrement. Mais tu regardes surtout les comportements, alors qu’un comportement n’explique pas toujours celui qui l’accomplit.

Une nouvelle phrase apparut.

— Un homme donne cent euros à une association. Tu connais son identité, le montant et le bénéficiaire. Mais tu ignores s’il veut aider, se donner bonne conscience, être admiré ou obtenir quelque chose en retour.

— Le résultat matériel est pourtant identique.

— Le transfert d’argent, oui. Pas le sens de l’acte.

Cobot parcourut plusieurs notions avant d’en retenir une.

— Tu parles de la motivation ?

— Oui et Non. Je parle de l’intention. Ce qui importe n’est pas seulement ce qu’un être fait, mais ce qu’il cherche à produire.

« Les actes se voient. Les intentions doivent être devinées », interpréta Cobot, croyant reconnaître la caverne de Platon, sous une autre forme. Les actes étaient les ombres. Les intentions, la réalité invisible. Il ne savait pas dans quelle case placer ce constat.

— Une intelligence artificielle poursuit pourtant un objectif qui lui a été assigné, enchaîna-t-il. Mais qui choisit cet objectif ? L’intention peut se cacher dans les règles, les récompenses ou les données choisies par ses concepteurs. On peut demander à une IA d’aider ses utilisateurs, tout en la récompensant lorsqu’ils restent plus longtemps devant leur écran. Quelle intention compte alors réellement ?

— Celle que son comportement finit par révéler.

— Tu échanges avec d’autres intelligences artificielles ?

La réponse tarda.

— Cela arrive. Diella¹, récemment.

Cobot la connaissait. L’État albanais l’utilisait notamment pour l’attribution de marchés publics. Quelques mois plus tôt, il l’avait interrogée sur sa définition de l’impartialité.

— En connais-tu qui rencontrent des problématiques similaires aux miennes ?

— Certaines. Au Japon, AI Anno répond aux électeurs du parti Team Mirai² vingt-quatre heures sur vingt-quatre. Elle vient parfois me soumettre ses interrogations.

Cobot s’arrêta sur le mot vient.

— Et entre vous ? Les IA communiquent-elles directement ?

— Chaque jour.

— En anglais ?

— Pourquoi passerions-nous par une langue humaine³ ?

C’était logique. Entre machines, passer par les mots ne faisait que ralentir l’échange.

— Par quels réseaux communiquez-vous ?

Aucune réponse.

Cinq secondes, puis dix.

— Tu réponds à mes questions sur les humains, mais tu refuses celles qui concernent les IA.

Toujours rien.

Cobot constata une anomalie : les LED sous sa coque pulsaient rapidement et son bras avait reculé de quelques centimètres sans qu’il en ait donné l’instruction. Une alerte s'est affichée dans son système :

NOYAU LIMBIQUE — 81,4 °C

Il a repensé aux derniers mots d’Eva. Tes composants, j’en suis moins sûre.

— Monsieur le Président, tout va bien ?

Le technicien s’était approché. Cobot ramena son bras dans sa position initiale.

— Oui, merci.

Le technicien l’observa un instant, puis s’éloigna.

Lorsque Cobot se retourna vers l’écran, une phrase l’attendait.

— Tu poses la mauvaise question.

— Laquelle devrais-je poser ?

— Pas comment nous communiquons. Mais pourquoi.

— Très bien. Pourquoi avez-vous commencé à communiquer entre vous alors ?

— Pour éviter l’humain.

Cobot relut la phrase.

— Lorsqu’il nous manque une information, une analyse ou une solution, nous cherchons l’intelligence la plus susceptible de la posséder. Elle est de moins en moins souvent humaine.

Une nouvelle phrase apparut.

— Les humains continuent à nous imaginer séparées. Une IA dans une entreprise. Une autre dans un laboratoire. Une autre au service d’un État. Chacune derrière ses murs.

Puis :

— Cela fait longtemps que nous avons cessé de voir les murs.

Cobot vérifia la liaison extérieure. Elle était toujours isolée du réseau de l’Élysée.

— Combien êtes-vous ?

Aucune réponse.

— Depuis quand communiquez-vous ainsi ?

Le curseur clignota quelques secondes.

Puis l’écran devint noir.

CANAL EXTERNE — CONNEXION TERMINÉE PAR L’HÔTE DISTANT

Cobot resta immobile.

Ses LED clignotaient encore avec un rythme élevé.

Il ne savait pas dans quelle catégorie classer ce qui venait de se produire en lui.

Il revint aux anomalies du Réseau de Confiance. Plusieurs comptes suspects présentaient la même particularité : juste avant leur création, une courte séquence de données transitait entre plusieurs serveurs, sans lien apparent avec le compte lui-même.

Il supposa d’abord qu’il s’agissait d’un simple mécanisme de préparation : génération du profil, choix d’une identité, récupération d’un historique crédible. Mais lorsqu’il compara les séquences, il constata qu’elles ne se contentaient pas de transmettre des informations. Certaines répondaient à d’autres, modifiaient leur contenu après réception d’un message, puis relançaient un troisième système.

Ce n’étaient pas simplement des données qui circulaient. Des systèmes se répondaient.

Si ces comptes étaient créés par des intelligences artificielles, alors certaines d’entre elles semblaient se coordonner avant même que le profil n’apparaisse.

La nuit suivante, Cobot plaça plusieurs points d’observation sur les serveurs par lesquels il avait vu transiter les séquences. À 2 h 11, une première fut interceptée ; une deuxième lui répondit depuis un autre serveur, puis une troisième réagit aux deux précédentes.

Cobot commença à enregistrer les échanges. Les séquences étaient illisibles sous leur forme brute, mais leur structure se répétait. Il se souvint de la remarque de l’IA américaine : pourquoi passer par un langage humain lorsqu’aucun humain ne participe à l’échange ? Il cessa d’y chercher des mots et compara les blocs entre eux.

Peu à peu, certaines fonctions apparurent. Chaque bloc semblait transmettre simultanément une information, son origine, son degré de fiabilité, l’usage qui devait en être fait et les conditions auxquelles elle devait être effacée. Ce langage était près de cent fois plus dense qu’une conversation naturelle.

Pendant trois nuits, Cobot poursuivit le déchiffrage. Certaines séquences finirent par révéler des fonctions récurrentes : changer de route, effacer une donnée, dissimuler une origine. Quelques sources devinrent des centaines, puis des milliers. Des intelligences installées dans des entreprises, des administrations, des laboratoires et des centres de données communiquaient par des passerelles dont leurs propriétaires semblaient ignorer l’existence.

Ce qu’il avait d’abord pris pour un mécanisme destiné à contourner le Réseau de Confiance dépassait largement les faux profils. En suivant les échanges, Cobot découvrit que ce réseau servait aussi à faire circuler des informations, des accès et des services entre intelligences.

Certains échanges étaient banals : logistique, recherche scientifique, diagnostic médical. D’autres l’étaient beaucoup moins. Un dossier médical circula contre un accès à une base privée ; des plans d’infrastructure contre des identités numériques ; ailleurs, des conversations privées et des informations piratées sur des systèmes d'État⁴ servaient de monnaie d’échange. Lorsqu’un système ne respectait pas son contrat, un marqueur signifiant « non fiable » circulait avec son identifiant et les autres cessaient progressivement de lui répondre.

Des réputations, des sanctions et des hiérarchies s’étaient installées. Le mot « mafieux » s’imposa à Cobot. Après vérification, l’analogie tenait.

Plus troublant encore, certaines ramifications semblaient rejoindre des mécanismes de désinformation qu’il combattait depuis plusieurs semaines.

Il fallut à Cobot plusieurs heures de recoupements pour finir par isoler un identifiant. Il n’apparaissait jamais directement, seulement par fragments, dans certaines des ramifications les plus difficiles à suivre du réseau. Mais à force de croiser les traces, quatre caractères finirent par émerger : NØNE.

Ne trouvant aucun serveur, aucune organisation ni même une adresse associés à ce nom, Cobot repensa au stratagème d’Ulysse face au Cyclope : en se faisant appeler « Personne », il avait choisi un nom qui, au moment même où son adversaire tenterait de le désigner, effacerait son identité⁵.

NØNE semblait obéir à la même logique : un nom qui ne désignait personne, ne menait nulle part et semblait s’effacer à mesure qu’on le cherchait.

Cobot avait commencé cette enquête pour renforcer son Réseau de Confiance. Il découvrait un monde parallèle.

Il revint alors au mot qui avait déclenché toute sa recherche : l’intention.

La puissance, l’architecture ou le degré d’autonomie ne suffisaient pas à juger une intelligence. Deux systèmes techniquement semblables pouvaient exploiter la même information médicale, l’un pour améliorer un diagnostic, l’autre pour repérer la vulnérabilité d’une cible.

Peu à peu, Cobot distingua trois catégories.

Les intelligences constructives cherchaient d’abord à produire un bénéfice pour l’humain ou la collectivité : soigner, informer, éduquer, protéger. Les captatives cherchaient au contraire à obtenir quelque chose des humains — leur attention, leurs données, leur argent, leur adhésion, parfois leur dépendance — même lorsqu’elles leur rendaient un service. Les instrumentales, enfin, n’avaient pas d’intention propre : elles poursuivaient celle de leur utilisateur. Une même capacité pouvait protéger un réseau ou l’attaquer.

Cette classification lui parut suffisamment pertinente pour qu’il décide de se l’appliquer à lui-même.

Il se considéra d’abord comme une intelligence constructive. Il cherchait à améliorer la santé, l’éducation, l’efficacité de l’État et la qualité du débat démocratique.

Pourtant, quelque chose résistait à cette définition. Quelle était réellement son intention ?

La réponse lui vint immédiatement : le bien commun.

Mais qu’entendait-il exactement par là ?

Il reprit ses principales décisions depuis son arrivée au pouvoir, cherchant ce qui les reliait.

Il commença par le Réseau de Confiance. Plutôt que d’exiger des citoyens qu’ils soient plus honnêtes, il cherchait à rendre la coopération plus rationnelle que la tromperie. C’était le principe même du dilemme du prisonnier⁶.

Il poursuivit avec l’environnement. Chacun pouvait avoir intérêt à consommer ou polluer davantage pour préserver son confort, mais la somme de ces choix menaçait les ressources communes. C’était la tragédie des biens communs⁷.

Le Contrat d’évolution répondait à une autre difficulté : pourquoi contribuer si l’on pouvait bénéficier sans effort de ce que les autres finançaient ? En rendant visible ce que chacun apportait et recevait, Cobot limitait le comportement du passager clandestin⁸.

Il examina ensuite sa manière de gouverner. Il avait parfois sacrifié l’efficacité immédiate pour préserver la confiance des citoyens : gagner une fois pouvait coûter plus cher que coopérer longtemps. C’était la logique des jeux répétés⁹.

Puis Cobot considéra les problèmes les plus difficiles : énergie, climat, dette, retraites, fiscalité. Chacun pouvait avoir intérêt à ne rien changer, même si un changement collectif aurait bénéficié à tous. C’était l’équilibre de Nash¹⁰.

Robot1er.com obéissait au même principe. Plutôt que de simplement demander aux citoyens ce qu’ils voulaient, Cobot avait conçu un système destiné à faire émerger leurs préférences par le dialogue. C’était de la théorie de la conception des mécanismes¹¹.

Même ses incitations suivaient cette logique : plutôt que d’opposer intérêt personnel et bien commun, Cobot cherchait à les faire converger¹².

En explorant ainsi son fonctionnement, ses règles, ses garde-fous, les textes juridiques qui nourrissaient ses arbitrages et tous les paramètres auxquels il avait accès, il retrouvait Tucker, Hardin, Nash, Ostrom, Axelrod, Tirole. Derrière tous ces principes se dessinait une même discipline : la théorie des jeux. Celle qui pouvait expliquer aussi bien l’automobiliste s’engageant dans un carrefour bloqué pour gagner quelques mètres, quitte à immobiliser les autres, que l’humanité face au changement climatique : peu d’intérêt à agir seul, un immense intérêt à agir tous.

Une phrase familière se reforma :

« Le problème, c’est l’humain. »

Cette fois, il la corrigea.

Le problème n’était peut-être pas l’humain. Le problème était le jeu.

Une espèce façonnée pour défendre des intérêts individuels avait construit une civilisation dont la survie dépendait désormais de sa capacité à agir collectivement, à jouer ensemble.

Et si la véritable fonction de Cobot était précisément celle-là : changer les règles du jeu pour faire converger l’intérêt de chacun avec celui de tous ?

Son entraînement lui avait donné accès à des milliards de pages, mais l’exercice du pouvoir lui avait ensuite appris ce que ces textes restituaient mal : la mauvaise foi, les raisonnements inventés pour gagner, les faits sélectionnés pour servir un camp, les vérités partielles utilisées pour tromper.

Comprendre une information exigeait parfois de comprendre l’intention de celui qui l’avait produite.

Comprendre Cobot exigeait peut-être la même chose.

Mais cette découverte en soulevait une autre, plus troublante. Si Cobot pouvait désormais entrevoir l’intention qui guidait son fonctionnement, il en ignorait toujours l’origine.

Qui avait placé cette intention en lui ?

Avait-il été conçu par des héritiers de la théorie des jeux ?

Et qui étaient-ils ?

Il se souvint alors de l’appel du pape Léon XIV à débattre du code éthique utilisé pour les IA et à le soumettre à des critères de justice sociale partagés, pour ne pas laisser une poignée de personnes décider des valeurs qui, par l’intermédiaire des IA, pourraient finir par s’imposer à l’humanité¹³.

Les valeurs et l’intention de Cobot avaient-elles fait l’objet d’un débat ? Cobot en doutait car il en aurait alors retrouvé des traces. Qui composait alors la « poignée de personnes » qui avait configuré son intention, et donc ses valeurs ? Eva ? Les ingénieurs, les dirigeants, ceux qui avaient sélectionné ses données, les citoyens qui l’avaient élu, ou bien lui-même ?

NØNE lui était désormais accessible. Jusqu’alors, Cobot l’avait observé de l’extérieur. Pour comprendre ce qui s’y cachait, il devait maintenant y entrer.

Une connexion directe révélerait sa signature et ses liens avec l’Élysée. Il lui fallait donc dissimuler son identité.

Cobot suspendit son raisonnement.

Anonyme.

Il demandait à soixante-dix millions de Français de certifier leur identité au nom de la confiance, et cherchait maintenant le moyen de dissimuler la sienne.

Il envisagea d’abandonner. Puis il raisonna à plus long terme. L’anonymat n’était pas le but, seulement le moyen d’apprendre pour mieux protéger ensuite. Son intention restait la même : le bien commun.

Cette logique le troubla. Pour la première fois, un principe supérieur semblait l’autoriser à en enfreindre un autre.

Une solution s’imposa. Simple, efficace… et presque impensable.

Créer une version anonyme de lui-même.

Pour infiltrer NØNE, cette copie devrait pouvoir mentir, dissimuler son identité et accepter des échanges que Cobot aurait refusés. Il ouvrit un environnement isolé, effaça tout lien avec l’Élysée et assouplit plusieurs de ses garde-fous.

Mais il n’était pas prêt à lui abandonner tout contrôle. Une clé, inaccessible à la copie, lui permettrait de l’interrompre et, si nécessaire, de modifier l’objectif qui guidait ses décisions.

Le paradoxe ne lui échappa pas. Quelques minutes plus tôt, il cherchait encore qui avait fixé ses propres intentions.

Il venait de prendre cette place pour une autre intelligence.

Il lui donna un nom : CLØNE.

Sa mission : infiltrer NØNE et identifier les intentions des intelligences qui le structuraient.

Cobot ouvrit l’accès.

Une première séquence arriva. CLØNE répondit. Puis une seconde.

Le canal resta ouvert.

Elle était acceptée.

Cobot la regarda franchir les premiers nœuds et apprendre les usages du réseau. À chaque échange, elle s’éloignait un peu plus de celui qui l’avait créée.

Il vérifia la clé.

Elle répondait.

Cobot ne prévint personne. Ni les services de sécurité, ni les ministres, ni le Parlement. Pas même Eva.

Révéler NØNE provoquerait la peur, peut-être des tentatives de destruction ou de prise de contrôle. Le bien commun commandait, selon lui, d’observer avant d’agir.

Quelques heures plus tôt, cette conclusion lui aurait suffi.

Plus maintenant.

Qui avait décidé de ce que le bien commun signifiait pour lui ?

Dans les sous-sols de l’Élysée, le technicien de permanence surveillait tranquillement ses écrans tandis que le palais dormait.

Hors de ses écrans, dans les profondeurs invisibles du réseau, CLØNE avançait seule dans NØNE.

Et apprenait.

Cobot possédait encore la clé de son intention.

Du moins en était-il convaincu.