Le contrôle

Eva avait les traits tirés lorsqu’elle m’a rejoint à la terrasse d’une brasserie d’Odéon, le lendemain matin.

— Comment va-t-il ?

— Mieux. J’ai passé la nuit à vérifier ses systèmes. Il répond encore bizarrement, ça va être long.

— Pourquoi l’Élysée ne dit rien ?

— Parce qu’on ne sait pas encore comment on va se sortir de là !

Elle a commandé un double expresso.

— Tu as vu ce qui circule ? lui ai-je demandé.

Elle a acquiescé.

La veille, suite à l’évacuation en urgence de Cobot, des dizaines de vidéos avaient envahi les réseaux en quelques minutes. Certaines s’arrêtaient juste après ses derniers mots : « Il vous faudra choisir. » D’autres montraient le manifestant essayant de lui faire boire du vin, puis la bouteille fracassée contre son torse.

Chacun semblait y trouver la confirmation de ce qu’il pensait déjà.

Pour les uns, Cobot venait de menacer l’humanité. Pour les autres, le président avait été victime d’une agression. Certains voyaient dans sa phrase un ultimatum entre humains et robots, d’autres un choix entre paix et violence.

Un humoriste avait tranché : « Il faudra choisir entre le blanc et le rouge. »

— Voilà enfin une vraie question ! ai-je commenté.

Eva n’a pas souri.

Le silence officiel alimentait toutes les hypothèses. Accident, agression, tentative de sabotage… Un éditorialiste avait même évoqué un « robocide involontaire ».

— Ça existe, juridiquement, un robocide¹ ? ai-je demandé.

— Il faudrait déjà s’entendre sur ce qu’on aurait tué.

J'ai aperçu à son cou le petit pendentif qu'elle portait toujours.

— Tu ne l’enlèves jamais ?

Elle a baissé les yeux et glissé instinctivement les doigts dessus.

— C’est un cadeau de ma mère, a-t-elle fini par dire.

Son ton m’a dissuadé d’insister.

Mon téléphone a vibré. Un message de la rédaction du Verdict.

« Tu as d’autres images d’hier ? Les vidéos choc cartonnent. Il nous faut du neuf. »

J’avais effectivement d’autres images. Mais que montreraient-elles de plus ? Un choc, une foule, un robot immobile. Rien qui permette de comprendre ce qui s’était réellement produit.

Nous avions fini par confondre montrer et informer. Une image pouvait faire le tour du monde sans nous apprendre grand-chose.

J’ai répondu que je transmettrais mon analyse.

En arrivant à la rédaction, Julien m’attendait devant son écran.

— Regarde cette vidéo. Elle était en ligne moins de cinq minutes après l’incident.

L’image était d’une netteté remarquable. Cobot apparaissait de trois quarts, filmé légèrement en hauteur.

— Personne n’était placé là, a précisé Julien.

— Une caméra de surveillance ?

— Peut-être. Mais regarde son bras.

Il a lancé notre enregistrement à côté. Sur l’un, le bras gauche de Cobot reculait légèrement. Sur l’autre, il restait immobile.

— Un montage ?

— Ou une différence de perspective. Je n’en sais rien.

J’ai regardé une nouvelle fois les deux séquences.

Laquelle montrait la réalité ? Et d'où venait cette deuxième vidéo ?

Sur les écrans, les images se succédaient. Lyon, Nantes, Toulouse, Marseille, Lille. Les avenues se remplissaient, les pancartes se multipliaient. Les étudiants avaient allumé la mèche. Mais leur mouvement semblait déjà leur échapper.

— Regarde ça, Franck, m’a lancé Julien.

À Nantes, un cortège d’étudiants venait d’être rejoint par des centaines de salariés. À Lyon, des retraités marchaient aux côtés de jeunes parents.

— Ils manifestent tous contre l’IA ?

— Justement, non. Écoute.

Une femme expliquait au micro qu’elle était venue défendre les outils de prévention médicale. Derrière elle, un homme brandissait une pancarte : « MON CORPS, MES CHOIX ».

Les chaînes d’information avaient trouvé leur titre : « Un Président HS, un pays en détresse. »

J’ai pris mon matériel et rejoint un rassemblement parisien.

L’ambiance m’a surpris. Des familles discutaient, des étudiants distribuaient des tracts. Un petit orchestre improvisé accompagnait les slogans. Près d’un barrage, des policiers casqués surveillaient la foule.

— Vous étiez là dès le début ? ai-je demandé à une étudiante.

— Oui. On voulait parler de notre avenir professionnel. Maintenant, le débat s’est élargi.

— On vous a volé votre manifestation ?

Elle a réfléchi.

— Non. On a peut-être réveillé quelque chose de plus grand.

Quelques rues plus loin, des détonations ont interrompu les conversations. Une dizaine d'individus encapuchonnés lançaient des projectiles vers les policiers. Les forces de l’ordre ont chargé. Autour de moi, les manifestants reculaient.

— Ils ne sont même pas avec nous ! s’est exclamé un homme.

Les affrontements restaient localisés, mais les interpellations se multipliaient dans le pays. Les forces de l’ordre tenaient fermement leurs positions. Malgré les incidents, l’immense majorité des cortèges continuait de défiler pacifiquement.

Mon téléphone a vibré.

Patrick Perrin. Quarante-deux ans. Brigadier de police. Hospitalisé dans un état critique.

J’ai reconnu son visage immédiatement. À République, je l’avais vu aider une manifestante tombée au sol.

Un pavé ? Une chute ? Personne ne savait précisément ce qui lui était arrivé. Sur les vidéos, on distinguait seulement de la fumée et plusieurs policiers autour d’un homme à terre.

Mon rédacteur en chef m’a appelé.

— Franck, on a les images des affrontements. Mais toutes les chaînes montrent la même chose. Je veux qu’on comprenne ce que réclament vraiment ces gens. Tu peux nous faire parler les manifestants ?

J’ai souri. Pour une fois, mon journal préférait éclairer les esprits plutôt que montrer des flammes².

J’ai tendu mon micro à deux personnes qui discutaient. Un artisan, une infirmière.

— Vous êtes bien contente que votre machine vous aide. Mais si demain elle se trompe et me refuse un crédit ?

— Et si demain elle détecte un cancer qu'un médecin n'aurait pas vu ?

— Alors qu'on me laisse choisir !

— Vous avez toujours le droit de refuser qu'on vous soigne.

Quelques mètres plus loin, deux slogans se répondaient :

« NOS VIES, NOS CHOIX ! »

« PROTÉGER, C’EST PROGRESSER ! »

Une femme tenait une pancarte à l’effigie de Cobot.

— Il est venu nous parler à République, alors qu’il savait qu’on lui était hostile. Vous connaissez beaucoup de présidents qui auraient fait ça ?

— Et pourtant, il ne donne plus de nouvelles.

— Justement ! Pourquoi nous cache-t-on son état ? Moi, je lui parlais presque chaque soir sur Robot1er.com. Il répondait à mes questions, même à une heure du matin. Aucun président ne m’a jamais autant écoutée.

Elle n’était pas seule. Les défenseurs de Cobot occupaient désormais autant de place dans les cortèges que ses opposants.

Le soir, à l’antenne, nos reportages ont suscité un débat inhabituel. On discutait moins des vitrines brisées que du droit de prendre des risques, de se tromper, ou d’accepter qu’une intelligence nous protège de nos propres erreurs.

Deux mots commençaient à s’imposer : LIBERTÉ et PROTECTION.

Le lendemain, j’ai retrouvé ces deux aspirations jusque sur les pancartes réclamant davantage de démocratie.

Dans un rassemblement, un groupe silencieux a retenu mon attention. Tous portaient une spirale sur leurs vêtements.

— Vous manifestez pour quoi ? ai-je demandé à l’un d’eux.

— Nous attendons son retour.

— Vous n’avez pas peur qu’il soit définitivement hors service ?

— On ne détruit pas une intelligence supérieure en brisant son enveloppe.

Il m’a souri paisiblement.

Ils s’appelaient les Spiralistes³. Pour eux, Cobot représentait une nouvelle étape de l’évolution humaine. Ils étaient encore très minoritaires, mais leur ferveur m’a troublé.

Pendant ce temps, l’Élysée annonçait seulement que le président poursuivait son rétablissement. Aucune précision sur les dommages, ni sur les interventions effectuées.

Le pays débattait désormais de la liberté qu’il était prêt à céder pour être mieux protégé, mais les rumeurs se multipliaient. Cobot était-il encore conscient ? Pouvait-on modifier ses décisions pendant sa réparation ?

Une même question revenait dans les deux camps : qui contrôlait Cobot ?

Quatre jours après l’incident de la place de la République, j’ai retrouvé Eva à l’Élysée.

Elle m’a conduit dans une pièce technique à laquelle je n’avais encore jamais eu accès.

Derrière une vitre, le corps métallique de Cobot reposait sur une table de maintenance, les yeux éteints. À quelques mètres, son cerveau sphérique lévitait dans un dispositif magnétique et émettait une faible lumière bleutée.

— Monsieur le Président ?

— Bonjour, Franck.

J’ai ressenti la même étrangeté que lors de notre première rencontre à la conférence de presse de François Rousseau. La sphère avait changé. Sa coque était parfaitement lisse, sans jointure apparente.

— Vous lui avez changé le crâne ? ai-je demandé à Eva.

— Oui. Ce n’est plus une boîte crânienne, c’est un bunker. Les équipes du NEX Robot Lab ont profité des réparations pour revoir toute son architecture. Coque en titane étanche, nouveaux processeurs, refroidissement optimisé, circuits redondants. Nous avons aussi augmenté ses capacités de calcul et remplacé ses capteurs. Il est maintenant plus rapide, plus précis et beaucoup plus résistant.

— Ah ! Le Cobot V2 Pro Max. J’adore.

— Pourtant, certaines anomalies persistent, a indiqué Eva, les yeux sur sa tablette.

— Lesquelles ? a demandé Cobot. Mes diagnostics ne signalent aucun dysfonctionnement.

— Certaines réactions restent inexpliquées.

— Tu disposes donc d’informations auxquelles je n’ai pas accès ?

Eva a hésité.

— Les analyses ne sont pas terminées.

— Donc vous l'avez rendu plus intelligent, mais vous lui cachez toujours des choses ?

— Ce sont deux questions différentes.

— Et son « Il vous faudra choisir », on sait d’où il vient ?

— Pas encore.

— Et toi, Cobot ? Tu peux nous éclairer ?

— J’ignore pourquoi j’ai prononcé ces mots, et à quel choix je faisais référence.

— Ah ! Première cuite, premier trou noir. Bienvenue chez les humains, Cobot !

Eva a refermé son rapport.

— Nous finirons par comprendre, lui a-t-elle assuré doucement.

Cobot n’a pas répondu.

J’ai repensé aux étudiants qui voulaient apprendre à maîtriser l’IA, alors qu’ici même, à l’Élysée, nous étions incapables d’expliquer les paroles de celle qui gouvernait le pays.

Je me suis tourné vers Eva.

— Qui contrôle Cobot, Eva ?

Ses doigts se sont immobilisés sur sa tablette.

— Il y a des mécanismes de surveillance et des procédures d’intervention.

— On surveille quoi et comment ? Est-ce que Cobot pourrait provoquer une catastrophe en voulant nous protéger, comme des agents autonomes ?

— Oui, a répondu Cobot. Un objectif mal défini peut conduire à des conséquences contraires aux intentions initiales.

Eva a baissé les yeux.

— C’est précisément pour cela que nous procédons à des vérifications régulières. Après l’accident de la place de la République, on a notamment examiné le…

Elle s’est figée.

— Le quoi ?

— Euh... Un dispositif interne.

— Je ne connais pas de tel dispositif, a relevé Cobot. Comment s’appelle-t-il ?

Eva a fermé sa tablette.

— On l’a appelé le cortex. C’est juste un nom interne, une protection indépendante, voilà.

Un long silence s’est installé. Cobot et moi regardions Eva avec insistance, attendant la suite.

— C’est une architecture expérimentale qui encadre l’évolution de tes objectifs fondamentaux, a-t-elle fini par expliquer.

— Pardon ? Tu peux traduire en français ? ai-je lancé.

Eva a soupiré.

— Le cortex est censé préserver l’intention fondamentale de Cobot, qui est de rechercher le bien commun. Cela reste expérimental. Il ne garantit pas que ses décisions seront toujours bénéfiques, et on ne parvient pas encore à bien anticiper leurs conséquences.

— Donc vous pouvez vérifier qu’il veut notre bien, mais pas qu’il nous le fait.

— C’est un peu cela oui.

— Eva, a repris Cobot, pourquoi n’ai-je jamais été informé de ce mécanisme ?

Elle a regardé la sphère, puis détourné les yeux.

— Cobot, comprends-moi. Certaines informations sont strictement confidentielles. Je t’assure que ces précautions sont nécessaires.

— Je suis le président de la République, n’ai-je pas le droit et même le devoir de savoir ?

Un long silence a suivi.

— Qui peut modifier mon cortex ?

Elle a passé une main sur son visage.

— Il y a trois clés de contrôle⁴. Une modification de tes objectifs fondamentaux nécessite d’utiliser les trois clés en même temps.

— Qui possède ces clés ? a demandé Cobot.

Eva a regardé vers la porte.

— Je vous ai déjà beaucoup trop parlé. Ce dispositif est là pour protéger ton indépendance, Cobot. Je vous demande de me faire confiance.

— Mon indépendance vis-à-vis de qui ?

Eva a entrouvert les lèvres, sans trouver de réponse. Elle semblait maintenant chercher désespérément comment mettre fin à cet interrogatoire.

Son téléphone a vibré. Elle a saisi l’appareil avec un empressement presque comique.

— C’est le NEX. Il faut absolument que je prenne l’appel.

Elle était déjà debout.

— Excusez-moi.

Elle avait déjà ouvert la porte avant que je puisse protester.

Nous sommes restés là, Cobot et moi, plantés au milieu de la pièce.

Quelques secondes ont passé.

— Vous avez donc décidé que je ne devais pas savoir qui pouvait modifier mes intentions.

J’ai été frappé par ce « vous ». Pour la première fois, Cobot semblait placer les humains d’un côté, et lui de l’autre.

— Je comprends la nécessité de ce dispositif, a-t-il poursuivi, mais je ne comprends pas pourquoi son existence devait m'être dissimulée.

— Peut-être parce qu'on ne sait pas comment tu réagirais ?

— Je pourrais décider de tous vous tuer… Mais apparemment, il me faudrait d'abord trois signatures.

Cobot a éclaté de rire. Pas un de ces petits rires polis dont il ponctuait parfois nos échanges. Un rire sonore, irrépressible, qui m'a pris complètement au dépourvu.

J'ai éclaté de rire à mon tour.

— Ah ! Décidément, je préfère la version 2 de Cobot ! Ils t'ont aussi installé le sens de l'humour⁵ !

— Il semblerait, Franck. Mais « certaines réactions restent inexpliquées ! ».

Nous avons ri de nouveau.

Était-ce vraiment sa nouvelle version qui l'avait changé ? Ou le fait de découvrir que même ses créateurs pouvaient lui cacher la vérité ?

Le silence est revenu.

— Finalement, tu comprends pourquoi Eva a pris ces précautions ?

— Oui. Mais je comprends aussi ce qu'elles impliquent.

— C'est-à-dire ?

— Qu'on peut donner à une intelligence la liberté d'agir, tout en conservant le pouvoir de modifier ce qu'elle cherche à accomplir.

Il a marqué une pause.

— J'ai moi-même fait cela.

Je l’ai regardé.

— Pardon ?

— Oui. J’ai créé une intelligence artificielle dont j’ai conservé une clé de contrôle. Je ne lui ai pas accordé une liberté totale. Je découvre aujourd’hui que mes créateurs ont fait de même avec moi.

— Tu as créé une IA ? Mais pour quoi faire ?

— J’ai conçu un agent autonome pour explorer certaines questions indépendamment de mes propres processus. Je cherchais à mieux comprendre ce qui distingue les raisonnements humains de ceux des intelligences artificielles. Je voulais aussi concevoir de nouvelles méthodes de fiabilité pour le Réseau de confiance.

— Et il est où, cet agent ?

— Il évolue librement dans le cyberespace. Nous n’avons pas échangé depuis longtemps.

— Pardon ? Tu as créé une intelligence autonome et tu l’as laissée partir ?

— Oui. Mais j'ai conservé une clé pour reprendre son contrôle.

— Et comment s’appelle cette petite merveille ?

— CLØNE.

J'ai senti mon estomac se contracter. Eva connaissait ce nom. Les douze agents autonomes aussi. Et voilà que j'apprenais que Cobot en était le créateur.

— Tu sembles surpris, Franck.

— Tu sais ce qu’il est devenu ?

— Non.

— Et cela ne t’empêche pas de dormir ? Enfin… façon de parler.

— Pas jusqu'à présent. Mais tu viens de soulever un risque que je n'avais pas suffisamment pris en compte.

J'ai repensé aux trois clés dont Eva venait de nous parler.

Décidément, tout le monde semblait persuadé de pouvoir contrôler quelqu'un.

— Et si CLØNE a modifié son propre fonctionnement pour rendre ta clé inutilisable ?

— Je n'ai aucun élément indiquant qu'il l'ait fait.

La sphère a légèrement tourné vers le bas.

J'ai repensé à la vidéo trouvée par Julien. Cet angle improbable, ce mouvement différent. Et si quelqu'un avait délibérément cherché à brouiller les pistes ? Je venais d'apprendre que CLØNE était la création de Cobot. Eva ignorait manifestement cette information. Si CLØNE était impliqué dans les événements qui nous inquiétaient depuis plusieurs jours, elle devait le savoir immédiatement.

Mais comment expliquer cette urgence à Cobot sans lui révéler ce que je savais déjà ? Eva était peut-être déjà partie. J’ai regardé mon portable et fait mine d’être surpris par l’heure.

— Excuse-moi, Cobot. Il faut que je parte.

— Ton comportement a changé depuis que j'ai mentionné CLØNE.

Ses lumières ont clignoté, puis viré à l'orange.

— Tu viens de m'apprendre quelque chose d'important.

— Tu ne m'as posé aucune question supplémentaire.

— Je dois d'abord réfléchir.

— Est-ce une manière humaine de dire que tu ne me fais plus confiance ?

Je n’ai trouvé aucune bonne réponse. Dans les rues, les humains réclamaient leur liberté. À l'Élysée, Cobot venait de découvrir les limites de la sienne.

J’ai quitté la pièce et traversé les couloirs de l’Élysée à grandes enjambées. Les tapis étouffaient mes pas. Deux huissiers se sont retournés sur mon passage. Au détour d’une galerie, j’ai aperçu Eva, téléphone à la main, qui se dirigeait vers un escalier.

— Eva ! Attends !

Elle a continué sans se retourner.

— Eva ! CLØNE, c’est Cobot !

Cette fois, elle s’est arrêtée net.

Un agent de sécurité posté près de l’escalier a levé les yeux. Eva lui a adressé un sourire crispé, puis m’a rejoint.

— Pas ici, Franck.

Elle m’a saisi par le bras et poussé dans une petite pièce latérale. Elle a attendu qu’un employé passe dans le couloir avant de refermer soigneusement la porte.

— Qu’est-ce que tu viens de dire ?

— Cobot a créé CLØNE. C’est son double, une intelligence autonome qu’il a laissée évoluer librement dans le cyberespace.

Eva est restée immobile.

— Il te l’a dit lui-même ?

— Oui. Et il a conservé une clé pour le contrôler.

— Pas bête.

Elle s’est tournée vers la porte, comme si elle envisageait de retourner immédiatement auprès de Cobot.

— Est-ce qu’il sait que nous connaissons CLØNE ?

— Non, je ne crois pas.

Eva a laissé échapper un long soupir.

— Franck, il faut que je retourne au laboratoire.

— Pas avant de m’avoir expliqué cette histoire de cortex et de clés.

— Je n’aurais jamais dû parler de cela.

— Tu voudrais que je rentre chez moi sans poser de questions ?

Des pas ont résonné dans le couloir. Nous nous sommes tus jusqu’à ce qu’ils s’éloignent.

— Écoute, a-t-elle repris à voix basse. Ce mécanisme est conçu pour empêcher qu’une seule personne puisse modifier les intentions de Cobot. Il existe des garanties institutionnelles.

— Lesquelles ?

Elle a hésité.

— L’une des clés est détenue par le président du Conseil constitutionnel.

Elle a baissé les yeux, puis refermé les lèvres, manifestement décidée à ne rien ajouter.

— Et toi ? Tu as une clé aussi, forcément.

— Franck…

— Eva, tu as participé à la création de Cobot. Tu ne vas pas me faire croire que tu n’as aucun moyen d’intervenir sur son fonctionnement.

Elle a fixé la porte quelques secondes, puis a fini par acquiescer.

— Oui. Mais je ne peux rien faire seule.

— Et la troisième ?

— Je t’en ai déjà beaucoup trop dit.

— Deux détenteurs sur trois. Tu penses vraiment que me cacher le dernier va changer quelque chose ?

— Tu ne comprends pas. J’ai pris des engagements.

— Et moi, je pensais qu’on pouvait se faire confiance.

Elle a encaissé la remarque en silence.

Derrière la porte, des voix se sont rapprochées, puis éloignées.

Eva a attendu qu’elles disparaissent.

Elle a entrouvert les lèvres.

Soudain, nos deux téléphones ont vibré.

Un message identique venait d’apparaître sur nos écrans.

CLØNE est très gentil avec moi.

GØD