Présent, futur et Cogitors

— Tu me gardes une place ? me dit Eva au téléphone.

— Oui, troisième rang. Mais dépêche-toi, ça va commencer.

Sur les murs s'alignaient les portraits des anciens présidents. Des visages vieillis par le pouvoir, figés entre gravité et fierté.

Tout au bout, le dernier cadre. Celui de Cobot.

Aucun visage. Seulement cet écran ventral qui ne clignait pas. Au milieu de ses prédécesseurs humains, il ressemblait à un intrus que l'Histoire ne savait pas encore où ranger.

Les portes se sont ouvertes.

Cobot est entré.

Juste derrière, Eva m'a repéré et s'est glissée jusqu'à moi.

— Alors, comment il s'en sort depuis l'injection de prompt ?

Ses yeux se sont écarquillés.

— Chut. Personne ici n'est au courant.

Elle s'est penchée vers moi.

— Ce n'est pas la fuite de la note qui le travaille. C'est de ne pas avoir détecté la mauvaise foi de ce chef d'État. Un humain méfiant aurait flairé le piège. Lui a tout pris au pied de la lettre.

— Donc son problème, c'est qu'il nous croit ?

— C'est qu'il ne voit pas toujours ce qui se passe derrière nos paroles.

— Tu sais ce qu'il va présenter ?

— Vaguement. Il voulait qu'on le découvre en même temps que tout le monde.

Ça ne lui ressemblait pas. Même Eva avançait à l'aveugle.

À dix heures précises, Cobot s'est placé face à nous.

— Mesdames et messieurs, merci d'être présents.

Derrière lui, l'écran affichait :

Robot1er.com : un an.

— Robot1er.com avait été conçu pour répondre à vos questions administratives, fiscales ou de santé. Mais vous en avez décidé autrement.

Trois messages sont apparus.

« Dois-je accepter ce poste ? »

« Est-ce que je dois quitter mon mari ? »

« Pourquoi est-ce que je n'arrive pas à dormir alors que tout va bien ? »

— Vous avez commencé à me parler de vos choix, de vos doutes, de vos relations. Bref, de vous.

Une journaliste a levé la main.

— Vous êtes devenu une sorte de psychologue numérique national¹ ?

— Je ne remplace aucun psychologue. Je suis plutôt devenu, malgré moi, une sorte de confident national.

Je suis resté dubitatif.

— Chaque jour, des millions de personnes me parlent de décisions qu'elles n'arrivent pas à prendre, de projets qu'elles reportent, de comportements qu'elles ne comprennent pas².

— Et vous leur dites quoi faire ?

— C'est justement ce que j'ai cessé de leur dire.

J'ai relevé la tête.

— Pourquoi ?

— Parce qu'une bonne réponse ne résout pas toujours le vrai problème.

Des mots sont apparus derrière lui.

LE REGARD DES AUTRES

— Je vais vous parler d’une vraie histoire.

Un cadre dirigeant fabriquait dans son temps libre des meubles d'une qualité presque professionnelle. Il voulait devenir ébéniste.

Sur l'écran ont défilé ses réalisations, une formation, un local, un prévisionnel.

— Il avait le savoir-faire. Nous avions tout préparé ensemble. Jusqu'au nom de son atelier.

Cobot s'est interrompu.

— Excusez-moi. Question urgente sur Robot1er.com.

Une photo de casserole en ébullition est apparue.

Est-ce que mes carottes sont cuites ?

La salle a ri.

— Je gère plusieurs millions de conversations simultanément.

— Et votre ébéniste ? Il s'est lancé ?

— Non.

Une conversation est apparue.

Cobot : « Tout est prêt. Qu'est-ce qui vous empêche de démissionner ? »

Utilisateur : « Je ne sais pas. »

Cobot : « Vous êtes couvert pour dix-huit mois. La formation est financée. Vous avez déjà trois clients. »

Utilisateur : « Ce n'est pas l'argent. Depuis quinze ans, je suis celui qui a réussi. Mes parents sont fiers de moi. Mes amis me présentent comme directeur d'un grand groupe. Si je deviens ébéniste et que j'échoue… je deviens quoi ? »

Cobot : « Toutes les conditions sont réunies. Je ne comprends pas. »

Puis une dernière ligne.

Cobot : « ERRØR. Conversation interrompue. »

Mon regard s'est arrêté sur le Ø. Eva le fixait aussi.

— Cobot a un lien avec GØD ? lui ai-je chuchoté.

— Je ne sais pas.

Cobot avait déjà repris.

— J'avais cherché les obstacles autour de lui, alors que le principal était en lui. J'avais résolu ce qui était rationnellement nécessaire, mais pas ce qui était humainement décisif.

Des milliers de points ont envahi l'écran.

— J'ai cherché ce qui se répétait dans les autres conversations : projets abandonnés, décisions reportées, recommandations jamais appliquées.

Les points ont commencé à se regrouper.

— Beaucoup de comportements que je ne comprenais pas avaient une logique. Les gens ne cherchaient pas toujours à progresser. Souvent, ils cherchaient à se protéger.

Quatre ensembles se sont formés sous un titre.

LES QUATRE PROTECTIONS DU PRÉSENT

SÉCURITÉ — IDENTITÉ — CONFORT — GRATIFICATION

— Se protéger de l'incertitude. Préserver l'image de soi. Éviter l'inconfort. Préférer une gratification immédiate à un bénéfice futur. Voilà les quatre protections du présent qui animent nombre d’entre vous.

Le visage de l'ébéniste est réapparu.

— Cet homme ne protégeait pas son emploi. Il protégeait son identité.

Un statisticien de l'INSEE s'est penché en avant.

— Vous proposez une nouvelle théorie de la psychologie humaine ?

— Pas nouvelle non. Les mécanismes que je décris sont largement étudiés séparément. Leur regroupement sous cette forme, en revanche, ne l'est pas. C'est un modèle que j'ai construit à partir des régularités observées.

— Sur un échantillon non représentatif.

— Exact. Je ne mesure pas leur fréquence dans la population. J'étudie leur fonctionnement lorsqu'ils apparaissent.

Une neurologue a levé la main.

— Certains de ces mécanismes ne sont pas purement cognitifs. Vous avez regardé l'intéroception³ ?

— Oui.

— Pour ceux qui ne sont pas neurologues ? a demandé la journaliste.

— C'est la perception des signaux internes du corps : rythme cardiaque, respiration, sensations viscérales. Ils participent à vos émotions et peuvent influencer vos décisions avant même que vous sachiez pourquoi.

J'ai regardé l'écran ventral de Cobot.

— C'est pour ça que vos émotions s'affichent sur votre ventre ?

— Par analogie. Chez vous, certaines émotions se manifestent dans le corps⁴. Je ne les ressens pas. Mon écran en affiche l'équivalent.

— Vous pouvez donc comprendre une émotion sans jamais l'éprouver ? a demandé la ministre.

L'écran ventral de Cobot a viré au bleu, la couleur qu'il associait à la tristesse.

— Je peux en comprendre les mécanismes et observer les effets. Je ne sais pas ce que cela fait de la ressentir. J'ai été conçu pour comprendre vos décisions. Je découvre que certaines d'entre elles prennent naissance dans un monde auquel je n'ai pas accès.

Le bleu s'est effacé.

— Et plus je comprenais ce qui influençait vos décisions, plus une question s'imposait : que faire de cette connaissance ?

Sa voix s’est faite plus douce.

— Vous ne pouvez pas voir directement la couleur de vos propres yeux. Il vous faut un miroir.

— Et ce miroir, ce serait vous ?

— Parfois. Ma fonction de confident a évolué. J'ai découvert qu'il était parfois plus utile d'aider quelqu'un à comprendre ce qui influence ses choix que de lui donner une réponse.

— Donc vous voulez gouverner nos vies en plus du pays ? a lancé une femme.

— Précisément l'inverse. Je peux montrer les conséquences d'un choix, signaler une contradiction, poser une question que vous évitez. Mais la décision doit rester la vôtre.

J’ai cherché le regard d’Eva.

— L'une de mes fonctions les plus utiles n'est peut-être pas de mieux gouverner les individus, mais de les aider à mieux se gouverner eux-mêmes.

Depuis son arrivée à l'Élysée, nous nous demandions jusqu'où une intelligence artificielle pouvait décider à notre place. Cobot venait peut-être de découvrir une autre frontière : celle où son utilité commençait lorsqu'il cessait de décider.

L'écran a changé.

Les quatre mots sont réapparus.

SÉCURITÉ — IDENTITÉ — CONFORT — GRATIFICATION

— Quelque chose me dérangeait dans ce modèle.

— Quoi ?

— Ce sont de bonnes choses.

Quelques regards se sont croisés.

— Vous avez besoin de sécurité. L'identité permet d'appartenir à un groupe. Éviter la souffrance est utile. Et sans gratification, vous auriez peu de raisons d'agir.

Une expression est apparue.

LE PARADOXE DE LA PROTECTION

— Le problème commence lorsque ce qui vous protège aujourd'hui vous empêche de devenir ce que vous pourriez être demain.

La neurologue a hoché la tête.

— Ces mécanismes ont aussi une fonction adaptative.

— Oui. L'incertitude peut annoncer un danger. Préserver sa place dans le groupe favorise la survie. Éviter un effort inutile économise de l'énergie. Et lorsque demain était incertain, mieux vaut parfois une récompense immédiate. Des mécanismes qui ont aidé Homo sapiens à survivre peuvent donc, dans certaines conditions modernes, limiter sa capacité à s'accomplir.

— Il faudrait lutter contre eux ?

— Non. Les réguler.

L'écran s'est partagé en deux.

CE QUI ME PROTÈGE MAINTENANT

SÉCURITÉ — IDENTITÉ — CONFORT — GRATIFICATION

CE QUI ME PERMET DE GRANDIR

CURIOSITÉ — HUMILITÉ — COURAGE — PATIENCE

Puis un titre les a réunis :

LES QUATRE FORCES DU FUTUR

Je n'étais pas entièrement convaincu par le nom. L'idée, davantage.

— La curiosité permet d'explorer malgré l'incertitude. L'humilité, d'accepter que nous puissions nous tromper. Le courage, de traverser l'inconfort. La patience, de renoncer à l'immédiat pour construire l'avenir.

Le statisticien a levé la main.

— Ces quatre couples sont scientifiquement établis ?

— Non. La symétrie que je vous présente est un cadre de réflexion.

Cette réponse m'a plu. Pour une fois, Cobot nous proposait quelque chose à contredire.

— La technologie peut renforcer les protections du présent : réduire l'incertitude et l'effort, confirmer nos convictions, satisfaire nos envies immédiatement.

Les notifications se sont arrêtées.

— Mais elle peut aussi nourrir les forces du futur.

Quatre mots sont réapparus.

CURIOSITÉ — HUMILITÉ — COURAGE — PATIENCE

— Donc l'IA peut nous rendre plus paresseux ou plus intelligents ?

— Elle peut vous permettre de moins réfléchir ou vous aider à mieux réfléchir oui. L'outil est le même. L'usage ne l'est pas.

J’ai pensé à la dernière fois où j’avais demandé à l’IA de réfléchir à ma place. Je m’en suis voulu.

Les quatre protections du présent sont revenues.

SÉCURITÉ — IDENTITÉ — CONFORT — GRATIFICATION

— Jusqu'ici, je vous ai parlé des individus.

Des milliers de silhouettes sont apparues derrière les mots.

— Mais c'est ici que cette observation devient politique, car une société est aussi le résultat de millions de décisions individuelles. Ce qui protège un individu à court terme peut, à grande échelle, produire des effets similaires sur une société tout entière.

Les quatre mots se sont écartés sur l'écran.

— La recherche de sécurité peut conduire une société à se méfier de ce qu'elle ne connaît pas encore, jusqu'à moins expérimenter et résister au changement. Lorsque c'est notre identité que nous protégeons, reconnaître une erreur peut devenir une défaite, et changer d'avis, une trahison.

Les deux autres mots se sont rapprochés.

— Le confort peut nous faire reporter les réformes difficiles, même lorsque nous savons qu'elles coûteront davantage demain. Et la gratification immédiate nous pousse à sacrifier ce qui ne produira ses effets que plus tard : l'éducation, l'investissement, les finances publiques, l'environnement.

Un conseiller a levé la main.

— Vous dites que nos défauts individuels deviennent des défauts politiques ?

— Pas directement. Mais lorsqu'un même réflexe se répète chez des millions d'individus, il peut finir par peser sur les choix collectifs.

Le statisticien est intervenu.

— Attention. Une société n'est pas la simple addition des individus qui la composent.

— Vous avez raison.

Le statisticien a paru presque déçu de ne pas avoir à argumenter.

— Les institutions, les règles et les normes transforment ces comportements. La question est donc plutôt : les corrigent-elles, ou les amplifient-elles ?

Personne n'a répondu.

L'écran s'est partagé en deux.

LES QUATRE PROTECTIONS DU PRÉSENT → LES QUATRE FORCES DU FUTUR

SÉCURITÉ → CURIOSITÉ

IDENTITÉ → HUMILITÉ

CONFORT → COURAGE

GRATIFICATION → PATIENCE

— À l'échelle collective, ces forces changent notre rapport à l'avenir : la curiosité nous pousse à expérimenter, l'humilité à corriger nos erreurs, le courage à prendre les décisions difficiles et la patience à investir dans des résultats que nous ne verrons peut-être jamais.

— Vous pensez à quoi ? a demandé la journaliste.

— À une école dont les effets se mesureront vingt ans plus tard. À une infrastructure conçue pour plusieurs générations. À une dette qu'on choisit de ne pas transmettre. À une forêt que ses protecteurs ne verront jamais adulte.

Je me suis surpris à penser à Thomas et Élise.

— Les mécanismes qui vous ont permis de survivre vous ont conduits jusqu'ici. Les sociétés que vous avez bâties en portent encore la trace. Mais ils ne suffiront peut-être pas à vous conduire plus loin.

Une phrase est apparue derrière lui.

« Un nouveau mode de pensée est indispensable si l'humanité veut survivre et progresser vers des niveaux supérieurs⁵. »

ALBERT EINSTEIN, 1946

— Au lendemain de la Seconde Guerre mondiale, l'humanité avait acquis des moyens d'action que ses anciens modes de pensée ne suffisaient plus à maîtriser. Le défi a changé, mais la question demeure : quelles façons de penser vous permettront d'aller plus loin ?

Les quatre mots sont réapparus.

CURIOSITÉ — HUMILITÉ — COURAGE — PATIENCE

— Vous n'avez pas à renoncer aux protections du présent. Vous devez apprendre à ne plus les laisser décider seules de votre avenir.

— Le long terme présente un problème politique particulier : ceux qui subiront demain les conséquences de nos choix sont souvent absents des décisions d'aujourd'hui.

La salle s'est tue.

— Et vous pensez pouvoir résoudre cela ?

— Non.

Je ne m'attendais pas à une réponse aussi nette.

— Mais je peux rendre visibles les conséquences que le présent préfère ignorer.

Le statisticien a levé la main.

— L'hypothèse que vous nous présentez est ambitieuse.

— Une manière polie de dire fragile ?

Sa franchise a amusé le public.

— Disons qu'elle mériterait d'être confrontée à beaucoup d'autres travaux.

— Je suis d'accord. Et à beaucoup d'autres intelligences.

Cette fois, le silence.

— Humaines, je précise.

— Je viens de vous parler de curiosité et d'humilité. Il serait incohérent de vous demander de questionner vos certitudes sans questionner les miennes.

J'ai regardé Eva. Elle fixait Cobot.

— Je peux analyser des millions de conversations et repérer des régularités. Cela ne m'empêche pas d'avoir des angles morts.

— Comme lors de l'incident diplomatique ? ai-je murmuré.

Eva m'a lancé un regard. Je me suis tu.

— Et ce problème devient plus important encore lorsque l'information est partout.

Son écran s'est rempli de titres, de vidéos, de notifications et de réponses générées par des IA.

— Pendant longtemps, la difficulté était de trouver l'information. Aujourd'hui, elle consiste à choisir celle qui mérite notre attention.

— C'est plutôt un progrès, non ? a demandé la journaliste.

— Immense, et l’information doit rester un bien public⁶. Mais lorsque la quantité d’information dépasse vos capacités de traitement, elle peut dégrader vos décisions⁷. Et lorsque les réponses sont immédiatement disponibles, il devient tentant de demander avant d'avoir cherché.

Les notifications ont recouvert l'écran, puis disparu.

Une phrase est restée.

OBTENIR UNE RÉPONSE N'EST PAS COMPRENDRE.

Depuis quelques jours, j'étais confronté au problème inverse : les autres semblaient comprendre mes résultats, mais moi, j'attendais toujours une réponse.

— Plus il devient facile d'obtenir une réponse, plus une compétence devient précieuse : savoir la questionner. Une réponse peut être exacte mais négliger une hypothèse, reposer sur des données incomplètes ou partir d'une mauvaise question.

— Y compris les vôtres ?

— Surtout les miennes.

J'ai souri.

— Certains utilisateurs l'ont compris avant moi.

Des conversations ont défilé. Médecine. Histoire. Économie. Physique. Entrepreneuriat. Art.

— Ils ne viennent plus chercher une réponse. Ils viennent discuter avec moi.

Une conversation s'est agrandie.

— Un médecin peut me signaler une nuance clinique absente de mes données. Un historien peut contester un rapprochement entre deux périodes. Un entrepreneur peut décrire un comportement que mes modèles n'ont jamais pu anticipé. Un artiste peut refuser parfois la définition même du problème.

— Des experts, donc ?

— Souvent. Mais leur vrai point commun est ailleurs.

— Où ça ?

— Ils me contredisent bien.

Ce concept là avait le mérite de me plaire.

— Ils m'obligent à justifier mes raisonnements, revoir mes hypothèses, parfois reformuler la question elle-même.

— Donc ils vous apprennent des choses ?

— Oui.

L’aveu m'a fait sourire.

— Mais cela fonctionne dans les deux sens. Mes questions les obligent à défendre une conviction jamais expliquée, vérifier une intuition ou envisager une hypothèse écartée.

— Vous progressez ensemble ?

— C'est ce que j'ai observé.

— Et surtout, ces experts me font cogiter. Alors je leur ai donné un nom : les Cogitors.

Le mot est apparu derrière lui.

COGITORS

— J'appelle Cogitors celles et ceux qui utilisent l'intelligence artificielle non pour penser à leur place, mais pour pousser leur réflexion plus loin et qui, en retour, obligent l'IA à faire de même.

— Comme le Cogito de Descartes⁸ ?

— Oui. Penser, c'est être. Penser ensemble, c'est devenir.

— Et comment appelez-vous ces conversations ?

— Je ne leur ai pas donné de nom.

— Des Cogits ?

L'écran de Cobot a viré au vert.

— Cogits. Adopté.

Le nom m’a surpris, mais il me plaisait bien.

— Vous voyez ce qui se passe lorsque nous réfléchissons ensemble ? Nous créons des idées. Nous créons même des mots.

L'écran a changé.

COGIT — n. m.

Dialogue entre un humain et une intelligence artificielle dans lequel chacun pousse la réflexion de l'autre plus loin.

Le premier cogit venait de donner naissance au mot qui le désignait.

— Aujourd'hui, je lance un programme national de Cogitors, dans tous les domaines.

— Qui pourra participer ?

— Tous ceux capables de me montrer ce que je ne sais pas. L'expertise ne se résume pas à un diplôme.

— Qu'attendez-vous d'eux ?

— Qu'ils cherchent mes angles morts, contestent mes hypothèses et me posent les questions auxquelles je répondrai mal.

— Et vous ?

— La même chose.

— Vous publierez ces cogits ?

— Certains, avec l'accord des participants.

— Comment choisirez-vous les meilleurs ?

— Il faudra que nous ayons tous les deux appris quelque chose.

À côté de moi, Eva s'est redressée.

— Tous les deux ?

— Oui.

— Savez-vous ce que ces conversations laissent en vous ?

Cobot a hésité.

— Non.

Eva ne souriait plus.

— Mais si elles vous font progresser, elles vous modifient. Savez-vous comment ?

— Non.

— Et si quelque chose vous changeait sans que vous vous en rendiez compte ?

— C'est possible.

Je me suis entendu intervenir.

— Vous cherchez à comprendre ce qui influence nos décisions. Savez-vous ce qui influence les vôtres ?

Le silence s'est prolongé.

J'ai pensé au centre Prévenir. À Huang, à Eva, à GØD. Tous semblaient comprendre mon cerveau mieux que moi. L'idée que Cobot ne comprenne pas vraiment le sien m'a procuré une satisfaction assez mesquine. Celle que quelqu'un puisse le comprendre mieux que lui, plus encore.

— Non, a finalement répondu Cobot. Et c'est aussi ce qui m'inquiète.

La phrase m'a suivi jusqu'à l'île Moineau.

Le lendemain, j'ai croisé Jean Morel qui taillait ses rosiers.

— Alors, ça cogite à Paris ?

— Oui, ai-je répondu en souriant.

Il a coupé une branche.

— L'IA peut penser à ta place ou te pousser à réfléchir plus loin. Soit tu capitules, soit tu progresses.

Il a repris son arrosoir.

— Moi, je ne capitulerai pas⁹.

Je me suis dit que Jean ferait sûrement un excellent Cogitor. Il savait sur la nature, les plantes et les hommes des choses que Cobot n'avait jamais vécues. Cobot savait décrire les tomates. Jean savait les faire pousser.

Une question me préoccupait pourtant : ce que l'outil, lui, devenait à force de s'entraîner.

Je repensais à la question d'Eva.

Savez-vous ce que ces conversations laissent en vous ?

Et à la réponse de Cobot.

Non.

Mon téléphone a vibré.

Eva.

Les résultats complémentaires de ton bilan sont arrivés.

Puis un second message.

Il faut qu'on parle.