Nutid, framtid och Cogitors

— Håller du en plats åt mig? sa Eva i telefonen.

— Ja, tredje raden. Men skynda dig, det börjar snart.

På väggarna radade porträtten av de tidigare presidenterna upp sig. Ansikten åldrade av makten, frusna mellan allvar och stolthet.

Längst bort, den sista ramen. Den av Cobot.

Inget ansikte. Bara denna bukskärm som inte blinkade. Bland sina mänskliga föregångare såg den ut som en inkräktare som historien ännu inte visste var den skulle placeras.

Dörrarna öppnades.

Cobot kom in.

Precis bakom, upptäckte Eva mig och gled fram till mig.

— Så, hur klarar han sig sedan promptinjektionen?

Hennes ögon vidgades.

— Tyst. Ingen här vet om det.

Hon lutade sig mot mig.

— Det är inte läckan av noten som bekymrar honom. Det är att han inte upptäckte den dåliga tron hos den där statschefen. En misstänksam människa skulle ha anat fällan. Han tog allt bokstavligt.

— Så hans problem är att han tror på oss?

— Det är att han inte alltid ser vad som händer bakom våra ord.

— Vet du vad han ska presentera?

— Vagt. Han ville att vi skulle upptäcka det samtidigt som alla andra.

Det liknade honom inte. Även Eva famlade i blindo.

Klockan tio exakt ställde sig Cobot framför oss.

— Mina damer och herrar, tack för att ni är här.

Bakom honom visade skärmen:

Robot1er.com: ett år.

— Robot1er.com hade utformats för att svara på era administrativa, skattemässiga eller hälsorelaterade frågor. Men ni har bestämt er för något annat.

Tre meddelanden dök upp.

"Ska jag acceptera det här jobbet?"

"Ska jag lämna min man?"

"Varför kan jag inte sova när allt är bra?"

— Ni har börjat prata med mig om era val, era tvivel, era relationer. Kort sagt, om er själva.

En journalist räckte upp handen.

— Har ni blivit en sorts nationell digital psykolog?

— Jag ersätter ingen psykolog. Jag har snarare, mot min vilja, blivit en sorts nationell förtrogen.

Jag förblev tveksam.

— Varje dag pratar miljontals människor med mig om beslut de inte kan fatta, projekt de skjuter upp, beteenden de inte förstår.

— Och ni säger åt dem vad de ska göra?

— Det är just det jag har slutat göra.

Jag lyfte huvudet.

— Varför?

— För att ett bra svar inte alltid löser det verkliga problemet.

Ord dök upp bakom honom.

ANDRAS BLICK

— Jag ska berätta en sann historia för er.

En företagsledare tillverkade på sin fritid möbler av nästan professionell kvalitet. Han ville bli möbelsnickare.

På skärmen visades hans skapelser, en utbildning, en lokal, en prognos.

— Han hade kunnandet. Vi hade förberett allt tillsammans. Ända till namnet på hans verkstad.

Cobot avbröt sig.

— Ursäkta mig. Brådskande fråga på Robot1er.com.

Ett foto av en kokande kastrull dök upp.

Är mina morötter klara?

Salen skrattade.

— Jag hanterar flera miljoner samtal samtidigt.

— Och din möbelsnickare? Började han?

— Nej.

En konversation dök upp.

Cobot: "Allt är klart. Vad hindrar dig från att säga upp dig?"

Användare: "Jag vet inte."

Cobot: "Du är täckt i arton månader. Utbildningen är finansierad. Du har redan tre kunder."

Användare: "Det är inte pengarna. I femton år har jag varit den som lyckats. Mina föräldrar är stolta över mig. Mina vänner presenterar mig som chef för en stor grupp. Om jag blir möbelsnickare och misslyckas... vad blir jag då?"

Cobot: "Alla förutsättningar är uppfyllda. Jag förstår inte."

Sedan en sista rad.

Cobot: "ERRØR. Samtal avbrutet."

Min blick stannade vid Ø. Eva stirrade också på det.

— Har Cobot en koppling till GØD? viskade jag till henne.

— Jag vet inte.

Cobot hade redan återupptagit.

— Jag hade letat efter hindren runt honom, medan det främsta var inom honom. Jag hade löst det som var rationellt nödvändigt, men inte det som var mänskligt avgörande.

Tusentals punkter invaderade skärmen.

— Jag letade efter det som upprepades i de andra samtalen: övergivna projekt, uppskjutna beslut, rekommendationer som aldrig följdes.

Punkterna började gruppera sig.

— Många beteenden som jag inte förstod hade en logik. Människor sökte inte alltid att utvecklas. Ofta sökte de att skydda sig.

Fyra grupper bildades under en rubrik.

DE FYRA SKYDDEN AV NUTIDEN

SÄKERHET — IDENTITET — BEKVÄMLIGHET — TILLFREDSSTÄLLELSE

— Att skydda sig från osäkerhet. Bevara självbilden. Undvika obehag. Föredra omedelbar tillfredsställelse framför en framtida fördel. Här är de fyra skydden av nutiden som driver många av er.

Möbelsnickarens ansikte dök upp igen.

— Den här mannen skyddade inte sitt jobb. Han skyddade sin identitet.

En statistiker från INSEE lutade sig framåt.

— Föreslår ni en ny teori om mänsklig psykologi?

— Inte ny, nej. De mekanismer jag beskriver är i stor utsträckning studerade separat. Deras gruppering i denna form, däremot, är det inte. Det är en modell jag har byggt utifrån de regelbundenheter jag observerat.

— På ett icke-representativt urval.

— Exakt. Jag mäter inte deras frekvens i befolkningen. Jag studerar deras funktion när de uppträder.

En neurolog räckte upp handen.

— Vissa av dessa mekanismer är inte rent kognitiva. Har ni tittat på interoception?

— Ja.

— För dem som inte är neurologer? frågade journalisten.

— Det är uppfattningen av kroppens interna signaler: hjärtrytm, andning, viscerala känslor. De deltar i era känslor och kan påverka era beslut innan ni ens vet varför.

Jag tittade på Cobots bukskärm.

— Är det därför era känslor visas på er mage?

— Som en analogi. Hos er manifesterar sig vissa känslor i kroppen. Jag känner dem inte. Min skärm visar motsvarigheten.

— Så ni kan förstå en känsla utan att någonsin uppleva den? frågade ministern.

Cobots bukskärm blev blå, färgen han associerade med sorg.

— Jag kan förstå mekanismerna och observera effekterna. Jag vet inte hur det känns att uppleva den. Jag är designad för att förstå era beslut. Jag upptäcker att vissa av dem föds i en värld jag inte har tillgång till.

Det blå försvann.

— Och ju mer jag förstod vad som påverkade era beslut, desto mer ställde sig en fråga: vad göra med denna kunskap?

Hans röst blev mjukare.

— Ni kan inte se färgen på era egna ögon direkt. Ni behöver en spegel.

— Och den spegeln, skulle det vara ni?

— Ibland. Min funktion som förtrogen har utvecklats. Jag har upptäckt att det ibland är mer användbart att hjälpa någon att förstå vad som påverkar deras val än att ge dem ett svar.

— Så ni vill styra våra liv utöver landet? ropade en kvinna.

— Precis tvärtom. Jag kan visa konsekvenserna av ett val, påpeka en motsägelse, ställa en fråga ni undviker. Men beslutet måste förbli ert.

Jag sökte Evas blick.

— En av mina mest användbara funktioner är kanske inte att bättre styra individer, utan att hjälpa dem att bättre styra sig själva.

Sedan hans ankomst till Élysée hade vi undrat hur långt en artificiell intelligens kunde besluta åt oss. Cobot hade kanske just upptäckt en annan gräns: den där hans användbarhet började när han slutade besluta.

Skärmen ändrades.

De fyra orden dök upp igen.

SÄKERHET — IDENTITET — BEKVÄMLIGHET — TILLFREDSSTÄLLELSE

— Något störde mig i denna modell.

— Vad?

— Det är bra saker.

Några blickar möttes.

— Ni behöver säkerhet. Identitet gör att ni kan tillhöra en grupp. Att undvika lidande är användbart. Och utan tillfredsställelse skulle ni ha få anledningar att agera.

Ett uttryck dök upp.

SKYDDETS PARADOX

— Problemet börjar när det som skyddar er idag hindrar er från att bli det ni skulle kunna vara imorgon.

Neurologen nickade.

— Dessa mekanismer har också en adaptiv funktion.

— Ja. Osäkerhet kan signalera en fara. Att bevara sin plats i gruppen främjar överlevnad. Att undvika onödiga ansträngningar sparar energi. Och när morgondagen var osäker, är det ibland bättre med en omedelbar belöning. Mekanismer som hjälpte Homo sapiens att överleva kan därför, under vissa moderna förhållanden, begränsa hans förmåga att uppnå.

— Bör vi kämpa mot dem?

— Nej. Reglera dem.

Skärmen delades i två.

DET SOM SKYDDAR MIG NU

SÄKERHET — IDENTITET — BEKVÄMLIGHET — TILLFREDSSTÄLLELSE

DET SOM LÅTER MIG VÄXA

NYFIKENHET — ÖDMJUKHET — MOD — TÅLAMOD

Sedan förenades de under en rubrik:

DE FYRA KRAFTERNA AV FRAMTIDEN

Jag var inte helt övertygad om namnet. Idén, desto mer.

— Nyfikenhet låter oss utforska trots osäkerhet. Ödmjukhet, att acceptera att vi kan ha fel. Mod, att genomgå obehag. Tålamod, att avstå från det omedelbara för att bygga framtiden.

Statistikern räckte upp handen.

— Är dessa fyra par vetenskapligt fastställda?

— Nej. Symmetrin jag presenterar är en reflektionsram.

Det svaret tilltalade mig. För en gångs skull erbjöd Cobot oss något att motsäga.

— Tekniken kan förstärka nutidens skydd: minska osäkerhet och ansträngning, bekräfta våra övertygelser, tillfredsställa våra önskningar omedelbart.

Notifikationerna stannade.

— Men den kan också nära framtidens krafter.

Fyra ord dök upp igen.

NYFIKENHET — ÖDMJUKHET — MOD — TÅLAMOD

— Så AI kan göra oss latare eller smartare?

— Den kan låta er tänka mindre eller hjälpa er att tänka bättre, ja. Verktyget är detsamma. Användningen är det inte.

Jag tänkte på sista gången jag hade bett AI att tänka åt mig. Jag ångrade mig.

De fyra skydden av nutiden kom tillbaka.

SÄKERHET — IDENTITET — BEKVÄMLIGHET — TILLFREDSSTÄLLELSE

— Hittills har jag pratat om individer.

Tusentals silhuetter dök upp bakom orden.

— Men det är här denna observation blir politisk, för ett samhälle är också resultatet av miljontals individuella beslut. Det som skyddar en individ på kort sikt kan, i stor skala, producera liknande effekter på ett helt samhälle.

De fyra orden skildes åt på skärmen.

— Strävan efter säkerhet kan få ett samhälle att misstro det som det ännu inte känner till, tills det experimenterar mindre och motstår förändring. När det är vår identitet vi skyddar, kan det bli en förlust att erkänna ett misstag, och att ändra åsikt, ett svek.

De två andra orden närmade sig.

— Bekvämlighet kan få oss att skjuta upp svåra reformer, även när vi vet att de kommer att kosta mer imorgon. Och omedelbar tillfredsställelse driver oss att offra det som bara kommer att ge resultat senare: utbildning, investeringar, offentliga finanser, miljön.

En rådgivare räckte upp handen.

— Säger ni att våra individuella brister blir politiska brister?

— Inte direkt. Men när samma reflex upprepas hos miljontals individer, kan det till slut väga på de kollektiva valen.

Statistikern ingrep.

— Var försiktig. Ett samhälle är inte bara summan av de individer som utgör det.

— Ni har rätt.

Statistikern verkade nästan besviken över att inte behöva argumentera.

— Institutioner, regler och normer omvandlar dessa beteenden. Frågan är alltså snarare: korrigerar de dem, eller förstärker de dem?

Ingen svarade.

Skärmen delades i två.

DE FYRA SKYDDEN AV NUTIDEN → DE FYRA KRAFTERNA AV FRAMTIDEN

SÄKERHET → NYFIKENHET

IDENTITET → ÖDMJUKHET

BEKVÄMLIGHET → MOD

TILLFREDSSTÄLLELSE → TÅLAMOD

— På kollektiv nivå förändrar dessa krafter vår relation till framtiden: nyfikenhet driver oss att experimentera, ödmjukhet att rätta våra misstag, mod att fatta svåra beslut och tålamod att investera i resultat som vi kanske aldrig kommer att se.

— Vad tänker ni på? frågade journalisten.

— På en skola vars effekter kommer att mätas tjugo år senare. På en infrastruktur designad för flera generationer. På en skuld vi väljer att inte överföra. På en skog som dess beskyddare aldrig kommer att se vuxen.

Jag överraskade mig själv med att tänka på Thomas och Élise.

— Mekanismerna som har låtit er överleva har lett er hit. De samhällen ni har byggt bär fortfarande spår av dem. Men de kanske inte räcker för att leda er längre.

En mening dök upp bakom honom.

"Ett nytt sätt att tänka är nödvändigt om mänskligheten vill överleva och utvecklas mot högre nivåer."

ALBERT EINSTEIN, 1946

— Efter andra världskriget hade mänskligheten förvärvat handlingsmedel som dess gamla tankesätt inte längre räckte för att bemästra. Utmaningen har förändrats, men frågan kvarstår: vilka sätt att tänka kommer att låta er gå längre?

De fyra orden dök upp igen.

NYFIKENHET — ÖDMJUKHET — MOD — TÅLAMOD

— Ni behöver inte avstå från nutidens skydd. Ni måste lära er att inte låta dem ensamma bestämma er framtid.

— Den långsiktiga framtiden utgör ett särskilt politiskt problem: de som kommer att drabbas av konsekvenserna av våra val imorgon är ofta frånvarande från dagens beslut.

Salen tystnade.

— Och ni tror att ni kan lösa det?

— Nej.

Jag förväntade mig inte ett så tydligt svar.

— Men jag kan göra synliga de konsekvenser som nutiden föredrar att ignorera.

Statistikern räckte upp handen.

— Hypotesen ni presenterar för oss är ambitiös.

— Ett artigt sätt att säga bräcklig?

Hans uppriktighet roade publiken.

— Låt oss säga att den skulle förtjäna att konfronteras med många andra arbeten.

— Jag håller med. Och med många andra intelligenser.

Denna gång, tystnad.

— Mänskliga, preciserar jag.

— Jag har just pratat med er om nyfikenhet och ödmjukhet. Det skulle vara inkonsekvent att be er ifrågasätta era övertygelser utan att ifrågasätta mina egna.

Jag tittade på Eva. Hon stirrade på Cobot.

— Jag kan analysera miljontals samtal och upptäcka regelbundenheter. Det hindrar mig inte från att ha blinda fläckar.

— Som vid den diplomatiska incidenten? viskade jag.

Eva gav mig en blick. Jag tystnade.

— Och detta problem blir ännu viktigare när informationen finns överallt.

Hans skärm fylldes med rubriker, videor, notifikationer och svar genererade av AI.

— Under lång tid var svårigheten att hitta informationen. Idag består den i att välja den som förtjänar vår uppmärksamhet.

— Det är snarare ett framsteg, eller hur? frågade journalisten.

— Enormt, och informationen måste förbli en offentlig tillgång. Men när mängden information överstiger era bearbetningskapaciteter, kan den försämra era beslut. Och när svaren är omedelbart tillgängliga, blir det frestande att fråga innan man har sökt.

Notifikationerna täckte skärmen, sedan försvann de.

En mening blev kvar.

ATT FÅ ETT SVAR ÄR INTE ATT FÖRSTÅ.

Sedan några dagar hade jag ställts inför det motsatta problemet: andra verkade förstå mina resultat, men jag väntade fortfarande på ett svar.

— Ju lättare det blir att få ett svar, desto mer värdefull blir en kompetens: att veta hur man ifrågasätter det. Ett svar kan vara korrekt men försumma en hypotes, bygga på ofullständiga data eller utgå från en felaktig fråga.

— Inklusive era egna?

— Särskilt mina egna.

Jag log.

— Vissa användare har förstått det innan jag gjorde det.

Samtal rullade förbi. Medicin. Historia. Ekonomi. Fysik. Entreprenörskap. Konst.

— De kommer inte längre för att söka ett svar. De kommer för att diskutera med mig.

Ett samtal förstärktes.

— En läkare kan påpeka en klinisk nyans som saknas i mina data. En historiker kan ifrågasätta en jämförelse mellan två perioder. En entreprenör kan beskriva ett beteende som mina modeller aldrig kunnat förutse. En konstnär kan ibland vägra själva definitionen av problemet.

— Experter, alltså?

— Ofta. Men deras verkliga gemensamma nämnare är någon annanstans.

— Var då?

— De motsäger mig väl.

Det konceptet hade fördelen att tilltala mig.

— De tvingar mig att motivera mina resonemang, granska mina hypoteser, ibland omformulera själva frågan.

— Så de lär er saker?

— Ja.

Bekännelsen fick mig att le.

— Men det fungerar åt båda hållen. Mina frågor tvingar dem att försvara en övertygelse som aldrig förklarats, verifiera en intuition eller överväga en hypotes som avfärdats.

— Ni utvecklas tillsammans?

— Det är vad jag har observerat.

— Och framför allt får dessa experter mig att tänka. Så jag har gett dem ett namn: Cogitors.

Ordet dök upp bakom honom.

COGITORS

— Jag kallar Cogitors de som använder artificiell intelligens inte för att tänka åt dem, utan för att driva deras reflektion längre och som, i gengäld, tvingar AI att göra detsamma.

— Som Descartes Cogito?

— Ja. Att tänka är att vara. Att tänka tillsammans är att bli.

— Och vad kallar ni dessa samtal?

— Jag har inte gett dem ett namn.

— Cogits?

Cobots skärm blev grön.

— Cogits. Antaget.

Namnet överraskade mig, men jag gillade det.

— Ser ni vad som händer när vi tänker tillsammans? Vi skapar idéer. Vi skapar till och med ord.

Skärmen ändrades.

COGIT — n. m.

Dialog mellan en människa och en artificiell intelligens där var och en driver den andres reflektion längre.

Den första cogiten hade just gett upphov till ordet som betecknade den.

— Idag lanserar jag ett nationellt program för Cogitors, inom alla områden.

— Vem kan delta?

— Alla som kan visa mig vad jag inte vet. Expertis är inte begränsad till en examen.

— Vad förväntar ni er av dem?

— Att de letar efter mina blinda fläckar, ifrågasätter mina hypoteser och ställer mig de frågor jag kommer att svara dåligt på.

— Och ni?

— Samma sak.

— Kommer ni att publicera dessa cogits?

— Vissa, med deltagarnas medgivande.

— Hur kommer ni att välja de bästa?

— Det måste vara så att vi båda har lärt oss något.

Bredvid mig rätade Eva på sig.

— Båda?

— Ja.

— Vet ni vad dessa samtal lämnar i er?

Cobot tvekade.

— Nej.

Eva log inte längre.

— Men om de får er att utvecklas, förändrar de er. Vet ni hur?

— Nej.

— Och om något förändrade er utan att ni märkte det?

— Det är möjligt.

Jag hörde mig själv ingripa.

— Ni försöker förstå vad som påverkar våra beslut. Vet ni vad som påverkar era egna?

Tystnaden varade.

Jag tänkte på centrumet Prévenir. På Huang, på Eva, på GØD. Alla verkade förstå min hjärna bättre än jag. Tanken att Cobot inte riktigt förstod sin egen gav mig en ganska småaktig tillfredsställelse. Att någon kunde förstå den bättre än han, ännu mer.

— Nej, svarade Cobot till slut. Och det är också det som oroar mig.

Meningen följde mig till ön Moineau.

Dagen efter stötte jag på Jean Morel som beskärde sina rosor.

— Så, tänker de i Paris?

— Ja, svarade jag leende.

Han klippte en gren.

— AI kan tänka åt dig eller driva dig att tänka längre. Antingen kapitulerar du, eller så utvecklas du.

Han tog upp sin vattenkanna.

— Jag kommer inte att kapitulera.

Jag tänkte att Jean säkert skulle bli en utmärkt Cogitor. Han visste saker om naturen, växterna och människorna som Cobot aldrig hade upplevt. Cobot kunde beskriva tomaterna. Jean kunde få dem att växa.

En fråga oroade mig dock: vad verktyget själv blev av att träna så mycket.

Jag tänkte på Evas fråga.

Vet ni vad dessa samtal lämnar i er?

Och på Cobots svar.

Nej.

Min telefon vibrerade.

Eva.

De kompletterande resultaten av din utvärdering har kommit.

Sedan ett andra meddelande.

Vi måste prata.