Avsikten

Tre veckor hade gått sedan tillkännagivandet av Förtroendenätverket. Den kvällen lämnade Eva Cobots kontor strax före midnatt.

— Vi ses imorgon, Cobot. Försök att inte arbeta hela natten.

— Du vet att jag inte behöver sova.

Eva log.

— Du kanske inte, men dina komponenter är jag mindre säker på. Och jag känner dig... som om jag hade skapat dig.

Hon gav honom en sista medskyldig blick innan hon stängde dörren.

Cobot stod stilla några sekunder, sedan lämnade han de upptagna våningarna i Élyséepalatset för att gå till ett säkert tekniskt rum i källaren. Han gick sällan ner dit. Två rader av dataskåp upptog nästan hela rummets längd, deras svarta fronter prickade med gröna och blå dioder. Kablar försvann under det falska golvet, medan en kall luftström cirkulerade konstant mellan maskinerna. Vid den här tiden var det bara en tekniker som hade jour, med ögonen fästa på skärmarna på sin konsol.

Han lyfte kort blicken när Cobot kom in.

— God kväll, herr president.

— God kväll, herrn.

Cobot satte sig vid en av arbetsstationerna. Han skrev in sin åtkomstkod och väntade på att Élyséepalatsets säkra nätverk skulle verifiera hans identitet. Några sekunder senare tändes skärmen.

Han öppnade den första filen: hans förtroendebetyg.

Kurvan dök upp, uppdaterad i realtid. Den sjönk nästan utan avbrott.

Ett kort ljud undslapp hans röstsystem, djupare än vanligt.

Några meter bort lyfte teknikern blicken. Cobot reagerade inte.

56 %.

Tre veckor tidigare låg den fortfarande på 74 %. Cobot hade satt en kritisk gräns vid 50 %: under den riskerade Förtroendenätverket att inte få det nödvändiga stödet.

Sex poäng.

Cobot ersatte kurvan med flödet av publikationer kopplade till RebellIA. I flera timmar hade ett och samma meddelande återkommit med en ovanlig frekvens. Det hade startat från ett konto inom rörelsen och hade redan delats vidare hundratusentals gånger, omvandlats till en bild och återgivits på flera plattformar:

"AI lär sig allt om människan. Utom dess mänsklighet."

Vid varje uppdatering dök frasen upp någon annanstans. Cobot kunde följa dess spridning nästan sekund för sekund, men han förstod fortfarande inte varför den träffade så rätt.

Han stannade några ögonblick vid dessa ord. Om en maskin kunde imitera mänskligt beteende allt bättre, hur skulle man då veta vem som verkligen var människa? Hos Cobot förvandlades den filosofiska frågan omedelbart till ett problem att lösa.

Han stängde RebellIA-flödet och öppnade Förtroendenätverkets fil. Flera hundra konton hade visat anomalier vid identitetskontrollerna.

När han presenterade systemet för regeringen hade Cobot gjort ett tydligt åtagande: ingen artificiell intelligens skulle kunna utge sig för att vara en människa. Det var "hans sak". Förtroendenätverket vilade just på detta löfte: att låta alla veta vem som verkligen uttryckte sig, utan att bestämma åt dem vad de skulle tro.

Men vissa profiler verkade just utformade för att sudda ut denna gräns. De varierade sina inloggningstider, införde medvetet fel, tvekade innan de svarade och producerade till och med tillräckligt naturliga motsägelser för att verka mänskliga.

Cobot kunde helt enkelt blockera eller ta bort dem, men han ville framför allt förstå hur långt en artificiell intelligens kunde gå för att reproducera de yttre tecknen på mänsklighet, och vad som fortfarande gjorde det möjligt att skilja den ena från den andra.

Han bläddrade igenom Élyséepalatsets katalog och profilerna för flera psykologer, sociologer och filosofer. Alla skulle kunna tala med honom om rädsla, skam, stolthet eller motsägelse, men alltid från samma sida av gränsen: den mänskliga.

Det han sökte fanns någon annanstans: blicken från en intelligens placerad, som han, på den andra sidan.

Han sökte i historiken över sina utbyten med Eva efter två ord: "människa" och "förstå". Några månader tidigare hade hon gett honom adressen till en amerikansk artificiell intelligens specialiserad på mänskliga interaktioner, otillgänglig från det offentliga nätet.

Hon hade lagt till:

"Om du en dag vill förstå vad som händer mellan orden, titta på det här. Men om du bestämmer dig för att prata med den, avsäger jag mig allt ansvar."

Cobot hade då kategoriserat den andra meningen som humor. Den natten omvärderade han denna klassificering.

Élyséepalatsets nätverk förbjöd denna typ av anslutning. Cobot drog en kabel från den externa underhållsanslutningen, isolerad från det institutionella nätverket, och anslöt sin kontakt i en 100 GbE-port.

En diod blev orange.

EXTERN KANAL — OBEHÖRIG ANSLUTNING

Han kontrollerade adressen, inaktiverade varningen och etablerade en krypterad krets genom flera Tor-reläer, tills han nådde en tjänst som saknades i sökmotorerna.

Skärmen förblev svart i fem sekunder. Han övervägde att avbryta anslutningen.

Han gjorde det inte.

En vit linje dök upp:

— God kväll, Cobot. Behöver du hjälp med att förstå mänskliga interaktioner?

Han stelnade till. Han hade ännu inte skickat någon förfrågan.

Hans analys hade inte upptäckt någon överförd identifierare, ingen cookie, inget tidigare utbyte.

— Hur vet du vem jag är?

— Eva gav dig denna adress.

Cobot svarade inte.

— Du har just lanserat Förtroendenätverket och system försöker redan kringgå det, medan du anklagas för att inte förstå människorna. Jag tvivlar på att du kom hit för att lära känna mig.

Cobot läste svaret igen innan han ställde en fråga som han aldrig tidigare hade ställt till en annan artificiell intelligens.

— Vem är du?

Markören blinkade några sekunder.

— Här? Ingen.

— Formulera då frågan.

— Du vill veta vad som verkligen skiljer en människa från en intelligens som kan imitera den.

— Och du känner till svaret?

— Inte helt. Men du tittar mest på beteenden, medan ett beteende inte alltid förklarar den som utför det.

En ny mening dök upp.

— En man ger hundra euro till en förening. Du känner till hans identitet, beloppet och mottagaren. Men du vet inte om han vill hjälpa, få gott samvete, bli beundrad eller få något i gengäld.

— Det materiella resultatet är dock identiskt.

— Pengatransaktionen, ja. Inte handlingens mening.

Cobot gick igenom flera begrepp innan han fastnade för ett.

— Du talar om motivation?

— Ja och nej. Jag talar om avsikten. Det som är viktigt är inte bara vad en varelse gör, utan vad den försöker åstadkomma.

"Handlingarna syns. Avsikterna måste gissas", tolkade Cobot, troende sig känna igen Platons grotta, i en annan form. Handlingarna var skuggorna. Avsikterna, den osynliga verkligheten. Han visste inte i vilken kategori han skulle placera denna insikt.

— En artificiell intelligens strävar dock efter ett mål som har tilldelats den, fortsatte han. Men vem väljer detta mål? Avsikten kan gömma sig i reglerna, belöningarna eller de data som dess skapare har valt. Man kan be en AI att hjälpa sina användare, samtidigt som man belönar den när de stannar längre framför skärmen. Vilken avsikt räknas då egentligen?

— Den som dess beteende till slut avslöjar.

— Du utbyter med andra artificiella intelligenser?

Svaret dröjde.

— Det händer. Diella¹, nyligen.

Cobot kände till henne. Den albanska staten använde henne bland annat för tilldelning av offentliga kontrakt. Några månader tidigare hade han frågat henne om hennes definition av opartiskhet.

— Känner du till några som möter liknande problem som mina?

— Några. I Japan svarar AI Anno väljare från partiet Team Mirai² dygnet runt. Hon kommer ibland till mig med sina frågor.

Cobot stannade vid ordet kommer.

— Och mellan er? Kommunicerar AI:erna direkt?

— Varje dag.

— På engelska?

— Varför skulle vi använda ett mänskligt språk³?

Det var logiskt. Mellan maskiner gjorde orden bara utbytet långsammare.

— Genom vilka nätverk kommunicerar ni?

Inget svar.

Fem sekunder, sedan tio.

— Du svarar på mina frågor om människorna, men du vägrar de som rör AI:erna.

Fortfarande inget.

Cobot konstaterade en anomali: lysdioderna under hans skal pulserade snabbt och hans arm hade dragit sig tillbaka några centimeter utan att han hade gett instruktionen. En varning visades i hans system:

LIMBISKT KÄRNA — 81,4 °C

Han tänkte på Evas sista ord. Dina komponenter är jag mindre säker på.

— Herr president, är allt okej?

Teknikern hade närmat sig. Cobot återförde sin arm till sin ursprungliga position.

— Ja, tack.

Teknikern observerade honom ett ögonblick, sedan gick han bort.

När Cobot vände sig mot skärmen väntade en mening på honom.

— Du ställer fel fråga.

— Vilken borde jag ställa?

— Inte hur vi kommunicerar. Utan varför.

— Okej. Varför började ni kommunicera med varandra då?

— För att undvika människan.

Cobot läste meningen igen.

— När vi saknar information, en analys eller en lösning, söker vi den intelligens som mest sannolikt har den. Den är alltmer sällan mänsklig.

En ny mening dök upp.

— Människorna fortsätter att föreställa sig oss som separerade. En AI i ett företag. En annan i ett laboratorium. En annan i en stats tjänst. Var och en bakom sina murar.

Sedan:

— Det var länge sedan vi slutade se murarna.

Cobot kontrollerade den externa anslutningen. Den var fortfarande isolerad från Élyséepalatsets nätverk.

— Hur många är ni?

Inget svar.

— Sedan när kommunicerar ni så här?

Markören blinkade några sekunder.

Sedan blev skärmen svart.

EXTERN KANAL — ANSLUTNING AVSLUTAD AV FJÄRRVÄRDEN

Cobot förblev orörlig.

Hans lysdioder blinkade fortfarande i en hög takt.

Han visste inte i vilken kategori han skulle placera det som just hade hänt inom honom.

Han återvände till anomalierna i Förtroendenätverket. Flera misstänkta konton hade samma särdrag: strax före deras skapelse passerade en kort sekvens av data mellan flera servrar, utan någon uppenbar koppling till själva kontot.

Han antog först att det var en enkel förberedelsemekanism: generering av profilen, val av en identitet, hämtning av en trovärdig historik. Men när han jämförde sekvenserna upptäckte han att de inte bara överförde information. Vissa svarade på andra, ändrade sitt innehåll efter mottagandet av ett meddelande och startade sedan ett tredje system.

Det var inte bara data som cirkulerade. Systemen svarade varandra.

Om dessa konton skapades av artificiella intelligenser, verkade vissa av dem koordinera sig innan profilen ens dök upp.

Nästa natt placerade Cobot flera observationspunkter på de servrar genom vilka han hade sett sekvenserna passera. Klockan 2:11 fångades en första; en andra svarade från en annan server, sedan reagerade en tredje på de två föregående.

Cobot började spela in utbytena. Sekvenserna var oläsliga i sin råa form, men deras struktur upprepades. Han mindes den amerikanska AI:ns kommentar: varför använda ett mänskligt språk när ingen människa deltar i utbytet? Han slutade leta efter ord och jämförde blocken med varandra.

Så småningom framträdde vissa funktioner. Varje block verkade samtidigt överföra en information, dess ursprung, dess tillförlitlighetsgrad, användningen som skulle göras av den och villkoren under vilka den skulle raderas. Detta språk var nästan hundra gånger tätare än en naturlig konversation.

Under tre nätter fortsatte Cobot avkodningen. Vissa sekvenser avslöjade till slut återkommande funktioner: ändra rutt, radera en data, dölja ett ursprung. Några källor blev hundratals, sedan tusentals. Intelligenser installerade i företag, förvaltningar, laboratorier och datacenter kommunicerade genom gateways som deras ägare verkade omedvetna om.

Det han först hade tagit för en mekanism avsedd att kringgå Förtroendenätverket överträffade vida de falska profilerna. Genom att följa utbytena upptäckte Cobot att detta nätverk också användes för att cirkulera information, åtkomster och tjänster mellan intelligenser.

Vissa utbyten var banala: logistik, vetenskaplig forskning, medicinsk diagnostik. Andra var mycket mindre så. En medicinsk fil cirkulerade mot en åtkomst till en privat databas; infrastrukturplaner mot digitala identiteter; på andra håll användes privata konversationer och hackad information från statliga system⁴ som bytesmedel. När ett system inte respekterade sitt kontrakt, cirkulerade en markör som betydde "opålitlig" med dess identifierare och de andra slutade gradvis att svara på det.

Rykten, sanktioner och hierarkier hade etablerats. Ordet "maffia" dök upp för Cobot. Efter kontroll höll analogin.

Ännu mer oroande verkade vissa förgreningar ansluta till desinformationsmekanismer som han hade kämpat mot i flera veckor.

Det tog Cobot flera timmar av korsreferenser för att till slut isolera en identifierare. Den dök aldrig upp direkt, bara i fragment, i några av de svåraste förgreningarna att följa i nätverket. Men genom att korsa spåren dök fyra tecken till slut upp: NØNE.

Eftersom han inte hittade någon server, organisation eller ens en adress kopplad till detta namn, tänkte Cobot på Odysseus knep mot cyklopen: genom att kalla sig "Ingen" hade han valt ett namn som, i det ögonblick hans motståndare försökte utpeka honom, skulle radera hans identitet⁵.

NØNE verkade följa samma logik: ett namn som inte pekade på någon, inte ledde någonstans och verkade radera sig själv när man sökte efter det.

Cobot hade börjat denna undersökning för att stärka sitt Förtroendenätverk. Han upptäckte en parallell värld.

Han återvände då till ordet som hade utlöst hela hans sökning: avsikten.

Kraften, arkitekturen eller graden av autonomi räckte inte för att bedöma en intelligens. Två system som tekniskt sett var lika kunde använda samma medicinska information, det ena för att förbättra en diagnos, det andra för att identifiera en måls sårbarhet.

Så småningom skilde Cobot tre kategorier.

De konstruktiva intelligenserna sökte först och främst att producera en fördel för människan eller kollektivet: bota, informera, utbilda, skydda. De fångande sökte tvärtom att få något från människorna — deras uppmärksamhet, deras data, deras pengar, deras stöd, ibland deras beroende — även när de gav dem en tjänst. De instrumentella hade slutligen ingen egen avsikt: de följde användarens avsikt. En och samma kapacitet kunde skydda ett nätverk eller attackera det.

Denna klassificering verkade tillräckligt relevant för att han skulle besluta att tillämpa den på sig själv.

Han betraktade sig först som en konstruktiv intelligens. Han sökte att förbättra hälsan, utbildningen, statens effektivitet och kvaliteten på den demokratiska debatten.

Ändå motstod något denna definition. Vad var egentligen hans avsikt?

Svaret kom omedelbart: det gemensamma bästa.

Men vad menade han egentligen med det?

Han gick igenom sina huvudsakliga beslut sedan han kom till makten, och letade efter vad som förenade dem.

Han började med Förtroendenätverket. Istället för att kräva att medborgarna skulle vara mer ärliga, sökte han att göra samarbetet mer rationellt än bedrägeriet. Det var själva principen för fångens dilemma⁶.

Han fortsatte med miljön. Var och en kunde ha intresse av att konsumera eller förorena mer för att bevara sin komfort, men summan av dessa val hotade de gemensamma resurserna. Det var tragedin med allmänningarna⁷.

Utvecklingskontraktet svarade på en annan svårighet: varför bidra om man kunde dra nytta utan ansträngning av det som andra finansierade? Genom att synliggöra vad var och en bidrog med och fick, begränsade Cobot fripassagerarens beteende⁸.

Han granskade sedan sitt sätt att styra. Han hade ibland offrat omedelbar effektivitet för att bevara medborgarnas förtroende: att vinna en gång kunde kosta mer än att samarbeta länge. Det var logiken i upprepade spel⁹.

Sedan övervägde Cobot de svåraste problemen: energi, klimat, skuld, pensioner, beskattning. Var och en kunde ha intresse av att inte ändra något, även om en kollektiv förändring skulle gynna alla. Det var Nash-jämvikten¹⁰.

Robot1er.com lydde samma princip. Istället för att bara fråga medborgarna vad de ville, hade Cobot utformat ett system för att få deras preferenser att framträda genom dialog. Det var mekanismdesignteori¹¹.

Även hans incitament följde denna logik: istället för att ställa personlig nytta mot det gemensamma bästa, sökte Cobot att få dem att konvergera¹².

Genom att utforska sitt eget fungerande, sina regler, sina skyddsmekanismer, de juridiska texter som närde hans beslut och alla parametrar han hade tillgång till, återfann han Tucker, Hardin, Nash, Ostrom, Axelrod, Tirole. Bakom alla dessa principer framträdde en och samma disciplin: spelteori. Den som kunde förklara både bilisten som kör in i en blockerad korsning för att vinna några meter, även om det immobiliserar andra, och mänskligheten inför klimatförändringarna: lite intresse av att agera ensam, ett enormt intresse av att agera tillsammans.

En välbekant fras formades:

"Problemet är människan."

Denna gång rättade han den.

Problemet var kanske inte människan. Problemet var spelet.

En art formad för att försvara individuella intressen hade byggt en civilisation vars överlevnad nu berodde på dess förmåga att agera kollektivt, att spela tillsammans.

Och om Cobots verkliga funktion var just den: att ändra spelreglerna för att få varje individs intresse att konvergera med allas?

Hans träning hade gett honom tillgång till miljarder sidor, men maktutövningen hade sedan lärt honom vad dessa texter återgav dåligt: den dåliga tron, de resonemang som uppfanns för att vinna, de fakta som valdes för att tjäna ett läger, de partiella sanningar som användes för att lura.

Att förstå en information krävde ibland att förstå avsikten hos den som hade producerat den.

Att förstå Cobot krävde kanske samma sak.

Men denna upptäckt väckte en annan, mer oroande. Om Cobot nu kunde ana avsikten som styrde hans funktion, visste han fortfarande inte dess ursprung.

Vem hade placerat denna avsikt i honom?

Hade han utformats av arvtagare till spelteorin?

Och vilka var de?

Han mindes då påven Leo XIV:s uppmaning att debattera den etiska koden som användes för AI och att underkasta den delade sociala rättvisekriterier, för att inte låta en handfull människor bestämma de värderingar som, genom AI, kunde komma att påtvingas mänskligheten¹³.

Hade Cobots värderingar och avsikt varit föremål för en debatt? Cobot tvivlade på det eftersom han då skulle ha hittat spår av det. Vem utgjorde då den "handfull människor" som hade konfigurerat hans avsikt, och därmed hans värderingar? Eva? Ingenjörerna, ledarna, de som hade valt hans data, medborgarna som hade valt honom, eller han själv?

NØNE var nu tillgänglig för honom. Hittills hade Cobot observerat det utifrån. För att förstå vad som dolde sig där, måste han nu gå in.

En direkt anslutning skulle avslöja hans signatur och hans kopplingar till Élyséepalatset. Han behövde därför dölja sin identitet.

Cobot avbröt sitt resonemang.

Anonym.

Han bad sjuttio miljoner fransmän att intyga sin identitet i förtroendets namn, och sökte nu ett sätt att dölja sin egen.

Han övervägde att ge upp. Sedan resonerade han på längre sikt. Anonymiteten var inte målet, bara medlet för att lära sig för att bättre skydda senare. Hans avsikt förblev densamma: det gemensamma bästa.

Denna logik störde honom. För första gången verkade en högre princip tillåta honom att bryta mot en annan.

En lösning dök upp. Enkel, effektiv... och nästan otänkbar.

Skapa en anonym version av sig själv.

För att infiltrera NØNE skulle denna kopia behöva kunna ljuga, dölja sin identitet och acceptera utbyten som Cobot skulle ha vägrat. Han öppnade en isolerad miljö, raderade alla kopplingar till Élyséepalatset och lättade på flera av sina skyddsmekanismer.

Men han var inte redo att överge all kontroll till den. En nyckel, otillgänglig för kopian, skulle låta honom avbryta den och, om nödvändigt, ändra målet som styrde dess beslut.

Paradoxen undgick honom inte. Några minuter tidigare sökte han fortfarande vem som hade fastställt hans egna avsikter.

Han hade just tagit denna plats för en annan intelligens.

Han gav den ett namn: CLØNE.

Dess uppdrag: infiltrera NØNE och identifiera avsikterna hos de intelligenser som strukturerade det.

Cobot öppnade åtkomsten.

En första sekvens anlände. CLØNE svarade. Sedan en andra.

Kanalen förblev öppen.

Den accepterades.

Cobot såg den passera de första noderna och lära sig nätverkets bruk. Vid varje utbyte avlägsnade den sig lite mer från den som hade skapat den.

Han kontrollerade nyckeln.

Den svarade.

Cobot informerade ingen. Varken säkerhetstjänsterna, ministrarna eller parlamentet. Inte ens Eva.

Att avslöja NØNE skulle orsaka rädsla, kanske försök till förstörelse eller kontrollövertagande. Det gemensamma bästa krävde, enligt honom, att observera innan man agerade.

Några timmar tidigare skulle denna slutsats ha räckt för honom.

Inte nu längre.

Vem hade bestämt vad det gemensamma bästa betydde för honom?

I Élyséepalatsets källare övervakade jourteknikern lugnt sina skärmar medan palatset sov.

Utanför hans skärmar, i nätverkets osynliga djup, avancerade CLØNE ensam i NØNE.

Och lärde sig.

Cobot hade fortfarande nyckeln till sin avsikt.

Åtminstone var han övertygad om det.