Förtroende

Debatten om RebellIA hade knappt lagt sig förrän ett annat ämne redan sysselsatte Cobot bakom kulisserna. Den här gången fick jag inte veta det genom pressen, utan genom Eva.

Hon kom till Sparvön. Officiellt ville hon hjälpa mig med artikeln jag förberedde om Utvecklingskontraktet. I verkligheten kom hon för att ge mig en exklusiv nyhet: innehållet från morgonens ministerråd. Vid den tidpunkten visste ingen i pressen något om det.

Hon steg av på kajen strax före klockan nitton, med en väska över axeln. Hon tittade på den lilla stationen och sedan på skogen bakom, med den uppmärksamhet hon reserverade för saker hon ännu inte förstod.

— Så det här är din slutstation, sa hon när vi kom fram.

— Så är det.

I stugan sov Thomas. Eller låtsades han, vilket hos honom ofta var samma sak. Lia öppnade ett öga, betraktade Eva en sekund, och stängde det sedan igen.

Eva gick runt i rummet utan att säga något, som när man besöker en plats man redan föreställt sig och omedvetet jämför med den bild man hade. Hon stannade framför den nedre hyllan, där mina gamla programmeringsmanualer samlade damm.

— Programmerade du?

— För länge sedan.

— Man känner sådant.

Vi satte oss vid bordet, min anteckningsbok öppen mellan oss. Utanför började natten svälja träden. Eva ställde sin väska vid stolens fot utan att ta av sig kappan. Hon verkade fortfarande vara någon annanstans, som om en del av henne hade stannat kvar i rådssalen.

— Han har börjat intressera sig för något annat, sa hon till mig.

— För vad?

— Inte för vad som sägs. För vad som får folk att säga.

— Hur menar du?

— Låt mig börja från början.

Rådet öppnades, förklarade Eva, med ett inlägg av Cobot själv, innan dagordningen ens hade börjat.

— Under flera veckor, började han, har rykten och desinformationskampanjer cirkulerat allt snabbare, utan att något verkar kunna bromsa dem. Vissa föds av enskilda individer. Andra orkestreras av organisationer. Ytterligare andra produceras automatiskt av artificiella intelligenser som kan publicera, kommentera, svara och övertyga i en skala som ingen människa kan nå.

En minister försökte avbryta honom. Eva mindes bara gesten: en hand som lyftes, omedelbart föll.

— Fake news¹ invaderar oss: information tillverkad för att bli trodd. Deepfakes² är idag praktiskt taget omöjliga att skilja från verkligheten. Klonade röster kan imitera en närstående för att lura pengar av dem. Helt fabricerade videor visar politiska ledare som tillkännager falska åtgärder, företagsledare som gör falska uttalanden, eller medborgare som utför handlingar som aldrig har ägt rum. Ni vet också tyvärr att mängden energi som krävs för att motbevisa dumheter är en storleksordning större än den som krävs för att producera dem³.

Dessa lögner försvagar vårt samhälle och vår republik. Jag ville förstå inte längre vad som cirkulerar, utan vad som producerar det.

Han lade sina underarmar på bordet.

— Vi står inte längre inför en rad incidenter. Vi står inför ett brott.

Hans blick svepte över bordet.

— När var och en blir kapabel att skapa en trovärdig verklighet, är det själva möjligheten till en gemensam verklighet som börjar försvinna. Och de beslut jag föreslår är bara värda något genom kvaliteten på de fakta de bygger på. Om jag inte längre kan skilja sant från falskt, kan jag inte längre skilja ett bra beslut från ett dåligt.

Ingen rörde sig.

— En demokrati kan överleva oenighet. Den kan inte överleva om alla till slut lever i en annan verklighet.

Han vände sig mot inrikesministern.

— Vi tror oss ha funnit ett svar.

Ministern tog över.

— Vi har länge trott att vi stod inför ett informationsproblem. I verkligheten står vi inför ett identitetsproblem.

Han stängde sin mapp.

— Innan man frågar sig om en information är sann, blir en fråga avgörande: vem talar egentligen?

Även de mest distraherade rätade på sig.

— Det är därför vi föreslår skapandet av ett Förtroendenätverk.

Ordet räckte för att förändra atmosfären runt bordet.

Justitieministern tog omedelbart till orda.

— Och vem kommer att avgöra, i detta nätverk, vad som är pålitligt?

Ministern skakade försiktigt på huvudet.

— Ingen.

Han väntade.

— Det är precis det som förändras. Förtroendenätverket kommer aldrig att certifiera en idé. Det kommer aldrig att säga vad som är sant eller falskt. Det kommer endast att intyga en identitet.

— Nyans...

— Väsentlig.

Han fortsatte.

— Åsikterna kommer att förbli helt fria. Var och en kommer att kunna fortsätta publicera vad de vill, dela det, ifrågasätta det eller ignorera det. Den enda skillnaden kommer att vara att det alltid kommer att vara möjligt att veta vem som verkligen är författaren.

Ekonomiministern rynkade pannan.

— Så pseudonymer försvinner?

— Nej.

— Var och en kommer att behålla det pseudonym de väljer. Det som försvinner är möjligheten att utge sig för att vara någon annan⁴, eller möjligheten att ingen vet vem man är.

Cobot tog då till orda igen.

— Idag kan tusentals falska konton ge illusionen av att representera tusentals medborgare, när de bara representerar en enda person eller en enda organisation. I morgon kommer alla att veta vem de verkligen representerar.

Skeptiska blickar utbyttes.

— Vi kan inte förhindra lögnen.

Hans röst förblev helt lugn.

— Däremot kan vi se till att alla vet vem som uttrycker sig. Och det är där förtroendet börjar.

Justitieministern korsade armarna.

— Medborgarna måste alltså verifiera sin identitet på internet?

— De gör det redan på många ställen, men ja, på Förtroendenätverket kommer det att vara ett nödvändigt villkor.

— Företagen? Föreningarna? Partierna? Fackföreningarna?

— Alla.

— Journalisterna?

— Ja.

— De politiska ledarna också?

— Självklart.

Ingen invändning kom omedelbart.

Några blickar utbyttes. Ett mummel gick runt bordet, sedan började flera ministrar tala samtidigt.

— Vänta... det betyder att våra kommunikationsteam måste överge sina anonyma konton?

— Ni kan föreställa er den tekniska huvudvärken?

— En vacker byråkratisk mardröm i sikte!

— Det betyder att vi inte längre kan läcka information?

— De politiska motståndarna kommer att säga att vi vill registrera dem alla.

— Och visselblåsarna? Har ni tänkt på dem?

— Komikerna kommer att ha en fält dag! ropade någon längst bak i rummet.

Några dämpade skratt gick genom församlingen.

Inrikesministern försökte återta kontrollen.

— Snälla...

— Ingen kommer att vilja använda den där grejen!

— Pfff… Är det det här som är robokrati då?

— De amerikanska plattformarna kommer aldrig att acceptera det här!

Cobot sa ingenting. Han väntade. En liten lampa blinkade på hans huvud med den mekaniska tålamodet hos en markör.

En efter en tystnade rösterna.

— De kommer att acceptera om deras användare kräver det.

Ingen ville svara.

Justitieministern tog till orda igen.

— Och vem kommer att inleda?

Den här gången svarade Cobot utan att vänta.

— Den som begär förtroende måste alltid börja med att erbjuda det.

Han lät meningen sjunka in.

— Det första certifierade kontot kommer att vara republikens presidents.

Ingen hade föreställt sig det svaret.

— Ni menar... ert... ert eget, herr president? släppte en minister ur sig.

— Ja.

Hans blick gick långsamt från ansikte till ansikte.

— Jag kan inte be sjuttio miljoner fransmän att ta ett steg som jag inte skulle vara beredd att ta först.

Den här gången hade ingen fler frågor.

Sedan tillade han, nästan mjukt:

— Förtroende kan inte påbjudas. Det måste visas.

Ansiktena hade stängt sig, tankfulla.

— Dessutom kommer ingen artificiell intelligens att kunna utge sig för att vara en människa, det tar jag hand om. Varje innehåll som den publicerar kommer att identifieras som kommande från en autentiserad artificiell intelligens.

Justitieministern gjorde en grimas.

— Institutionerna får inte utformas för de styrande vi hoppas på. De måste stå emot dem vi fruktar.

— Det är just av den anledningen som Förtroendenätverket inte beslutar något. Det intygar en identitet, men gör ingen bedömning. Institutionerna förändras. Principerna måste överleva...

Justitieministern avbröt honom:

— Alla verktyg slutar en dag med att tjäna något annat än det de var avsedda för.

Arbetsministern lyfte äntligen handen.

— Och om någon vägrar gå med i ert Förtroendenätverk?

— Han kommer att ha full rätt att göra det.

Cobot såg på var och en av ministrarna.

— Internet kommer att förbli fritt. De sociala nätverken kommer att förbli fria. Inget kommer att förbjudas.

Två cirklar dök upp bakom honom.

Den ena bar titeln Öppet nätverk.

Den andra Förtroendenätverk.

— Vi erbjuder helt enkelt ett val.

Kulturministern bröt slutligen tystnaden.

— Lugna oss... ni skapar inte ett sanningsministerium?

En kort ljusvåg svepte över Cobots LED-lampor. Hos honom var det motsvarigheten till ett leende.

— Nej.

Sedan tillade han, mycket enkelt:

— Jag försöker bara återskapa de förutsättningar som fortfarande tillåter en gemensam sanning att existera.

Justitieministern deltog inte längre. Hennes tystnad liknade mer en varning än ett samtycke.

— Och när ska det tillkännages? frågade jag Eva.

— Ikväll. Klockan åtta. Det är också därför jag kom.

Vi satte oss på den gamla soffan just när skärmen växlade till Cobots ansikte.

— Franska kvinnor, franska män, mina kära landsmän.

Bakom honom var bakgrunden gul.

Den där gula kände jag igen. Det var den som kvällarna när han inte kom för att tillkännage en reform, utan för att flytta en gräns.

— Jag talar till er ikväll om ett ämne som berör oss alla, men som aldrig tar formen av en enda kris. Varje år blir det lite svårare att skilja det som är äkta från det som bara har tillverkats för att likna det.

Hans bröstskärm växlade mellan verkliga bilder och deepfakes.

— Hittills har ett fotografi, en video, en röst eller ett vittnesmål kunnat utgöra rimliga bevis på verkligheten. Idag, för första gången sedan helige Thomas, går vi in i en värld där att se inte längre räcker för att tro⁵.

I rummet talade ingen.

Även Lia verkade ha gett upp att röra sig.

— Vi har lärt oss att debattera åsikter. Vi måste nu lära oss att skydda fakta.

Hans sfäriska huvud höjdes.

— Det är därför regeringen idag har beslutat att skapa ett Förtroendenätverk. Det är ett nätverk där allt som sägs, skrivs eller sprids kommer att ha en identifierbar författare.

— Dess syfte är inte att avgöra vad som är sant. Det ansvaret kommer alltid att vara ert. Detta nätverk kommer helt enkelt att låta er alltid veta med säkerhet vem som verkligen talar till er.

Hans röst blev mer högtidlig.

— Ni har förmodligen alla hört talas om, de senaste månaderna, bedrägerier möjliggjorda av artificiell intelligens. Som den om den sjuttioåttaåriga kvinnan vars historia nyligen cirkulerade, som fick ett samtal från sitt barnbarn. Hon kände igen hans röst omedelbart. Han sa att han hade haft en olycka. Han grät. Han bad henne skicka pengar utan att informera sina föräldrar.

Han lyfte blicken.

— Det var inte hennes barnbarn. Det var en röst genererad av artificiell intelligens. Hon förlorade alla sina besparingar.

Han lät meningen sjunka in.

— Föreställ er nu att en video dyker upp i morgon som visar en statsledare som förklarar krig mot ett annat land. Även om den förnekas tjugo minuter senare... Vem kan garantera att dessa tjugo minuter inte räcker för att utlösa en katastrof?

Ansiktena hade spänts.

— Problemet är inte vad som sägs. Problemet är att ingen längre kan veta, omedelbart, vem som verkligen talar.

Hans ton blev mörkare.

— Förtroendenätverket kommer aldrig att säga vad ni ska tänka. Det kommer helt enkelt att låta er veta vem ni väljer att lita på.

— En demokrati har aldrig behövt att alla tänker samma sak. Den behöver bara att alla vet med vem de är oense.

Jag överraskade mig själv med att nicka omärkligt.

Den där meningen visste jag att den skulle spridas över landet innan nyheterna ens var slut.

Cobot fortsatte.

— Under flera decennier har vi ägnat enorma ansträngningar åt att skydda våra data. Det tjugoförsta århundradet ställer oss nu inför en ny utmaning: att skydda vår gemensamma verklighet.

Eva korsade armarna. Hos henne var det redan ett svar.

— Jag vet att detta beslut kommer att oroa vissa av er. Men jag vill vara tydlig: vad ni väljer att tro, dela eller ifrågasätta kommer att förbli, som idag, helt i era händer.

Hans röst blev allvarligare.

— Jag kan inte lova er att denna lösning är perfekt. Jag kan bara garantera er att efter att ha studerat hundratals scenarier, har jag inte funnit något som erbjuder en bättre balans mellan frihet och förtroende.

Jag ber er inte att tro mig på mitt ord. Jag ber er att låta mig visa er, under de kommande månaderna, vad detta förtroende kan ge er som är mest värdefullt: friheten att bilda er egen åsikt.

Hans blick lämnade inte kameran.

— En fras som ofta tillskrivs Jean-Paul Sartre säger att förtroende vinns i droppar och förloras i liter. Jag vet att det kommer att ta lång tid att vinna ert förtroende. Jag vet också att ett enda misstag kan räcka för att förlora det.

Meningen kastade en kyla. Även Lia reste sig plötsligt, som om hon hade känt det.

Sedan avslutade Cobot:

— Jag kan inte förhindra lögnen. Men jag kan se till att alla vet vem som uttrycker sig.

Han såg en sista gång på kameran. Hans röst saktade något.

— Det är där förtroendet börjar.

Skärmen förblev gul några sekunder.

Sedan slocknade den.

Eva stängde av tv:n innan eftertexterna ens hade börjat. Jag tog upp min telefon.

— Så? frågade hon.

Reaktionerna rullade förbi så snabbt att jag hade svårt att följa dem.

— Många talar om en historisk reform. "Äntligen ett svar i nivå med fake news." Andra ser det som en farlig glidning. "Idag verifierar vi identiteter. I morgon kommer vi att verifiera åsikter."

Eva tog ett djupt andetag.

— Antoine Chevalier är en av dem. Han skriver att Förtroendenätverket kanske inte är farligt för vad det kommer att göra... men för vad det kommer att möjliggöra. Idag certifierar vi författare. I morgon kommer kanske en artificiell intelligens att avgöra vilka författare som fortfarande förtjänar att bli hörda.

Jag rullade skärmen igen.

— En ledarskribent återpublicerar redan artikel 11 i Deklarationen om de mänskliga rättigheterna⁶. Enligt honom vänder Förtroendenätverket den grundläggande principen för yttrandefrihet: istället för att svara för ett missbruk efter att ha talat, måste nu alla bevisa sin identitet innan de kan bli hörda.

— Han har rätt att påminna om den texten, sa Eva, med en resignerad min.

— Och för andra är det just löftet.

Natten hade tagit över Sparvön.

— Vet du vad som oroar mig mest? fortsatte hon till slut.

— Vad?

Hon tog sin tid.

— Det är inte att landet delas.

Hon skakade försiktigt på huvudet.

— Det är att båda lägren förmodligen har rätt.

Jag svarade inte.

För jag tänkte exakt samma sak.

Min telefon fortsatte att vibrera.

Reaktionerna rullade snabbare än jag kunde läsa dem.

Några minuter hade räckt för att avslöja att alla redan inte längre såg samma värld.

Jag låste skärmen.

Och utan att veta varför, tänkte jag på de två anonyma meddelandena jag fått de senaste månaderna.

Du tittar i rätt riktning, Franck. Fortsätt.

Sedan, flera veckor senare:

De tror att nyheten är maskinen. De har ännu inte förstått att nyheten är metoden.

Sedan...

inget mer.

De senaste dagarna hade jag överraskat mig själv med att öppna den tomma konversationen lite för ofta.

Hittills hade jag trott att det svåraste för Cobot skulle vara att lösa landets stora problem: hälsa, pensioner, klimat, skuld.

Den kvällen förstod jag att själva fakta hade blivit problemet.

En artificiell intelligens resonerar inte utifrån intuitioner, utan från den information den får. Om de är falska eller manipulerade, vacklar allt annat. Innan han kunde reparera landet, måste Cobot därför börja med att konsolidera grunden på vilken hans beslut vilade: skilja sant från falskt. Rensa upp i själva verkligheten.

Jag tänkte på den fras han hade uttalat på Verdicts scen: "Problemet. Det är människan." Då hade jag hört en provokation. Den kvällen förstod jag kanske den verkliga innebörden: "Problemet att lösa är människan." Två ord till, och provokationen blev ett program.

Förtroendenätverket var inte en reform bland andra. Det var själva förutsättningen för dess funktion. Innan han kunde lösa problemen, måste Cobot se till att vi alla delade samma verklighet.

För första gången sedan hans tillträde bad Cobot inte längre bara fransmännen att bedöma hans beslut. Han behövde dem. Nätverket skulle bara fungera om tillräckligt många valde att gå med. Och för att de skulle acceptera att anförtro sin identitet till ett system han själv hade utformat, måste de först lita på honom. Den här gången skulle ingen beräkning räcka för att övertyga dem. Kanske var det det första problemet där inte ens det bästa svaret skulle räcka.

Jag såg upp mot Eva.

— Tror du att det kommer att fungera?

Hon tänkte några sekunder.

— Jag tror att många människor kommer att vilja prova.

Sedan tillade hon, nästan viskande:

— Men jag tror framför allt att vi ställer fel fråga.

— Vilken?

Hon reste sig.

— Man ska inte fråga sig om Förtroendenätverket kommer att fungera.

Hon tog på sig sin jacka.

— Man ska fråga sig vem som har mest att förlora... om det verkligen fungerar.

Hon gick ut utan att säga ett ord till.

Jag blev kvar ensam några ögonblick, med blicken förlorad mot sjön som nu var uppslukad av mörkret. Min telefon vibrerade igen. Jag tänkte först på en ny salva av reaktioner, på en kommentar till förlorad i det oväsen som just hade drabbat landet.

Det var det inte.

Det var samma nummer igen, det som jag aldrig hade lyckats identifiera. Det som det var omöjligt att svara på.

Meddelandet innehöll bara en enda mening.

Det är där beroendet börjar.

Jag förblev orörlig.

Jag låste min telefon.

Sedan tände jag den nästan omedelbart igen.

Som om det kunde förändra något.

Meddelandet hade försvunnit.

Nästan omedelbart började jag vänta på nästa.