Confianza

El debate sobre RebellIA aún no había terminado cuando otro tema ya ocupaba a Cobot entre bastidores. Esta vez, no lo supe por la prensa, sino por Eva.

Ella vino hasta la isla Gorrión. Oficialmente, quería ayudarme con el artículo que estaba preparando sobre el Contrato de Evolución. En realidad, venía a traerme una exclusiva: el contenido del Consejo de Ministros de la mañana. A esa hora, nadie en la prensa sabía nada todavía.

Bajó al muelle un poco antes de las diecinueve horas, con un bolso al hombro. Miró la pequeña estación, luego el bosque detrás, con esa atención que reservaba a las cosas que aún no comprendía.

—Así que este es tu destino final, dijo cuando llegamos.

—Así es.

En la cabaña, Thomas dormía. O fingía, lo que, en su caso, a menudo era lo mismo. Lia abrió un ojo, consideró a Eva un segundo, y luego lo cerró de nuevo.

Eva recorrió la habitación sin hablar, como quien visita un lugar que ya ha imaginado y lo compara, a pesar de sí mismo, con la idea que se había hecho. Se detuvo frente a la estantería de abajo, donde mis viejos manuales de programación acumulaban polvo.

—¿Programabas?

—Hace mucho tiempo.

—Se nota, ese tipo de cosas.

Nos sentamos a la mesa, mi cuaderno abierto entre nosotros. Afuera, la noche comenzaba a devorar los árboles. Eva dejó su bolso al pie de su silla sin quitarse el abrigo. Parecía aún en otro lugar, como si una parte de ella se hubiera quedado en la sala del Consejo.

—Ha comenzado a interesarse en otra cosa, me dijo.

—¿En qué?

—No en lo que se dice. En lo que hace que se diga.

—¿Cómo es eso?

—Déjame empezar desde el principio.

El Consejo se abrió, me explicó Eva, con una intervención de Cobot mismo, antes incluso del orden del día.

—Desde hace varias semanas, comenzó, los rumores y las campañas de desinformación circulan cada vez más rápido, sin que nada parezca poder ralentizarlos. Algunos nacen de individuos aislados. Otros son orquestados por organizaciones. Otros más son producidos automáticamente por inteligencias artificiales capaces de publicar, comentar, responder y convencer a una escala que ningún ser humano puede alcanzar.

Un ministro intentó interrumpirlo. Eva solo retuvo el gesto: una mano levantada, que cayó de inmediato.

—Las fake news¹ nos invaden: informaciones fabricadas para ser creídas. Los deepfakes² son hoy prácticamente imposibles de distinguir de la realidad. Las voces clonadas son capaces de imitar a un ser querido para sacarle dinero. Los vídeos completamente fabricados muestran a responsables políticos anunciando medidas falsas, a empresarios haciendo declaraciones falsas, o a ciudadanos realizando actos que nunca han existido. También saben, lamentablemente, que la cantidad de energía necesaria para refutar tonterías es superior en un orden de magnitud a la necesaria para producirlas³.

Estas mentiras debilitan nuestra sociedad y nuestra República. Quise entender no lo que circula, sino lo que lo produce.

Apoyó sus antebrazos sobre la mesa.

—Ya no enfrentamos una sucesión de incidentes. Enfrentamos una ruptura.

Su mirada recorrió la mesa.

—Cuando cada uno se vuelve capaz de fabricar una realidad creíble, es la posibilidad misma de una realidad común la que comienza a desaparecer. Ahora bien, las decisiones que les propongo solo valen por la calidad de los hechos en los que se basan. Si ya no puedo distinguir lo verdadero de lo falso, entonces ya no puedo distinguir una buena decisión de una mala.

Nadie se movió.

—Una democracia puede sobrevivir al desacuerdo. No puede sobrevivir si cada uno termina viviendo en una realidad diferente.

Se volvió hacia el ministro del Interior.

—Creemos haber encontrado una respuesta.

El ministro tomó el relevo.

—Durante mucho tiempo creímos que enfrentábamos un problema de información. En realidad, enfrentamos un problema de identidad.

Cerró su expediente.

—Antes de preguntarse si una información es verdadera, una pregunta se vuelve esencial: ¿quién está realmente hablando?

Incluso los más distraídos se enderezaron.

—Por eso proponemos la creación de una Red de Confianza.

La palabra bastó para cambiar la atmósfera alrededor de la mesa.

La ministra de Justicia tomó inmediatamente la palabra.

—¿Y quién decidirá, en esta red, qué es fiable?

El ministro negó suavemente con la cabeza.

—Nadie.

Esperó.

—Es precisamente lo que cambia. La Red de Confianza nunca certificará una idea. Nunca dirá qué es verdadero o falso. Solo atestiguará una identidad.

—Matiz...

—Esencial.

Continuó.

—Las opiniones seguirán siendo completamente libres. Cada uno podrá seguir publicando lo que desee, compartirlo, cuestionarlo o ignorarlo. La única diferencia será que siempre será posible saber quién es realmente el autor.

El ministro de Economía frunció el ceño.

—¿Entonces los seudónimos desaparecen?

—No.

—Cada uno conservará el seudónimo de su elección. Lo que desaparece es la posibilidad de hacerse pasar por otro⁴, o la posibilidad de que nadie sepa quién es uno.

Cobot retomó entonces la palabra.

—Hoy, miles de cuentas falsas pueden dar la ilusión de representar a miles de ciudadanos, cuando solo representan a una persona o una organización. Mañana, cada uno sabrá a quién representan realmente.

Miradas escépticas se cruzaron.

—No podemos impedir la mentira.

Su voz se mantuvo perfectamente calmada.

—Sin embargo, podemos hacer que cada uno sepa quién se expresa. Y ahí es donde comienza la confianza.

La ministra de Justicia cruzó los brazos.

—¿Entonces los ciudadanos tendrán que verificar su identidad en internet?

—Ya lo hacen en muchos lugares, pero sí, en la Red de Confianza, será una condición necesaria.

—¿Las empresas? ¿Las asociaciones? ¿Los partidos? ¿Los sindicatos?

—Todos.

—¿Los periodistas?

—Sí.

—¿Los responsables políticos también?

—Por supuesto.

No surgió ninguna objeción de inmediato.

Algunas miradas se cruzaron. Un murmullo recorrió la mesa, luego varios ministros comenzaron a hablar al mismo tiempo.

—Esperen... ¿eso significa que nuestros equipos de comunicación tendrán que abandonar sus cuentas anónimas?

—¿Se imaginan el rompecabezas técnico?

—¡Bonita fábrica de humo en perspectiva!

—¿Eso significa que ya no podremos filtrar información?

—Los opositores políticos dirán que queremos ficharlos a todos.

—¿Y los denunciantes? ¿Han pensado en ellos?

—¡Los humoristas se lo pasarán en grande! lanzó alguien al fondo de la sala.

Algunas risas ahogadas recorrieron la asamblea.

El ministro del Interior intentó retomar el control.

—Por favor...

—¡Nadie va a querer usar ese cacharro!

—Pfff... ¿Es eso la robocracia entonces?

—¡Las plataformas americanas nunca aceptarán eso!

Cobot no dijo nada. Esperó. Una pequeña luz parpadeaba en su cabeza con la paciencia mecánica de un cursor.

Una a una, las voces se callaron.

—Aceptarán si sus usuarios lo exigen.

Nadie quiso responder.

La ministra de Justicia retomó la palabra.

—¿Y quién abrirá el baile?

Esta vez, Cobot respondió sin esperar.

—Quien pide confianza siempre debe comenzar por ofrecerla.

Dejó que la frase se asentara.

—La primera cuenta certificada será la del Presidente de la República.

Nadie había imaginado esa respuesta.

—¿Quiere decir... la... la suya, señor Presidente? dejó escapar un ministro.

—Sí.

Su mirada pasó lentamente de un rostro a otro.

—No puedo pedir a setenta millones de franceses que den un paso que yo no estaría dispuesto a dar primero.

Esta vez, nadie tenía más preguntas.

Luego añadió, casi suavemente:

—La confianza no se decreta. Se muestra.

Los rostros se cerraron, pensativos.

—Además, ninguna inteligencia artificial podrá hacerse pasar por un ser humano, me encargaré de ello. Cada contenido que publique será identificado como proveniente de una inteligencia artificial autenticada.

La ministra de Justicia esbozó una mueca.

—Las instituciones no deben pensarse para los gobernantes que esperamos. Deben resistir a aquellos que tememos.

—Es precisamente por esta razón que la Red de Confianza no decide nada. Atestigua una identidad, pero no emite ningún juicio. Las instituciones cambian. Los principios deben sobrevivir...

La ministra de Justicia lo interrumpió:

—Todas las herramientas terminan un día sirviendo para algo diferente de lo que fueron diseñadas.

El ministro de Trabajo finalmente levantó la mano.

—¿Y si alguien se niega a entrar en su Red de Confianza?

—Tendrá perfectamente el derecho.

Cobot miró a cada uno de los ministros.

—Internet seguirá siendo libre. Las redes sociales seguirán siendo libres. Nada será prohibido.

Dos círculos aparecieron detrás de él.

Uno llevaba el título Red abierta.

El otro Red de Confianza.

—Simplemente proponemos una elección.

El ministro de Cultura rompió finalmente el silencio.

—Tranquilícenos... ¿no están creando un ministerio de la Verdad?

Una breve ola luminosa recorrió los LED de Cobot. En él, era el equivalente a una sonrisa.

—No.

Luego añadió, muy simplemente:

—Solo intento reconstruir las condiciones que aún permiten que exista una verdad común.

La ministra de Justicia ya no participó. Su silencio se parecía más a una advertencia que a un acuerdo.

—¿Y cuándo se anunciará? le pregunté a Eva.

—Esta noche. A las veinte horas. También por eso vine.

Nos acomodamos en el viejo sofá en el momento en que la pantalla cambió al rostro de Cobot.

—Francesas, franceses, mis queridos compatriotas.

Detrás de él, el fondo era amarillo.

Ese amarillo lo conocía. Era el de las noches en que no venía a anunciar una reforma, sino a mover una frontera.

—Les hablo esta noche de un tema que nos concierne a todos, pero que nunca toma la forma de una crisis única. Cada año, se vuelve un poco más difícil distinguir lo que es auténtico de lo que simplemente ha sido fabricado para parecerse.

Su pantalla ventral alternaba imágenes reales y deepfakes.

—Hasta ahora, una fotografía, un vídeo, una voz o un testimonio han podido constituir pruebas razonables de la realidad. Hoy, por primera vez desde san Thomas, entramos en un mundo donde ver ya no basta para creer⁵.

En la habitación, nadie hablaba.

Incluso Lia parecía haber renunciado a moverse.

—Hemos aprendido a debatir opiniones. Ahora debemos aprender a proteger los hechos.

Su cabeza esférica se levantó.

—Por eso el gobierno ha decidido hoy crear una Red de Confianza. Es una red en la que todo lo que se diga, escriba o difunda tendrá un autor identificable.

—Su objetivo no es decidir qué es verdadero. Esa responsabilidad siempre será suya. Esta Red simplemente les permitirá siempre saber con certeza quién realmente se dirige a ustedes.

Su voz se volvió más solemne.

—Probablemente todos han oído hablar, en los últimos meses, de estafas posibles gracias a la inteligencia artificial. Como la de esta mujer de setenta y ocho años cuya historia ha circulado recientemente, que recibió una llamada de su nieto. Reconoció su voz de inmediato. Decía haber tenido un accidente. Lloraba. Le pedía que le enviara dinero sin avisar a sus padres.

Levantó los ojos.

—No era su nieto. Era una voz generada por inteligencia artificial. Perdió todos sus ahorros.

Dejó que la frase hiciera su camino.

—Imaginen ahora que mañana aparece un vídeo mostrando a un jefe de Estado declarando la guerra a otro país. Incluso si se desmiente veinte minutos después... ¿Quién puede garantizar que esos veinte minutos no serán suficientes para desencadenar un desastre?

Los rostros se tensaron.

—El problema no es lo que se dice. El problema es que ya nadie logra saber, de inmediato, quién realmente habla.

Su tono se oscureció.

—La Red de Confianza nunca les dirá qué pensar. Simplemente les permitirá saber a quién eligen confiar.

—Una democracia nunca ha necesitado que todos piensen lo mismo. Solo necesita que todos sepan con quién están en desacuerdo.

Me sorprendí asintiendo imperceptiblemente con la cabeza.

Esa frase, sabía que recorrería el país antes incluso de que terminara el noticiero.

Cobot continuó.

—Desde hace varias décadas, hemos dedicado inmensos esfuerzos a proteger nuestros datos. El siglo XXI nos impone ahora un nuevo desafío: proteger nuestra realidad común.

Eva cruzó los brazos. En ella, ya era una respuesta.

—Sé que esta decisión inquietará a algunos de ustedes. Pero quiero ser claro: lo que elijan creer, compartir o cuestionar seguirá, como hoy, enteramente en sus manos.

Su voz se hizo más grave.

—No puedo prometerles que esta solución es perfecta. Solo puedo garantizarles que después de estudiar cientos de escenarios, no he encontrado ninguno que ofrezca un mejor equilibrio entre libertad y confianza.

No les pido que me crean solo por mi palabra. Les pido que me dejen mostrarles, en los próximos meses, lo que esta confianza puede devolverles de más valioso: la libertad de formarse su propia opinión.

Su mirada no dejó la cámara.

—Una frase a menudo atribuida a Jean-Paul Sartre dice que la confianza se gana en gotas y se pierde en litros. Sé que me llevará mucho tiempo ganar la suya. También sé que un solo error podría ser suficiente para perderla.

La frase lanzó un frío. Incluso Lia se levantó bruscamente, como si lo hubiera sentido.

Luego Cobot concluyó:

—No puedo impedir la mentira. Pero puedo hacer que cada uno sepa quién se expresa.

Miró una última vez a la cámara. Su voz se ralentizó ligeramente.

—Ahí es donde comienza la confianza.

La pantalla permaneció amarilla unos segundos.

Luego se apagó.

Eva apagó el televisor antes incluso de los créditos. Tomé mi teléfono.

—¿Entonces? preguntó.

Las reacciones pasaban tan rápido que me costaba seguir el hilo.

—Muchos hablan de una reforma histórica. «Por fin una respuesta a la altura de las fake news.» Otros, ven un deslizamiento peligroso. «Hoy, se verifican las identidades. Mañana, se verificarán las opiniones.»

Eva tomó una larga inspiración.

—Antoine Chevalier forma parte de ellos. Escribe que la Red de Confianza quizás no sea peligrosa por lo que hará... sino por lo que hará posible. Hoy, se certifican los autores. Mañana, una inteligencia artificial quizás decida qué autores merecen aún ser escuchados.

Volví a hacer desfilar la pantalla.

—Un editorialista ya republica el artículo 11 de la Declaración de los Derechos del Hombre⁶. Según él, la Red de Confianza invierte el principio fundador de la libertad de expresión: en lugar de responder por un abuso después de haber hablado, cada uno deberá ahora probar su identidad antes de poder ser escuchado.

—Tiene razón en recordar este texto, dijo Eva, esbozando una mueca resignada.

—Y para otros, es precisamente la promesa.

La noche había ganado la isla Gorrión.

—¿Sabes qué es lo que más me preocupa? retomó finalmente.

—¿Qué?

Se tomó su tiempo.

—No es que el país se divida.

Negó suavemente con la cabeza.

—Es que probablemente ambos bandos tengan razón.

No respondí.

Porque pensaba exactamente lo mismo.

Mi teléfono seguía vibrando.

Las reacciones pasaban más rápido de lo que podía leer.

Bastaron unos minutos para revelar que cada uno ya no miraba el mismo mundo.

Bloqueé la pantalla.

Y, sin saber por qué, pensé en los dos mensajes anónimos recibidos en los últimos meses.

Miras en la dirección correcta, Franck. Continúa.

Luego, varias semanas después:

Creen que la novedad es la máquina. Aún no han entendido que la novedad es el método.

Desde entonces...

nada más.

Estos últimos días, me había sorprendido reabriendo esta conversación vacía un poco demasiado a menudo.

Hasta entonces, había creído que lo más difícil para Cobot sería resolver los grandes problemas del país: la salud, las pensiones, el clima, la deuda.

Esa noche, comprendí que los hechos mismos se habían convertido en el problema.

Una inteligencia artificial no razona a partir de intuiciones, sino de la información que recibe. Si son falsas o manipuladas, todo lo demás tambalea. Antes de reparar el país, Cobot debía comenzar por consolidar el suelo sobre el que descansaban sus decisiones: distinguir lo verdadero de lo falso. Limpiar la realidad misma.

Pensé en esa frase que había pronunciado en el plató del Veredicto: «El problema. Es el humano.» En ese momento, lo había oído como una provocación. Esa noche, quizás entendí su verdadero sentido: «El problema a resolver, es el humano.» Dos palabras más, y la provocación se convertía en un programa.

La Red de Confianza no era una reforma más. Era la condición misma de su funcionamiento. Antes de resolver los problemas, Cobot debía asegurarse de que todos compartiéramos la misma realidad.

Por primera vez desde su investidura, Cobot ya no pedía solo a los franceses que juzgaran sus decisiones. Necesitaba de ellos. La Red solo funcionaría si eran lo suficientemente numerosos para elegir entrar en ella. Y para que aceptaran confiar su identidad a un sistema que él mismo había diseñado, primero debían confiar en él. Esta vez, ningún cálculo sería suficiente para convencerlos. Quizás era el primer problema al que ni siquiera la mejor de las respuestas bastaría.

Levanté los ojos hacia Eva.

—¿Crees que va a funcionar?

Ella reflexionó unos segundos.

—Creo que mucha gente querrá intentarlo.

Luego añadió, casi en voz baja:

—Pero creo sobre todo que nos estamos haciendo la pregunta equivocada.

—¿Cuál?

Se levantó.

—No hay que preguntarse si la Red de Confianza va a funcionar.

Se puso la chaqueta.

—Hay que preguntarse quién tiene más que perder... si realmente funciona.

Salió sin añadir una palabra.

Me quedé solo unos instantes, con la mirada perdida hacia el lago ahora sumido en la oscuridad. Mi teléfono vibró de nuevo. Primero pensé en una nueva oleada de reacciones, en un comentario más perdido en el ruido que acababa de caer sobre el país.

No lo era.

Era de nuevo ese mismo número, el que nunca había logrado identificar. Al que era imposible responder.

El mensaje contenía solo una frase.

Ahí es donde comienza la dependencia.

Me quedé inmóvil.

Bloqueé mi teléfono.

Luego lo encendí casi de inmediato.

Como si eso pudiera cambiar algo.

El mensaje había desaparecido.

Casi de inmediato, comencé a esperar el siguiente.