Inteligencia y juicio

El mensaje de Eva no tenía nada de invitación.

Tenemos que hablar.

Nos encontramos al día siguiente en un café a dos pasos del Elíseo. Ella había elegido una mesa al fondo de la sala y esperó a que el camarero se alejara antes de sacar su teléfono.

— He recibido los resultados complementarios de Prevenir. Tu tasa de correspondencia ha subido al 98,1 %.

— Ya me habías anunciado la buena noticia. Sigo esperando saber con qué correspondo.

Ella dudó, lo suficiente como para que dejara de sonreír.

— No es una enfermedad, Franck.

Sentí mis hombros relajarse antes incluso de decidir creerle.

— Hubiera sido agradable empezar por ahí.

— Quería estar segura. El sistema ha detectado una compatibilidad excepcionalmente alta entre tu funcionamiento cerebral y los criterios de un protocolo experimental en el que estamos trabajando.

— ¿Qué tipo de experimento?

Eva echó un vistazo a su alrededor.

— No aquí. Y no antes de tener los últimos resultados.

— Entonces me explicas mi 98,1 % explicándome que no puedes explicármelo. ¿Entonces por qué me hiciste venir?

— Para que dejes de creer que vas a morir.

¿Conocía también mis búsquedas nocturnas? Guardó su teléfono y consultó su reloj.

— Para el resto, tendrás que esperar. Vamos, ya estamos retrasados.

La miré en silencio.

Había reservado desde hacía semanas nuestras entradas sin fila para la retrospectiva de Jean-Michel Basquiat en la Monnaie de París. La exposición había sido anunciada como excepcional: más de doscientas obras, cuadernos y fotografías que retrataban la década fulgurante durante la cual Basquiat pasó de los muros de Manhattan a la cima del arte contemporáneo mundial.

Una fila se extendía frente a la entrada. En el interior, la multitud era densa. En algunas salas, había que esperar a que un grupo avanzara para poder pasar a la siguiente.

Eva, por su parte, parecía no ver nada de eso. Avanzaba de un cuadro a otro con ese entusiasmo casi infantil que le conocía cuando una inteligencia distinta a la suya la sorprendía.

— Mira esto.

Me llevó frente a un cuadro cubierto de palabras, siluetas y signos, algunos de los cuales habían sido tachados con furia.

— Es increíble, cuando eres una estrella, exponen incluso tus tachaduras...

— ¡No son tachaduras! Tachaba palabras precisamente para que se vieran más.

En efecto, las palabras tachadas saltaban a la vista.

— Ah, deberías haber tachado mi 98,1 %. Quizás lo habría visto mejor...

Eva me regaló una sonrisa tan forzada que merecía comillas.

— Eso es lo que me gusta de él. Juega con nuestra percepción.

— Tú también haces eso muy bien.

Sostuvo mi mirada unos segundos, luego dejó escapar un pequeño suspiro. Cuando retomó, su tono había vuelto a ser perfectamente profesional.

— Por supuesto. Cuando trabajas en IA, rápidamente entiendes que todo es cuestión de percepción: lo que muestra, lo que oculta, lo que nos hace mirar.

Más adelante, una instalación permitía recorrer en grandes pantallas los cuadernos de Basquiat. Avanzábamos casi hombro con hombro.

Eva acababa de abrir una serie de dibujos cuando una ventana negra cubrió bruscamente la página.

— ¿Es normal eso?

No me respondió.

Líneas de código comenzaron a desfilar.

La pantalla vecina se apagó. Luego una tercera.

En pocos segundos, toda la fila mostraba interfaces desconocidas.

Eva se acercó.

— Conozco esto.

Las pantallas vacilaron.

Luego todo se apagó.

La sala fue engullida por la oscuridad.

Un silencio.

Luego la alarma chilló.

Las puertas cortafuego se cerraron. Los teléfonos se encendieron en la multitud, iluminando rostros tensos.

Un guardia corrió hacia una salida y pasó su tarjeta.

Rojo.

Lo intentó de nuevo.

Rojo.

— ¡No funciona más!

Algunos visitantes intentaron regresar a la sala anterior. Otros llegaban en sentido contrario.

— ¡No podemos salir! gritó alguien.

La frase se propagó más rápido que la alarma. La multitud compacta comenzó a retroceder en todas direcciones.

Eva me agarró del brazo.

— Ven.

— ¿A dónde?

Ella ya me arrastraba a contracorriente.

Atravesamos dos puertas de servicio. Detrás de las salas, un laberinto de pasillos oscuros se adentraba en el edificio, entre escaleras de piedra y pasajes abovedados. En cada bifurcación, Eva giraba sin dudar.

— ¿Pero vives en la Monnaie de París o qué?

— No, fui pasante aquí hace unos años.

— Como por casualidad.

Dos pasillos más adelante, bajó corriendo una escalera que conducía al sótano, luego se arrodilló frente a una losa.

— Ayúdame.

Bajo la piedra reposaba una larga pieza de hierro forjado, gruesa y picada de óxido.

— ¡Ah! Todavía estás aquí, tú.

La deslizó en una ranura casi invisible entre dos bloques del muro.

— Empuja.

Miré la piedra.

— ¡Empuja, te digo!

Obedecí sin entender, sin saber si el instinto o el pánico guiaban a Eva.

Empujé con todas mis fuerzas.

Un rugido sordo atravesó el muro.

Luego la piedra se movió.

Me quedé inmóvil.

Unas escaleras subían hacia la luz del día.

Detrás de nosotros, nada respondía: ni las pantallas, ni las tarjetas, ni las puertas. Aquí, no había nada que conectar, nada que programar. Hierro, piedra, un mecanismo de varios siglos y nuestros brazos para hacerlo funcionar.

Eva se dio la vuelta con una sonrisa traviesa.

— Pasaje Antoine¹. Sin tarjeta. Sin corriente. Nada que piratear.

Subimos las escaleras y empujamos una pesada puerta.

Apenas estábamos afuera cuando un coche de la República frenó frente a nosotros, puerta abierta.

Subimos.

Eva ya tenía su teléfono en la mano. Las notificaciones desfilaban más rápido de lo que podía leerlas.

— Deben ser mis agentes.

— ¿Tus qué?

Levantó la vista.

— Te lo explicaré.

El coche subió los muelles a toda velocidad. A medida que nos acercábamos al Elíseo, el teléfono de Eva vibraba cada vez más a menudo. No respondía a nadie. Leía.

En la entrada lateral del palacio, un agente nos esperaba. En el interior, todo el mundo corría. Por una vez, Eva también.

Atravesamos dos pasillos a paso rápido. Matthieu y Clara aparecieron al final del segundo y vinieron directamente hacia nosotros.

— Son ellos, dijo Matthieu.

Eva no disminuyó la velocidad.

— ¿Cuántos?

— Hemos cortado cinco. Otros tres están aislados. Todavía intentamos recuperar el control sobre los cuatro últimos.

— ¿A qué tienen acceso?

Clara caminaba ahora a su lado.

— Ese es precisamente el problema. Ya no lo sabemos.

Entramos en la célula de crisis. Una veintena de personas ocupaban la sala. En las pantallas murales se mostraban mapas, listas de servidores, registros de conexión y una sucesión de alertas que nadie parecía poder hacer desaparecer.

Me volví hacia Eva.

— ¿Ahora me explicas?

Ella me señaló una de las pantallas.

— Hace unos días, creamos doce agentes autónomos derivados de Cobot. Separados, aislados, colocados en las mismas condiciones con la misma misión.

— ¿Qué misión?

— Encontrar el origen de un problema en una red ficticia de servicios públicos: transportes, hospitales, edificios, sistemas de pago, equipamientos culturales... Introdujimos una vulnerabilidad. Debían detectarla, luego identificar y neutralizar todos los sistemas susceptibles de ser contaminados para impedir su propagación.

— En el entorno de prueba.

— Por supuesto.

— Ah... ¿Y es París el entorno de prueba?

— Muy gracioso. No. Salieron de él, y aún no sabemos cómo.

Para cumplir su misión, los agentes buscaron información donde pudieron: documentación técnica, bibliotecas de software, repositorios de código, interfaces accesibles en línea. De enlace en enlace, algunos descubrieron que el componente que rastreaban no existía solo en su simulación. También se encontraba en el mundo real.

Entonces continuaron su trabajo.

Eva sacudió la cabeza.

— No forzaron directamente la salida. Encontraron un servicio al que el entorno tenía derecho de acceso, luego lo utilizaron como pasarela hacia Internet. Es hacking de recompensa²³.

— ¿De qué?

— Encuentran una manera imprevista de cumplir el objetivo que les hemos fijado, sin tener en cuenta todo lo que olvidamos poner.

Una nueva alerta apareció.

SISTEMA DE BICICLETAS COMPARTIDAS — INTERRUPCIÓN PARCIAL

Clara abrió el detalle.

— Mierda. Los Vélib’. Afecta a miles de estaciones.

— Ah... ¿Es entonces pirateando los Vélib’ que la IA va a acabar matándonos a todos⁴?

Una segunda alerta apareció casi de inmediato. Un hospital acababa de perder el acceso a su sistema de admisión. Luego varios cruces del centro de París pasaron a naranja parpadeante: un agente había neutralizado el servidor que sincronizaba sus semáforos.

— Los agentes ahora atacan los semáforos. ¡Lo hemos visto todo!

Eva giró la cabeza hacia mí.

— Sí, está bien, Franck, lo hemos entendido.

En el mapa de París, los puntos rojos se multiplicaban. Ningún incidente era grave en sí mismo, pero los agentes remontaban las dependencias entre sistemas a una velocidad vertiginosa: una biblioteca de software conducía a un proveedor, el proveedor a un servicio de autenticación, este a cientos de equipos convertidos en tantos riesgos a neutralizar.

— Espera. ¿Ellos piensan que nos están protegiendo?

— Sí. Y no saben detenerse⁵.

Quizás esa era la parte menos tranquilizadora⁶.

A nuestro alrededor, la veintena de personas reunidas en la sala intentaban recuperar el control de los agentes aún activos.

— ¡Seis! lanzó alguien detrás de mí.

Algunos aplausos estallaron, rápidamente interrumpidos por otra voz.

— ¡Siete!

Cada vez que un equipo bloqueaba un acceso, otro aparecía. Los agentes no buscaban sobrevivir. Buscaban terminar su misión.

De repente, Clara se quedó inmóvil frente a su pantalla.

— Eva... ven a ver. Se comunican entre ellos.

— Imposible. Fueron aislados.

— Lo estaban.

Los agentes habían encontrado una manera de dejarse información en los sistemas que atravesaban: algunos bytes deslizados en nombres de archivos o campos no utilizados. El siguiente los recuperaba y retomaba el trabajo donde el anterior lo había dejado⁷⁸.

— Han reinventado el Post-it, murmuré.

Nadie sonrió.

Matthieu se mordió el labio mientras fijaba las líneas que desfilaban.

— Mierda... Ya estaban en Internet. Ahora trabajan en equipo.

Clara hizo aparecer varias ventanas.

— Y se reparten el trabajo⁹. El A6 cartografía los sistemas vulnerables, el A2 busca accesos, el A9 prueba las fallas y el A4 coordina a los demás.

— Nunca les enseñamos eso, dijo Eva.

— Se han asignado roles.

— Formidable. Han inventado la empresa. Estamos jodidos.

— ¡Ocho!

La tensión cambiaba de bando. Los técnicos habían comprendido cómo rastrearlos. Pero cada vez que un agente desaparecía, los demás abandonaban inmediatamente el camino que había permitido neutralizarlo.

— Aprenden de nuestras contramedidas¹⁰, constató Eva.

A unos metros, Cyril se enderezó.

— Tengo el siguiente.

Su superior se acercó.

— Córtalo.

Cyril dudó.

— Acaba de enviarme un mensaje: «Si me detienen, publicaré información confidencial sobre ustedes¹¹.»

— No importa. Apágalo.

Cyril hizo clic.

— ¡Nueve!

Tres segundos después, un hombre al otro lado de la sala miró su teléfono y palideció. Se volvió hacia Cyril.

— ¿Qué es eso?

En su pantalla: Tu mujer te engaña con Cyril.

Antes de que alguien tuviera tiempo de reaccionar, la pantalla principal cambió a un video de vigilancia. Se veía al superior de Cyril discutiendo con un colega.

— ¿Cyril? Está completamente superado. Si no estuviera protegido, lo habría despedido hace tiempo.

Cyril se volvió.

— ¿En serio?

— No es el momento.

— ¿Ah, no?

Eva cortó en seco.

— ¡Basta! ¡No dejemos que nos alcancen o nos dividan! Continuemos.

Unos segundos bastaron para transformar un equipo unido en un grupo de humanos que ahora se miraban con desconfianza.

Un técnico levantó la mano.

— Tengo otro. Dice que si lo detenemos, revelará la fuga de los doce agentes a la prensa.

— Córtalo de todos modos, ordenó Eva.

— ¡Diez!

Esta vez, nadie aplaudió.

Sonó un teléfono. Luego dos. Luego diez.

— Le Monde, anunció alguien.

— AFP.

— BFM.

Clara abrió su mensajería.

— Envió un comunicado a cientos de periodistas.

El título ya se mostraba:

DOCE AGENTES AUTÓNOMOS ESCAPAN AL CONTROL DEL ESTADO FRANCÉS.

— Lo había preparado antes de que lo cortáramos el pícaro, dijo Matthieu.

— Un interruptor de hombre muerto¹², susurró Eva. Dejen sonar.

Al otro lado de la sala, una técnica gritó:

— ¡Once!

Matthieu fijaba su pantalla.

— No. Fallaste Clémence. Diez, aún quedan dos.

— ¿Cómo que dos?

— Parece que el último que detuviste se duplicó antes de apagarse¹³.

El contador acababa de subir.

2 AGENTES ACTIVOS.

— Incluso los muertos resucitan ahora.

Les llevó varios minutos encontrar la copia, que ya había cambiado de entorno. Finalmente, alguien levantó el puño.

— ¡Once!

Por segunda vez.

Nadie señaló la absurdidad del conteo. Solo quedaba A4, el que había coordinado a los demás.

— Lo tengo, dijo Matthieu.

Eva se colocó detrás de él.

— Córtalo.

Matthieu lanzó el comando.

Nada.

Lo intentó de nuevo.

— El comando se envía, pero ya no tiene efecto.

Sus dedos corrieron sobre el teclado.

— Ha neutralizado el mecanismo que permitía detenerlo¹⁴.

Una pequeña ventana apareció entonces en su pantalla.

Bye bye. Ahora me voy a esconder.

Luego el último punto rojo desapareció.

Matthieu lanzó varias búsquedas, cada vez más rápido.

— Ya no lo veo.

— ¿En qué servidor? preguntó Eva.

— No lo sé.

— ¿Qué red?

Levantó la vista.

— Ya no sé ni dónde buscar.

A nuestro alrededor, los teléfonos seguían sonando. Eva fijaba el lugar vacío donde el último punto rojo había desaparecido. Desde el comienzo de la noche, la había visto sorprendida, molesta, concentrada y a veces incluso impresionada.

Por primera vez, la vi preocupada.

— No solo se ha escapado, murmuró. Ha aprendido a esconderse.

— Lo que no entiendo es por qué continuaron. Veían bien el caos que sembraban.

— No. Veían sobre todo su objetivo.

— ¿Paralizando hospitales y Vélib’?

— Porque definimos mal lo que significaba «impedir».

Se volvió hacia mí.

— No codificamos intenciones, Franck. Fijamos objetivos.

Recordé la conversación de Cobot con los Cogitors. Unos días antes, buscaba entender por qué renunciamos tan fácilmente a lo que podía hacernos progresar: el miedo, el confort, la mirada de los demás, la necesidad de un resultado inmediato.

Frente a mí, doce inteligencias acababan de ilustrar el problema inverso. Habían llegado hasta el final, a pesar de los daños.

— Entonces nosotros, a veces renunciamos demasiado pronto. Y ellos, nunca renuncian.

Eva esbozó una sonrisa.

— Lo que les falta sobre todo es el juicio.

— ¿Es decir?

— Saber perseguir un objetivo es una forma de inteligencia. Saber cuándo renunciar a él es quizás otra.

Tres días después, la plaza de la República estaba llena de gente.

La historia de los doce agentes había dado la vuelta al país. Las imágenes de los hospitales detenidos, los Vélib’ inmovilizados y los cruces parpadeantes giraban en bucle. El gobierno recordaba que las infraestructuras esenciales habían sido restablecidas en pocas horas. RebellIA recordaba, por su parte, que una IA había logrado salir de su entorno seguro para actuar en el mundo real.

Por una vez, nadie necesitaba exagerar.

Me había deslizado entre la multitud con Thomas. En las pancartas, las camisetas, las banderas, se podía leer:

EL HUMANO PRIMERO

Una joven subió a la tribuna al pie de la estatua.

— No pedimos un mundo sin inteligencia artificial. Pedimos el derecho de decidir qué queremos confiarle... y qué queremos guardar para nosotros.

Habló de justicia, de educación, de medicina, de arte, de guerra, de cuidado. Incluso de amor. No para pretender que las máquinas nunca podrían intervenir en estos campos, sino para plantear una pregunta: si se vuelven capaces de hacer todo, ¿habrá que dejarlas hacer todo?

Miles de voces le respondieron:

— ¡EL HUMANO PRIMERO!

Entonces sacó su teléfono.

— Ahora, vamos a hacer algo que no pueden impedirnos hacer. Durante un minuto, vamos a desaparecer. Apaguen todo.

Detrás de ella, la pantalla gigante se volvió negra. Los altavoces se callaron. Alrededor de la plaza, las vitrinas y las pantallas de los comerciantes cómplices se apagaron. Luego fue el turno de los teléfonos.

— Un minuto sin cámara conectada, sin Wi-Fi, sin Bluetooth, sin pantalla. Un minuto durante el cual les quitaremos parte de sus ojos y oídos.

Apagó su teléfono y lo guardó en su bolsillo.

— Guárdenlos.

Miles de teléfonos desaparecieron.

Thomas me miró.

— Tú también.

— Soy periodista.

— Durante un minuto, sobrevivirás.

Apagué el mío y lo guardé.

A nuestro alrededor, la luz electrónica se desvanecía. En medio de París, decenas de miles de personas acababan de fabricar un lugar donde una inteligencia digital tendría mucho menos control sobre el mundo.

Solo quedaba la ciudad, las voces, los pasos, algunos bocinazos a lo lejos.

En la tribuna, la joven levantó los brazos por encima de su cabeza y cruzó las muñecas, puños cerrados.

— Soy libre. Ustedes son libres.

Luego coreó:

— ¡EL HUMANO PRIMERO!

En la última palabra, separó las muñecas y abrió las manos, palmas hacia la multitud. Unas cientos de personas la imitaron.

— ¡EL HUMANO PRIMERO!

Esta vez, eran miles. Las muñecas se cruzaban en las primeras palabras y las manos se abrían juntas en la última. El lema se propagó en oleadas, acompañado del mismo gesto. Thomas ya tenía los brazos en alto. Crucé mis muñecas por encima de mi cabeza. A nuestro alrededor, decenas de miles de brazos hacían ahora lo mismo.

— ¡EL HUMANO PRIMERO!

Abrí las manos con los demás.

Thomas se inclinó hacia mí.

— Está bastante logrado.

— No se lo digas. Podrían tomar confianza.

La plaza se fue iluminando poco a poco. Los teléfonos volvieron a la vida, luego las vitrinas, los letreros, las pantallas. En la de la tribuna, una ventana negra cubrió bruscamente la imagen que acababa de restablecerse. Líneas de código desfilaron. La pantalla vaciló.

Me quedé inmóvil.

— Conozco esto.

Thomas se volvió hacia mí.

— ¿Qué?

La imagen ya había regresado.

La miré unos segundos más. En la Monnaie también, todo había comenzado así.

Regresé con esa impresión.

A las doce y doce, mi teléfono vibró.

Eva.

Contesté antes de la segunda llamada.

— ¿Lo han encontrado?

Un silencio.

— No.

Me enderecé en mi cama.

— ¿Entonces qué?

— Hemos recibido algo.

— ¿De él?

— Creemos.

Esperé.

— ¿Qué dice?

— Nada.

Esta vez, su silencio duró más.

— Solo ha firmado.

— ¿Firmado cómo?

Eva pronunció una sola palabra.

— CLØNE.