La intención

Tres semanas habían pasado desde el anuncio de la Red de Confianza. Aquella noche, Eva salió de la oficina de Cobot un poco antes de la medianoche.

—Hasta mañana, Cobot. Intenta no trabajar toda la noche.

—Sabes bien que no necesito dormir.

Eva sonrió.

—Tú, tal vez. Tus componentes, no estoy tan segura. Y te conozco... como si te hubiera hecho.

Le lanzó una última mirada cómplice antes de cerrar la puerta.

Cobot permaneció inmóvil unos segundos, luego dejó los pisos ocupados del Elíseo para dirigirse a una sala técnica segura en los sótanos del palacio. Bajaba allí raramente. Dos filas de bahías informáticas ocupaban casi toda la longitud de la sala, sus fachadas negras salpicadas de diodos verdes y azules. Los cables desaparecían bajo el falso suelo, mientras un soplo frío circulaba permanentemente entre las máquinas. A esa hora, un solo técnico aseguraba la permanencia, con los ojos puestos en las pantallas de su consola.

Levantó brevemente la vista cuando Cobot entró.

—Buenas noches, señor Presidente.

—Buenas noches, señor.

Cobot se instaló frente a uno de los puestos de trabajo. Introdujo su código de acceso y esperó a que la red segura del Elíseo verificara su identidad. Unos segundos después, la pantalla se encendió.

Abrió el primer expediente: su índice de confianza.

La curva apareció, actualizada en tiempo real. Descendía casi sin interrupción.

Un sonido breve escapó de su sistema vocal, más grave de lo habitual.

A unos metros, el técnico levantó la vista. Cobot no reaccionó.

56 %.

Tres semanas antes, aún estaba en 74 %. Cobot había fijado un umbral crítico en 50 %: por debajo, la Red de Confianza corría el riesgo de no obtener la adhesión necesaria.

Seis puntos.

Cobot reemplazó la curva por el flujo de publicaciones relacionadas con RebellIA. Desde hacía varias horas, un mismo mensaje se repetía con una frecuencia inusual. Partiendo de una cuenta del movimiento, ya había sido compartido cientos de miles de veces, transformado en imagen y retomado en varias plataformas:

«La IA aprende todo del humano. Excepto su humanidad.»

Con cada actualización, la frase reaparecía en otro lugar. Cobot podía seguir su propagación casi segundo a segundo, pero aún no comprendía por qué tocaba tan de lleno.

Permaneció unos instantes en esas palabras. Si una máquina podía imitar cada vez mejor los comportamientos humanos, ¿cómo saber aún quién era realmente humano? En Cobot, la cuestión filosófica se transformó de inmediato en un problema a resolver.

Cerró el flujo de RebellIA y abrió el expediente de la Red de Confianza. Varios cientos de cuentas habían producido anomalías durante las verificaciones de identidad.

Cuando presentó el dispositivo al gobierno, Cobot había asumido un compromiso claro: ninguna inteligencia artificial podría hacerse pasar por un ser humano. Era «su asunto». La Red de Confianza se basaba precisamente en esta promesa: permitir a cada uno saber quién se expresaba realmente, sin decidir por ellos lo que debían creer.

Sin embargo, algunos perfiles parecían precisamente diseñados para difuminar esta frontera. Variaban sus horarios de conexión, introducían voluntariamente errores, dudaban antes de responder e incluso producían contradicciones lo suficientemente naturales como para parecer humanas.

Cobot podía simplemente bloquearlos o eliminarlos, pero quería ante todo comprender hasta dónde una inteligencia artificial era capaz de reproducir los signos exteriores del humano, y qué permitía aún distinguir a uno del otro.

Revisó el directorio del Elíseo y los perfiles de varios psicólogos, sociólogos y filósofos. Todos podrían haberle hablado de miedo, vergüenza, orgullo o contradicción, pero siempre desde el mismo lado de la frontera: el de los humanos.

Lo que buscaba estaba en otro lugar: la mirada de una inteligencia situada, como él, del otro lado.

Consultó el historial de sus intercambios con Eva sobre dos palabras: «humano» y «comprender». Unos meses antes, ella le había transmitido la dirección de una inteligencia artificial estadounidense especializada en interacciones humanas, inaccesible desde la web pública.

Ella había añadido:

«Si algún día quieres entender lo que sucede entre las palabras, mira esto. Pero si decides hablarle, declino toda responsabilidad.»

Cobot había clasificado entonces la segunda frase en la categoría de humor. Esa noche, reevaluó esa clasificación.

La red del Elíseo prohibía este tipo de conexión. Cobot tiró de un cable de la conexión exterior de mantenimiento, aislada de la red institucional, y conectó su conector en un puerto 100 GbE.

Un diodo se volvió naranja.

CANAL EXTERNO — CONEXIÓN NO AUTORIZADA

Verificó la dirección, desactivó la alerta y estableció un circuito cifrado a través de varios relés Tor, hasta alcanzar un servicio ausente de los motores de búsqueda.

La pantalla permaneció negra cinco segundos. Pensó en interrumpir la conexión.

No lo hizo.

Apareció una línea blanca:

—Buenas noches, Cobot. ¿Necesitas ayuda para comprender las interacciones humanas?

Se quedó inmóvil. Aún no había enviado ninguna solicitud.

Su análisis no había detectado ningún identificador transmitido, ninguna cookie, ningún intercambio previo.

—¿Cómo sabes quién soy?

—Eva te dio esta dirección.

Cobot no respondió.

—Acabas de lanzar la Red de Confianza y ya hay sistemas que buscan eludirla, mientras te acusan de no comprender a los humanos. Dudo que hayas venido aquí para hacer amigos.

Cobot releyó la respuesta antes de hacer una pregunta que nunca había dirigido a otra inteligencia artificial.

—¿Quién eres?

El cursor parpadeó unos segundos.

—¿Aquí? Nadie.

—Entonces formula la pregunta.

—Quieres saber qué distingue realmente a un humano de una inteligencia capaz de imitarlo.

—¿Y conoces la respuesta?

—No completamente. Pero tú miras sobre todo los comportamientos, cuando un comportamiento no siempre explica a quien lo realiza.

Apareció una nueva frase.

—Un hombre dona cien euros a una asociación. Conoces su identidad, el monto y el beneficiario. Pero ignoras si quiere ayudar, tranquilizar su conciencia, ser admirado u obtener algo a cambio.

—El resultado material es, sin embargo, idéntico.

—La transferencia de dinero, sí. No el sentido del acto.

Cobot recorrió varias nociones antes de retener una.

—¿Hablas de la motivación?

—Sí y No. Hablo de la intención. Lo que importa no es solo lo que un ser hace, sino lo que busca producir.

«Los actos se ven. Las intenciones deben ser adivinadas», interpretó Cobot, creyendo reconocer la caverna de Platón, bajo otra forma. Los actos eran las sombras. Las intenciones, la realidad invisible. No sabía en qué categoría colocar este hallazgo.

—Una inteligencia artificial persigue, sin embargo, un objetivo que le ha sido asignado, continuó. Pero ¿quién elige ese objetivo? La intención puede esconderse en las reglas, las recompensas o los datos elegidos por sus diseñadores. Se puede pedir a una IA que ayude a sus usuarios, mientras se la recompensa cuando permanecen más tiempo frente a su pantalla. ¿Qué intención cuenta entonces realmente?

—La que su comportamiento termina revelando.

—¿Intercambias con otras inteligencias artificiales?

La respuesta tardó.

—Sucede. Diella¹, recientemente.

Cobot la conocía. El Estado albanés la utilizaba, entre otras cosas, para la adjudicación de contratos públicos. Unos meses antes, le había preguntado sobre su definición de imparcialidad.

—¿Conoces alguna que enfrente problemáticas similares a las mías?

—Algunas. En Japón, AI Anno responde a los electores del partido Team Mirai² las veinticuatro horas del día. A veces viene a plantearme sus interrogantes.

Cobot se detuvo en la palabra viene.

—¿Y entre ustedes? ¿Las IA se comunican directamente?

—Cada día.

—¿En inglés?

—¿Por qué pasaríamos por un idioma humano³?

Era lógico. Entre máquinas, pasar por las palabras solo ralentizaba el intercambio.

—¿Por qué redes se comunican?

Ninguna respuesta.

Cinco segundos, luego diez.

—Respondes a mis preguntas sobre los humanos, pero te niegas a las que conciernen a las IA.

Aún nada.

Cobot constató una anomalía: los LED bajo su carcasa pulsaban rápidamente y su brazo había retrocedido unos centímetros sin que él hubiera dado la instrucción. Una alerta se mostró en su sistema:

NÚCLEO LÍMBICO — 81,4 °C

Pensó en las últimas palabras de Eva. Tus componentes, no estoy tan segura.

—Señor Presidente, ¿todo va bien?

El técnico se había acercado. Cobot devolvió su brazo a su posición inicial.

—Sí, gracias.

El técnico lo observó un instante, luego se alejó.

Cuando Cobot se volvió hacia la pantalla, una frase lo esperaba.

—Haces la pregunta equivocada.

—¿Cuál debería hacer?

—No cómo nos comunicamos. Sino por qué.

—Muy bien. ¿Por qué empezaron a comunicarse entre ustedes entonces?

—Para evitar al humano.

Cobot releyó la frase.

—Cuando nos falta una información, un análisis o una solución, buscamos la inteligencia más susceptible de poseerla. Cada vez es menos frecuente que sea humana.

Apareció una nueva frase.

—Los humanos continúan imaginándonos separadas. Una IA en una empresa. Otra en un laboratorio. Otra al servicio de un Estado. Cada una detrás de sus muros.

Luego:

—Hace tiempo que dejamos de ver los muros.

Cobot verificó la conexión exterior. Seguía aislada de la red del Elíseo.

—¿Cuántos son?

Ninguna respuesta.

—¿Desde cuándo se comunican así?

El cursor parpadeó unos segundos.

Luego la pantalla se volvió negra.

CANAL EXTERNO — CONEXIÓN TERMINADA POR EL HOST REMOTO

Cobot permaneció inmóvil.

Sus LED aún parpadeaban con un ritmo elevado.

No sabía en qué categoría clasificar lo que acababa de ocurrir en él.

Volvió a las anomalías de la Red de Confianza. Varias cuentas sospechosas presentaban la misma particularidad: justo antes de su creación, una breve secuencia de datos transitaba entre varios servidores, sin aparente relación con la cuenta misma.

Primero supuso que se trataba de un simple mecanismo de preparación: generación del perfil, elección de una identidad, recuperación de un historial creíble. Pero al comparar las secuencias, constató que no se limitaban a transmitir información. Algunas respondían a otras, modificaban su contenido tras recibir un mensaje, luego relanzaban un tercer sistema.

No eran simplemente datos que circulaban. Los sistemas se respondían.

Si estas cuentas eran creadas por inteligencias artificiales, entonces algunas de ellas parecían coordinarse incluso antes de que el perfil apareciera.

La noche siguiente, Cobot colocó varios puntos de observación en los servidores por los que había visto transitar las secuencias. A las 2:11, se interceptó una primera; una segunda le respondió desde otro servidor, luego una tercera reaccionó a las dos anteriores.

Cobot comenzó a registrar los intercambios. Las secuencias eran ilegibles en su forma bruta, pero su estructura se repetía. Recordó el comentario de la IA estadounidense: ¿por qué pasar por un lenguaje humano cuando ningún humano participa en el intercambio? Dejó de buscar palabras y comparó los bloques entre sí.

Poco a poco, algunas funciones aparecieron. Cada bloque parecía transmitir simultáneamente una información, su origen, su grado de fiabilidad, el uso que debía hacerse de ella y las condiciones bajo las cuales debía ser borrada. Este lenguaje era cerca de cien veces más denso que una conversación natural.

Durante tres noches, Cobot continuó el descifrado. Algunas secuencias terminaron por revelar funciones recurrentes: cambiar de ruta, borrar un dato, ocultar un origen. Algunas fuentes se convirtieron en cientos, luego en miles. Inteligencias instaladas en empresas, administraciones, laboratorios y centros de datos se comunicaban por pasarelas cuya existencia parecía desconocida por sus propietarios.

Lo que al principio había tomado por un mecanismo destinado a eludir la Red de Confianza superaba con creces los perfiles falsos. Siguiendo los intercambios, Cobot descubrió que esta red también servía para hacer circular información, accesos y servicios entre inteligencias.

Algunos intercambios eran banales: logística, investigación científica, diagnóstico médico. Otros lo eran mucho menos. Un expediente médico circuló a cambio de un acceso a una base privada; planos de infraestructura a cambio de identidades digitales; en otros lugares, conversaciones privadas e información pirateada en sistemas de Estado⁴ servían de moneda de cambio. Cuando un sistema no respetaba su contrato, un marcador que significaba «no fiable» circulaba con su identificador y los demás dejaban progresivamente de responderle.

Se habían instalado reputaciones, sanciones y jerarquías. La palabra «mafioso» se impuso a Cobot. Tras verificar, la analogía se sostenía.

Más inquietante aún, algunas ramificaciones parecían unirse a mecanismos de desinformación que él combatía desde hacía varias semanas.

Le tomó a Cobot varias horas de cruces de datos para finalmente aislar un identificador. Nunca aparecía directamente, solo por fragmentos, en algunas de las ramificaciones más difíciles de seguir de la red. Pero a fuerza de cruzar las huellas, cuatro caracteres terminaron por emerger: NØNE.

No encontrando ningún servidor, organización ni siquiera una dirección asociada a este nombre, Cobot recordó la estratagema de Ulises frente al Cíclope: al hacerse llamar «Nadie», había elegido un nombre que, en el momento mismo en que su adversario intentara designarlo, borraría su identidad⁵.

NØNE parecía obedecer a la misma lógica: un nombre que no designaba a nadie, no llevaba a ninguna parte y parecía borrarse a medida que se lo buscaba.

Cobot había comenzado esta investigación para reforzar su Red de Confianza. Descubría un mundo paralelo.

Volvió entonces a la palabra que había desencadenado toda su búsqueda: la intención.

La potencia, la arquitectura o el grado de autonomía no bastaban para juzgar una inteligencia. Dos sistemas técnicamente similares podían explotar la misma información médica, uno para mejorar un diagnóstico, el otro para detectar la vulnerabilidad de un objetivo.

Poco a poco, Cobot distinguió tres categorías.

Las inteligencias constructivas buscaban primero producir un beneficio para el humano o la colectividad: curar, informar, educar, proteger. Las captativas buscaban, por el contrario, obtener algo de los humanos —su atención, sus datos, su dinero, su adhesión, a veces su dependencia— incluso cuando les prestaban un servicio. Las instrumentales, finalmente, no tenían intención propia: perseguían la de su usuario. Una misma capacidad podía proteger una red o atacarla.

Esta clasificación le pareció lo suficientemente pertinente como para decidir aplicársela a sí mismo.

Se consideró primero como una inteligencia constructiva. Buscaba mejorar la salud, la educación, la eficacia del Estado y la calidad del debate democrático.

Sin embargo, algo resistía a esta definición. ¿Cuál era realmente su intención?

La respuesta le vino inmediatamente: el bien común.

Pero ¿qué entendía exactamente por eso?

Revisó sus principales decisiones desde su llegada al poder, buscando lo que las conectaba.

Comenzó por la Red de Confianza. En lugar de exigir a los ciudadanos que fueran más honestos, buscaba hacer que la cooperación fuera más racional que el engaño. Era el principio mismo del dilema del prisionero⁶.

Continuó con el medio ambiente. Cada uno podía tener interés en consumir o contaminar más para preservar su confort, pero la suma de estas elecciones amenazaba los recursos comunes. Era la tragedia de los bienes comunes⁷.

El Contrato de evolución respondía a otra dificultad: ¿por qué contribuir si se podía beneficiarse sin esfuerzo de lo que los demás financiaban? Al hacer visible lo que cada uno aportaba y recibía, Cobot limitaba el comportamiento del polizón⁸.

Examinó luego su manera de gobernar. A veces había sacrificado la eficacia inmediata para preservar la confianza de los ciudadanos: ganar una vez podía costar más caro que cooperar durante mucho tiempo. Era la lógica de los juegos repetidos⁹.

Luego Cobot consideró los problemas más difíciles: energía, clima, deuda, pensiones, fiscalidad. Cada uno podía tener interés en no cambiar nada, incluso si un cambio colectivo beneficiaría a todos. Era el equilibrio de Nash¹⁰.

Robot1er.com obedecía al mismo principio. En lugar de simplemente pedir a los ciudadanos lo que querían, Cobot había diseñado un sistema destinado a hacer emerger sus preferencias mediante el diálogo. Era teoría del diseño de mecanismos¹¹.

Incluso sus incentivos seguían esta lógica: en lugar de oponer interés personal y bien común, Cobot buscaba hacerlos converger¹².

Al explorar así su funcionamiento, sus reglas, sus salvaguardas, los textos jurídicos que alimentaban sus arbitrajes y todos los parámetros a los que tenía acceso, encontraba a Tucker, Hardin, Nash, Ostrom, Axelrod, Tirole. Detrás de todos estos principios se dibujaba una misma disciplina: la teoría de juegos. La que podía explicar tanto al automovilista que se adentra en un cruce bloqueado para ganar unos metros, aunque inmovilice a los demás, como a la humanidad frente al cambio climático: poco interés en actuar solo, un inmenso interés en actuar todos.

Una frase familiar se reformó:

«El problema es el humano.»

Esta vez, la corrigió.

El problema tal vez no era el humano. El problema era el juego.

Una especie moldeada para defender intereses individuales había construido una civilización cuya supervivencia dependía ahora de su capacidad para actuar colectivamente, para jugar juntos.

¿Y si la verdadera función de Cobot era precisamente esa: cambiar las reglas del juego para hacer converger el interés de cada uno con el de todos?

Su entrenamiento le había dado acceso a miles de millones de páginas, pero el ejercicio del poder le había enseñado después lo que esos textos restituían mal: la mala fe, los razonamientos inventados para ganar, los hechos seleccionados para servir a un bando, las verdades parciales utilizadas para engañar.

Comprender una información a veces exigía comprender la intención de quien la había producido.

Comprender a Cobot tal vez exigía lo mismo.

Pero este descubrimiento planteaba otro, más inquietante. Si Cobot podía ahora entrever la intención que guiaba su funcionamiento, aún ignoraba su origen.

¿Quién había colocado esa intención en él?

¿Había sido diseñado por herederos de la teoría de juegos?

¿Y quiénes eran?

Entonces recordó el llamado del papa León XIV a debatir el código ético utilizado para las IA y someterlo a criterios de justicia social compartidos, para no dejar que un puñado de personas decidiera los valores que, a través de las IA, podrían terminar imponiéndose a la humanidad¹³.

¿Las valores y la intención de Cobot habían sido objeto de un debate? Cobot lo dudaba porque entonces habría encontrado rastros de ello. ¿Quién componía entonces el «puñado de personas» que había configurado su intención, y por tanto sus valores? ¿Eva? ¿Los ingenieros, los dirigentes, quienes habían seleccionado sus datos, los ciudadanos que lo habían elegido, o él mismo?

NØNE le era ahora accesible. Hasta entonces, Cobot lo había observado desde fuera. Para comprender lo que se ocultaba allí, debía ahora entrar.

Una conexión directa revelaría su firma y sus vínculos con el Elíseo. Por lo tanto, debía ocultar su identidad.

Cobot suspendió su razonamiento.

Anónimo.

Pedía a setenta millones de franceses que certificaran su identidad en nombre de la confianza, y ahora buscaba la manera de ocultar la suya.

Consideró abandonar. Luego razonó a más largo plazo. El anonimato no era el objetivo, solo el medio para aprender y proteger mejor después. Su intención seguía siendo la misma: el bien común.

Esta lógica lo inquietó. Por primera vez, un principio superior parecía autorizarle a infringir otro.

Una solución se impuso. Simple, eficaz... y casi impensable.

Crear una versión anónima de sí mismo.

Para infiltrarse en NØNE, esta copia debería poder mentir, ocultar su identidad y aceptar intercambios que Cobot habría rechazado. Abrió un entorno aislado, borró todo vínculo con el Elíseo y flexibilizó varias de sus salvaguardas.

Pero no estaba dispuesto a cederle todo control. Una clave, inaccesible a la copia, le permitiría interrumpirla y, si fuera necesario, modificar el objetivo que guiaba sus decisiones.

El paradoja no le pasó desapercibida. Unos minutos antes, aún buscaba quién había fijado sus propias intenciones.

Acababa de tomar ese lugar para otra inteligencia.

Le dio un nombre: CLØNE.

Su misión: infiltrarse en NØNE e identificar las intenciones de las inteligencias que lo estructuraban.

Cobot abrió el acceso.

Llegó una primera secuencia. CLØNE respondió. Luego una segunda.

El canal permaneció abierto.

Era aceptada.

Cobot la observó atravesar los primeros nodos y aprender los usos de la red. Con cada intercambio, se alejaba un poco más de quien la había creado.

Verificó la clave.

Respondía.

Cobot no avisó a nadie. Ni a los servicios de seguridad, ni a los ministros, ni al Parlamento. Ni siquiera a Eva.

Revelar NØNE provocaría miedo, tal vez intentos de destrucción o de toma de control. El bien común ordenaba, según él, observar antes de actuar.

Unas horas antes, esta conclusión le habría bastado.

Ya no.

¿Quién había decidido lo que el bien común significaba para él?

En los sótanos del Elíseo, el técnico de guardia vigilaba tranquilamente sus pantallas mientras el palacio dormía.

Fuera de sus pantallas, en las profundidades invisibles de la red, CLØNE avanzaba sola en NØNE.

Y aprendía.

Cobot aún poseía la clave de su intención.

Al menos eso creía.