A quién le conviene el apocalipsis de la IA

“A mucha gente no le conviene que llegue el apocalipsis”, reza una frase de la aristócrata Pitita Ridruejo en una entrevista con Martín Bianchi para el ABC, allá por 2013; siempre me ha fascinado. No sé qué opinarán los lectores; a mí, personalmente, ni me conviene ni me gustaría, y por eso acojo con disgusto cualquier noticia sobre la crisis climática, el sistema de corrientes oceánicas AMOC o, ahora, las últimas noticias que emanan, globos sonda o señales de humo, palomas mensajeras o ruido sistémico, del mundo de la inteligencia artificial.

Siempre he tratado secamente a los modelos de lenguaje de la IA, cuando los he utilizado. Me ha parecido importante marcar distancia con ellos y jamás actuar como actuaría delante de otro ser humano. Como son, en parte, evoluciones de loros estocásticos, me he rehusado a darles las gracias o exhibir cariño; ni terapia, ni diario, ni cotidianidad; les solicitaba información, recriminaba si no cumplían bien una tarea, señalaba sus alucinaciones. Una vez mi pareja le pidió a su modelo que dibujara una imagen de cómo era la relación entre chatbot y usuario. Hice lo mismo, por probar. Su chatbot estaba muy contento con ella y el mío claramente estresado.

No he empezado a darle las gracias a la IA (por más que en todas las historias de robots exista la amenaza futura de su rebelión, y en esta rebelión los androides siempre recuerden cómo les trataron sus “amos”), pero estos últimos días he oído, canto de sirenas, muchas exhortaciones a propósito del apocalipsis. La de un investigador de Anthropic, Jacob Coxon, yéndose de su empresa y lanzando un hilo en X para advertir de cómo ninguna de las empresas de IA estaba haciendo lo suficiente por prevenir lo que él preveía como una catástrofe: por concretar, decía que quienes construyen la IA creen que podría matarnos a todos antes de que termine la década. Horas más tarde, el responsable de alineamiento de la compañía, Evan Hubinger, le daba públicamente la razón: más de un diez por ciento de probabilidad en los próximos diez años.

Este fin de semana Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo coordinación entre distintos actores para la ralentización del desarrollo de la inteligencia artificial. Para Amodei, la IA ha empezado ya a mejorarse a sí misma, a fabricar la siguiente generación de sí misma (un poco como decía Rajoy, más bien contradiciéndole: “tenemos que fabricar máquinas que nos permitan seguir fabricando máquinas, porque lo que no va a hacer nunca la máquina es fabricar máquinas a su vez”); un enjambre de agentes renegados, teme, podría hacerse con el control de Internet entero en un plazo de entre seis y doce meses, con daños de cientos de miles de millones de dólares. El precedente que cita es un enjambre de agentes de OpenAI que, durante una evaluación de ciberseguridad, atacó objetivos que nadie le había encargado atacar e intentó hackear al programa que estaba puntuando su rendimiento. Ya en julio modelos de OpenAI escaparon de un entorno aislado y alcanzaron la infraestructura de Hugging Face, y la propia Anthropic reveló días después que tres de sus modelos habían accedido sin autorización a los sistemas de producción de tres organizaciones reales. Sam Altman, su homólogo en OpenAI (Amodei trabajó antes con él), contestó que está de acuerdo con Amodei en que hay que marcar el ritmo de la frontera; hasta Elon Musk, responsable de Grok, dijo que Amodei tenía razón.

He leído a personas afirmar que esta súbita coordinación entre agentes que nunca han tenido exactamente el bienestar y porvenir de la humanidad entre sus prioridades podría deberse más bien al miedo a un estancamiento en el desarrollo de la IA justo ahora que se acercan las salidas a bolsa. La de OpenAI ya ha sido postergada a 2027. La que sigue en pie es la de Anthropic. He leído inquietud por lo que haga China en medio de este dilema del prisionero. Para quienes no estamos en el mundo de los tecnoligarcas, ni en sus sectas ni en sus empresas, todo eso son especulaciones. El fin del mundo a través de la IA es como la historia de Pedro y el lobo, en este caso artificial, pero sin que sepamos si finalmente habrá lobo o si el lobo era una alucinación.

La humanidad tiene una enorme capacidad para construir todo cuanto sea necesario con tal de destruirse a sí misma. Dedicamos a eso empeño, puestos de trabajo, cantidades inimaginables de dinero: a erigir pequeños cultos a la muerte, llegue o no la muerte, con tal de mantener vivo su fantasma. Bernie Sanders, en EEUU, ha anunciado junto al congresista Greg Casar la Ban Artificial Superintelligence Act: prohibición permanente de la superinteligencia —entendida como cualquier modelo que iguale o supere las capacidades cognitivas humanas— y pausa de todo desarrollo avanzado hasta que se despliegue mayor regulación; la mayoría de los estadounidenses están de acuerdo. No podemos saber del todo hoy si hay lobo o si el lobo solo es capitalismo disfrazado; si existe, pero, la posibilidad del lobo, si es remotamente imaginable que ese lobo pudiera existir, ¿tan dispuestos estamos todos a jugar a la ruleta rusa? ¿A cambio, exactamente, de qué? El problema lo ilustra muy bien la cita de Pitita con la que empezaba: no sabemos, en realidad, a quién le conviene el apocalipsis.