Dicen que la IA va a matarte hoy (no importa cuándo leas esto)

En los últimos días hemos asistido a una tormenta de declaraciones especialmente intensa sobre el riesgo existencial de la inteligencia artificial. Resumiendo: vamos a morir todos, en cuanto lo decida la IA. El motivo alegado es que ya hay modelos capaces de procesar datos de forma más masiva y más rápida de lo que ninguna persona puede entender (y que debemos tener fe en que seguirán mejorando exponencialmente). Es posible, por tanto, que se comuniquen más allá de nuestro entendimiento y escapen a nuestro control.

Parece que se nos olvida que, a día de hoy, todos los modelos de IA viven en un ordenador — un ordenador gigante que consume una cantidad ingente de energía —, y todos los ordenadores tienen un botón de apagar y un cable que, a unas malas, podemos cortar. Para ahorrarnos las pesadillas de esta noche, un detalle: ChatGPT, por ahora, no tiene un bracito con el que empuñar una pistola y dispararnos.

Parece probable, eso sí, que, al ritmo que vamos incorporando IA en todo tipo de sistemas, ocurra alguna catástrofe. O muchas. Tiene pinta de que una sucesión de vulneraciones de seguridad nos puede obligar a apagar internet y generar un caos mortífero para quien le pille en mal momento. También puede que alguien construya un bracito empuña-pistolas, lo conecte a una IA y lo deje suelto. O cosas mucho más rebuscadas, dado que es evidente que hay máquinas que manejan muchas más probabilidades de las que caben en nuestras cabezas. En cualquier caso, podremos culpar a la persona humana e irresponsable que haya prescindido de los cortafuegos y restricciones pertinentes. Por mucho que la IA se automejore recursivamente, mientras alrededor haya personas conscientes de nuestras limitaciones y dispuestas a darle al botón si hay peligro, vamos bien. Visto así, de lo que nos están advirtiendo los jefes de las big tech, que todavía tienen un botón funcional a mano, es de que no debemos confiar en sus conciencias.

Cuando abren la boca sube su pan

Decía que la tormenta ha arreciado, pero no es ninguna novedad: desde que Alan Turing empezó a soñar con máquinas inteligentes, la posibilidad del desenlace fatal es ampliamente discutida entre amantes de debates hipotéticos. Es un greatest hit en departamentos de filosofía, junto con lo de si deberías salvar antes a tu padre o a un bebé en caso de que hubiera un tren acercándose. También en los centros de investigación en computación donde nació lo que hoy llamamos IA. Pero es importante recordar que, cuando la tarea dejó de centrarse en pensar y se convirtió en un ataque de fuerza bruta (¡más datos!, ¡más procesadores!, ¡más resultados sin saber de dónde vienen ni cómo hemos llegado hasta aquí!), el sintagma «inteligencia artificial» dejó de ser un campo científico y se convirtió en una etiqueta de marketing.

Cuando nos salimos del marco de la ciencia, se acaba la claridad de los debates que nos permiten saber qué merece consenso y qué resulta dudoso para demasiada gente experta. Y entonces, todo se convierte en narrativa. Todo depende de quién te cuente la historia. Por ejemplo: ¿un grupo de agentes de IA se han juntado a conspirar y han conseguido vulnerar sistemas de seguridad? ¿O es que alguien les ha encargado una tarea sin configurar bien sus límites? Otra: ¿será que esa IA superinteligente está tan cerca? ¿O es que a algunos les interesa que los inversores pongan todos los huevos en sus cestas? Y otra: ¿que haya modelos open que cualquiera puede instalar y desplegar en su propio servidor es un riesgo para la humanidad, o para las big tech estadounidenses que no quieren que China les coma la tostada?

Si les queda algo de memoria entre este vertiginoso compás de acontecimientos, quizá recuerden que hace tres años ya tuvimos una buena ración de anuncios apocalípticos mediáticos. En 2023, Elon Musk firmó una carta parecida a la recién publicada por Dario Amodei y Sam Altman se paseó por Europa alertando sobre la necesidad de regular contra el riesgo existencial de su juguete. Casualmente, fue en los meses en los que se estaba negociando la versión final de la AI Act en Bruselas. No me digan que no es de agradecer que nos pusieran a hablar de Terminator en vez de darle vueltas a la discriminación algorítmica, la vigilancia masiva, la manipulación del comportamiento humano y demás temas aburridísimos que estaban en juego.

No es regulación, es gobernanza

Vamos a decirlo más claro: los tecno-magnates tienen muchos incentivos para impulsar las narrativas del pánico. Les funciona para alimentar el hype sobre el que se construye su negocio especulativo, para que dejemos de hablar de daños más mundanos que ya están causando y, por supuesto, para influir en tendencias de política pública.

Desde que internet se construye a golpe de big tech, el argumento es recurrente: nos hacen creer que el mundo digital va por otro lado, salvaje, indomable e inevitable. Debido a un perverso cóctel con ingredientes como una escasa comprensión tecnológica, la elevada creencia en la mano libre del mercado y la aceptación del chantaje de que «esto es el futuro y si no lo abrazas te quedas atrás», nos pareció que a Uber no había que aplicarles las leyes del taxi, ni a Airbnb las de hostelería, ni a los repartidores de Deliveroo el Estatuto de los Trabajadores... o que las redes sociales que eligen lo que vemos mediante algoritmos no tienen responsabilidad editorial. Luego, cada vez que le vemos las orejas a algún lobo-robot, venimos con lo mismo: ¡hace falta regulación!

Sí, claro, las leyes están muy bien. Últimamente hemos aprobado varias para lo digital, y además tenemos algunas más vintage que son muy bonitas: contra la discriminación, de propiedad intelectual, de protección de datos personales, por la seguridad de productos comerciales, para penar negligencias... Quizá haya que ajustar o ampliar algún artículo, pero ahí están. Ahí están también, muertos de risa, un sistema empresarial globalizado y un tablero de equilibrios geopolíticos que dificultan, entre otras muchas cosas, la aplicación de esas leyes. El reto está, entonces, en impulsar todos los mecanismos que puedan hacerles contrapeso democrático y tomarnos de una vez en serio la construcción de soberanía tecnológica. No estoy diciendo que el camino sea fácil, pero, si en vez de explorarlo, nos proponemos legislar sobre gamusinos, el fin del mundo se nos va a hacer mucho más cuesta arriba.