El lenguaje y la cultura son construcciones humanas -el mundo de las ideas de Platón. Seguro que nos suena el mito de que los esquimales distinguen 40 palabras distintas para la nieve (que realmente no las tienen aunque si el finés), o que el chino necesita menos palabras que el español más para expresar lo mismo. Los lenguajes no son solo el canal para expresarnos, sino que codifican nuestra cultura, la manera como pensamos o cómo nos relacionamos. Los grandes modelos de lenguaje de IA como el utilizado en chatGPT están entrenados sobre todo con información en inglés, predominante en la web. Aunque hayan aprendido a hacer una traducción aparentemente perfecta a muchos idiomas, el funcionamiento interno, el cálculo de probabilidades de los siguientes conceptos y palabras que la IA dirá, estará basado en la manera de hilar conceptos y razonar de aquellos documentos con los que se entrenó. 

La humanidad habla más de 7000 idiomas, de los cuales sólo 100 están relativamente representados en el mundo digital, una decena tiene presencia relevante, y diríamos que solo uno - el inglés- está en el corazón y el cerebro de los modelos de lenguaje de IA más avanzados. Las herramientas que comprueban si un texto se ha escrito con IA, o puntúan la calidad de las  redacciones, cometen más errores en los textos escritos por personas cuya lengua nativa no es el inglés. La realidad es que estos asistentes inteligentes encadenan palabras e ideas según estructuras aprendidas de los textos con los que se entrenaron.

Estos modelos de IA podrían comportarse como especies invasoras del mundo de las ideas. Aunque impresionantes a primera vista, cuando uno observa detenidamente muchas imágenes creadas con IA generativa - con programas como Midjourney o Dall-e - empezamos a percibir una cierta homogeneidad. Los grandes modelos de IA codifican estereotipos y podrían perpetuar sesgos, basta con preguntar a uno de estos modelos por la representación de una persona de un país o una profesión. De la misma manera, los modelos de IA de lenguaje también muestran algunos patrones recurrentes –de hecho hay profesores que dicen tener olfato para encontrar textos escritos con chatGPT. Los modelos de lenguaje de IA pueden acabar siendo como las especies invasoras de los ecosistemas, y sin que nos demos cuenta puedan acabar exterminando culturas, ideas y lenguajes minoritarios. Cierto es, que las especies invasoras también pueden tener consecuencias positivas, como el aumento de la productividad o hacer desaparecer algunas especies malignas.

En los últimos meses países como Corea, Suecia o Francia han anunciado la creación de grandes modelos de lenguaje entrenados en sus propios idiomas y culturas. Es un asunto geoestratégico y de soberanía industrial, y también una necesidad para preservar nuestra cultura y diversidad -necesario para las mayorías y mucho más para las minorías. En un contexto global ultra competitivo con una falsa calma donde el agua ya se ha retirado para la llegada del tsunami de la IA, es muy importante que el proyecto de la IA en español se planee y ejecute de manera urgente, con una visión amplía y sin ninguna limitación de recursos. Estamos hablando de crear la infraestructura pública digital del futuro de culturas y lenguajes minoritarios, pues igual que la imprenta revolucionó la manera de compartir y distribuir el conocimiento, es posible que los modelos fundacionales de IA del lenguaje que se establezcan en los próximos años sienten las bases del uso de la lengua para las próximas generaciones.

¿Qué puede hacer hoy la IA Generativa y qué podrá hacer en un futuro próximo? La Organización Internacional del Trabajo estima que las capacidades actuales de la IA podrían automatizar en torno el 5% de los trabajos y el 13% de los trabajos se realizarán apoyados por la IA. Además hay un 9% de empleos entre la automatización total y el apoyo de copilotos de IA que no está claro cómo acabarán. También habrá que tener en cuenta qué nuevas profesiones aparecerán, y cómo evolucionará el rango de tareas donde la IA puede ayudar.

Se rumorea que una de las causas que ha contribuido a la crisis de gobernanza en OpenAI fue un desacuerdo sobre los riesgos para la humanidad de un avance fundamental en el proyecto Q* que podría estar relacionado con la habilidad de la IA de manejar matemáticas. Independientemente de que esa fuera una de las causas de la diferencia en la visión sobre los peligros de la IA entre la dirección y el consejo de OpenAI, desde mi punto de vista -como aposté en una entrevista para la revista Nature en 2020-  pronto veremos avances fundamentales en la intersección de las matemáticas, la ingeniería y las redes neuronales. Una publicación científica reciente muestra cómo avanzar las matemáticas guiando la intuición de los humanos con la IA.  ¿Por qué es importante? Curiosamente, estos avances son la llave para que la utilidad de los sistemas de IA generativa evolucione de conceptualizar ideas a materializarlas en el mundo físico.

Los modelos de lenguaje, como ChatGPT, encadenan palabras con fluidez humana. No sólo predicen la siguiente palabra, como el autocorrector de WhatsApp, sino que pueden hilar hasta 20,000 palabras seguidas. Estos “loros estocásticos” o “máquinas probabilísticas” tejen ideas y conceptos como lo haríamos nosotros, los humanos, porque han descifrado el código y la mecánica del lenguaje, una herramienta de comunicación antes exclusiva de nuestra especie. Este dominio del lenguaje puede convertir a la IA generativa en una escritora de éxito o una “vende motos”. Estas herramientas no sólo pueden crear imágenes siguiendo las descripciones que salen de nuestra imaginación, sino que también pueden escribir guiones de series escritas solo para ti que te harían ver capítulo tras capítulo desde ahora hasta el fin de tus días. Pero, ¿qué es lo que no pueden hacer los modelos de lenguaje?

El extremo opuesto de los modelos de lenguaje creados con redes neuronales artificiales son las ecuaciones matemáticas. La ley de la gravedad, e=mc² o las ecuaciones de Maxwell. Conceptos abstractos que explican el funcionamiento del universo -es imposible decir más con menos-, representando la antítesis de una red neuronal de trillones de nodos, que puede crear “alucinaciones” hilando secuencias de miles de palabras que nunca volverá a repetir. Mientras que en matemáticas “1” siempre será igual a “1”, las redes neuronales operan de manera probabilística, a veces acertando pero otras errando. Como experimento, pregúntale a ChatGPT cuántas palabras tendrá su próxima respuesta. No acertará, porque su proceso se centra en la próxima palabra, no en el conjunto. Los modelos de lenguaje pueden ver una hilera infinita de árboles, pero no pueden ver la forma del bosque en su conjunto. Hoy en día, los modelos de lenguaje y la IA generativa no pueden inventar ecuaciones que describan el mundo que les rodea.

En los últimos años hemos visto ejemplos de modelos de IA con conocimientos muy específicos: como predecir la estructura tridimensional de las proteínas en función de una cadena de aminoácidos, encontrar moléculas que podrían usarse como armas biológicas o predecir la lluvia en las siguientes 24h. Sistemas expertos con capacidades sin igual, aunque no poseen la capacidad de generalizar y resolver otros retos. Si la IA pudiera manejar conceptos de matemáticas formales de manera genérica y a escala, daría un salto cualitativo. Significaría que la IA podría aprender arquitectura e ingeniería, incluyendo las leyes de la física, las propiedades de la materia o las reacciones químicas en su contexto operativo. Hace una semana le pedí a Dall-E que me diseñara varios aviones inspirados en pájaros. Mis amigos aeronáuticos me dijeron que ninguno de esos aviones despegaría. Imagina una IA que diseñe aviones cuyas alas respeten las leyes de la aerodinámica, que cree un barco que realmente pueda flotar y resistir tormentas, que optimice todas las geometrías posibles de las palas de un molino de viento, que me diga cien maneras de amueblar mi casa o es cuántos pedazos se rompería un vaso que se me cayese al suelo. Si se conecta esta IA a un brazo robótico capaz de moldear arcilla, el diseño creado por la IA artesana podría tomar forma en el mundo real ya que respetaría todas las leyes de la física y las condiciones del taller. Los modelos de IA generativa como chatGPT van a pasar de ser escritores, burócratas y consultores a convertirse en arquitectos, ingenieros, y armadores. 

¿Cuál será su impacto? No creo que los riesgos aumenten de manera cualitativa, ni que incremente sustancialmente la probabilidad de que una superinteligencia artificial extinga a la humanidad de manera unilateral. Y por supuesto tenemos delante problemas que hay que resolver de manera inminente que se harían más acuciantes: desinformación, sesgos, desigualdad, concentración de poder… Sin embargo, la IA generativa con capacidades matemáticas revolucionaría la ciencia y la ingeniería, abriendo nuevas fronteras para el conocimiento y el desarrollo industrial. Esto tiene unas implicaciones obvias a corto plazo en las estrategias de industria e innovación de países y compañías. Y sin duda aceleraría aún más los cambios sociales y económicos provocados por el tsunami de la IA. 

El futuro de la tecnología que utilizaremos muy pronto en nuestro día a día no será un único sistema súper inteligente más poderoso que GPT4, sino un asistente personal con IA que escuchará todas nuestras interacciones, hablará con nosotros, y nos ayudará, sobre el papel, a tomar mejores decisiones. Esta idea parece tenerla clara gente como Bill Gates, Sam Altman y Mark Zuckerberg: después del buscador web y las redes sociales, el siguiente paso será el asistente personal basado en IA. Asumiendo que sorteamos los riesgos inmediatos de la IA, la tecnología funciona como debe: la regulación cumple su función, los sistemas son seguros, no están sesgados y no comparten nuestros secretos con nada ni con nadie, lo más probable es que en el futuro no muy lejano todas nuestras interacciones en el ecosistema digital se vean mediadas por un nuevo y diferente intermediario- los copilotos de IA o asistentes personales inteligentes.

Es posible que empecemos a no saber si ese mensaje de WhatsApp lo ha escrito una persona o su asistente (como la herramienta de la película de Santiago Segura que automatizaba los mensajes de WhatsApp en el chat de padres y madres del colegio). El futuro de las apps de ligar será que nuestro asistente IA hable con miles de asistentes para encontrar el match perfecto. Un gran experimento donde el algoritmo será el responsable del mix genético humano- además aprovechando que en países occidentales casi la mitad de los nuevos matrimonios se han conocido online. Si tenemos un litigio, nuestro asistente legal negociará con los asistentes IA en nuestro nombre. Es posible incluso que nuestro asistente nos diga abiertamente a quién votar. Como referencia, hace unas semanas una startup americana recibió 1300 millones de dólares de inversión para crear un agente personal que es amigable, te escucha y charla de cualquier cosa con empatía. 

No solo a nivel personal, la suma es más que cada una de las partes - y para muestra la sociedad de las hormigas o incluso la especie humana. Lo cierto es que sabemos poco - y hablamos poco - de las propiedades emergentes de los sistemas con agentes de IA. Como en el videojuego Sim City o en “Juego de la Vida” de Conway - reglas muy simples pueden llevar a patrones complejos y van a ser claves en esta nueva pantalla de la humanidad. ¿Qué pasará cuando miles de millones de asistentes inteligentes estén interactuando entre ellos?  

Con la llegada de los asistentes de IA tendremos una nueva manera de interactuar en el mundo digital e, inevitablemente, tendremos que navegar por un cambio sistémico. Y todos acabaremos haciendo un casting para escoger a nuestros copilotos. Un detalle que puede pasar desapercibido ante la llegada de los asistentes con superpoderes y la súper comodidad serán los mecanismos internos de funcionamiento de nuestro asistente. ¿Quién y cómo se habrán entrenado los algoritmos de esas redes neuronales artificiales que preparan a tu asistente inteligente para tomar decisiones por ti?

Los modelos de lenguaje de IA codifican la estructura del lenguaje humano, parte de su conocimiento, y también su forma de actuar. Es importante recordar que simplemente viven en el mundo de las palabras y calculan, dada una frase, la frase más probable que le seguirá – pura combinatoria, una especie de autocompletar extremo basado en los textos con los que se entrenó al modelo de IA. De momento, poco se sabe de qué documentos -mayoritariamente en inglés- han sido usados para entrenar los modelos de IA de OpenAI o Google. Pero en un futuro poblado de asistentes inteligentes como extensiones de nuestra personalidad e intermediarios de las relaciones entre las personas, es importante hacer un esfuerzo para entender dónde estamos delegando realmente nuestras decisiones. Este es, de hecho, un buen momento para que todos los sectores de la sociedad pensemos y propongamos qué tipos de comportamiento queremos codificar en los asistentes inteligentes. 

 Cuando llegue el momento acuérdate de preguntar dónde se entrenó (o educó) tu copiloto de IA antes de darle el timón.

Cuestión de escala. Las redes neuronales artificiales entrenadas con información de internet y feedback de humanos son capaces no solo de adivinar la palabra siguiente de un frase a medias - como el autocompletar de Whatsapp - sino las 20.000 palabras siguientes. Esto permite a una máquina- como chatGPT- tener un diálogo como si fuese una persona. Una vez hackeado el lenguaje humano, tenemos herramientas que nos dan acceso a nuevos superpoderes en el mundo de las ideas.

Hace dos décadas trabajé en un robot poeta: un programa informático entrenado con la obra de William Blake para aprender la distribución estadística de sus palabras y su sintaxis. Dadas las primeras palabras de un nuevo verso, la IA terminaba la poesía. Trabajando en la ONU en 2019, entrenamos una red neuronal para escribir discursos al estilo de los presidentes de los países en la Asamblea General alertando de los riesgos de la desinformación creada por IA - entonces OpenAI publicaba GPT2. Hoy, los modelos de IA generativa pueden escribir versos, resumir textos, usar fórmulas de Excel, hacer informes, programar páginas web, diseñar logos, buscar similitudes entre esto y lo otro, dar tres recetas con aquello,  y un sin fin de aplicaciones más. Sin embargo, la IA no se puede humanizar, no tiene sentido común. Es simplemente una herramienta diferente. Como cuando el avión de los hermanos Wright levantó el vuelo - y no lo hizo como los pájaros- lo hizo a su manera. Aterrizajes y despegues complicados, gran alcance y poca eficiencia energética. La IA generativa es capaz de codificar y manipular la información a una velocidad, escala y eficiencia sin precedentes. Igual que la invención de las máquinas nos ha descargado del trabajo físico a lo largo de la historia, estos sistemas realizarán por nosotros parte o todo el trabajo cognitivo que queramos a un coste casi nulo.

Los riesgos de la IA

Las nuevas tecnologías proporcionan grandes poderes que conllevan grandes responsabilidades. Esto no es nuevo: la humanidad ha gestionado  -no siempre a la primera- avances fundamentales como la energía nuclear o la edición genética. Estos son algunos de los riesgos sistémicos clave de la IA.

1) El mal funcionamiento de la IA: ya está ocurriendo.

Que la IA no funcione como debería por sesgos en los datos de entrenamiento. O porque debido a su naturaleza probabilística, la información que provea sea inexacta - lo que llamamos “alucinaciones” -. O que no sepamos qué es lo que está computando exactamente - una caja negra. Los riesgos asociados a estos problemas que ya están presentes en muchos de los sistemas desplegados en la actualidad.

2) La generación de desinformación: impacto inminente.

Es muy fácil crear textos, imágenes, vídeos… contenido digital que no podemos distinguir si es o ha sido real. Como dice Marta Peirano, los modelos de lenguaje de IA son los Kalashnikov de la desinformación. Igual que Cambridge Analytica influenció elecciones en medio mundo a través de las redes sociales, pronto presenciaremos el despliegue de una nueva generación de herramientas capaces de manipular elecciones y difundir desinformación a escala. Podemos esperar vídeos deepfake de políticos, campañas de desprestigio de periodistas o ataques a personas corrientes. Fábricas de bulos de eficacia, velocidad y volumen sin parangón. Además, el feedback de las personas refina y codifica cómo se comportarán los modelos de IA que codifican no solo el conocimiento, sino también los valores y reglas sociales. Porque la IA es poder. 

3) El desequilibrio del mercado laboral: el impacto empezará a ser evidente en los próximos meses.

Los primeros estudios muestran cómo los trabajadores que usan IA aumentan su productividad siendo los menos productivos los que más aumentan su rendimiento. A nivel macro, más de dos tercios de los trabajos se verían afectados por la IA y un quinto podrían ser sustituidos. Los sectores de la banca, los medios, el marketing o la abogacía están entre los más expuestos. El cambio del modelo productivo será más rápido que el que el mercado laboral pueda absorber. Las tareas manuales estarán protegidas por más tiempo - los robots físicos son más complejos, - pero para las tareas cognitivas, el coste básicamente tenderá a cero. Consultoras haciendo informes tienen los días contados. La industria del desarrollo de software también estará afectada. Como muestra, Microsoft, tras despedir 10000 empleados, invirtió 10000 millones en OpenAI. El reto será la transición de los trabajos de millones de personas y la lucha contra la desigualdad encontrando mecanismos para repartir la productividad generada por estos sistemas. 

4) La alienación social: el impacto se percibiría en los próximos años.

Históricamente el conocimiento humano se ha transmitido de forma activa con esfuerzo, leyendo y escribiendo. En el futuro es posible que deleguemos la brújula de nuestra sociedad todavía más a los algoritmos- piensen en el impacto que ya tiene la IA que nos recomienda qué ver o con quién salir. Es posible que una nueva generación de humanos no sepa ni siquiera escribir en narrativa. Las entrañas de los modelos de lenguaje entrenadas con bases de datos de internet, mayormente el inglés, podrían olvidar elementos característicos de lenguajes y culturas minoritarias. Es posible que la historia y el conocimiento humano se extinga si son los algoritmos los que están al mando y no están alineados con los intereses humanos. Yuval Harari alerta de que, si el aumento de la productividad de la IA deja a los humanos sin trabajo, podría aparecer una nueva clase social irrelevante que no es necesaria para el funcionamiento de la sociedad. Como mínimo, una amenaza a la salud mental de nuestra especie. 

5) El shock sistémico -intencionado o no intencionado-: línea temporal incierta.

Sistemas de IA muy avanzados (Artificial General Intelligence o AGI) podrían poner en peligro infraestructura crítica para la humanidad, de forma intencionada o desintencionada. Una especie de Chernobyl de la IA. Hace semanas la carta firmada por líderes de la IA pedía una moratoria en el desarrollo de sistemas más potentes que GPT4 hasta que sean seguros y los riesgos gestionables. Max Tegmark, uno de los impulsores, propone ideas para limitar los riesgos de sistemas de IA superinteligentes: no dejarle manipular humanos, no conectarla a internet ni a robots, ni enseñarle a programar - así podría mejorarse a sí misma. Ya hemos hecho todo, y efectivamente, es posible que, en el futuro, sistemas superinteligentes que no sabemos lo que hacen, optimicen sus propios objetivos sin estar alineados con valores humanos, creando riesgos existenciales para la especie humana. Creo que este escenario es poco probable sin que antes hayamos sufrido otro shock, uno creado por un sistema de IA menos inteligente, pero guiado por malos actores. Estos actores podrían atacar redes energéticas, sistemas bancarios o incluso diseñar armas biológicas. 

Adaptándonos a un mundo con IA

Como el genio ya está fuera de la botella habrá que adaptarse. Estas son algunas ideas para mitigar los riesgos:

1) Aprovechemos los superpoderes.

No importa cuál sea tu trabajo, prueba esta tecnología. Superpoderes fundados en hacer buenas preguntas, no sólo en dar respuestas. Por ejemplo, la IA ya saca mejor nota en el MIR que la mejor estudiante. En el futuro, los médicos serán directores de orquesta de algoritmos de IA. Igual, por fin pueden tener más tiempo con sus pacientes. El trabajo de artistas, escritores, creativos va a evolucionar. Lo hecho a mano, creaciones imperfectamente humanas, siempre tendrá un valor especial. Encontraremos nuevos modelos de negocio- la música Grimes cede su voz generada por IA si se le pagan royalties. Aunque algunas estimaciones dicen que la IA Generativa podría aumentar el PIB mundial en un 7%, la naturaleza y escala arrolladora de la IA podría llevar al sistema capitalista a un extremo sin beneficios para las personas. Necesitamos aplicaciones con verdadero valor más allá de comerciar y explotar nuestra atención. 

2) La vacuna contra la desinformación total.

Debemos asegurarnos de que lo que vemos en el mundo digital refleja la realidad física. Cada vez que hagamos una foto o un vídeo, la cámara y el micrófono de nuestro dispositivo - el hardware - deberían de poner un sello criptográfico único y no hackeable codificando el lugar y el momento de la captura. Hemos de estar preparados para tsunamis de desinformación. 

3) El entorno regulatorio de la IA es una pieza fundamental.

Una especie de Agencia del Medicamento que apruebe los sistemas con impacto importante en la sociedad - educación, trabajo, etc.-. El marco regulatorio Europeo para la IA es similar al de las tecnologías médicas donde, cuanto más riesgo tiene la aplicación, más exhaustivos son los procesos de certificación. Además, habrá que reinterpretar o adaptar otros entornos legales referentes a la propiedad intelectual o el derecho al trabajo. A nivel nacional podemos prever que los gobiernos entrenen sus propios modelos tanto por motivos de soberanía y geoestrategia como preservación de la cultura. 

4) Cooperación internacional en IA.

Tras la aprobación de los principios éticos de la IA en la UNESCO en 2021, será fundamental encontrar mecanismos ágiles de consenso acerca de las grandes líneas rojas del desarrollo y despliegue de la IA generativa incluyendo el respeto a los derechos humanos. Además de reforzar los mandatos existentes, algunas opciones serían la creación de un organismo para la seguridad de la IA como la IAEA (Int Atomic Energy Agency), la posibilidad de declarar una emergencia global de IA - cómo se declaran las emergencias globales de salud, o la creación de una institución de investigación como el CERN para la AGI.

La brújula

Tendremos que adaptarnos al cambio tecnológico más rápido que nunca. Debemos alinear el desarrollo y despliegue de la IA con nuestros valores- esto requiere innovación responsable y políticas para mitigar los riesgos y maximizar las oportunidades. Es el momento para construir mecanismos que permitan delimitar las líneas rojas y una brújula para avanzar hacia una IA con impacto positivo en la humanidad y el planeta.