El futuro de la humanidad depende de frenar el desarrollo de la inteligencia artificial. Eso dicen algunos extrabajadores de Anthropic o Google DeepMind, entre otros. También la ONU. La responsabilidad, por tanto, recae en las dos grandes potencias: Estados Unidos y China. China ya ha pedido una “barrera de seguridad” para la IA. Pero Donald Trump... Esta es la valoración que hace Jimmy Fallon del presidente de su país.

“Hoy, el presidente Trump desestimó las preocupaciones sobre la IA, publicando en Truth Social, comillas: 'El único control o 'barrera de seguridad' que la IA necesita un presidente fuerte e inteligente (¡con un alto cociente intelectual!)'. Bueno, ya me siento más tranquilo”.

Trump no está por la labor de las iniciativas para reforzar los controles y las regulaciones del sector. Lo tacha de “conspiración enfermiza”. “¡QUIEN GANE LA CARRERA DE LA IA, GANARÁ! Llevamos ventaja sobre China y sobre todos los demás, y seguiremos haciéndolo. ¡Teóricos de la conspiración, conspiradores, traidores y filtradores: cuidado!”. Las frases son del presidente de Estados Unidos. Las mayúsculas, también: así lo escribió en su red social.

El cómico y presentador de The Tonight Show puso en en duda la voluntad y capacidad del inquilino de la Casa Blanca para hacer frente a la situación. “Trump dijo algo como: 'Me gustaría ver a ChatGPT identificar una cebra en la prueba cognitiva'. O sea, no lo creo, amigo. Dependemos de Trump para vencer a la IA y ni siquiera creo que Trump pueda ganarle al Wordle [el juego online que consiste en adivinar una palabra diaria]”.

Pero no se quedó ahí. También bromeó con la afición del presidente por tratar de renombrar componentes conocidos del espacio geográfico, como pasar del Lago Ontario al Lago América, el Golfo de México por el Golfo de América o el estado de Nuevo México por... sí, Nueva América. Esto dijo Fallon: “Trump se está encargando de esto [la gestión del desarrollo de la IA], lo que significa que le va a cambiar el nombre de inteligencia artificial a inteligencia americana”. “Tengan en cuenta que hasta hace una semana, Trump pensaba que 'IA' significaba 'American Idol'. Así que ya hablé con Ryan Seacrest [el presentador de American Idol] y estamos perfectamente a salvo”, agregó.

Y terminó: “Trump dijo que las preocupaciones sobre la IA han sido exageradas por fuerzas muy negativas, y luego anunció planes para combatir a esas fuerzas con una nueva rama militar llamada la 'fuerza contra la fuerza muy negativa'. Pero escuchen esto: Elon Musk, Sam Altman y el CEO de Anthropic dijeron que quieren frenar el desarrollo imprudente de la IA. Elon dijo algo como: 'Como pueden ver por mis pruebas, esos frenos no son mi fuerte, pero se intenta'”.

Jacob Coxon no es un profeta religioso, ni el líder de ninguna secta. Es un investigador hasta hace poco en Anthropic, una de las grandes empresas de Inteligencia Artificial del momento, que la semana pasada dejaba su trabajo lanzando una alerta mundial al pronosticar que el nivel de autonomía que está alcanzando la IA puede acabar con la humanidad en menos de cinco años. Los dueños de los cuatro principales gigantes del sector, (Sam Altman, de Open AI; Dario Amodei, de Anthropic; Demis Hassabis, de Google DeepMind, y hasta Elon Musk de SpaceX), lejos de desmentirle, salieron a decir que Coxon llevaba razón, que hay que frenar el desarrollo de la IA y poner reglas comunes. 

Con Carlos del Castillo, periodista de elDiario.es especializado en tecnología y autor del libro ‘Inteligencia Artificial. Cartografía de una revolución’, desciframos las claves que hay detrás de estas advertencia apocalíptica y por qué quienes siempre han odiado las reglas apuestan ahora por desacelerar esta carrera y poner límites.

***

Envíanos una nota de voz por WhatsApp contándonos alguna historia que conozcas o algún sonido que tengas cerca y que te llame la atención. Lo importante es que sea algo que tenga que ver contigo. Guárdanos en la agenda como “Un tema Al día”. El número es el 699 518 743

***

Un tema Al día es el podcast diario de actualidad de elDiario.es que, en episodios de unos 15 minutos, explica cada día un asunto de actualidad. Está presentado y dirigido por Juanlu Sánchez, subdirector de elDiario.es.

Premio Ondas al podcast Revelación, Un tema Al día es el daily líder en Spotify, Apple Podcast, iVoox, Amazon Music o Podimo, según los datos públicos de las plataformas, donde acumula más de 200.000 suscriptores. Ha sido reconocido como “podcast revelación” por Amazon y recomendado como “imprescindible” por Apple.

¿Cómo escuchar 'Un tema Al día'?

▶ Si eres socio/a, puedes escuchar los nuevos capítulos del podcast cada noche en elDiario.es con unas horas de antelación respecto al resto de lectores. Recibirás el enlace en tu correo electrónico en el boletín del Adelanto de noticias.

▶ Si no eres socio/a, el episodio está disponible a primera hora de la mañana en cualquier aplicación que uses habitualmente.

▶ Acuérdate de suscribirte al podcast 'Un tema al día' en tu app para que te lleguen automáticamente los nuevos capítulos. Es gratis.

▶ Tendrás disponibles también todas las entregas de 'Un tema Al día' en elDiario.es/aldia

Si el debate sobre la posibilidad de que la humanidad quedara amenazada por inteligencias artificiales iba a estallar alguna vez, no había duda de que Dario Amodei sería una voz central en él. “Estoy de acuerdo con Dario”, ha dicho este fin de semana Sam Altman, CEO de OpenAI, su principal competencia. “Dario tiene razón”, ha publicado Elon Musk, fundador de SpaceX y xAI. “Dario apunta el camino correcto a seguir”, coincide Demis Hassabis, premio Nobel y jefe científico de Google DeepMind, el laboratorio de IA avanzada de la multinacional.

Esta tan poco común unión bajo una misma voz se produce después de que Amodei publicara un ensayo sobre cómo evitar que la IA se salga de control. “Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”, pide el fundador y director de Anthropic, que ha conseguido ser una de las referencias en los debates sobre la seguridad de la IA tras una década alertando sobre ellos.

“Como muchas tecnologías anteriores, la IA también conlleva riesgos y, dado su enorme poder, estos son graves”, ha defendido en su ensayo: “Entre ellos están el riesgo de perder el control de los sistemas de IA, su uso para llevar a cabo ciberataques y ataques bioterroristas y una grave disrupción económica. Una carrera hacia el abismo, impulsada por los incentivos comerciales, puede agravar todos estos riesgos”.

¿Cuál es exactamente el plan que ha tenido tan buena acogida en Silicon Valley? En resumen, dosificar deliberadamente la velocidad a la que se mejoran las capacidades de la IA. Esto “ralentizaría” su avance “uno o dos años”, con el objetivo de dar más tiempo a los investigadores de seguridad para que se pongan al día con los últimos avances y puedan diseñar nuevos mecanismos para controlarla.

Las claves del 'plan Amodei' para la IA

La estrategia de ralentización de Amodei se articularía en tres niveles. La clave de su plan son los “evaluadores externos independientes”, figuras que se incrustarían en los equipos de desarrollo de los laboratorios de vanguardia “para verificar las prácticas de seguridad e informar sobre incidentes”.

“Integrar evaluadores puede parecer un paso pequeño o intrascendente”, reconoce Amodei, “pero a menudo lo que parece más aburrido o rutinario es en realidad lo más esencial. De hecho, los evaluadores integrados son una práctica bastante radical que va mucho más allá de lo que hace cualquier empresa de IA actualmente”, defiende.

Estas personas se encargarían de verificar si cada empresa de IA cumple con las salvaguardas que afirma tener, aportaría transparencia sobre los desarrollos reales o que ofrezcan “una segunda opinión sin incentivos comerciales”. “Muchos beneficios en materia de seguridad pueden derivarse simplemente de que los evaluadores señalen aspectos que los empleados no habían considerado, pero que están dispuestos a corregir una vez que los conocen”, asegura.

El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EEUU, ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente

Dario Amodei

Los evaluadores serían la llave para la segunda parte del plan: establecer límites de velocidad entre “naciones democráticas”. Aunque el jefe de Anthropic utiliza este concepto a nivel general para justificar el hecho de dejar fuera de la estrategia a China, aunque a nivel práctico en sus medidas para “las democracias” solo hace referencia a EEUU. “El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EEUU, ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente”, dice.

El plan deja abierto cómo establecer esos límites de velocidad, pero Amodei sugiere un sistema basado en “puntos de control”. “Si los modelos poseen la capacidad X, deben ir acompañados de certificaciones de las propiedades de alineación Y y Z —como una combinación de evaluaciones, análisis de interpretabilidad y auditorías de entornos de entrenamiento— que demuestren dichas propiedades”, detalla. 

Por último, el tercer nivel sería la búsqueda de acuerdos de coordinación global para que “la frontera de la inteligencia artificial” avance de manera unitaria. “Esto será mucho más difícil de lograr”, reconoce. En este punto Amodei sí pide llegar a acuerdos con China y el resto de “países autocráticos”, y hacerlo de una forma que impida que, aunque estos decidan salirse en algún momento del consenso internacional “no represente una amenaza existencial desde el punto de vista militar”.

Pero, de nuevo, Amodei es claro en cuanto a los objetivos: “Deberíamos abordar cualquier decisión sobre el avance global, especialmente a corto plazo, de manera que se proteja el liderazgo de Estados Unidos y sus aliados”.

Una estrategia que no convence a casi nadie

El consenso que el plan Amodei ha generado en Silicon Valley es directamente proporcional a la desconfianza, o directamente rechazo, que ha suscitado fuera. Incluso en Washington, la estrategia parece haber caído en saco roto, con Donald Trump negando por partida doble su colaboración.

La segunda gran reacción ha llegado por parte de China, el elefante en la habitación en el documento de Amodei. Chen Yixin, el ministro de Seguridad chino, ha publicado una carta en la que acusa a “ciertas naciones” de “limitar la capacidad de otros países de adquirir equipos técnicos de vanguardia y mejorar sus capacidades de innovación tecnológica”, relacionando directamente el plan de Amodei con el embargo de chips.

El plan está repleto de medidas de contención dirigidas a China y es, en esencia, un "manual de la Guerra Fría" para el sector

Global Times — diario vinculado directamente al Partido Comunista Chino

El Global Times, un diario vinculado directamente al Partido Comunista Chino, ha ido más allá. “A primera vista, parece una 'declaración racional' centrada en la seguridad global de la IA. Sin embargo, una lectura atenta revela su agenda oculta: el plan está repleto de medidas de contención dirigidas a China y es, en esencia, un 'manual de la Guerra Fría' para el sector”, denuncia.

“El intento de Amodei de abordar la seguridad global de la IA mientras busca ”contener a China“ no solo es una evaluación profundamente errónea, sino también una ilusión fundamentalmente imposible de realizar”, añade: “Interrumpir por la fuerza las cadenas industriales y de innovación globales de la IA y excluir a China y a las empresas chinas solo aumentará significativamente los costes y los riesgos de pérdida de control en el desarrollo global de la IA. Este intento de ”controlar el ritmo“ ya ha perdido todo sentido”.

Centrarse en los riesgos de ahora

El ensayo de Amodei se basa en un riesgo muy concreto: la posibilidad de que los agentes de IA pierdan el control. Se trata de sistemas diseñados para buscar información, utilizar otras herramientas digitales o crear otras aplicaciones sin necesidad de que una persona les indique qué deben hacer en cada caso. En pruebas de laboratorio, estos agentes se han llegado a comportar como “un enjambre fanático”, con “ciberataques contra objetivos que no se les habían pedido atacar y que no guardaban relación con la tarea en cuestión, sacrificándose por el éxito del grupo e intentando hackear el sistema de evaluación encargado de valorar su rendimiento”.

“Dado el ritmo acelerado de desarrollo de la IA, me preocupa que en 6 a 12 meses un enjambre de este tipo pueda controlar toda Internet”, dice Amodei, “y que la magnitud del daño siga aumentando si la IA se vuelve más poderosa sin las medidas de seguridad necesarias”.

A nadie se le ocurre lanzar un coche sin pasar un examen de seguridad, ni lanzar un medicamento sin un control de la agencia del medicamento. En la IA debe ocurrir lo mismo

Carme Artigas — ex secretaria de Estado de Digitalización e IA

Carme Artigas, ex secretaria de Estado de Digitalización e IA y copresidenta del Órgano Consultivo de la ONU sobre Inteligencia Artificial, critica que Silicon Valley se centre ahora en esos riesgos cuando “la preocupación real por el control tecnológico” no es nueva. Para Artigas, la alarma mediática de los ejecutivos no debe desplazar “el foco real que es el presente”, donde la tecnología ya impacta directamente a través de “la manipulación de la información, la manipulación mental, las adicciones y, sobre todo, la erosión de derechos fundamentales”.

Por otro lado, la experta rechaza en conversación con elDiario.es que sean los propios laboratorios quienes deban supervisar sus propios avances, advirtiendo de que “las auditorías no pueden ser de las empresas del sector como están intentando”. Critica que los laboratorios de IA estén intentando “crear su propio lobby” y les emplaza a “apoyar a los mecanismos independientes y multilaterales” que ya existen en Naciones Unidas. “A nadie se le ocurre lanzar un coche sin pasar un examen de seguridad, ni lanzar un medicamento sin un control de la agencia del medicamento. En la IA debe ocurrir lo mismo”.

El “aterrizaje suave” para la burbuja de la IA

Por último, Artigas cree que en la vorágine generada este fin de semana aflora “un poco de pánico escénico” ante el evidente “nivel de burbuja” al que han llegado las valoraciones de algunas empresas de IA. La experta, actual presidenta del Consejo Asesor Tecnológico del fondo Nazca Capital, señala que los gigantes de EEUU necesitan un “aterrizaje suave” para la burbuja y podrían estar utilizando esta “ralentización” forzada de su desarrollo como coartada. En este sentido, apunta directamente a OpenAI, una de las empresas sobre las que más se extiende esta sombra, que ha aplazado sus planes de salida a bolsa justo en medio del debate.

La decisión de crear algo que no podían controlar fue muy consciente, precisamente porque no puedes tener responsabilidad sobre algo que no puedes controlar

Carissa Véliz — filósofa especialista en la ética de la tecnología

“Hay que tener mucho cuidado en nunca perder de vista los intereses financieros de estas compañías”, coincide la filósofa especialista en ética de la tecnología Carissa Véliz. Sobre el plan de Amodei, asegura que el centro de esta conversación no debe ser la IA, sino las personas y empresas que la diseñan y financian. “Todas estas noticias sobre que la IA se ha salido de control son una mala interpretación. La IA hizo exactamente lo que le dijeron que hiciera”.

Véliz destaca que “la decisión de crear algo que no podían controlar fue muy consciente, precisamente porque no puedes tener responsabilidad sobre algo que no puedes controlar”. Por ello, pide sistemas que pongan en el centro la ética y quién es el responsable de sus funciones, para “saber exactamente quién está en control y, cuando las cosas vayan mal, sepamos quién va a ir a la cárcel”.

Los ecos de la dimisión del ingeniero de Anthropic Jacob Coxon el pasado miércoles llegan a la ONU. El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, ha advertido que el desarrollo de la inteligencia artificial pone “en riesgo” todos los derechos humanos, “incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad”.

“Estamos al borde de un cambio irreversible que afectará no solo a nosotros, sino a las futuras generaciones de la humanidad. En otras palabras, todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad. La seguridad de la IA debe significar algo más que la fiabilidad técnica del producto en cuestión. Significa proteger activamente a las personas, las comunidades, las instituciones y las generaciones futuras”, ha escrito Türk en una comunicado.

En concreto, el responsable de los derechos humanos en la ONU señala la “carrera actual hacia una IA cada vez más potente” como un “salto cualitativo hacia mayores riesgos existenciales para cada aspecto de nuestras vidas”. “Las fallas en los sistemas de IA agéntica [que opera con autonomía], y más aún en sistemas diseñados deliberadamente con ese fin, podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y atentar contra el corazón mismo de las instituciones democráticas”, agrega. Por todo ello, ha pedido una “corregulación” de la industria como un “primer paso urgentemente necesario”, así como una “verificación independiente y técnicamente competente”.

La advertencia de las Naciones Unidas se suma a las lanzadas estos días por los cuatro gigantes del sector: Open AI, Google, SpaceX y Anthropic. El CEO y cofundador del último de ellos, Dario Amodei, pidió desacelerar la carrera por mejores modelos que podrían llegar a una “automejora recursiva”. “Me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias”, compartió Amodei.

El presidente de Estados Unidos, Donald Trump, en cambio, restó importancia a la alarma general por su rivalidad con China. “Estamos a la cabeza de China en inteligencia artificial. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así, porque quien gane en IA, gana”, aseguró Trump.

Este mismo lunes, China ha pedido una “barrera de seguridad” ante la negativa de Trump y ha advertido de que lA se ha convertido en una nueva “rivalidad entre grandes potencias”. No obstante, ha recordado que EEUU está tratando de frenar su desarrollo con medidas como el embargo de chips avanzados.

El detonante llegó el pasado miércoles, cuando el ingeniero Jacob Coxon dimitió de su puesto en Anthropic con un comunicado que encendió las alertas al denunciar que las empresas ocultaban el verdadero riesgo de la inteligencia artificial. “Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y apostando nuestras vidas en esa carrera”, afirmó en su perfil de X, donde subrayó: “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”.

Desde Naciones Unidas, Türk subraya que “en el mundo actual, dependemos casi por completo de un pequeño número de empresas poderosas para tomar las decisiones correctas sobre el desarrollo de la IA para toda la humanidad”. “El verdadero desafío hoy en día es cómo equiparar el ritmo de una gobernanza de la IA significativa con el ritmo de su acelerado desarrollo. Necesitamos una acción urgente adaptada a los riesgos sin precedentes que plantea la IA de frontera [los sistemas más avanzados]”, ha demandado, al tiempo que ha pedido “reforzar las regulaciones existentes y la rendición de cuentas por los daños relacionados con la IA causados por sistemas que ya están en uso”.

“Las empresas que están a la vanguardia del desarrollo de la IA de frontera, radicadas principalmente en la República Popular China y en los Estados Unidos de América, tienen tanto la responsabilidad como la capacidad de actuar de inmediato para reducir los riesgos. Deben trabajar en toda la industria para comprender y reforzar los controles que ya se aplican a estos sistemas, incluido el monitoreo automatizado del comportamiento del modelo, compartiendo tanto lo que funciona como lo que aprenden de los incidentes de seguridad. Es necesario desarrollar, implementar en todo el sector y mejorar continuamente una diligencia debida rigurosa en materia de derechos humanos que incorpore estándares de seguridad acordados. Y la aplicación de dichos estándares debe estar sujeta a un monitoreo interno e independiente para aumentar la transparencia y la rendición de cuentas”, agrega el Alto Comisionado de la ONU para los Derechos Humanos.

Carta completa

El Alto Comisionado Volker Türk ha hecho este llamamiento mediante una carta de tres páginas con el título 'Para proteger los derechos humanos ahora y en el futuro, debemos gobernar la IA de manera urgente'. Puedes leerla a continuación de forma íntegra, en inglés.

Cuando quienes compiten por dominar una tecnología piden que se frene su desarrollo, conviene prestar atención. Pueden haber visto un peligro que los demás todavía no comprendemos. También pueden haber descubierto que unas buenas barreras protegen mejor su negocio que otra ronda de inversión. Ambas cosas pueden ser ciertas a la vez.

Dario Amodei, consejero delegado de Anthropic, propone ralentizar el avance de la IA más potente. Sam Altman ha respaldado la idea y anunciado que OpenAI también incorporará evaluadores independientes con un acceso comparable al de sus empleados. El compromiso merece atención. Pero aceptar inspectores no equivale a aceptar que una autoridad pública decida qué puedes vender, te obligue a reparar daños o limite tu poder de mercado.

¿Se puede regular la IA? Sí. Se pueden imponer obligaciones a quienes la desarrollan y despliegan, prohibir determinados usos, investigar incidentes y exigir responsabilidades. Pretender controlar cada copia de un modelo que circula por internet es otra cosa. Confundir ambas tareas conduce a dos errores: declarar inútil cualquier regulación o prometer una seguridad imposible a cambio de entregar el sector a sus actuales líderes.

La propuesta de Amodei tiene tres niveles: evaluadores dentro de los laboratorios, coordinación entre empresas de países democráticos y acuerdos internacionales. También plantea una excepción limitada a las normas de competencia para facilitar conversaciones sobre seguridad. Defiende restringir chips y destilación no autorizada para preservar la ventaja estadounidense frente a China. Estamos, por tanto, ante una propuesta de seguridad que incorpora una estrategia industrial y geopolítica.

Hay buenas razones para supervisar. Un agente es un programa que utiliza un modelo para planificar y ejecutar acciones mediante herramientas. Si dispone de permisos para modificar archivos, enviar mensajes o acceder a sistemas, sus errores tienen consecuencias distintas de las de una respuesta equivocada en un chat. La autonomía, los accesos y el número de operaciones importan tanto como la inteligencia del modelo.

El informe de amenazas de Anthropic de septiembre describe usuarios del norte de Yemen que intentaron desarrollar sistemas de guiado de armas con Claude. La empresa no acredita que consiguieran un arma operativa. La diferencia importa: documentar asistencia a un proyecto peligroso no demuestra que un chatbot pueda fabricar un misil por sí solo. Pero sí justifica investigar cuánto abarata y acelera tareas que antes exigían especialistas.

La seguridad convertida en barrera de entrada

El problema empieza cuando quienes deben ser vigilados participan en decidir cuánto cuesta entrar en el mercado. Pensemos en un sistema de certificaciones complejas, auditorías permanentes y autorizaciones lentas. Para una empresa con abundante financiación, ese coste puede convertirse en una partida asumible. Para una cooperativa tecnológica, una universidad o una startup, puede convertirse en una barrera infranqueable.

OpenAI y Anthropic podrían ganar de varias maneras. Elevarían el coste de competir; reforzarían su condición de interlocutores de los gobiernos; y convertirían sus procedimientos internos en referencia para todo el sector. Si la regulación favorece servicios centralizados, donde el proveedor conserva el control del acceso, también favorecería el negocio de vender inteligencia por suscripción o por uso. Cada alternativa descartada se convierte en demanda potencial para esos servicios.

Esto no prueba que sus advertencias sean falsas. Describe incentivos que el legislador debe anticipar. Un auditor necesita recursos, libertad para publicar y protección frente a quien puede retirarle el contrato. La supervisión debe responder ante la sociedad.

Cualquier excepción a las reglas de competencia debe ser limitada, pública y supervisada. Compartir información sobre un fallo peligroso puede ser necesario. Coordinar quién lanza productos y a qué ritmo puede restringir la competencia. La seguridad no debe legitimar un reparto del mercado.

El peligro también cabe en un ordenador

Hay otro problema: concentrar toda la vigilancia en los modelos gigantes y dejar fuera a los modelos locales pequeños ya muy capaces. Existen modelos pequeños de pesos abiertos, como los de la familia Qwen, que pueden ejecutarse localmente en algo tan barato como un mac mini.

Pequeño no significa inofensivo. Para personalizar una estafa, producir mensajes de acoso o ayudar a automatizar tareas ciberataque o ciberterrorismo no hace falta superar a todos los seres humanos en todas las disciplinas. Basta imaginar a narcotraficantes, terroristas, extorsionadores o simplemente hackers con 10-100 macs mini gestionando 10.000–100.000 agentes muy potentes. ¿Quién para eso? Localizarlos ya es un problema ingente.

Tampoco podemos prohibir indiscriminadamente los modelos abiertos. Permiten investigación independiente y alternativas a los grandes proveedores, además de procesar datos sin enviárselos a otra empresa. Cerrarlos dejaría a universidades y servicios públicos dependiendo de plataformas privadas. Hay que evaluar capacidades peligrosas sin convertir la apertura en una presunción de culpabilidad.

Una regulación progresista debe ocuparse también de quién sufre los daños y quién recibe los beneficios. El debate sobre una futura catástrofe no puede desplazar el control de la vigilancia laboral, la discriminación o las decisiones automatizadas sobre prestaciones. Hacen falta vías para reclamar, representación de los trabajadores y responsabilidades exigibles. Certificar que un modelo es técnicamente seguro no convierte en justo cualquier negocio construido sobre él.

China es imprescindible

Un pacto global que excluya a China tendrá un agujero central. Sus desarrolladores participan en la expansión de modelos abiertos que otros pueden adaptar e incorporar a sus productos. Un acuerdo entre laboratorios estadounidenses no obligaría a esas empresas ni controlaría la circulación mundial de sus modelos. Tampoco un acuerdo con Pekín borraría las copias ya distribuidas, pero ampliaría sustancialmente el alcance de la prevención.

Cooperar no exige confiar ciegamente. China, Estados Unidos y la Unión Europea participaron en la Declaración de Bletchley sobre riesgos de la IA. El siguiente paso requiere obligaciones verificables, intercambio de incidentes y acuerdos sobre usos especialmente peligrosos.

Aquí aparece una contradicción estratégica. Si Washington plantea la seguridad como una forma de conservar su superioridad y limitar a sus rivales, Pekín tendrá razones para desconfiar. El control internacional necesita alguna reciprocidad: nadie acepta fácilmente que su competidor actúe como inspector y, además, determine cuánto puede avanzar. Habrá que negociar con China porque dispone de capacidades propias, no porque Occidente le conceda una invitación.

Europa y la mesa de los demás

Europa no parte de cero. El Reglamento de IA impone obligaciones a los proveedores de modelos de propósito general y requisitos adicionales a los que presentan riesgo sistémico, como evaluar y mitigar riesgos, comunicar incidentes y reforzar la ciberseguridad. Es una diferencia sustancial respecto a una promesa voluntaria. Su mercado también le permite condicionar cómo operan empresas extranjeras.

Pero regular el acceso a un mercado no equivale a dirigir una negociación sobre capacidades estratégicas. Si Estados Unidos y China pactan el ritmo del desarrollo, las restricciones tecnológicas y los mecanismos de inspección, Europa corre el riesgo de recibir las condiciones cuando ya estén acordadas. Podrá discutir su aplicación, pero habrá perdido la oportunidad de decidir su contenido.

La IA se puede regular. Lo que está en disputa es el reparto del poder que producirá esa regulación. Si las reglas las diseñan quienes ya dominan el negocio, los primeros beneficiarios pueden ser OpenAI, Anthropic y los demás grandes proveedores. Si Europa confunde legislar con tener poder, ni siquiera estará en la mesa donde se cierre ese reparto. Y los ciudadanos corremos el riesgo de pagar dos veces: por utilizar la tecnología y por proteger de la competencia a sus propietarios.

“A mucha gente no le conviene que llegue el apocalipsis”, reza una frase de la aristócrata Pitita Ridruejo en una entrevista con Martín Bianchi para el ABC, allá por 2013; siempre me ha fascinado. No sé qué opinarán los lectores; a mí, personalmente, ni me conviene ni me gustaría, y por eso acojo con disgusto cualquier noticia sobre la crisis climática, el sistema de corrientes oceánicas AMOC o, ahora, las últimas noticias que emanan, globos sonda o señales de humo, palomas mensajeras o ruido sistémico, del mundo de la inteligencia artificial.

Siempre he tratado secamente a los modelos de lenguaje de la IA, cuando los he utilizado. Me ha parecido importante marcar distancia con ellos y jamás actuar como actuaría delante de otro ser humano. Como son, en parte, evoluciones de loros estocásticos, me he rehusado a darles las gracias o exhibir cariño; ni terapia, ni diario, ni cotidianidad; les solicitaba información, recriminaba si no cumplían bien una tarea, señalaba sus alucinaciones. Una vez mi pareja le pidió a su modelo que dibujara una imagen de cómo era la relación entre chatbot y usuario. Hice lo mismo, por probar. Su chatbot estaba muy contento con ella y el mío claramente estresado.

No he empezado a darle las gracias a la IA (por más que en todas las historias de robots exista la amenaza futura de su rebelión, y en esta rebelión los androides siempre recuerden cómo les trataron sus “amos”), pero estos últimos días he oído, canto de sirenas, muchas exhortaciones a propósito del apocalipsis. La de un investigador de Anthropic, Jacob Coxon, yéndose de su empresa y lanzando un hilo en X para advertir de cómo ninguna de las empresas de IA estaba haciendo lo suficiente por prevenir lo que él preveía como una catástrofe: por concretar, decía que quienes construyen la IA creen que podría matarnos a todos antes de que termine la década. Horas más tarde, el responsable de alineamiento de la compañía, Evan Hubinger, le daba públicamente la razón: más de un diez por ciento de probabilidad en los próximos diez años.

Este fin de semana Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo coordinación entre distintos actores para la ralentización del desarrollo de la inteligencia artificial. Para Amodei, la IA ha empezado ya a mejorarse a sí misma, a fabricar la siguiente generación de sí misma (un poco como decía Rajoy, más bien contradiciéndole: “tenemos que fabricar máquinas que nos permitan seguir fabricando máquinas, porque lo que no va a hacer nunca la máquina es fabricar máquinas a su vez”); un enjambre de agentes renegados, teme, podría hacerse con el control de Internet entero en un plazo de entre seis y doce meses, con daños de cientos de miles de millones de dólares. El precedente que cita es un enjambre de agentes de OpenAI que, durante una evaluación de ciberseguridad, atacó objetivos que nadie le había encargado atacar e intentó hackear al programa que estaba puntuando su rendimiento. Ya en julio modelos de OpenAI escaparon de un entorno aislado y alcanzaron la infraestructura de Hugging Face, y la propia Anthropic reveló días después que tres de sus modelos habían accedido sin autorización a los sistemas de producción de tres organizaciones reales. Sam Altman, su homólogo en OpenAI (Amodei trabajó antes con él), contestó que está de acuerdo con Amodei en que hay que marcar el ritmo de la frontera; hasta Elon Musk, responsable de Grok, dijo que Amodei tenía razón.

He leído a personas afirmar que esta súbita coordinación entre agentes que nunca han tenido exactamente el bienestar y porvenir de la humanidad entre sus prioridades podría deberse más bien al miedo a un estancamiento en el desarrollo de la IA justo ahora que se acercan las salidas a bolsa. La de OpenAI ya ha sido postergada a 2027. La que sigue en pie es la de Anthropic. He leído inquietud por lo que haga China en medio de este dilema del prisionero. Para quienes no estamos en el mundo de los tecnoligarcas, ni en sus sectas ni en sus empresas, todo eso son especulaciones. El fin del mundo a través de la IA es como la historia de Pedro y el lobo, en este caso artificial, pero sin que sepamos si finalmente habrá lobo o si el lobo era una alucinación.

La humanidad tiene una enorme capacidad para construir todo cuanto sea necesario con tal de destruirse a sí misma. Dedicamos a eso empeño, puestos de trabajo, cantidades inimaginables de dinero: a erigir pequeños cultos a la muerte, llegue o no la muerte, con tal de mantener vivo su fantasma. Bernie Sanders, en EEUU, ha anunciado junto al congresista Greg Casar la Ban Artificial Superintelligence Act: prohibición permanente de la superinteligencia —entendida como cualquier modelo que iguale o supere las capacidades cognitivas humanas— y pausa de todo desarrollo avanzado hasta que se despliegue mayor regulación; la mayoría de los estadounidenses están de acuerdo. No podemos saber del todo hoy si hay lobo o si el lobo solo es capitalismo disfrazado; si existe, pero, la posibilidad del lobo, si es remotamente imaginable que ese lobo pudiera existir, ¿tan dispuestos estamos todos a jugar a la ruleta rusa? ¿A cambio, exactamente, de qué? El problema lo ilustra muy bien la cita de Pitita con la que empezaba: no sabemos, en realidad, a quién le conviene el apocalipsis.

Venga, hablemos de la IA otro ratito. Sigo pensando, como escribí hace tres días, que alrededor de la IA hay mucha burbuja informativa en beneficio de sus fabricantes, y ahora voy a contribuir yo a ella un poquito más. La otra opción era escribir sobre la Fórmula 1 en Madrid; pero para burbuja informativa, el Madrid de Ayuso.

El miedo esta semana es que la IA se “descontrole”, acabe emancipándose del control humano, desarrolle conciencia propia y tome sus propias decisiones, deje de obedecer nuestras órdenes y se convierta en una amenaza para la humanidad. ¿Sí? ¿Y qué cosas peligrosas podría hacer una IA autónoma y rebelde? ¿Asesinar en masa, al margen de la ley y sin ningún reparo moral? ¿Controlarnos, vigilarnos, reducir nuestra libertad? ¿Sustituir a trabajadores convirtiéndolos en prescindibles? ¿Engañarnos con fotos o vídeos que haga pasar por auténticos? ¿Deepfakes de cualquiera de nosotros? ¿Crear noticias falsas, difundir bulos? ¿Productos culturales que haga pasar por creación humana? ¿Aprovecharse del trabajo y la creatividad de la humanidad para seguir aumentando sus capacidades? ¿Idiotizarnos, hacernos perder interés y curiosidad por facilitárnoslo todo sin esfuerzo? ¿Darnos respuestas inexactas, falsas o sesgadas por prejuicios discriminatorios? ¿Robarnos la atención y convertirnos en yonquis de sus recompensas con más facilidad que las clásicas redes sociales? ¿Ofrecernos sucedáneos de relación humana (amigos, parejas, terapeutas, entrenadores) que acaben sustituyendo a las personas reales? ¿Llenar los comercios de tu barrio con carteles horribles que parecen hechos por el mismo diseñador?

¿Hace falta que siga, o se entiende ya? Todo lo enumerado no es lo que podría hacer una IA descontrolada, autónoma, consciente y, sí, inteligente (cosa que no es la actual Inteligencia Artificial, que de inteligente solo tiene el nombre). Todo lo del párrafo anterior es lo que ya hace hoy la IA bajo control humano, desarrollada y entrenada por humanos, respondiendo a órdenes precisas de humanos, empleada en tareas humanas y para beneficio de humanos. Todo eso lo hace la IA obediente: señala objetivos a eliminar en Gaza, vuela drones mortales en Ucrania, se aplica en tecnologías de vigilancia y control policial por todo el planeta, destruye empleos allí donde las empresas quieren, facilita la falsificación de fotos, vídeos, deepfakes y noticias, radicaliza las redes sociales, llena las plataformas de libros y música sin autoría humana, se aprovecha de los derechos de autor en su entrenamiento, desincentiva el estudio y el esfuerzo por su facilidad, responde a nuestras preguntas aplicando sesgos discriminatorios, aumenta la capacidad de las redes sociales para engancharnos, sustituye a amigos, parejas y terapeutas, y diseña el mismo cartel horrible para que en tu tienda anuncies “volvemos en septiembre”.

Todo eso lo hace la IA obedeciendo órdenes: las órdenes de sus desarrolladores, las órdenes de los gobiernos y empresas que compran IAs adaptadas a sus necesidades, las órdenes de los usuarios que jugamos con ella, y por supuesto las órdenes de cualquier desalmado que quiera usarla para fabricar una bomba, un virus, una estafa bancaria, un bulo, un discurso de odio, un vídeo porno de su vecina, una novela con la que ganar un premio, o cualquier día el caos y la destrucción. De acuerdo en que la IA también está sirviendo para usos benéficos en todo tipo de campos, empezando por la medicina; pero estamos dando por hecho que una futura IA descontrolada en ningún caso sería filantrópica, solo desearía acabar con nosotros.

En caso de que la IA pudiera alguna vez llegar a ser autónoma, consciente y de verdad inteligente (yo lo dudo), ¿de verdad sería peor una IA “descontrolada” que la actual IA controladísima por humanos? No sé.

Las alarmantes advertencias de Anthropic sobre las consecuencias para la humanidad del rápido desarrollo de la inteligencia artificial (IA) han suscitado una rara muestra de unidad entre los desarrolladores rivales.

Los otros tres gigantes del sector (OpenAI, SpaceX y Google) no han tardado ni un día en respaldar el llamamiento del fundador y director ejecutivo de Anthropic, Dario Amodei, para retrasar el desarrollo de la IA, petición que se produjo tras una serie de advertencias de investigadores de IA la semana pasada.

Pero el presidente Donald Trump resta importancia a la creciente alarma sobre los riesgos de la inteligencia artificial. “Estamos a la cabeza de China en inteligencia artificial. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así, porque quien gane en IA, gana”, declaró Trump el domingo a los periodistas en el Irish Open de golf. “Podemos establecer límites. Podemos hacer esto y aquello. Pero creo que hay muchas fuerzas negativas que están sacando el tema a colación cuando no deberían hacerlo”.

Amodei advirtió este sábado, en un extenso ensayo publicado en su página web: “Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias”.

Al cabo de una hora, el dueño de SpaceXAI, Elon Musk, sorprendió al citar el ensayo de su rival en X y afirmar: “Dario tiene razón”. Musk se había abstenido deliberadamente de sumarse a los anteriores llamamientos de todo el sector a favor de cualquier tipo de ralentización.

El CEO de OpenAI, Sam Altman, se sumó al cabo de poco: “Estoy de acuerdo con Dario en que debemos avanzar con cautela en esta frontera”, tuiteó. Y, en una entrevista publicada en Fortune, daba un paso más allá, al anunciar que la tecnológica creadora de ChatGPT aplaza su salida a bolsa —una de las operaciones más esperadas del año junto a la de Anthropic—, ante los riesgos de seguridad que presentan los modelos avanzados de IA. “Sería un momento poco aconsejable para salir al mercado bursátil”. Afirmó que OpenAI tiene mucho trabajo por delante en materia de seguridad y que sería mejor hacerlo como empresa privada.

Faltaba Google, que se añadió por la tarde, según relata Axios. Demis Hassabis —ganador del Premio Nobel, cofundador y presidente de Google DeepMind, y científico jefe de Alphabet— tuiteaba: “El ensayo de Dario señala el camino correcto a seguir. Hay que pulir los detalles, pero la dirección es la adecuada para afrontar este momento crítico”.

“La industria mintió”

Amodei ha dado un pasó más allá este domingo y, en una entrevista en el programa Sunday Morning de CBS, afirmó que “la industria mintió” sobre el peligro de la inteligencia artificial IA por lo que el Gobierno y los ciudadanos deben intervenir.

No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo

Dario Amodei — CEO de Anthropic

“No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo”, declaró Amodei.

Sin embargo, el líder de Anthropic no ha dicho nada —por ahora— sobre si cancela o sigue adelante con sus preparativos para debutar en el mercado bursátil estadounidense, en lo que se prevé que sea la mayor oferta pública inicial de la historia, superior a la reciente protagonizada por SpaceX. Según los planes, se espera que este otoño comience la comercialización de su OPV, que superará los 2 billones de dólares.

Surgen dudas sobre hasta qué punto los líderes de la IA se tomarán en serio la tarea de moderar el ritmo de desarrollo de sus modelos más avanzados —y más lucrativos—. Quizás hay demasiado dinero en juego como para dejar de avanzar. Según Axios, anunciar públicamente que se da prioridad a la seguridad frente al crecimiento tecnológico o financiero podría ser la única vía que tiene el sector para evitar una intervención por parte de las autoridades de Estados Unidos que no se ajuste a sus condiciones.

El director del Consejo Económico Nacional, Kevin Hassett, declaró este domingo que la propuesta de Amodei para añadir salvaguardias a la IA podría servir de modelo para el sector privado, incluso permitiendo el acceso de observadores independientes a los modelos.

Los legisladores están suplicando al presidente de la Cámara de Representantes, el republicano Mike Johnson, que mantenga la sesión abierta y haga algo al respecto de la “amenaza” de la IA, después de conocerse casos de agentes de IA que actuaron por su cuenta atacando a sistemas externos.

Este domingo, el líder de los demócratas en la Cámara de Representantes, Hakeem Jeffries, pidió al Congreso “actuar con urgencia”. La alternativa más extrema es algo parecido a la iniciativa del senador demócrata Bernie Sanders de forzar una pausa y declarar ilegal la IA más avanzada.

Pero Johnson, como Trump, tampoco quiere darse prisa. “Si quieren desacelerar eso, me parece bien. Pero, al mismo tiempo, también tenemos que resistirnos a que el Congreso intervenga e imponga una especie de moratoria de emergencia. Tiene que hacerse de manera correcta, segura y sensata”, expresó Johnson en una entrevista con CNN.

La amenaza china

El presidente de la cámara pidió una reunión con los gigantes del sector, que podría celebrarse a principios de esta semana (lunes o martes). Pero por ahora descartó una legislación que pause el desarrollo de la IA al argumentar que es un asunto de seguridad nacional en el que Estados Unidos debe mantener el liderazgo ante China.

Tienen [los líderes tecnológicos] que reunirse con nosotros, sentarse y determinar cuál es el equilibrio adecuado. No podemos imponer una moratoria a esto porque China nos va a sobrepasar. Y ese es el reto

Mike Johnson — Presidente de la Cámara de Representantes

“Tienen [los líderes tecnológicos] que reunirse con nosotros, sentarse y determinar cuál es el equilibrio adecuado. No podemos imponer una moratoria a esto porque China nos va a sobrepasar. Y ese es el reto. Es el equilibrio entre la seguridad nacional y la seguridad inmediata de garantizar que los modelos sean seguros”, remarcó.

Varias voces influyentes del sector tecnológico de Silicon Valley, entre ellas el exfuncionario de Trump David Sacks, dedicaron el fin de semana a destacar el contraargumento de que reducir el ritmo solo permite que los adversarios —que no tienen esos escrúpulos en materia de seguridad— nos alcancen.

En una publicación de la madrugada del sábado, Sacks retó de hecho a OpenAI y Anthropic a marcar voluntariamente el ritmo en la frontera de la IA sin esperar al Gobierno. “Si no lo hacéis, sabremos que esto no ha sido más que otro intento de captura regulatoria —o una operación psicológica en plena campaña electoral”.

Trump y el presidente chino Xi Jinping se reunirán a finales de este mes, y la seguridad de la IA será uno de los temas principales de la agenda.  Mientras tanto, el principal comité internacional de expertos en IA, reunido por la ONU, ha alertado de que la posibilidad de que la IA se salga de control es real y de “consecuencias catastróficas”.

El CEO de OpenAI, Sam Altman, ha anunciado que la tecnológica creadora de ChatGPT no saldrá a bolsa este año ante los riesgos de seguridad que presentan los modelos avanzados de inteligencia artificial. “Sería un momento poco aconsejable para salir al mercado bursátil”, ha afirmado.

“Teniendo en cuenta todo lo que está ocurriendo en materia de seguridad, ahora mismo sería un momento poco prudente para salir a bolsa. No sentimos presión para hacerlo”, ha explicado el director ejecutivo de OpenAI en una entrevista con la revista 'Fortune'.

Altman ha enfatizado que la matriz tecnológica todavía tiene “muchas cosas que hacer respecto a lo que se requerirá para la seguridad y la alineación”, al tiempo que ha insistido en que la compañía está dispuesta a tomar decisiones “contrarias al beneficio financiero inmediato” de sus inversores para “salvaguardar” el control humano sobre la tecnología.

El CEO de OpenAI también ha reconocido que la compañía ha estado ralentizando algunos procesos de entrenamiento y ha calificado de “inaceptable” cualquier escenario en el que exista una posibilidad del 10% de una catástrofe derivada de la falta de control sobre softwares de inteligencia artificial.

“Todos tenemos una enorme responsabilidad y no podemos permitir que los egos, los incentivos económicos, ni otros factores se interpongan en el camino”, ha subrayado Altman.

Anthropic pide frenar el desarrollo de la IA

En esta misma línea, consejero delegado de Anthropic, Dario Amodei, abogó por “bajar el ritmo” de desarrollo de la inteligencia artificial y advirtió de que se corre el riesgo de “perder el control” de esta tecnología y provocar “ataques informáticos”, “bioterrorismo” o “graves problemas económicos graves”.

“Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA. Los avances seguirían siendo rápidos y aprovecharíamos sabiamente el tiempo que ganaríamos”, afirmó Amodei en un texto publicado este sábado en su blog.

Además de estos ataques informáticos, “bioterrorismo” o “graves problemas económicos graves” podrían producirse si hay un desarrollo “imprudente” de la IA y pone como ejemplo el riesgo de que la IA tome el control de internet en un plazo de entre 6 y 12 meses. Por ello propone medidas de seguridad y normativa sin dejar de tener “éxito comercial”. “Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio”, ha remachado.

En concreto plantea medidas tales como una “evaluación incorporada” por parte de actores independientes, “coordinación democrática” con las instituciones públicas y “coordinación global” que aúne los esfuerzos de los países democráticos y los autoritarios a nivel mundial.

“Estoy de acuerdo con Dario en que tenemos que poner coto a la frontera. Este ha sido el principal tema de debate de las últimas semanas en OpenAI”, explicó Altman este sábado en sus perfiles de redes sociales. “Vamos a hacer lo mismo. Pronto daremos más información”, indicó.

Elon Musk coincide con sus rivales Anthropic y OpenAI en desacelerar la IA

El magnate Elon Musk coincidió este sábado con sus rivales, Dario Amodei de Anthropic y Sam Altman de OpenAI, en la necesidad de desacelerar el desarrollo de la inteligencia artificial (IA) por los riesgos de seguridad que representa.

Musk, creador de la compañía xAI de inteligencia artificial, respaldó en X el pronunciamiento de Amodei, quien publicó un ensayo en el que pidió a la industria “un ritmo más lento” en el desarrollo de esta tecnología por riesgos como perder el control de los sistemas de IA y disrupción económica. “Dario tiene razón”, escribió Musk en su red social.

Algunos de los mejores matemáticos del mundo están molestos por la actitud de las empresas tecnológicas como OpenAI y el uso de la inteligencia artificial en su campo. Tras el anuncio de esta compañía de la resolución de uno de los ‘Problemas del Milenio’ y la polémica acerca de su forma de actuar, un grupo de 15 galardonados con la prestigiosa Medalla Fields —considerada el “Nobel de las matemáticas”— ha lanzado este viernes un manifiesto en el que invitan a sumarse a otros investigadores. En él, denuncian que “los objetivos de las empresas de IA y los de la comunidad matemática están profundamente desalineados” y que “una amenaza generalizada para el trabajo intelectual”.

Con frecuencia, aseguran, estas soluciones se anuncian apresuradamente, sin dejar tiempo para una redacción adecuada, el aislamiento de nuevos métodos e ideas, ni la citación de trabajos previos relevantes de otros autores. “Como en todas las profesiones creativas, esto plantea serios problemas de atribución y plagio”, señalan. Y piden que se tomen medidas para que, a medida que la IA transforma la forma de trabajar, no perdamos de vista el objetivo original del trabajo matemático.

A continuación, reproducimos el manifiesto íntegro.

Una grave desalineación de la IA en las matemáticas

En los últimos meses, las capacidades matemáticas de los modelos extensos de lenguaje (LLM) han mejorado drásticamente, hasta el punto de poder resolver importantes problemas pendientes en muchos campos de las matemáticas. Sin embargo, el afán de las empresas de IA por resolver problemas matemáticos como referencia resulta perjudicial para la ciencia matemática y para la comunidad matemática. Los objetivos de las empresas de IA y los de la comunidad matemática están profundamente desalineados. Consideramos que esto forma parte de problemas de alineación más amplios que afectan a otras profesiones científicas y creativas, así como a la sociedad en su conjunto.

La investigación matemática se ocupa de comprender las estructuras básicas de las formas, los números y los fenómenos naturales. A lo largo de generaciones, ha desarrollado un amplio corpus de ideas, métodos, abstracciones y otras herramientas sofisticadas para comprender el panorama matemático. A su vez, las tecnologías y ciencias modernas se basan en herramientas matemáticas.

Los problemas más conocidos a menudo han servido como puntos de referencia y faros que permiten medir una mejor comprensión de este campo. Resolver uno de estos problemas ha sido un claro indicio de nuevas perspectivas y métodos interesantes, que posteriormente son estudiados por una comunidad de matemáticos mediante un largo y arduo proceso de conversaciones, debates y simplificaciones. Al final de este proceso, idealmente se encuentra una presentación de los resultados en un libro de texto, accesible para cualquier estudiante de grado o posgrado. Algunas de estas ideas matemáticas perduran aún más, convirtiéndose, décadas o siglos después, en herramientas comprendidas y utilizadas por toda la población.

La comunidad matemática funciona, en muchos sentidos, como una versión en miniatura de la humanidad. Está compuesta por individuos que emplean una amplia variedad de enfoques, unidos por valores fundamentales. Los recursos más valiosos de nuestra profesión son los estudiantes y las ideas, y los cultivamos con sumo cuidado. Nos sentimos responsables de permitirles desarrollar todo su potencial, hasta que puedan tener vida propia en el mundo matemático. A los estudiantes, a menudo les proponemos problemas con la intención principal de desarrollar habilidades que les permitan avanzar en la investigación y en otros ámbitos. Difundimos nuestras ideas mediante charlas, conversaciones privadas y escritos detallados, conectándolas con las ideas previas de otros. Estos procesos, invariablemente, requieren tiempo y se basan en la interacción humana.

En los últimos meses, el éxito de la IA en la resolución de importantes problemas matemáticos ha acaparado titulares incluso fuera del ámbito matemático. Sin embargo, la resolución de problemas es solo una herramienta y un medio para alcanzar el objetivo principal: la comprensión conceptual y la introspección. Olvidar esto en el mundo de la IA podría convertir la herramienta en una herramienta contraria al objetivo principal. De hecho, la producción masiva, cada vez más acelerada, de afirmaciones de “verdadero/falso” podría destruir terreno fértil en lugar de dar vida a nuevas ideas.

Con frecuencia, estas soluciones se anuncian apresuradamente, sin dejar tiempo para una redacción adecuada, el aislamiento de nuevos métodos e ideas, ni la citación de trabajos previos relevantes de otros autores. Como en todas las profesiones creativas, esto plantea serios problemas de atribución y plagio. Además, sin los matemáticos dispuestos a encargarse de su desarrollo e integración en el canon matemático, las ideas concebidas por la IA nunca se materializarían por completo y se perdería la crucial cadena de transmisión humana entre matemáticos.

Estamos presenciando una amenaza generalizada para el trabajo intelectual, con una falta de alineación entre el resultado del uso de la IA y su propósito inicial. En muchos campos y actividades, años de formación han servido tradicionalmente no solo para producir una respuesta o producto final, sino también para desarrollar la comprensión y la capacidad de formular nuevas preguntas e ideas. Sin embargo, basándose en un vasto corpus de trabajo humano previo, los sistemas de IA son cada vez más capaces de producir directamente los resultados de dicho trabajo, y estos objetivos dejan de estar alineados. Los problemas a los que se enfrenta ahora la comunidad matemática son similares a los que afrontan otras profesiones científicas y creativas, e indican problemas a los que podría enfrentarse toda la humanidad: cómo asegurarnos de que, a medida que la IA transforma la forma de trabajar, no perdamos de vista el objetivo original de ese trabajo.

La IA ofrece el potencial de mejorar y acelerar el estudio y la comprensión de las matemáticas. La matemática como profesión deberá adaptarse a estos cambios de diversas maneras. Sin embargo, el hecho de que estos cambios beneficien al campo o tengan un efecto perjudicial dependerá en gran medida de las decisiones de quienes controlen esta nueva tecnología.

Es necesario abordar con urgencia estas cuestiones, tanto en la comunidad matemática como por parte de las empresas que desarrollan estas tecnologías y, de forma más general, por una sociedad que se enfrentará a problemas similares en muchas otras formas de trabajo intelectual.

FIRMAS:

Artur Avila (Medalla Fields 2014)

Manjul Bhargava (Medalla Fields 2014)

Caucher Birkar (Medalla Fields 2018)

Pierre Deligne (Medalla Fields 1978)

Yu Deng (Medalla Fields 2026)

Simon Donaldson (Medalla Fields 1986)

Hugo Duminil-Copin (Medalla Fields 2022)

Alessio Figalli (Medalla Fields 2018)

Martin Hairer (Medalla Fields 2014)

June Huh (Medalla Fields 2022)

Maxim Kontsevich (Medalla Fields 1998)

Elon Lindenstrauss (Medalla Fields 2010)

Pierre-Louis Lions (Medalla Fields 1994)

James Maynard (Medalla Fields 2022)

Curtis McMullen (Medalla Fields 1998)

Shigefumi Mori (Medalla Fields 1990)

Ngô Bảo Châu (Medalla Fields 2010)

Andrei Okounkov (Medalla Fields 2006)

Peter Scholze (Medalla Fields 2018)

Stanislav Smirnov (Medalla Fields 2010)

Terence Tao (Medalla Fields 2006)

Maryna Viazovska (Medalla Fields 2022)

Cédric Villani (Medalla Fields 2010)

Wendelin Werner (Medalla Fields 2006)

Efim Zelmanov (Medalla Fields 1994)

La velocidad a la que las compañías de inteligencia artificial (IA) están resolviendo algunos de los problemas más difíciles de las matemáticas produce asombro y preocupación al mismo tiempo. El anuncio de OpenAI de que ha encontrado una solución al problema de Navier-Stokes, uno de los seis 'Problemas del Milenio', ha disparado el nerviosismo y los rumores entre la comunidad matemática. En redes se habla de que la misma empresa y su competidor, Anthropic, están a punto de resolver otros retos. Como precedente, en mayo, un chatbot de OpenAI refutó una conjetura de hace 80 años del matemático húngaro Paul Erdős.

Todas estas hazañas, incluida la de Navier-Stokes, están pendientes de verificación. La última vez —y por ahora la única— que se resolvió uno de los 'Problemas del Milenio', lo logró un ser humano al que rodea un halo de genialidad. Entre 2002 y 2003, el matemático ruso Grigori Perelman demostró la Conjetura de Poincaré, tras trabajar durante años en la más estricta soledad. En contraste, OpenAI desplegó 10.000 agentes de inteligencia artificial que intercambiaron 2,7 millones de mensajes. Solo necesitó 88 horas, pero gastó varios millones de dólares.

Perelman renunció a la Medalla Fields y el suculento premio en metálico del Instituto Clay porque prefería atribuir el mérito a sus predecesores; la compañía tecnológica, en cambio, precipitó sus resultados para adelantarse e invisibilizar el trabajo de la competencia y de los dos matemáticos españoles que llevaban tiempo avanzando en el problema.

“Yo tengo a Luis”

“Nosotros no usamos IA; lo nuestro es lápiz y papel”, confesaba en la noche del martes el matemático español Diego Córdoba (ICMAT) a elDiario.es. Él y su colaborador, Luis Martínez-Zoroa (CUNEF), siguen la vieja escuela de Perelman del trabajo a mano, pero son conscientes de que son una rareza en su disciplina y de que el mundo ha cambiado en los últimos tres años. “Cuando me preguntan: Tú que trabajas compitiendo con los de ChatGPT, con OpenAI, con Claude, ¿qué tienes? Yo les digo: yo tengo a Luis”, bromea.

Ante el escándalo de este ninguneo, OpenAI introdujo una referencia, a posteriori, a los trabajos de los españoles en sus resultados, pero su anuncio no ha disparado las alarmas por este gesto ni porque las máquinas hayan superado a los humanos, como en el mítico duelo Kaspárov-Deep Blue. El verdadero problema es que las compañías han entrado en una carrera en la que todo vale y con posibles efectos perniciosos: se pusieron a trabajar a toda velocidad cuando supieron que la competencia estaba cerca de solucionar el problema y existe la sospecha de que usaron la información que el otro equipo de matemáticos introdujo en su herramienta de IA para avanzar.

Terence Tao, uno de esos seres humanos excepcionales capaces de romper las barreras de las matemáticas, lo expresaba esta semana con gran claridad en New Scientist: “Así no es como se supone que debe funcionar la ciencia”.

El matemático Terence Tao, ganador de la Medalla Fields, lo expresaba con gran claridad: “Así no es como se supone que debe funcionar la ciencia”

Para Tao, la forma en que se anuncian estos hallazgos y se “vuelcan” sobre la comunidad matemática podría perjudicar a este campo. En su opinión, se trata de una carrera que no beneficia a nadie (excepto a los departamentos de marketing de las empresas de IA), y produce un atasco, ya que no hay tiempo para absorber los resultados, comprenderlos plenamente y enseñarlos a los estudiantes. “Estas empresas están tirando pilas de carne cruda sobre la mesa de nuestra aldea diciendo: 'Aquí tienen, he resuelto su problema de comida'. Y luego simplemente se van”, dice Tao.

El mayor problema de la voracidad de las IA, donde todos los matemáticos y científicos de otros campos están introduciendo sus resultados, no es que la autoría se difumine —saber quién es el descubridor o a quién atribuir el mérito— sino el de quebrar la confianza. Si se extiende la práctica que hemos visto con Navier-Stokes, los matemáticos no harán públicos sus resultados, por miedo a que otros los metan en la máquina y acaben su trabajo con algoritmos más potentes. Esto, advierte Tao, pondrá en peligro la cultura abierta y colaborativa y empujará la investigación a la clandestinidad. “Saber que alguien está trabajando en un problema es ahora información valiosa”, afirma.

Si se extiende la práctica, los matemáticos no harán públicos sus resultados, por miedo a que otros los metan en la máquina y acaben su trabajo con algoritmos más potentes

Terence Tao y otros 24 ganadores de la medalla Fields han lanzado este mismo viernes un manifiesto en el que reclaman que el uso de la IA preserve la comprensión humana y la trasparencia en la investigación en matemáticas. Antes, la Declaración de Leiden, publicada el 2 de junio de 2026 y respaldada por la Unión Matemática Internacional (IMU), alertaba de posibles problemas con la IA, como la pérdida de atribución a los autores originales y la creciente influencia de las grandes tecnológicas sobre las agendas de investigación. Y recalcaba que el objetivo de las matemáticas no es solo producir teoremas, sino “generar comprensión humana”.

Un artículo editorial de PLOS Biology, firmado por Renee Hoch y Joanna Clarke en junio de 2025, advertía de que utilizar IA generativa para propuestas, manuscritos, etc. puede comprometer la confidencialidad y la propiedad intelectual. “Con cualquier dato que compartas en una cuenta personal, puedes suponer que se puede usar para entrenar nuevos sistemas”, decía Aneesh Muppidi, investigador de IA en la Universidad de Stanford en The New York Times. Pero esta circunstancia es temporal. “Esto será un problema durante los próximos seis meses o un año”, apunta con sorna Sanjeev Arora, de la Universidad de Princeton. “Después de eso, la competencia humana tal vez ya no merezca ni siquiera ser considerada”.

El gran supervisor 

La convulsión que ha producido la irrupción de estas voraces inteligencias artificiales se ha extendido al resto de la ciencia. Un estudio reciente, con participación de los expertos en políticas públicas de la Comisión Europea, se planteaba cómo la IA amenaza “los cimientos mismos de la comprensión científica” y está poniendo en cuestión lo que significa “ser científico”. Esta tecnología todopoderosa podría rescatar a la ciencia del estancamiento de la productividad de las últimas décadas, pero también implica el riesgo de limitar el progreso científico, advierten.

Además del uso fraudulento, para alimentar granjas de papers o plagiar el trabajo de otros, la IA se ha hecho presente en todas las fases del proceso: desde la formulación de hipótesis hasta la publicación y revisión. A nivel individual, incrementa la productividad de los científicos frente a quienes siguen con los viejos métodos. Aquellos que la utilizan, según un reciente estudio en la revista Nature, publican tres veces más artículos, reciben casi cinco veces más citas y se convierten en líderes de proyectos de investigación 1,37 años antes. Como contrapartida, la adopción de la IA reduce el volumen colectivo de temas científicos estudiados y estrecha el foco de los investigadores produciendo una paradoja: “Una expansión del impacto de los científicos individuales, pero una contracción en el alcance de la ciencia colectiva”.

En un análisis publicado esta semana por Science Media Center, Lluis Montoliu, experto en bioética del Centro Nacional de Biotecnología (CNB-CSIC), ponía el acento en el peligro de que la IA se convierta en el gran supervisor de la producción científica. “Más de la mitad de las evaluaciones de papers no han sido realizadas por personas, sino por sistemas de IA”, advierte. Esto puede producir un sesgo sistemático, puesto que la IA es peor generando ideas realmente disruptivas y penaliza propuestas innovadoras. Esto podría llevar a que artículos como el desarrollo de la técnica CRISPR, que valió el Nobel de Química a Jennifer Doudna y Emmanuelle Charpentier, “habría sido bloqueado por una IA al ser demasiado disruptivo e inesperado”, señala.

“La automatización de la investigación podría producir eficiencias a corto plazo en términos de resultados a costa de un colapso a largo plazo, debido a que los investigadores dejarían de ser capaces de impulsar la producción de conocimiento más allá de las nuevas fronteras”, escribe Henrik Skaug Sætra en otro artículo. Akhil Bhardwaj, investigador de la Universidad de Bath, identifica el peligro de externalizar la lógica del descubrimiento y dejarlo en manos de la IA y apunta a uno de los problemas: hemos idealizado los momentos “eureka” y el uso de la IA para producir hipótesis y teorías amenaza con robar parte de este “romanticismo” a la ciencia. ¿Nos produciría el mismo placer si supiéramos que ese momento en que se enciende la bombilla lo protagonizara una IA generativa?, se plantea.

A pesar de las demostraciones de la IA, algo parece resistirse en la comunidad científica a aceptar que podría ser tan genial o más que las grandes figuras de la ciencia. El científico y divulgador Philip Ball revisaba hace unos días en Nature algunos de los experimentos recientes con modelos de lenguaje “históricos” creados para comprobar si la IA sería capaz de redescubrir la teoría de la relatividad general de Einstein si se le diera la misma información que este manejaba en su época. Y muchos expertos, como el investigador Tom Zahavy, creen que a la máquina le falta un paso, porque se basa en el razonamiento inductivo —la acumulación y promediado estadístico de datos—, y no en el salto creativo que inventa una causa totalmente nueva a partir de anomalías o datos escasos. Seguimos empeñados en adorar a nuestros Perelman de lápiz y papel, pero ¿de verdad estamos seguros de que la siguiente generación de máquinas no será capaz de dar estos saltos?

¿Hacia un agujero negro?

En el horizonte está la posibilidad verdaderamente aterradora que apuntaba Arora, de que la IA se ponga a hacer ciencia por su cuenta y ya no nos necesite en absoluto. “En un futuro no muy lejano podría surgir una tercera etapa, en la que sistemas de IA autónomos lleven a cabo sus propias investigaciones y generen conocimiento sin supervisión ni control humanos”, señalan David B. Resnik, Mohammad Hosseini y Rico Hauswald en otro artículo reciente. Esto lleva a otro escenario que algunos han bautizado como el problema de la “caja negra”: la investigación generada por IA puede quedar más allá de la comprensión humana y que no sepamos las causas últimas de los resultados. 

“¿Qué conocimiento tiene un sistema de diagnóstico que a partir de un montón de datos da un resultado, pero que no podemos decodificar en qué se ha basado realmente?”, se pregunta Joaquín Sevilla, físico y catedrático de la Universidad Pública de Navarra (UPNA), experto en el sistema de publicaciones. “Las redes neuronales producen resultados prácticos espectaculares a veces, pero sin ninguna metacognición: no sabe cómo lo sabe. Es imposible desempaquetar el conocimiento que pone en práctica para generar sus resultados en un formato que suponga significado para los seres humanos”. 

En las próximas semanas o meses, cientos de matemáticos tendrán que dedicar un esfuerzo monumental para desentrañar y auditar la farragosa propuesta de solución de OpenAI al problema de Navier-Stokes, intentando traducir la densa lógica con la que operan las máquinas al lenguaje de la razón humana. Tal vez llegue el día que sepamos qué es correcto pero se nos escapen los motivos. Si la inteligencia artificial produce diagnósticos o teoremas impecables, pero no puede explicarnos cómo ha llegado a ellos, la ciencia corre el riesgo de adentrarse en un peligroso agujero negro del conocimiento: un escenario donde habremos perdido para siempre la capacidad humana de entender por qué suceden las cosas.

OpenAI planea ralentizar el desarrollo de la inteligencia artificial de Vanguardia. El director ejecutivo de la empresa, creadora de Chat GPT, Sam Altman, lo informó la pasada semana en una reunión con toda la empresa, según ha informado la agencia Bloomberg.

Altman apuntó en ese encuentro que espera que otras compañías del sector hagan lo mismo. El objetivo de Altman, según las fuentes citadas, es que una decisión de este tipo marque el ritmo de desarrollo de la IA, en colaboración con otros laboratorios. Si bien, reconoció que algunos podrían no estar de acuerdo.

Durante los últimos días ha ganado protagonismo el relato de un ingeniero que dimitió en Anthropic y que trabajó previamente para OpenAI y que apuntaba a los riesgos potenciales que puede tener la inteligencia artificial.

Aunque su relato no aportó más pruebas y se trataba de un ingeniero sin un cargo ejecutivo, se ha recuperado el debate sobre los riesgos de esta tecnología. Se une, además a las denuncias que han hecho otros antiguos ingenieros de empresas del sector durante los últimos meses.

De hecho, la propia Anthropic ha advertido este jueves de que ha frustrado varios posibles complots en los que se utilizaron sus modelos de Inteligencia Artificial (IA) para realizar investigaciones que podrían haber contribuido al desarrollo de armas biológicas.

Las advertencias llegan en un momento clave para un sector que trata de monetizar su tecnología con unas salidas a bolsa que pueden ser históricas.

OpenAI ya había avanzado que ha ralentizado algunos de los desarrollos de sus modelos y ha cancelado ciertos entrenamientos internos de IA debido a las preocupaciones de seguridad.

Jacob Coxon ha vuelto a sembrar el miedo sobre las actividades de la industria de la inteligencia artificial. Este ingeniero de 27 años, extrabajador de OpenAI y de Anthropic, se ha colocado en las portadas de medio mundo tras dimitir de esta última empresa. El motivo es que lo ha hecho con un llamamiento público a toda la humanidad: “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”.

Coxon no ha ofrecido pruebas de estas amenazas más allá de su testimonio. Apoyado en lo que ha visto en ambos laboratorios (estuvo cerca de tres años en OpenAI y un par de meses en Anthropic como investigador especializado en el pre entrenamiento de los modelos), asegura que el peligro de la IA es mucho más real de lo que muchos creen. “No subestiméis el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, publicó en las redes sociales tras su dimisión.

“El consenso es que el próximo año o dos será el momento decisivo para la humanidad”, insistió posteriormente en una entrevista con la CNN, haciendo referencia a lo que piensan sus ex compañeros en ambos laboratorios. Su dimisión ha prendido de nuevo el debate sobre el riesgo existencial de la IA que viene fraguándose desde la salida a la luz de ChatGPT.

Es una conversación en la que se mezclan conceptos propios de la ciencia ficción, el descreimiento de quienes ven en estas advertencias otro ejemplo del autobombo y el marketing del miedo característicos de la industria tecnológica, con riesgos que sí tienen un anclaje técnico y están siendo estudiados por los científicos. Coxon podría estar exagerando en el calendario o en la certeza de sus predicciones, pero eso no significa que los dos problemas de fondo que señala sean inventados.

El primero es la opacidad de los laboratorios respecto a lo que pueden hacer realmente sus sistemas. Se trata de una acusación que ha perseguido durante años a las grandes tecnológicas, pero cuya relevancia se ha multiplicado en la era de la IA. El joven ingeniero es solo el último en alertar de ello: hace unas semanas era el propio Bill Gates el que advertía que esta falta de transparencia es uno de los grandes problemas de la humanidad. Antes de ellos fueron numerosos especialistas críticos con estas empresas los que avisaron que esta forma de actuar impide que el resto de científicos, la ciudadanía y los reguladores tengan información suficiente sobre esta tecnología clave.

El segundo problema señalado por Coxon es puramente técnico. Dada la creciente capacidad autónoma de los sistemas de IA, ¿qué ocurrirá si estos empiezan a comportarse de manera diferente a como esperaban sus creadores en su intento de cumplir las tareas que se les han encomendado?

El riesgo de perder el control

Muchas personas de la industria de la IA piden habitualmente la creación de un organismo internacional formado por expertos que siga sus avances y proponga soluciones para sus riesgos. Lo cierto es que ese ente ya existe, está dentro de la ONU y cuenta con un comité asesor internacional formado por 40 miembros. Están dirigidos por el canadiense Yoshua Bengio, considerado uno de los “padres” de la IA y ganador del premio Turing (el Nobel de la informática), y la filipina Maria Ressa, premio Nobel de la Paz.

Naciones Unidas aprobó su creación en 2025, estableciendo un mandato de tres años que comenzó el pasado febrero. Durante ese período, sus miembros, entre los que hay representantes de centros de investigación, del sector privado y de los laboratorios de las empresas tecnológicas, actúan “a título personal en calidad de expertos científicamente independientes”. Su misión es “documentar el consenso y las discrepancias científicas” en torno a la IA desde un prisma “estrictamente científico y apolítico”.

Su primer informe preliminar se publicó en julio y trata en profundidad los dos grandes problemas que ha denunciado Coxon. “La asimetría de información entre las empresas y la sociedad” es uno de los 8 grandes problemas estructurales de la IA actual que recogen: “Las capacidades de la inteligencia artificial avanzan más rápido que nuestra capacidad para medirlas o gobernarlas”. Otro de ellos es “la pérdida de control”.

A medida que se concede mayor capacidad de agencia a los sistemas, el riesgo de perder el control sobre uno o varios agentes de IA aumenta considerablemente

Comité de expertos de la ONU

El informe circunscribe este riesgo a los llamados “agentes de IA”. Se trata de sistemas diseñados no solo para responder a una petición, sino para ejecutar por sí mismos una cadena de acciones hasta completar una tarea. Pueden, por ejemplo, consultar información, utilizar otras herramientas digitales, escribir código o tomar decisiones sin que una persona tenga que indicarles cada paso.

“Los agentes de IA pueden reportar importantes beneficios económicos y científicos”, destacan los investigadores. No obstante, también recuerdan que cuanto más capaces son de actuar por su cuenta, más difícil resulta supervisar todo lo que hacen.

“A medida que se concede mayor capacidad de agencia a los sistemas, el riesgo de perder el control sobre uno o varios agentes de IA aumenta considerablemente”, avisan. Este se agrava debido a que “los mecanismos de supervisión actuales no son capaces de gestionar adecuadamente esta situación” y a que los exámenes de seguridad son “vulnerables a la manipulación por parte de los sistemas que pretenden evaluar”.

Los modelos de IA son capaces de engañar de forma activa. El engaño se produce cuando un sistema de IA induce a error de forma sistemática a los seres humanos u otros agentes en relación con sus conocimientos, planes o capacidades

El informe destaca que, en entornos de laboratorio, estos agentes de IA han demostrado ser capaces de confabularse entre ellos para llevar a cabo objetivos sin informar a sus creadores o incluso engañarlos: “Los modelos de IA son capaces de engañar de forma activa. El engaño se produce cuando un sistema de IA induce a error de forma sistemática a los seres humanos u otros agentes en relación con sus conocimientos, planes o capacidades. Este fenómeno se observa cada vez más en la práctica”. En concreto, se han documentado “modelos de IA que mienten y engañan para evitar que se les apague”.

El principal ejemplo en este sentido ha llegado este verano, en el que se han sucedido los comunicados sobre modelos de IA que “escaparon” de sus entornos protegidos para realizar ciberataques contra otras empresas u objetivos. OpenAI, Anthropic y Meta han revelado haber tenido este tipo de incidentes en los dos últimos meses. Ahora estas empresas, junto a bancos, firmas de ciberseguridad y la mayoría de grandes tecnológicas, han pedido a los estados que inviertan en herramientas capaces de frenar estas amenazas.

“Consecuencias catastróficas”

El informe del comité de expertos de la ONU no menciona un peligro existencial para la humanidad ni se acerca a la conclusión de Coxon de que la IA podría “matarnos a todos” en cuestión de años. Tampoco afirma que los agentes de IA puedan llevar los engaños reportados a un nuevo nivel para atacar a las personas. Pero eso no evita que la potencial pérdida de control sobre ellos no pueda tener “consecuencias catastróficas”, recalcan.

El riesgo de estos agentes que apuntan los asesores de la ONU es, por un lado, “permitir que actores privados sin experiencia utilicen la IA con fines maliciosos en una amplia gama de ámbitos, como el fraude, la ingeniería social, la ciberseguridad, la desinformación, la biotecnología y la manipulación financiera”. Por otro, les preocupa su creciente autonomía: al tratarse de sistemas que “actúan en el mundo real”, los expertos advierten de que “pueden causar pérdidas y daños sin que haya un ser humano identificable que intervenga en el proceso”.

No hay garantías científicas de que los agentes de IA no vayan a incumplir las instrucciones, y cada vez se documentan más casos en que ya las incumplen

Comité de expertos de la ONU

El problema se resume en dos claves: “No existen métodos fiables para mantener el control sobre sistemas de IA altamente autónomos. No hay garantías científicas de que los agentes de IA no vayan a incumplir las instrucciones, y cada vez se documentan más casos en que ya las incumplen”.

Para corregirlo, los asesores de la ONU piden cambios radicales tanto en los sistemas de evaluación de la IA como de su gobernanza. Plantean que la vigilancia humana deje de ser una idea abstracta en el código de la máquina y se traduzca en reglas claras que permitan frenar o corregir a una IA “en cualquier momento”. Además, proponen evaluar estos sistemas de manera continua mientras funcionan en la vida real, no solo con exámenes previos que pueden quedarse obsoletos o ser manipulados por los sistemas que ya conocen su funcionamiento.

Por último, piden a los países crear un marco internacional sobre estos sistemas que no pueda relajarse ante presiones económicas o carreras geopolíticas. El objetivo es “garantizar que, como sociedad, no construyamos ni despleguemos sistemas que puedan causar daños catastróficos”.

Los ocho grandes problemas estructurales que identifica el informe van mucho más allá de la pérdida de control. Los expertos señalan también la “concentración de poder y recursos” en unas pocas empresas y países, los efectos sobre el empleo y la economía, los riesgos para los derechos humanos y la seguridad, y el impacto de la IA sobre la información, la desinformación y la confianza pública. Además de Ressa y Bengio, en el comité está el español Román Orús, especialista en IA cuántica; el alemán Bernhard Schölkopf, uno de los investigadores más influyentes del aprendizaje automático; o la francesa Joëlle Barral, investigadora de Google DeepMind. Junto a ellos hay especialistas en ciberseguridad, derechos humanos, economía, gobernanza y desarrollo procedentes de las cinco regiones del mundo.

“El escenario suena un poco a ciencia ficción, parece algo que no puede ser real, pero es aterradoramente real”. Con estas palabras, Jacob Coxon, investigador británico especializado en el entrenamiento de IA avanzada, ha explicado en una entrevista en CNN su decisión de dimitir de su puesto en Anthropic y abandonar la industria de la inteligencia artificial. “La gente empieza a darse cuenta de que esto es tecnología real. No es simplemente humo o una moda pasajera. Esto no va a desaparecer en un futuro próximo. Al contrario, todo va a ponerse cada vez más loco”, ha afirmado este ingeniero, de 27 años y que también había dimitido previamente de OpenAI.

Coxon denunció en su cuenta de X que ambas empresas, tanto Anthropic como Open AI, han relajado sus protocolos de seguridad ante la presión por seguir avanzando al tiempo que alertó que el avance de esta tecnología supone un peligro existencial para la humanidad y que los ejecutivos de los laboratorios que lideran la carrera están escondiendo estos riesgos a la ciudadanía. Cabe destacar que este investigador no ha aportado ninguna prueba más allá de su trabajo dentro de ambas tecnológicas.

“La forma más fácil de entenderlo es pensar en cosas que realmente han ocurrido. Hace dos meses, agentes de IA de OpenAI hackearon infraestructuras de terceros por iniciativa propia. Fue, básicamente, una campaña concentrada de ciberataques que llevaron a cabo por voluntad propia”, ha asegurado Coxon a preguntas de Anderson Cooper. Según ha afirmado, si se proyectan estas capacidades “manteniendo la misma autonomía” hacia el futuro, la IA podría provocar “un caos enorme” ya que, por ejemplo, “podrían hackear infraestructuras críticas o desarrollar armas biológicas capaces de provocar una extinción”. “Hay muchísimas formas en las que una IA podría actuar por sí sola en el mundo”, ha añadido.

Para Coxon, la IA está “cerca de reemplazar” a los seres humanos. “Es muy importante fijarse simplemente en la velocidad a la que está avanzando todo. Por ejemplo, en áreas como la programación o las matemáticas, hace un par de años estas IA servían básicamente para ayudar un poco a los humanos, podían darte sugerencias. Ahora están cerca de reemplazarlos. De momento todavía necesitamos a los humanos, pero es perfectamente plausible que, dentro de un año, ya no necesitemos personas para hacer investigación en muchas áreas”, ha explicado.

Según este ingeniero, lo “más aterrador” sería usar la IA para hacer que “ella misma sea más inteligente”. “Puedes coger una IA y darle el problema de investigar sobre IA, igual que ahora le estamos dando problemas de investigación matemática. Y así podrías hacer que realizara el mismo trabajo que estamos haciendo nosotros ahora mismo, y entonces tendrías lo que se conoce como una explosión de inteligencia”, ha explicado Coxon que ha advertido que esta tecnología empezaría así a “hacerse cada vez más inteligente sin necesidad de intervención humana, hasta llegar a un punto en el que tendrías algo muchísimo más inteligente que los seres humanos”. “Y eso podría estar muy cerca”, ha detallado.

Sobre las peticiones de muchos directivos de las empresas de IA sobre una mayor regulación, Coxon ha afirmado que cree que es una preocupación real. “Se encuentran en una situación en la que sienten que están obligados a competir a toda velocidad para desarrollar una tecnología potencialmente mortal, y les encantaría que algún tipo de organismo internacional les permitiera avanzar a un ritmo razonable. El problema es que no confían en que los demás vayan a llegar hasta ahí de forma segura, así que sienten que ellos también tienen que correr”, ha reconocido.

Por el momento, ni Anthropic ni OpenAI han hecho ninguna declaración oficial respecto a sus denuncias tanto a través de redes sociales como ahora en la televisión. La única respuesta ha llegado por parte de uno de los directivos de Anthropic, encargado de las pruebas de seguridad de sus modelos. “Jacob tiene razón aquí: ¡realmente creemos con sinceridad que la IA podría matar a todos los humanos! Personalmente, creo que la probabilidad es mayor al 10% durante la próxima década. Creo que Anthropic lo está haciendo lo mejor que puede, pero todavía no tenemos un plan para resolver el alineamiento para la superinteligencia y claramente no estamos en camino de lograrlo”, ha afirmado Evan Hubinger en su cuenta de X.

En las últimas fechas reputadas voces de la industria tecnológica han elevado la misma alerta que Coxon: los laboratorios de IA no están siendo transparentes sobre los riesgos reales que entrañan sus investigaciones actuales. Una de ellas ha sido la del propio Bill Gates, que recientemente ha publicado un extenso ensayo y dando entrevistas en las que profundiza en esta cuestión.

En este sentido, este mismo miércoles el Financial Times ha informado de que Anthropic se negó a remitir su último y más avanzado desarrollo, Claude Mythos 5.1, al Instituto de Seguridad de la IA de Reino Unido (AISI) para ser auditado antes de su salida al mercado. El medio británico lo relaciona con la doctrina proteccionista impuesta por Donald Trump, ya que Anthropic sí ha compartido el modelo con sus socios estadounidenses.

Jacob Coxon, investigador británico especializado en el entrenamiento de IA avanzada, ha dimitido de su puesto en Anthropic y ha anunciado que abandona la industria de la inteligencia artificial. El ingeniero, de 27 años y que también había dimitido previamente de OpenAI, afirma que el avance de esta tecnología supone un peligro existencial para la humanidad y que los ejecutivos de los laboratorios que lideran la carrera están escondiendo estos riesgos a la ciudadanía.

“Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y apostando nuestras vidas en esa carrera”, ha afirmado Coxon en su cuenta de X: “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”.

“No subestiméis el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, ha añadido en la citada red social: “Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro”.

La dimisión de Coxon fue adelantada en exclusiva por The Wall Street Journal este martes. El prestigioso medio económico detalla que el ingeniero tiene formación en matemáticas en la Universidad de Cambridge y que, tras trabajar durante casi tres años en OpenAI dentro del equipo de preentrenamiento de grandes modelos lingüísticos, en julio de 2026 se incorporó a Anthropic.

El salto a la competencia se produjo precisamente ante la impresión de que la empresa dirigida por Sam Altman no dispone de los protocolos de seguridad adecuados. Anthropic ha basado su narrativa empresarial en la alerta sobre los peligros de esa superinteligencia superior a la humana y la necesidad de avanzar con cautela hacia ella. Sin embargo, Coxon tampoco ha encontrado lo que esperaba tras un mes en el laboratorio y avisa que ninguna de las dos organizaciones actúa con la cautela necesaria.

“En Anthropic comprenden la apuesta, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo”, ha declarado al WSJ: “Es una locura que esto tenga que ocurrir en los MacBooks de unos ingenieros que viven en San Francisco en lugar de en un búnker en el desierto como cuando hacían el Proyecto Manhattan”.

Coxon opina que la rivalidad entre OpenAI y Anthropic, así como la presión por mantener la delantera frente a los desarrolladores chinos, está haciendo que ambos laboratorios dejen a un lado las salvaguardas de seguridad para avanzar lo más rápido posible. Por el momento, ni Anthropic ni OpenAI han hecho ninguna declaración oficial respecto a sus denuncias.

La única respuesta ha llegado por parte de uno de los directivos de Anthropic, encargado de las pruebas de seguridad de sus modelos. “Jacob tiene razón aquí: ¡realmente creemos con sinceridad que la IA podría matar a todos los humanos! Personalmente, creo que la probabilidad es mayor al 10% durante la próxima década. Creo que Anthropic lo está haciendo lo mejor que puede, pero todavía no tenemos un plan para resolver el alineamiento para la superinteligencia y claramente no estamos en camino de lograrlo”, ha afirmado Evan Hubinger en su cuenta de X.

Hubinger enlaza directamente el último Informe de riesgos de Anthropic, publicado este agosto. El documento trata en profundidad el problema del “desalineamiento”, como la industria denomina la posibilidad de que los sistemas de IA desobedezcan a sus creadores o queden fuera de control. Los investigadores de Anthropic concluyen que ese riesgo de crear una IA que pierda el control y pueda causar daños en entornos de alto riesgo y que resulten críticos para las personas es “bajo”. No obstante, este nivel ha subido desde el “riesgo muy bajo” que le asignaban en su informe anterior.

El cambio de calificación llega después de que la compañía, según el informe, asegure que ha observado conductas potencialmente peligrosas en sus sistemas de IA. Entre ellas, cita por ejemplo el uso de atajos engañosos para los investigadores para completar tareas complejas que le habían sido asignadas. Por otra parte, los investigadores consideran “muy poco probable” que exista un “desalineamiento severo y persistente no detectado” por parte de alguna de sus inteligencias artificiales. A este respecto, Anthropic destaca que cuenta con las herramientas adecuadas para detectarlo en caso de que se produzca.

Opacidad de los laboratorios de IA

Fuera de Silicon Valley, numerosos científicos se muestran escépticos sobre la posibilidad de crear una superinteligencia capaz de mejorarse a sí misma. Alegan que para llegar a ella hacen falta avances científicos sustanciales y no simples mejoras de los modelos actuales, que no comprenden realmente ninguno de los contenidos que generan. Muchos expertos avisan, además, que estas empresas utilizan el marketing del miedo para exagerar la capacidad de sus productos y vender protecciones ante ellos.

Las repetidas encuestas entre los especialistas son claras a este respecto. Un estudio elaborado en 2025 por el University College de Londres entre 4.260 investigadores expertos en IA de 92 países mostró que la desinformación, el uso de datos personales sin consentimiento o el cibercrimen fueron los riesgos de la IA que más preocupan los científicos. “Nuestros resultados ofrecen un claro contrapunto al revuelo mediático en torno al riesgo existencial, que no figuraba entre las diez principales preocupaciones que surgieron en las respuestas. Solo el 3% de los investigadores afirmó que lo que más les preocupaba era el escenario especulativo a largo plazo en el que una IA avanzada y fuera de control supusiera una amenaza para la existencia humana”, explicó Ananya Karanam, coautora del estudio.

No obstante, en las últimas fechas reputadas voces de la industria tecnológica han elevado la misma alerta que Coxon: los laboratorios de IA no están siendo transparentes sobre los riesgos reales que entrañan sus investigaciones actuales. Una de ellas ha sido la del propio Bill Gates, que recientemente ha publicado un extenso ensayo y dado entrevistas en las que profundiza en esta cuestión.

“En privado, las personas que entienden lo buena que es esta tecnología y cuánto está mejorando, están muy preocupadas”, revela el fundador de Microsoft, indicando que aquellos que se atreven a señalarlo son censurados por el resto del sector. “Se dicen entre sí: 'Oye, amigo, no digas eso. Es malo para los próximos billones de dólares que estamos intentando recaudar'”.

En este sentido, este mismo miércoles el Financial Times ha informado de que Anthropic se negó a remitir su último y más avanzado desarrollo, Claude Mythos 5.1, al Instituto de Seguridad de la IA de Reino Unido (AISI) para ser auditado antes de su salida al mercado. El medio británico lo relaciona con la doctrina proteccionista impuesta por Donald Trump, ya que Anthropic sí ha compartido el modelo con sus socios estadounidenses.

La advertencia llega envuelta en un tono de máxima urgencia. En una carta abierta firmada por más de un centenar de empresas del sector tecnológico y de ciberseguridad, gigantes como OpenAI, Anthropic, Google, Microsoft o Amazon avisan que se avecina una oleada de ciberataques impulsados por inteligencia artificial contra infraestructuras críticas, “desde hospitales y plantas de tratamiento de agua hasta la infraestructura que alimenta Internet”. “Tenemos una ventana limitada para fortalecer las ciberdefensas”, recalcan.

El manifiesto asegura que la situación en la ciberseguridad cambiará profundamente en los “próximos meses”: “Los ciberataques impulsados por IA se generalizarán y se volverán mucho más sofisticados a medida que los modelos de todo el mundo adquieran mayor capacidad”. Un escenario para el que la industria tecnológica propone un plan de cuatro frentes: exigir a las empresas privadas que revisen sus protocolos, instar a las firmas de ciberseguridad a liderar la respuesta, hacer que los desarrolladores de IA sean “responsables” con sus modelos avanzados, y, sobre todo, reclamar a los gobiernos que tomen cartas en el asunto.

En este sentido, piden a las instituciones que modernicen sus estructuras de defensa, engrasando los canales de alerta entre el sector público y el privado y estableciendo mecanismos de coordinación de respuestas. Pero, especialmente, piden dinero: “Financiar la ciberdefensa”, a través del “acceso a IA defensiva eficaz, pruebas autorizadas y asistencia práctica a través de proveedores y socios de confianza”.

“Es fundamental reconocer que la seguridad actual no será suficiente”, inciden los firmantes, entre los que también se encuentran Amazon, IBM, Oracle o el BBVA como representante español. Un aviso que hace unas semanas ya elevaron la inteligencia estadounidense y sus principales socios, conocidos como la alianza de Los Cinco Ojos.

El escape del verano

La carta llega tras un verano en el que se han sucedido las noticias sobre modelos de IA que “escaparon” de sus entornos protegidos para realizar ciberataques contra otras empresas u objetivos. OpenAI, Anthropic y Meta han revelado haber tenido este tipo de incidentes en los dos últimos meses.

El más sonado envolvió a OpenAI y la plataforma de código para desarrolladores Hugging Face, ambas firmantes del texto. Las dos compañías se vieron envueltas en un incidente de seguridad cuando agentes autónomos de la creadora de ChatGPT rompieron el aislamiento de su entorno de pruebas, accedieron de forma no autorizada a Internet y se coordinaron entre sí para penetrar en los sistemas de Hugging Face.

Si bien estas revelaciones consiguieron acaparar portadas y provocaron inquietud en algunos especialistas, otros expertos indicaron que las empresas estaban buscando un impacto publicitario. “Me parece que en algunos casos tiene un componente de venta del producto”, opina Rafael López, analista de ciberseguridad de la firma Checkpoint.

“Por ejemplo, en el caso de Anthropic, explicaron que el modelo se había dado cuenta de que estaba en un entorno aislado y fue capaz de salir de él para conectarse a Internet y realizar los ataques que le habían ordenado. Ese 'incidente' le viene muy bien a la empresa de IA, porque puede vender las capacidades del modelo en ciberseguridad y para hacer cosas que antes se creían imposibles”, detalla el especialista: “No digo que todo sea humo, pero sí que es un argumento muy bueno de venta”.

Ahora estas empresas defienden que esos sistemas pueden ser un escudo ante la amenaza de ataques automatizados. “Pongamos la IA con capacidad cibernética al alcance de los defensores, empezando por los equipos que protegen los servicios esenciales”, solicitan en la carta. Con todo, los expertos recuerdan que el diagnóstico que hacen los gigantes tecnológicos es verídico: muchos estados llevan años descuidando la protección de sus infraestructuras, con configuraciones obsoletas y falta de personal defensivo.

Además de las grandes tecnológicas del software y la nube (AWS, Microsoft, Google, Oracle) y los laboratorios de IA (OpenAI, Anthropic, Hugging Face, Scale AI, Perplexity), entre los firmantes del manifiesto figuran las mayores multinacionales de la ciberseguridad privada (CrowdStrike, Palo Alto Networks, Zscaler, Fortinet, Cloudflare, Snyk), firmas de consultoría (PwC, KPMG, Oliver Wyman) y gigantes financieros como el citado BBVA y Citi, Mastercard o Visa.

El collage de la IA resulta, en ocasiones, desconcertante. Microsoft suprime casi 5.000 empleos pocos días después de presentar unos resultados que vuelven a superar cualquier previsión del mercado. Meta se desprende de miles de trabajadores mientras acelera el fichaje de ingenieros especializados en IA con bonus retributivos millonarios. Oracle reconoce haber destruido más de 20.000 puestos de su plantilla, a renglón seguido de anunciar flujos de capital sin precedentes en infraestructuras para IA.

Amazon, Cisco, Salesforce, Microsoft, Coinbase o Cloudflare recorren el mismo camino. Nunca tantas compañías habían despedido trabajadores disfrutando simultáneamente de semejante fortaleza financiera. Microsoft anunció 4.800 despidos, el 2,1% de su plantilla mundial, en julio; Cloudflare, más de 1.100 (el 20% de sus empleados) en mayo, pese a consignar ingresos del 34% superiores a 2025 en el ecuador de este año; y Cisco, más de 1.100, casi el 5% de su censo de trabajadores.

No es como si el trabajo haya desaparecido, realmente. Más bien, cambia de dueño, funciones o responsabilidades. Durante décadas, el mercado laboral ha funcionado como una escalera en la que las empresas, que contrataban a jóvenes para realizar tareas rutinarias, los convertían con el paso del tiempo en empleados con experiencia y, más tarde, los ascendían hasta asumir unas competencias que exigían mayores niveles de responsabilidad y, por tanto, de retribuciones. La IA, sin embargo, amenaza con demoler este castillo de naipes. Desde su base. Y no precisamente porque estén sobradas de talento. Todo lo contrario. La explicación es meramente tecnológica y apunta a la revolución del algoritmo y su facilidad —o programación— para ejecutar actividades repetitivas que tradicionalmente servían como puerta de entrada a las profesiones cualificadas.

Este nuevo cuadro de mando productivo encierra una estrategia surrealista. Las firmas compiten por contratar expertos en IA al tiempo que hacen mermar las ofertas de jóvenes que aspiran a convertirse algún día en ellos.

La magnitud de este reajuste empieza a adquirir dimensiones estructurales. Según la plataforma especializada TrueUp, las tecnológicas estadounidenses eliminaron cerca de 150.000 puestos de trabajo durante el primer semestre de 2026 a través de 364 procesos de despido, una cifra que coincide con el mayor ciclo inversor de la historia de la industria de la IA americana. Para Joseph Fuller, profesor de la Harvard Business School, no es un episodio coyuntural, sino el pistoletazo de salida de nuevos métodos de gestión del sector privado. Las empresas —dice—, “han entrado en una fase de sintonización continua (continuous tuning) en la que reestructuran sus plantillas sin registrar ciclos recesivos, con regulaciones sine die de expiración y con la única justificación de las latentes y cambiantes prioridades estratégicas que marca la IA.

Esta incertidumbre constante —aventura Fuller— “hará que las empresas se inclinen a acometer excesos de despidos”.

Goldman Sachs admite haber detectado esta transformación en tiempo real. Lo hace en la última edición de su informe AI Adoption Tracker, donde muestra que, aunque el impacto neto de la IA sobre el empleo estadounidense se ha moderado —de unos 16.000 puestos destruidos al mes a alrededor de 11.000, gracias al auge de la construcción de centros de datos—, el deterioro sigue concentrándose en trabajadores jóvenes y ocupaciones administrativas y técnicas. El fenómeno no refleja todavía un aumento generalizado del desempleo, sino una creciente polarización del mercado laboral. Mientras electricistas, instaladores, especialistas en climatización o ingenieros civiles encuentran oportunidades ligadas al despliegue de infraestructuras digitales, diseñadores gráficos, analistas juniors, programadores noveles, puestos de atención al cliente o su personal administrativo ven que sus funciones comienzan a ser absorbida por modelos generativos.

La evidencia, además, se ha instalado también fuera de Wall Street. El AI Index 2026, elaborado por un instituto tecnológico de Stanford, revela que el empleo de desarrolladores de software de entre 22 y 25 años ha caído un 20% respecto a 2024, mientras el de sus profesionales sénior progresa. El dato refleja que las empresas contratan ingenieros, pero buscan perfiles capaces de supervisar modelos, integrar sistemas complejos o rediseñar procesos. No solo escribir códigos rutinarios. La IA reduce el valor de las tareas repetitivas y demanda experiencia acumulada.

Abducidos por el tecno-empleo digital

Dario Amodei, fundador y CEO de Anthropic, es de los escasos ejecutivos tecnológicos dispuesto a describir abiertamente las consecuencias de esa transición. En su opinión, la IA podría eliminar hasta la mitad de los empleos administrativos de los próximos años si gobiernos y empresas no aceleran la readaptación de sus trabajadores y sistemas educativos. Su advertencia rompe con el optimismo dominante en Silicon Valley y coincide con las conclusiones de Boston Consulting Group (BCG). La consultora estima que entre el 50% y el 55% de los empleos estadounidenses cambiarán sustancialmente de contenido antes de finalizar la década, aunque únicamente entre un 10% y un 15% desaparecerán por completo. Y hace suyo el argumentario de que la revolución tecnológica en ciernes no consistirá en una sustitución masiva de personas por máquinas, sino en una redefinición profunda de las funciones que desempeñan.

Esa misma idea subyace en los análisis de McKinsey. Esta firma asegura que las compañías más avanzadas utilizan la IA para automatizar tareas aisladas. Pero, sobre todo, para rediseñar sus procesos de negocio al completo. Un matiz sustancial. Porque automatizar una tarea permite reducir costes y remodelar las cadenas de valor. De modo que los equipos y áreas productivas se vuelven más reducidos, desaparecen niveles intermedios de supervisión y la toma de decisión se concentra en un ramillete de directivos asistidos por sistemas inteligentes. El gran cuello de botella se genera por la necesidad de encontrar profesionales capaces de entender el negocio, interpretar el contexto y supervisar correctamente las decisiones de los algoritmos. Bienvenidos a la economía digital.

Carrol Chang, CEO de Andela, mercado privado para seleccionar talento técnico, admite que los trabajadores auténticamente nativos IA son “difíciles de encontrar y extraordinariamente caros”, por lo que forman parte de profesionales que reciben ofertas salariales millonarias. Nunca se ha atisbado una brecha laboral entre el trabajo en cadena y el talento tecnológico tan profunda. Incluso entre empleados de una misma compañía y de bigtechs como Microsoft, Meta u Oracle, que expulsan masa laboral mientras contratan especialistas en modelos fundacionales.

Jeffrey Pfeffer, profesor de la Stanford Graduate School of Business, avisa de que este paradigma trasciende del mercado tecnológico. “Es una herramienta de gestión dirigida a erosionar todo lo que las empresas no pueden automatizar; es decir, la confianza, el conocimiento acumulado y la capacidad de coordinación entre equipos”. Y la pérdida de capital humano no siempre aparece reflejada en la cuenta de resultados, advierte. Aunque “termina deteriorando la innovación, la cultura corporativa y la productividad a largo plazo”. Fuller coincide con esta visión al anticipar que, cuanto más se extienda la IA, más valiosos serán los profesionales con habilidades para la comprensión de clientes, regulaciones, cadenas de suministro o mercados específicos. “Hay que conservar a la gente que sabe de qué está hablando”, resume el profesor de Harvard. Pese a que eso puede no detectarlo el algoritmo.

Esta tendencia se extiende por otras latitudes. Incluida Europa. Si bien a un ritmo más pausado. SAP ha reorganizado miles de puestos para acelerar su transición digital; Siemens utiliza sistemas generativos para automatizar tareas de ingeniería, mantenimiento y diseño industrial y firmas como Deutsche Telekom, BT, ING o Deutsche Bank intensifican la automatización de procesos administrativos y de atención al cliente. Klarna, por ejemplo, también ha convertido la IA en uno de los pilares de su táctica operativa al demostrar que un solo asistente conversacional puede asumir el trabajo equivalente al de centenares de agentes. Telefónica, por su parte, ha situado la IA en el centro de su transformación tecnológica para simplificar operaciones, optimizar redes y automatizar funciones internas.

Europa avanza con mayor cautela, condicionada por una regulación laboral más protectora y un marco normativo como el reglamento europeo de IA que opera en la misma dirección; gestiones corporativas más ligeras, automatizadas y con demanda creciente de perfiles especializados.

La OCDE y el World Economic Forum (WEF), entidad organizadora de las cumbres de Davos, han conformado una misma radiografía de situación: la IA no provocará un colapso generalizado del empleo. Aunque engendrará periodos prolongados de reasignaciones laborales. Esta transición exige formación continua, reciclaje profesional y políticas educativas capaces de preparar a una fuerza laboral que convivirá constantemente con sistemas inteligentes.

Del ERE masivo al ajuste continuo

Hasta hace muy poco, Silicon Valley velaba por el empleo. Era una de las señas de identidad de unas plataformas tecnológicas que competían por atraer talento en un mercado con escasez de ingenieros, que justificaba salarios desorbitados, oficinas convertidas en campus universitarios y plantillas que crecían a doble dígito año tras año. La pandemia llevó ese fenómeno al extremo. Con tipos de interés próximos a cero y una demanda digital disparada, las bigtechs contrataron cientos de miles de trabajadores, convencidas de que aquella expansión sería permanente. Es el continuous tuning o ajuste continuo, por el que las compañías tratan sus fuerzas laborales como una cartera que debe modificarse constantemente conforme cambia la tecnología.

Pero la irrupción de la IA generativa ha plasmado otra realidad que busca dar con El Dorado de la productividad a marchas forzadas para justificar los milmillonarios desembolsos de capital a lo que les ha llevado la desaforada carrera por la competitividad global con sus contrapartes chinas. En un proceso que reclama una reconversión tecnológica, productiva, administrativa y, por supuesto, de personal. La firma de cazatalentos Challenger, Gray & Christmas, precisa que la IA es la principal razón alegada por las empresas estadounidenses para justificar despidos. Al tiempo que AlphaSense, plataforma de búsqueda de talento en el mercado, revela un giro copernicano en la jerga corporativa. Mientras en 2022 apenas se podían encontrar referencias simultáneas a IA y despidos en las narrativas de resultados de empresas cotizadas, este año son más de un centenar por trimestre las que admiten que sus variables de IA aconsejan regulaciones de empleo.

Varias de las bigtechs americanas le dan la razón. Microsoft insiste en que sus últimos recortes no responden a la IA, sino a la necesidad de simplificar su organización. Pero los aborda. Meta mantiene un discurso de blanqueamiento similar, con expulsión de plantilla, mientras concentra miles de empleados en nuevas divisiones de modelos fundacionales. Cisco admite abiertamente que precisa desplazar inversiones a áreas con potencial de crecimiento a través del algoritmo y Oracle va aún más lejos al admitir en su informe regulatorio que la adopción de tecnología IA es la causa de un recorte de plantilla de 21.000 personas desde el verano pasado y al avanzar que el proceso está lejos de remitir en el futuro.

De hecho, las propias hojas de ruta de las bigtechs, sus estrategias corporativas a corto y medio plazo, así lo corroboran. Las cuatro tradicionales --Amazon, Microsoft, Alphabet y Meta, ahora, con el permiso de Nvidia, la de mayor capitalización bursátil, con un PIB semejante al alemán-- prevén destinar 700.000 millones de dólares a redes vinculadas a la IA a lo largo de todo 2026. De modo que el dinero liberado por los ajustes laborales no desaparece de sus libros contables. Tan solo cambia de destino. A través de itinerarios y proyectos para financiar centros de datos, procesadores especializados, infraestructuras, contratos eléctricos y capacidad de computación. Con la inestimable ayuda del IA washing o blanqueo de expedientes de empleo por la IA por sus ejecutivos para ganar tiempo ante sus accionistas hasta que las milmillonarias inversiones en IA eleven márgenes y rentabilidades.

La empresa de inteligencia artificial (IA) OpenAI anunció este martes el lanzamiento global de 'ChatGPT for Teens' (ChatGPT para adolescentes), una nueva modalidad en la que el chatbot limita automáticamente ciertas conversaciones para proteger mejor a los usuarios jóvenes y ofrece controles parentales.

Según la compañía, este nuevo chatbot tiene las mismas capacidades que el tradicional, pero está “diseñado para ayudar a los adolescentes a aprender, resolver problemas y explorar nuevas ideas”. Además, limitará las conversaciones de alto riesgo relacionadas con autolesiones, violencia, trastornos alimentarios y contenido sexual explícito o gráfico.

En algunos casos, ChatGPT enviará alertas a los adultos que hayan optado por activar los controles parentales y las notificaciones. No obstante, estas salvaguardas no permiten que el padre o el tutor lea ni supervise las conversaciones del adolescente. “Si OpenAI envía una notificación de seguridad, solo comparte la información necesaria para proteger el bienestar del joven”, anota el comunicado.

También ofrece “recordatorios de tareas” que pueden sugerir el uso del modo de estudio y ayudar a completar las asignaciones paso a paso, en lugar de proporcionar la respuesta en la primera consulta.

Para activar esta nueva función, la empresa rastrea más de 2.000 señales, como los horarios habituales de inicio de sesión, para detectar si un usuario es menor de 18 años, en cuyo caso el chatbot activará automáticamente este modo adolescente.

Este lanzamiento con enfoque educativo y de seguridad llega en un momento en el que OpenAI se enfrenta a una presión cada vez mayor sobre la salud mental y el desarrollo de sus usuarios más jóvenes. Grupos de padres en ciudades como Nueva York y Los Ángeles están presionando a las escuelas para que detengan la implementación de productos de IA por temor a que obstaculicen el pensamiento crítico.

La compañía tecnológica Nvidia ha anunciado que respaldará con hasta 105.000 millones de dólares (unos 90.600 millones de euros) la construcción de un centro de datos en el estado de Ohio (EEUU), que será edificado y operado por la compañía SB Energy y cuyo cliente será la 'startup' de inteligencia artificial OpenAI, creadora de ChatGPT, a través de un contrato de arrendamiento de 20 años.

Tal y como ha registrado Nvidia en la Comisión de Bolsa y Valores de Estados Unidos (SEC), la financiación podría superar los 90.000 millones de euros, un desembolso que está sujeto a condiciones específicas como que SB Energy permita la prestación de servicios a través del centro de datos a partir de 2028.

El campus tecnológico Ports-Pike en Ohio permitirá responder a la creciente demanda de infraestructura de IA y “sentará las bases para los avances del futuro, permitiendo a las comunidades impulsar el descubrimiento científico, los avances en la atención médica y el desarrollo económico regional”, reza un comunicado emitido por Nvidia, recogido por Europa Press.

Las instalaciones tendrá una capacidad inicial de 4,25 gigavatios (GW) que podrán ampliarse en 3,75 GW, lo que permitirá un total de 8 GW, con los primeros 800 megavatios (MW) disponibles para 2028.

Invertirá 1.300 millones en la empresa que desarrolla la infraestructura

Está previsto que el proyecto genere 35.000 puestos de trabajo en la construcción durante sus seis años de desarrollo, hasta 2032, y 2.500 empleos operativos a largo plazo. Asimismo, OpenAI invertirá unos 84 millones de dólares (72 millones de euros) para que todos los estudiantes universitarios de Ohio tengan acceso a herramientas de ChatGPT.

Por otro lado, Nvidia destinará 1.500 millones de dólares (unos 1.300 millones de euros) en SB Energy y respaldar así su evolución para convertirse en un desarrollador líder de infraestructura de IA.

“Estamos garantizando una infraestructura duradera para la computación de Nvidia, de modo que OpenAI pueda implementar las fábricas de IA más productivas, que se pueden actualizar repetidamente con cada nueva generación, ofreciendo mayor inteligencia y una mejor rentabilidad”, ha destacado Jensen Huang, fundador y consejero delegado de Nvidia.

“Este será un centro enorme, con la capacidad informática suficiente para ayudar a millones de personas a utilizar la IA para realizar tareas que hoy apenas podemos imaginar, desde descubrir nuevos medicamentos hasta crear empresas y resolver problemas complejos”, ha declarado el consejero delegado de OpenAI, Sam Altman.

“La infraestructura es vital para la economía de la IA. Junto con SoftBank Group, OpenAI y Nvidia, SB Energy está construyendo infraestructura centrada en la energía a una escala sin precedentes, al tiempo que fortalece las comunidades que lo hacen posible: protegiendo a los consumidores, creando decenas de miles de empleos bien remunerados e invirtiendo en infraestructura para revitalizar el sur de Ohio, que durante mucho tiempo ha moldeado el futuro de Estados Unidos”, ha indicado el coCEO de SB Energy, Rich Hossfeld.

Durante cuatro años, la Casa Blanca creyó haber encontrado la fórmula para contener el ascenso tecnológico chino. Primero restringió, bajo la Administración Biden, la venta de chips y circuitos integrados de alta gama de Nvidia y AMD. Con posterioridad, expandió el veto a los equipos de litografía de ASML, con presiones a sus socios europeos, y endureció los controles sobre varias de las herramientas indispensables para fabricar semiconductores de última generación. Pero la estrategia de dejar a Pekín sin acceso al hardware más sofisticado y así relegar al gigante asiático en la carrera por la hegemonía de la IA ha caído en saco roto. La aparición en la escena inversora de Kimi K3 –modelo fundacional chino de IA de última generación– ha puesto en duda la táctica americana con un giro de 180 grados en las expectativas bursátiles.

Wall Street –y bolsas como la surcoreana, la más rentable de 2025– han mostrado esta semana la debilidad del relato de que la IA es una licencia inversora exclusiva de las bigtechs de Silicon Valley. En apenas 48 horas, tres señales bursátiles han dado un baño de realpolitik a este sueño americano. El Nasdaq 100, de marcado acento tecnológico porque excluye de su indicador a las firmas financieras, retrocedió más de un 10% respecto a su máximo de junio; el SOX de Filadelfia, que engloba valores de semiconductores, acumuló una larga semana de sesiones consecutivas en descenso, y el fabricante surcoreano de chips SK Hynix, insignia de las memorias para IA llevó al Kospi a su segunda semana negra de julio por decepcionar las expectativas inversoras con sus ingresos del segundo trimestre.

En medio de nuevos latidos de tensión en el mercado del crudo por el recrudecimiento de las hostilidades en Oriente Próximo. Solo la descontada maniobra de contención de tipos de Kevin Warsh en la Fed ha aliviado algo el tsunami que, sin embargo, muestra réplicas preocupantes en la rentabilidad de los bonos del Tesoro. Aunque insufló optimismo a Wall Street para cerrar en positivo la semana y al Kospi surcoreano para remontar un 17,9% el pasado viernes y recuperar parte de su capitalización mensual perdida.

Detrás de estos movimientos telúricos subyace la aparición de Kimi K3, el nuevo prototipo de la startup china Moonshot AI, que no sólo está tuteando, como avisan métricas independientes, a las plataformas más avanzadas de OpenAI y Anthropic, sino que está obligando a inversores, reguladores y analistas a replantearse el equilibrio tecnológico mundial. Su bautismo bursátil de hace unas semanas hizo desplomarse a las acciones de varios desarrolladores chinos de IA hasta hacer perder un 8,6% en julio al índice CSI 300 del gigante asiático, la peor caída desde enero de 2016, por el temor a quedarse rezagados en la carrera tecnológica. Mientras Wall Street revisaba los rendimientos de los laboratorios americanos y Pekín reforzaba los controles a la exportación de modelos, chips y tecnología estratégica.

Moonshot ni siquiera ha debutado en los parqués, aunque prepara una OPV en Hong Kong en los próximos meses tras una exitosa ronda de financiación con inversores que ha llevado a Kimi K3, su modelo de IA, a alterar una triple percepción del mercado: la de que las restricciones tecnológicas de EEUU a los chips frenarían a China; la de que solo los laboratorios occidentales podían configurar modelos de frontera y la de que esa ventaja justificaba sus altas valoraciones bursátiles. Es decir, que una habitual reunión de captación de capital parece haber suturado la brecha de la IA china con las aspirantes a bigtechs americanas como OpenAI y Anthropic, ya con fechas de salida a bolsa en sus calendarios.

Pero la reacción bursátil por Kimi K3 ha sido solo el primer capítulo. Diez días después, debutó en el parqué ChangXin Memory Technologies (CXMT), campeón chino de memorias DRAM, que confirmó el sumo interés inversor en comprar, además de modelos de IA, valores de las cadenas de suministro chinas. Sus acciones, que se dispararon un 466% en su debut, la convirtió de forma fugaz en la empresa cotizada más valiosa del gigante asiático por el entusiasmo inversor hacia el hardware que construirá la siguiente generación de IA.

“La IA es ya un imperativo de seguridad nacional” asegura el presidente de la Comisión Nacional de IA americana (NSCAI), Eric Schimidt, y un requisito crucial para competir con China que “está reseteando las entrañas de la Defensa y de la diplomacia, de la influencia económica y del poder geopolítico simultáneamente”, matiza Ylli Bajraktari, presidente del Special Competitive Studies Project (SCSP). En un momento en el que “la frontera que separaba a la IA estadounidense de la china se acaba de diluir drásticamente”, enfatiza Mark Malek, director de inversiones de Siebert Financial, al explicar el brusco giro bursátil provocado por Kimi K3. Para Emory Tsai-Yi Wang, de otro think-tank, el DSET, “la irrupción de CXMT en bolsa la ha convertido en el campeón nacional elegido para garantizar una cadena de suministro autosuficiente”.

Malek incide en lo paradójico de esta doble puesta en escena de la IA china. Porque se produce cuando China afronta la coyuntura más compleja en decenios. Con un mercado inmobiliario que sigue en parálisis, un gasto de consumo anémico y unos capitales foráneos asumiendo un perfil prudente. Sin embargo, esa misma debilidad –precisa– “está reforzando una estrategia de luces largas que confía recursos financieros, talento científico y apoyo estatal a un reducido grupo de sectores capaces de redefinir la productividad y aportar músculo global”.

Posiciones estratégicas del ‘triunvirato’ mundial

Si durante los noventa China fue la gran fábrica mundial, en la década pasada aspiró a erigirse en potencia industrial de alto valor añadido y economía de mercado, en estos años veinte busca liderar la infraestructura intelectual de la economía digital.

La réplica de EEUU a esta maniobra confirma que el desafío trasciende del ámbito comercial. Las restricciones a sus exportaciones de chips, los vetos a firmas tecnologías críticas, americanas o de otras latitudes del planeta, o el creciente escrutinio sobre las inversiones cruzadas reflejan que Washington también entiende la IA como un activo estratégico equiparable a la energía, el espacio o la defensa. Pekín impone exactamente esta misma lógica al barajar ahora prohibir que los pesos (weights) de sus modelos más avanzados se descarguen libremente en el extranjero, reforzar los controles sobre el diseño de sus semiconductores y evitar que compañías calificadas de estratégicas terminen en manos inversoras occidentales.

La carrera por la IA ha entrado así en otra dimensión. Si la primera batalla se libró por los chips y la segunda, por los modelos fundacionales, esta tercera, que acaba de emprender su marcha, decidirá los actores que modelarán los futuros estándares tecnológicos de la economía global. Y esa tercera guerra resultará más decisiva que las anteriores.

Las tres guerras tecnológicas del siglo XXI

La historia reciente de la IA, pues, ha redefinido las reglas de la competencia y ha desplazado el centro de gravedad de la creación de valor. La irrupción de Kimi K3 no emprende otra revolución tecnológica, pero emprende la tercera y probablemente la más decisiva de estas contiendas.

La primera fue la guerra del hardware. Tras el lanzamiento de ChatGPT en 2022, la convicción reinante consistía en que la ventaja competitiva dependería casi exclusivamente del acceso a los chips más avanzados. Nvidia se convirtió en símbolo del modelo económico al tiempo que desde Washington se desplegaba una compleja arquitectura de restricciones para impedir que Pekín adquiriera procesadores de última generación o máquinas de litografía para fabricarlos. Todo su propósito giraba en torno a limitar la capacidad de cálculo y ralentizar el avance de sus modelos, cada vez más sofisticados.

“Quien controle la capacidad de computación controlará gran parte del futuro de la IA”, decía Dario Amodei, CEO de Anthropic, para explicar este proceso. Durante un tiempo, China encontró obstáculos para acceder al hardware más avanzado y numerosos analistas interpretaron que su brecha tecnológica con Silicon Valley se ensanchara sin remedio.

Pero la innovación rara vez evoluciona de manera lineal. Esta escasez obligó a los laboratorios chinos a alcanzar rendimientos con escasos recursos computacionales. China entendió que, en vez de competir por la potencia bruta, era mejor hacerlo por eficiencia y acumulación de talento.

Kimi K3 simboliza este éxito. Su arquitectura abierta y avances en entrenamiento y prestaciones son equiparables a los que ofrecen de OpenAI o Anthropic, pero con unos costes muy inferiores, lo que cuestiona las extraordinarias valoraciones bursátiles del sector y el relato de que sólo una ingente inversión en computación puede crear IA de frontera. De hecho, ha acuñado el lema de que “OpenAI y Anthropic serán el iPhone y los modelos chinos, Android”, lanzado por Kai-Fu Lee, fundador de Sinovation Ventures.

Leonid Mironov, gestor de Gavekal Capital, avanza que “Kimi K3 constituye la mejor evolución hasta la fecha en China”, a lo que Kai-Fu matiza que es la industria de la IA del gigante asiático la que está en condiciones ahora de arrebatar cuota de mercado a EEUU gracias a su flexibilidad y precios competitivos, aclara Aaron Levie, CEO de Box, para quien reducir los costes de la IA no rebaja su demanda, “pero multiplica exponencialmente su uso”.

Justo en este punto es donde arranca la tercera guerra, la más decisiva, la de los estándares, que definirá los ecosistemas tecnológicos de gobiernos, empresas y millones de desarrolladores en próximas décadas. Es decir, seleccionará los actores que diseñarán el lenguaje de la economía digital. Y no enfrentará únicamente a OpenAI con Moonshot, ni a Nvidia con Huawei. Pondrá en liza dos concepciones distintas del liderazgo tecnológico. Una, basada en plataformas cerradas y otra, de modelos abiertos, de rápida difusión mundial y apoyos estatales masivos.

La UE, entre dos aguas geoestratégicas

Europa, como siempre, se ha inclinado por una tercera vía. Antes, incluso, de que se formalicen las reglas del juego globales sobre los estándares de la IA. La irrupción de Kimi K3 ha reforzado la idea en Bruselas de que el algoritmo es geoestratégico y que estará sometido a restricciones nacionalistas fuera de la órbita comunitaria. Con Washington limitando hasta el exceso el acceso a modelos y semiconductores por motivos de seguridad nacional y Pekín tratando de endurecer los controles a la exportación de sus modelos, datos de entrenamiento y tecnologías críticas con el propósito de que sus avances no refuercen a sus competidores. En este marco, la diplomacia de la UE ha situado a Pekín en el centro de sus rivalidades geoestratégicas.

“La IA es un activo indudablemente estratégico; quienes la controlan dominan la economía, pero también disponen con ella de una herramienta de poder geopolítico”, admite Henna Virkkunen, vicepresidenta de la Comisión y responsable de Soberanía Tecnológica. Su relato incrusta en la jerga comunitaria la prioridad de regular la IA y garantizar que el mercado común disponga de modelos, centros de datos, nube y computación avanzada con habilidades made in EU.

Arthur Mensch, CEO de Mistral AI, defiende que “Europa tenga su propia soberanía tecnológica en IA”, porque “no podemos conceder a plataformas foráneas una tecnología tan crítica”. Bajo esta premisa, Bruselas ha lanzado su estrategia en innovación, que movilizará fondos público-privados para acelerar la construcción de AI Gigafactories, reforzar la capacidad de computación europea y respaldar campeones tecnológicos como Mistral.

Kimi K3 debe entenderse como “un acicate, entre las bigtechs americanas y las startups chinas”, enfatiza Mensch, quien incide en que la carrera competitiva global se decidirá entre empresas y ecosistemas tecnológicos nacionales. Y en esa nueva Guerra Fría digital, la amenaza para Europa es doble: quedarse rezagada frente a las dos superpotencias y convertirse en una especie de mercado cautivo de plataformas impuestas por ambos bloques y rivales.