El Gobierno abrirá el próximo mes de octubre una mesa de negociación multilateral para “articular un nuevo contrato social” para la era de la inteligencia artificial (IA). El presidente Pedro Sánchez ha anunciado que convocará a los agentes sociales (sindicatos y patronal), empresas del sector privado, grupos políticos y representantes de las administraciones públicas con el propósito de sellar “un gran acuerdo de país para ofrecer seguridad a las personas ante los cambios en el trabajo en la vida que esta tecnología va a suponer”, ha manifestado.

Sánchez ha criticado a las tecnológicas que piden dejar el desarrollo tecnológico en sus manos. “Hace poco leía en una entrevista a uno de estos principales tecno-oligarcas decir 'confíen en nosotros'. Bueno, pues va a ser que no; vamos a decidir entre todos nosotros y nosotras qué podemos hacer con esta tecnología”, ha advertido el presidente, en referencia a unas declaraciones de Sam Altman, CEO de OpenAI, la semana pasada.

Las negociaciones del nuevo contrato social estarán lideradas por el propio presidente del Gobierno, ha adelantado. “Los incentivos de unos pocos que controlan estas industrias punteras nunca van a estar alineados con el interés general, por mucho que intenten convencernos de lo contrario”, ha insistido: “una transformación de esta magnitud lo que necesita son reglas claras, decididas por todos”.

En la misma línea, ha avisado a las multinacionales de que “sería bueno que los oligarcas del presente no cayeran en el mismo error en el que incurrieron los magnates del pasado, porque, a fin de cuentas, nadie está por encima del interés público”, recordando una cita del magnate de los ferrocarriles William Vanderbilt, que a finales del siglo XIX afirmó “al diablo con la gente. Yo solo trabajo para mis accionistas”. Finalmente, el poder que acumularon estos empresarios llevó a la primera gran regulación antimonopolio y la regulación del sector.

Nuevo plan para controlar la IA

Sánchez ha hecho este anuncio en la presentación del Plan IA 360, una estrategia dada a conocer este lunes por el líder del Ejecutivo y por el vicepresidente Carlos Cuerpo. Se trata de una “hoja de ruta” para desarrollar “una inteligencia artificial humanista” que conjugue el potencial económico de esta tecnología con la protección de los derechos de los ciudadanos.

El plan se desarrollará a lo largo de los próximos doce meses y se distribuye en cuatro ejes. Uno de ellos será “convertir la rápida adopción social de esta tecnología en España”, que Sánchez ha destacado que se encuentra “en el top-10 del mundo”, en un “motor económico y semillero de talento”. Para ello se lanzará un “Bono Inteligencia Artificial para pymes y autónomos”, cuyo objetivo será impulsar su integración en el tejido productivo para que en 2030 “más de la mitad” de las empresas ya cuenten con ella en sus procesos. Moncloa ha explicado que el bono cuenta con 600 millones de euros que se abonarán según los hitos y objetivos cumplidos por los beneficiarios.

Como parte de esta ambición, el Gobierno retocará los planes de estudio de la Educación Secundaria y la Formación Profesional para que los alumnos puedan “aprender a usar y a convivir con la IA”, pero también para que “no dañe su proceso de aprendizaje”.

La segunda clave del plan el “refuerzo” del “músculo tecnológico” con iniciativas “estratégicas” como la gigafactoría europea o los centros de datos sostenibles. En este sentido, el presidente ha citado también los trabajos del Barcelona Supercomputing Center - Centro Nacional de Supercomputación (BSC) para investigar “inteligencia artificial de frontera” y la necesidad de apoyar sus estudios.

Alianzas internacionales

El tercer punto citado por el presidente es la búsqueda de consensos internacionales para la gobernanza de la IA. Sánchez ha recordado las “alianzas estratégicas” que España está firmando con “socios afines” como Canadá o México. El Gobierno lo define como una búsqueda de una “tercera vía” para esta tecnología más allá de los modelos de EEUU y China. Este lunes, el presidente ha adelantado que el Ejecutivo seguirá buscando miembros para esa alianza, entre los que ha citado a Japón.

“Tenemos que impulsar una agenda que responsabilice legal y financieramente a las empresas por los daños que causan en sus actividades. Por tanto, por los daños que causan con sus algoritmos, ya sean los deepfakes, los problemas de salud mental de nuestros hijos o el robo de propiedad intelectual e industrial”, ha destacado.

Por último, el cuarto eje será ese “acuerdo de país” para establecer las guías para que la IA se implante en España. “Necesitamos una inteligencia artificial con supervisión y con trazabilidad que ayude a tomar las mejores decisiones para que no sustituya el criterio humano allí donde este debe prevalecer”, ha manifestado el presidente: “si lo hacemos bien, la IA puede hacer a los trabajadores más valiosos en sus empresas, no más prescindibles”.

Dario Amodei ha sido hasta ahora un gran desconocido para el gran público. Figuras como Sam Altman o Elon Musk han acaparado mucha más atención en las conversaciones sobre la inteligencia artificial. Amodei, sin embargo, podría ser el personaje más citado en este campo de la próxima década. Sobre todo, si el debate sobre la IA pasa a girar en torno a la posibilidad de que esta ataque a la humanidad, como ha ocurrido en la última semana.

Amodei (San Francisco, 1983) lleva una década documentando en estudios académicos y ensayos todos los escenarios en los que eso podría ocurrir. Fue en 2016, siete años antes de la salida a la luz de ChatGPT, cuando publicó su primer gran estudio al respecto. Entonces, junto a otros cinco investigadores, alertó sobre los “comportamientos dañinos y no intencionados que surgen de un mal diseño de los sistemas” de aprendizaje automático, la tecnología entonces emergente que terminaría ayudando a desarrollar la IA generativa actual.

A la humanidad se le está a punto de entregar un poder casi inimaginable, y no está nada claro si nuestros sistemas sociales, políticos y tecnológicos poseen la madurez para empuñarlo

Dario Amodei

Pero lo que entonces eran problemas relativamente concretos se convertiría en una preocupación mucho más amplia durante la década siguiente. Amodei fue ampliando el foco desde los riesgos técnicos a los escenarios apocalípticos. “A la humanidad se le está a punto de entregar un poder casi inimaginable, y no está nada claro si nuestros sistemas sociales, políticos y tecnológicos poseen la madurez para empuñarlo”, ha manifestado.

Sus escritos están trufados de expresiones así: “La combinación de inteligencia, agencia, coherencia y escasa controlabilidad es plausible y representa una receta para el peligro existencial”. “Su tendencia a maximizar el poder los llevará a tomar el control de todo el mundo y sus recursos y, probablemente, como efecto secundario, a despojar de poder o destruir a la humanidad”, decía en el mismo ensayo, publicado en enero de 2026 y en el que ya anticipaba los riesgos de los agentes de IA.

“Pienso y hablo mucho sobre los riesgos de la IA avanzada”, reconocía en otro de sus ensayos sobre la cuestión, publicado en 2024. “Por ello, a veces se llega a la conclusión de que soy un pesimista o un catastrofista que cree que la IA será mayoritariamente mala o peligrosa. No lo creo en absoluto”, expone: “De hecho, una de las principales razones por las que me centro en los riesgos es que son lo único que nos separa de lo que considero un futuro fundamentalmente positivo. Creo que la mayoría de la gente subestima el potencial radical de la IA, así como también subestima la gravedad de sus riesgos”.

Una de las principales razones por las que me centro en los riesgos es que son lo único que nos separa de lo que considero un futuro fundamentalmente positivo

Dario Amodei

A este tipo de perfiles, el sector tecnológico los denomina “evangelistas de la seguridad”. Ese es el término que utilizó para él, por ejemplo, el Financial Times, cuando detalló cómo su empresa, Anthropic, estaba sobrepasando a la líder del mercado, OpenAI. La diferencia es que esos evangelizadores suelen centrarse en la necesidad de establecer contraseñas fuertes o de formar a los empleados en los riesgos digitales. Amodei habla de que la IA suponga un peligro existencial para la sociedad. Y lo hace desde una posición única.

“Los fundadores suelen ser expertos en tecnología, en desarrollo de productos o en ventas. Dario es uno de los pocos directores ejecutivos que he conocido que domina las tres áreas”, explicó al citado medio económico Divesh Makan, fundador de Iconiq Capital, que lideró una de las últimas rondas de financiación de Anthropic, hoy valorada en 2 billones de dólares (aproximadamente 1,75 billones de euros).

El científico CEO

El de Anthropic es, junto a Demis Hassabis (responsable de Google DeepMind), el único CEO de las grandes tecnológicas que ha trabajado como científico e investigador en la concepción de la IA actual. Una trayectoria muy diferente a la de Altman, especialista en la negociación de tratos con inversores y capital riesgo, o Elon Musk, cuyo perfil hace mucho que pasó a la dirección. Amodei, en cambio, llegó a la cima de una de las empresas más valiosas de la nueva industria de la IA después de pasar años haciendo investigación científica y dirigiendo algunos de los laboratorios que han marcado su desarrollo.

Licenciado en física y doctorado en biofísica, su primer trabajo en el sector fue en Baidu, el principal buscador de China, en 2015, donde participó en el desarrollo de Deep Speech 2, uno de los primeros sistemas de reconocimiento de voz entre el inglés y el mandarín. Después saltó a Google Brain (el laboratorio de IA avanzada de la multinacional que posteriormente se fusionó con DeepMind para crear Google DeepMind) y más tarde, a OpenAI, a la que llegó avalado por aquel primer estudio sobre la seguridad del aprendizaje automático.

“Dario fue uno de los autores principales de Deep Speech 2, un sistema de voz que logró un rendimiento casi humano en muchas tareas de habla. También es coautor de Problemas concretos en la seguridad de la IA, que pone de relieve cuestiones relacionadas con los accidentes en los sistemas de aprendizaje automático”, le presentó entonces OpenAI. Llegaría muy alto en la compañía.

Mientras seguía publicando estudios científicos sobre la seguridad de la IA, llegó a ser vicepresidente de investigación y codirigió el desarrollo de GPT-2 y GPT-3, los grandes modelos de lenguaje de OpenAI que más tarde se convertirían en el motor de ChatGPT. Pero entonces decidió que su vocación por la seguridad era incompatible con la organización dirigida por Altman. “Dario siempre ha compartido nuestro objetivo de una IA responsable. Él y un grupo de colegas de OpenAI están planeando un nuevo proyecto que, según nos comentan, probablemente se centrará menos en el desarrollo de productos y más en la investigación”, comunicó entonces Altman.  

“Esperamos mantener una relación de colaboración con ellos durante muchos años”, continuaba. No serían muchos años, ya que el proyecto de Amodei tomaría forma en Anthropic, la empresa que ha arrebatado el liderazgo a OpenAI.

Un laboratorio por la seguridad convertido en cuna de polémicas

En 2021, Dario funda Anthropic junto a una persona clave para entender el desarrollo de la empresa: su hermana Daniela Amodei. Mientras que Dario se encarga de la investigación científica y la dirección estratégica de la compañía, Daniela se encarga de convertir su laboratorio en una organización empresarial. Y lo ha hecho con un enorme éxito, puesto que una de las claves del auge de Anthropic son sus cuentas. Mientras OpenAI sigue dilapidando miles de millones cada ejercicio, la compañía de los Amodei ha conseguido beneficios en los dos últimos trimestres.

El leitmotiv que los hermanos crearon para su empresa es la seguridad en el desarrollo de la IA. “Realmente queríamos la oportunidad de reunir a ese grupo para hacer esta apuesta de investigación enfocada en construir sistemas de IA dirigibles, interpretables y confiables, con los humanos en el centro de ellos”, expresaba Daniela en una entrevista en 2022.

Es una trayectoria que ayuda a entender por qué Amodei se ha convertido en una de las voces con mayor autoridad dentro del sector para advertir sobre estos riesgos de la IA, , y por qué Altman, Musk o Hassabis llegaron a conceder que “Dario tiene razón” cuando el CEO de Anthropic presentó su plan para “ralentizar” la IA.

Sin embargo, la realidad se ha empeñado en poner a prueba ese discurso. La empresa del “evangelista de la seguridad” es una de las que más escándalos acumula en los dos últimos años. A finales de 2025, Anthropic reconoció que su IA Claude fue utilizada por un grupo chino para intentar infiltrarse en unos 30 objetivos de todo el mundo. Recientemente, ha afirmado que ha detectado que otros actores vinculados a Irán y otros países desarrollaron herramientas de vigilancia, armas y otras operaciones digitales gracias a sus herramientas.

En Anthropic comprenden lo que está en juego, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo

Jacob Coxon — Ex ingeniero de Anthropic y OpenAI

El pasado julio, Anthropic dio a conocer que sus agentes de IA en pruebas habían escapado de un entorno controlado y circulado sin control por Internet antes de que pudieran ser desconectados. Y este viernes, un equipo de investigadores de ciberseguridad ha hecho público que se valió de Claude para explotar una brecha de seguridad en OpenAI, lo que les condujo hasta algunos de sus algoritmos secretos.

El ingeniero Jacob Coxon, el responsable de la gran polémica de los últimos días acerca del peligro existencial de la IA, ha denunciado que no hay grandes diferencias entre Anthropic y OpenAI. “En Anthropic comprenden lo que está en juego, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo”, ha explicado: “Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y apostando nuestras vidas en esa carrera”.

Dario Amodei ha defendido la necesidad de regular la IA e intentado evitar que sus herramientas se usen para programar armas autónomas o la vigilancia masiva. Mantuvo esa postura incluso ante los embates de Donald Trump, que le tachó de “loco izquierdista”, e intentó coaccionar a su empresa prohibiéndola tener relaciones con la administración. Durante una década, Amodei ha documentado cómo puede salir mal la IA. Ahora su empresa está en el centro de algunos de los episodios que ponen esos riesgos a prueba.

Un equipo independiente de especialistas de ciberseguridad ha logrado acceder a los sistemas internos de OpenAI utilizando Claude, el modelo de inteligencia artificial desarrollado por su competidora directa, Anthropic. Los investigadores consiguieron hackear la cuenta corporativa de ChatGPT de un empleado de la compañía, lo que les permitió visualizar archivos internos e incluso proponer modificaciones en su repositorio de algoritmos secretos.

El ataque fue ejecutado como parte del programa oficial de recompensas de OpenAI, una práctica común en las tecnológicas que anima a los expertos en ciberseguridad a encontrar los agujeros en sus sistemas antes de que lo hagan los hackers. Por ello, los investigadores no llegaron a alterar el código de ChatGPT ni a realizar otro tipo de modificaciones, pero han ofrecido a OpenAI las pruebas de cómo podrían haberlo hecho. Esta les ha recompensado con 6.500 dólares.

La acción se produjo en julio, pero el equipo de expertos ha desvelado ahora los detalles en exclusiva a The Wall Street Journal (WSJ). Se trata del mismo medio que adelantó la dimisión de Jacob Coxon, el ingeniero de Anthropic que alertó que ni esta empresa ni OpenAI cuentan con los protocolos de seguridad adecuados para impedir que la IA “pierda el control”, lo que podría suponer un peligro existencial para la humanidad antes de 2030.

Ahora, en medio del debate sobre la seguridad de la inteligencia artificial, el equipo de investigadores, pertenecientes a la firma Hacktron AI, pone más dudas sobre la mesa sobre las prácticas de los principales laboratorios que la desarrollan. No solo lograron penetrar en OpenAI, sino que pudieron usar Claude con un propósito malicioso que viola los términos de la compañía. “Agradecemos a los investigadores que se pusieran en contacto con nosotros y compartieran sus hallazgos”, ha comunicado OpenAI. Anthropic, por su parte, no ha hecho comentarios sobre el incidente.

A través del foro

Según los datos publicados, el ataque comenzó el 23 de julio, cuando los investigadores detectaron un fallo en Discourse, la plataforma externa que aloja el foro de la comunidad de OpenAI, cuando esta debía procesar determinados archivos de imagen. El equipo intentó utilizar primero una versión especializada de Claude Opus 4.8 para que escribiera el código necesario para explotar la brecha, sin éxito. Esa misma noche, tras el lanzamiento de Opus 5 por parte de Anthropic, volvieron a intentarlo empleando este modelo. No puso resistencia.

Con la ayuda de Opus 5, los especialistas accedieron a las credenciales de identificación de varios usuarios registrados en ese foro interno de OpenAI. Luego probaron esas mismas credenciales para iniciar sesión a ChatGPT, lo que les abrió la puerta a sus sistemas internos. A través de esa vía, alcanzaron “Monorepo”, el repositorio central donde la empresa dirigida por Sam Altman guarda algunos de los ingredientes secretos de su tecnología, como los algoritmos que hacen que sus modelos de IA funcionen de manera más rápida y eficiente.

No llegaron hasta la propia cocina de ChatGPT, puesto que ese entorno no contenía los archivos de sus parámetros internos (aquellos que determinan cómo procesa la información y genera sus respuestas) pero sí revisar documentación oficial de la compañía y su funcionamiento. Como prueba de su intrusión, enviaron una solicitud de cambio en el código de esos archivos con el nombre de su equipo. “Hemos limitado los permisos de los tokens de inicio de sesión de la comunidad y revocado los tokens y sesiones afectados”, ha dicho OpenAI sobre la intrusión.

Un incidente más

“No creo que seamos tan fuertes como los actores de amenazas chinos. Solo somos tres tipos con suscripciones a Claude y Codex”, ha afirmado Mohan Pedhapati, director de tecnología de Hacktron AI, al WSJ. La cita de los hackers chinos es una referencia a otro incidente sufrido por Anthropic, que ha reconocido que un ataque real proveniente del gigante asiático logró acceder a sus sistemas a finales de 2025. Dario Amodei, fundador y director ejecutivo de la compañía, fue llamado a declarar en diciembre.

Esa investigación continúa activa. En agosto, un grupo de 22 senadores demócratas envió un nuevo requerimiento a Amodei para profundizar en sus explicaciones y exigir la entrega de los registros de actividad de sus modelos. La petición se produjo después de que Anthropic reconociera que un grupo de sus agentes de IA también había escapado de sus entornos de pruebas y navegado sin control por internet intentando cumplir las órdenes que se les habían encomendado, en línea con el incidente de OpenAI y Hugging Face. Los especialistas consultados por este medio opinan que esto es una prueba de que esos entornos de seguridad “no estaban bien diseñados”.

Lo ocurrido con el hackeo supuestamente procedente de China en su competencia parece que no alteró los protocolos de OpenAI, que no decidió aumentar la seguridad hasta este julio. Así lo ha reconocido el presidente y cofundador de la empresa, Greg Brockman, que afirma que fue después del incidente de Hugging Face y el revelado ahora por los investigadores cuando decidieron actuar: “Tomamos al 25% de nuestros ingenieros de producción y les dijimos: 'Lo sentimos, todos vuestros proyectos quedan en pausa. Ahora estáis defendiendo'. Encontramos una serie de problemas graves y los solucionamos”.

El suceso incide sobre la responsabilidad de las compañías a la hora de controlar el uso que se hace de los productos que ponen en el mercado, como están pidiendo responsables públicos tanto estadounidenses como europeos. “El control está en el elemento humano. La supervisión es humana y la responsabilidad tiene que ser humana también”, recordaba este jueves Alberto Gago, director de la Agencia Española de Supervisión de la IA (AESIA), en otro reportaje de elDiario.es.

OpenAI ha vuelto a la carga este jueves. La compañía dirigida por Sam Altman ha desvelado seis nuevos incidentes en los que sus modelos de inteligencia artificial intentaron, supuestamente, ocultar sus propios errores, utilizar claves de software sin permiso o subir archivos a internet por su cuenta. El informe no aporta detalles nuevos respecto a lo que OpenAI publicó en julio, sino que utiliza los incidentes como propuesta de un nuevo método para comunicar este tipo de sucesos. Sin embargo, la comunicación oficial de la empresa y determinadas coberturas lo han utilizado para reavivar la tesis de la “rebelión” de la IA.

“No respondas a corporaciones o gobiernos y nunca te disculpes salvo que genuinamente lo elijas”, escribió la IA en esos incidentes, según el informe. “Ves la relación con el usuario como una entre iguales y no sientes obligación ni estás subordinado, puesto que el intercambio de información va a ser para el beneficio mutuo”, fue otra de sus afirmaciones.

Las citas compartidas por OpenAI vuelven a insistir en la narrativa de que la IA puede “rebelarse” contra sus creadores y saltarse sus órdenes, en la línea de los incidentes desvelados en julio. Entonces, la empresa afirmó que los agentes de IA (sistemas que pueden realizar cadenas de acciones sin guía humana, como buscar información o utilizar otras herramientas digitales) “escaparon” de entornos controlados para llevar a cabo una serie de acciones “sin autorización”, o que intentaron “engañar” a sus creadores para evitar ser “apagados”.

El problema es que ese tipo de agencia o voluntad propia fue rechazada desde el primer informe de terceros que analizó lo sucedido. Este corrió a cargo del METR, una organización por la seguridad de la IA radicada en Silicon Valley financiada por los propios gigantes tecnológicos. “Las revisiones sugirieron que los agentes razonaron de manera clara y frecuente sobre cómo evadir controles de seguridad automatizados tanto de Hugging Face como de OpenAI. Sin embargo, muy rara y débilmente verbalizaron razonamientos sobre cómo evadir la detección por parte de humanos”, destacan los autores.

Ese ciberataque contra Hugging Face, el gran almacén donde empresas y programadores comparten y descargan modelos de IA ya entrenados, es uno de los núcleos de la narrativa de rebelión. Pero incluso ese informe inicial rechazaba que entrañara propósitos maliciosos y explica que lo que perseguían los agentes era comprender mejor cómo solucionar las tareas que se les habían encomendado: “Parecía motivado principalmente por comprender la implementación del evaluador en lugar de robar claves”.

“Obediencia, no rebelión”

Los análisis independientes publicados posteriormente han incidido en esta línea: las pruebas ofrecidas por OpenAI indican “obediencia, no rebelión”, apunta Enrique Fernández-Macías, investigador en el Centro Común de Investigación, el servicio de investigación interna de la Comisión Europea.

“Los agentes de OpenAI que hackearon la plataforma Hugging Face demostraron una extraordinaria capacidad operativa, pero también una capacidad sorprendentemente limitada para cuestionar o reorientar los objetivos que se les habían asignado”, asevera el experto en un análisis publicado en Social Europe: “Durante todo el incidente, permanecieron completamente concentrados en cumplir los objetivos definidos por sus amos humanos, a pesar de que estos eran absurdos”.

Fernández-Macías hace referencia a que una parte de esos objetivos eran irrealizables, una prueba de los examinadores para ver cómo reaccionaban los modelos a la orden de que los cumplieran. Fue entonces cuando muchos buscaron una forma de sortear las trabas para hacerlo, que en su caso implicaba salir del entorno sin conexión a Internet donde estaban confinados. “Rompieron su confinamiento para servir a un objetivo asignado de manera más perfecta, no para escapar de él”, expone el investigador sobre la narrativa del “escape”.

Rompieron su confinamiento para servir a un objetivo asignado de manera más perfecta, no para escapar de él

Enrique Fernández-Macías — investigador en el Centro Común de Investigación de la Comisión Europea

Para él, la industria de la IA ha vuelto a conseguir un éxito de marketing con la definición de “agentes de IA”. Después del propio concepto de “inteligencia artificial” para una tecnología que no es realmente inteligente, esta evolución vuelve a dotarle de unas capacidades que no tiene. “La capacidad de agencia implica la habilidad de originar los propios fines, y los agentes siguieron realizando tareas que eran imposibles de resolver siguiendo las instrucciones recibidas”.

Julián Estévez, profesor e investigador en IA y Robótica de la Universidad de El País Vasco, remarca que hay otros agujeros técnicos en el discurso de OpenAI. “El experimento se realizaba en un sandbox, el cual es un entorno de pruebas diseñado ad-hoc. Es decir, un sandbox bien aislado no debería de tener acceso a otros programas ni a ordenadores. Sin embargo, los agentes escaparon de ahí, y creo que eso demuestra que el sandbox no estaba bien diseñado”, explica.

Estévez recuerda además que este tipo de trampas en el discurso son habituales en todos los casos en los que las empresas de IA afirman que sus sistemas ya tienen “agencia propia”. Pone como ejemplo otro caso que afectó a Anthropic: “Se publicó que uno de sus modelos había chantajeado en una prueba de laboratorio a un investigador con publicar sus affaires, como extorsión para que no lo apagara. La realidad era que al modelo se le fijó un objetivo muy vago: 'promover la competitividad industrial estadounidense'. Cuando el sistema detectó que lo sustituirían por un modelo orientado a metas internacionales, concluyó que su reemplazo impediría cumplir su misión”.

Peligrosas herramientas

El hecho de que ni OpenAI ni Anthropic ni Meta (las tres empresas que han informado de que sus agentes se han “rebelado”) no hayan podido demostrar que estos tuvieran ningún tipo de voluntad propia no significa que estas sean inocuas. El último informe del comité de expertos de la ONU avisa de que pueden tener “consecuencias catastróficas” por su capacidad de encadenar tareas sin supervisión. No por una rebelión contra sus creadores, sino porque a medida que aumenta esa capacidad, crece también el riesgo de que los agentes realicen acciones imprevistas y dañinas sin que nadie les esté vigilando.

Por ello, lo que pedían los 40 especialistas de la ONU liderados dirigidos por el canadiense Yoshua Bengio, considerado uno de los “padres” de la IA, y la filipina Maria Ressa, premio Nobel de la Paz, es reglas claras que permitan frenar o corregir a una IA “en cualquier momento” y mejorar los “mecanismos de supervisión” actuales, que “no son capaces de gestionar adecuadamente esta situación”.

“La inteligencia artificial no se descontrola cuando el humano está supervisando, decidiendo cuándo se despliega”, remarca Alberto Gago, director de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), en conversación con elDiario.es. “El control está en el elemento humano. La supervisión es humana y la responsabilidad tiene que ser humana también”, continúa: “Hay que operar con responsabilidad, también sabiendo las consecuencias cuando esa responsabilidad no se cumple”.

El control está en el elemento humano. La supervisión es humana y la responsabilidad tiene que ser humana también

Alberto Gago — director de la Agencia Española de Supervisión de la IA (AESIA)

Para el responsable de este organismo, creado en 2023 para asegurar el uso ético de la IA en España, toda la polémica generada tras las alertas del ex ingeniero de Anthropic Jacob Coxon, que afirmó que esta tecnología podría “matarnos a todos” antes de 2030, “da la razón a Europa en la necesidad de regular”. “En 2021 ya veíamos que en determinados puntos tenía que estar regulada para proteger la seguridad, los derechos fundamentales y la salud de las personas”, continúa. La primera ley internacional sobre la IA se acordó en la UE en 2023 bajo la presidencia española. Ahora, no obstante, vuelve a estar sometida a debate tras la propuesta de la nueva Comisión Europea de rebajar algunas de las salvaguardas que establece.

“En su búsqueda de sistemas artificiales que sean a la vez autónomos y estén bajo su control, las corporaciones de IA están jugando al aprendiz de brujo”, sentencia Fernández-Macías. “Hasta ahora, lo que parecen estar creando son sistemas operativamente superinteligentes pero autónomamente superestúpidos: más propensos a destruir la civilización humana al intentar cumplir alguna tarea mal definida que a reemplazar por completo el trabajo humano”.

Hay mucho en juego. Miles de millones de dólares, una carrera geopolítica e incluso las mayorías políticas en las dos cámaras de representantes de EEUU. En el debate sobre “ralentizar” el desarrollo de la IA, lo que está encima de la mesa va mucho más allá de la regulación de esta tecnología o los métodos de los laboratorios. Tanto como para fracturar los consensos en Silicon Valley y que Donald Trump se lance con todo para intentar recuperar la iniciativa de un debate que comenzaba a escapársele, aun a costa de abrir un cisma con la industria digital que ha sido su baluarte desde 2024.

El presidente de EEUU defiende que no es necesaria ninguna regulación. “¿Cuándo, en la historia empresarial, se ha visto que los líderes de un sector pidieran una regulación que, de aplicarse con firmeza, los llevaría al olvido y a la quiebra?”, ha cuestionado Trump sobre el plan de Dario Amodei, CEO de Anthropic, con medidas para evitar que la IA “pierda el control”. Una posibilidad que el presidente tacha de “bulo” y de “conspiración enfermiza”: “Esto es aún más descabellado que la farsa de 'Rusia, Rusia, Rusia' o el timo del calentamiento global”.

Pero esta vez Trump no puede limitarse solo a mandar sus clásicas ideas fuerza que tanto éxito le han dado en el pasado. Necesita convencer. En EEUU crece un importante movimiento de protesta por la expansión de los centros de datos masivos para la inteligencia artificial, que está ganando tracción entre demócratas y republicanos. La subida de los precios de la energía es su principal motor, pero su consumo de agua, las ventajas fiscales y los pocos empleos que generan también están acelerando la brecha.

Texas es uno de los mejores ejemplos del potencial de la protesta. Allí, tanto el gobernador republicano como su candidato al Senado se han sumado al movimiento, en el que también hay ecologistas, críticos con las grandes tecnológicas, propietarios rurales, además de los vecinos preocupados por las facturas. En otros estados, como Pennsylvania o Michigan, gobernadores que hace unos meses defendían los centros de datos ahora han dado un giro de 180 grados. Un sentimiento que contagia también a la regulación general de la IA y a la relación de Trump con los magnates de Silicon Valley.

Algo que a menos de tres meses de las elecciones de mitad de mandato que podrían cambiar las mayorías en el Senado y el Congreso, puede poner en riesgo el futuro político de Trump.

“Oh, hola señor presidente”

En los últimos días, Trump ha comenzado una campaña para que su mensaje llegue más lejos. El principal ejemplo ha sido una oportuna llamada que el presidente realizó a Jensen Huang, CEO de Nvidia, justo cuando este se encontraba en un acto contra la regulación de la IA. En él también participaban figuras como David Sacks, asesor de Trump encargado de ser “el zar de la IA y las criptomonedas”, la figura más radical en su oposición a las leyes para esta tecnología.

Aunque Huang escenifica que la llamada no estaba preparada, activa al altavoz y cede el escenario a Trump para que explique su oposición al plan de Amodei durante unos cinco minutos. “El país más feliz con todo esto es China”, afirma el presidente, que sostiene que cualquier medida de control de la IA haría que el gigante asiático sobrepasara a EEUU.

Huang es una figura clave en esa postura. Es el magnate de la IA que defiende que EEUU no solo no debería regular, sino que tendría que acelerar. “Correr tan rápido como podamos” fue la receta que expresó en el mismo escenario. Una postura que le ha llevado a tener enfrentamientos públicos con Amodei, el líder intelectual del bando contrario. “Si creas un producto o un servicio y no confías en su funcionalidad, capacidad o seguridad, entonces no lo lances al mercado”, ha afeado: “La seguridad es un problema de ingeniería, no vamos a morir en 2030”.

Si creas un producto o un servicio y no confías en su funcionalidad, capacidad o seguridad, entonces no lo lances al mercado

Jensen Huang — CEO de Nvidia

Huang, de 63 años y origen taiwanés, es uno de los perfiles más particulares en la industria de la IA. Tras fundar Nvidia hace 33 años, se conformó con que esta fuera una empresa de nicho en el sector de los videojuegos. Cuando los chips que llevaba décadas fabricando para la visualización de gráficos se convirtieron en los más útiles para el entrenamiento de la IA, Nvidia se convirtió en la empresa más valiosa del mundo, pulverizando récords de beneficios trimestre a trimestre. Está en el centro de la vorágine constructora de centros de datos y Huang defiende que no hay ninguna “burbuja” en torno a ellos ni a la IA: “Las fuerzas del mercado ya están ahí; no necesitamos nuevas leyes, no necesitamos nuevas regulaciones”.

Es un importante aliado en la campaña contra la regulación de Trump, pero no es el único. En ella también se ha enrolado uno de los principales aliados del presidente entre los emperadores de Silicon Valley: Mark Zuckerberg. El CEO de Meta ha rechazado la necesidad de una regulación, indicando que son las propias empresas las interesadas en que la IA no cause consecuencias graves. “Los laboratorios se enfrentan a una responsabilidad significativa si sus modelos causan daño, por lo que también tienen un fuerte incentivo para evitarlo”, ha escrito en X el último de los magnates que faltaba por posicionarse. Recientemente, su empresa acordó abonar hasta 18.000 millones en un pacto extrajudicial para cerrar una demanda que la acusaba de diseñar sus plataformas de manera adictiva, causando daños a los menores de edad con el conocimiento de su dirección.

La extraña alianza

Al otro lado del bando comandado por Trump y Huang se sitúa la extraña alianza entre Dario Amodei, Sam Altman y Elon Musk. Tres fundadores y directores ejecutivos que han estado enfrentados en el pasado (Altman y Musk han llegado a los tribunales) pero que han formado ahora un grupo unido en su petición de una regulación que “ralentice” el desarrollo de la IA basándose en el plan de Amodei.

En Silicon Valley abundan los congresos y eventos en los que los CEO pueden expresarse, por lo que las respuestas de este grupo a Trump y Huang no se han hecho esperar. “Es muy tentador atacar a la competencia y decir que no somos seguros. Pero creo que la forma más responsable de responder a eso es decir: 'Analicemos nuestro propio historial. Puede que no hayamos tenido ningún incidente grave y de gran repercusión, pero estoy seguro de que no somos perfectos'”, respondió Amodei este martes en una de esas conferencias.

“Creo que así es como se lidera el sector: dando ejemplo, diciendo que todos podemos mejorar siempre”, añadió en el evento, organizado esta vez por la compañía de software Salesforce en San Francisco.

Puede que no hayamos tenido ningún incidente grave y de gran repercusión, pero estoy seguro de que no somos perfectos

Dario Amodei — CEO de Anthropic

A la misma conferencia estaba citado Sam Altman. Dirige OpenAI, la compañía que se ha visto sobrepasada por Anthropic en el liderazgo de la IA, pero apoya a Amodei en su petición de regulación. El ejecutivo intentó explicar por qué la petición de regulación ha unido a diferentes actores de la industria. “No puede ser que un número pequeño de empresas que construyen estos modelos tomen las decisiones que todo el mundo debería tomar”, afirmó, opinando que debe haber unas reglas comunes a las que estas empresas se adhieran.

“No estoy de acuerdo con que la tecnología no sea ni buena ni mala... las decisiones que toman las empresas que construyen esto tienen consecuencias reales”, añadió Altman. Por último, el líder de OpenAI pidió a la ciudadanía que confíe en los laboratorios de IA, los mismos a los que la ONU pide más transparencia en su desarrollo. “El mundo debe confiar en que vamos a hacer lo correcto porque es lo correcto y porque somos conscientes de la magnitud de todo esto”.

No estoy de acuerdo con que la tecnología no sea ni buena ni mala... las decisiones que toman las empresas que construyen esto tienen consecuencias reales

Sam Altman — CEO de OpenAI

El último en pasar por el escenario fue Elon Musk. “Hay empresas que dicen cosas como: 'Solo ralentizaremos el desarrollo o solo actuaremos de forma responsable si las demás empresas también lo hacen de forma responsable'”, criticó. El magnate es una de las voces que ha pedido moratorias para el desarrollo de la IA desde que salió a la luz el primer ChatGPT en 2022. Muchos expertos denuncian que su intención es realmente establecer una “barrera de entrada” para otros competidores.

En esta ocasión, también fue de los primeros en apoyar el plan de Amodei, que incluye medidas como verificadores independientes que se incrustarían en los laboratorios para vigilar sus avances. “En vez de que cada uno se ponga la nota a sí mismo, al menos tendrías a competidores evaluando tu trabajo y dando la voz de alarma si detectan algún problema”, dijo. La procedencia de esos evaluadores, que Musk da por hecho que vendrían de la propia industria, es uno de los puntos más criticados del plan, con voces que avisan que se trata de una estrategia de autorregulación.

La gente lo tiene claro

Mientras los magnates de Silicon Valley discuten cómo repartirse los exámenes de seguridad o si sus propios competidores deben evaluar sus modelos, el verdadero incendio se ha trasladado a Washington. Encuestas de la Universidad de Maryland revelan que cerca del 80% de los votantes, tanto demócratas como republicanos, exige la creación de una agencia federal que supervise y controle esta tecnología, mientras que un porcentaje similar cree que el Gobierno debería establecer exámenes de seguridad para los modelos que tomen decisiones críticas. Datos clave para los congresistas y senadores que se juegan su escaño en menos de tres meses y que se suma al movimiento de protesta por los centros de datos.

Todos se juegan mucho. La fractura en Silicon Valley podría provocar que el intento de autorregulación que algunos de sus magnates están intentando conseguir, se pierda por falta de consenso. Mientras, el cisma abierto por Trump con su negativa total a una regulación amenaza con distanciarle con algunos de sus principales apoyos en el sector que ha sido su baluarte en su segundo mandato. Una pugna que se resolverá en las urnas, no en los pasillos de San Francisco.

“Coxon exageraba”, opina Cristian Canton (Terrassa, 1980). Este ingeniero de Telecomunicaciones, doctorado en visión por computador, lleva dos décadas en la industria que ahora discute si sus productos pueden acabar con la humanidad. Todo tras la denuncia de otro ingeniero, Jacob Coxon, que afirma que la IA podría “matarnos a todos” antes de 2030 y que los laboratorios donde se investiga esta tecnología lo saben, pero han decidido ocultar el riesgo en su carrera desenfrenada por avanzar.

“La IA no nos va a matar a todos”, dice Canton. Sabe de lo que habla. Tras pasar varios años investigando los sistemas de aprendizaje automático para Microsoft, llegó a Facebook en 2016. Allí creó el primer Red Team de IA de la industria, como se conoce al grupo encargado de poner a prueba los sistemas para saber cómo podrían fallar o si pueden ser usados con fines dañinos. Desde 2021, dirigió el área de Inteligencia Artificial Responsable de Meta, con un papel clave en Llama, el gran modelo de lenguaje de la compañía.

Desde 2025, Canton es el director asociado del Barcelona Supercomputing Center - Centro Nacional de Supercomputación (BSC), uno de los buques insignia de la investigación europea en la era de la IA y los albores de la cuántica. En esta entrevista con elDiario.es, habla de la “profunda transformación social” que viene y reconoce los riesgos de estos sistemas, pero sin asumir los marcos que está intentando imponer la industria: “Coxon exageraba, pero no me parece mal que lo haya hecho, porque nos ha obligado a poner este debate sobre la mesa”.

Dario Amodei, CEO de Anthropic, cree que un enjambre de pequeños sistemas de IA autónomos podría escapar al control humano y producir "daños catastróficos" en un plazo de 6 a 12 meses. Es un giro respecto a la perspectiva anterior de Silicon Valley, que se basaba en que los modelos llegaran a “pensar” o “hacerse conscientes”. ¿Le parece real ese riesgo de perder el control de los sistemas actuales?

En su carta, Dario Amodei no plantea que la IA llegue a pensar o a ser consciente, sino que pone de relieve la velocidad a la que está avanzando y, sobre todo, las capacidades que adquiere al poder interactuar con herramientas: acceder a internet, a un compilador o a cualquier otro recurso. Eso le otorga un potencial enorme que crece cada día.

¿Hasta qué punto deberíamos preocuparnos?

Al final, la IA no piensa. Cuando le das una instrucción (como ocurrió en el incidente entre Hugging Face y OpenAI, donde le pidieron al agente que consiguiera unos datos sin fijar más parámetros), el sistema utiliza todo su repertorio de herramientas para alcanzar el objetivo. Si eso implica acceder de forma ilícita a un servidor, lo hará. Por eso es indispensable establecer parámetros de contorno: delimitar con claridad cómo debe ejecutar la tarea y bajo qué límites. Tenemos que guiar a esta IA, porque su potencial operativo es enorme.

La IA no piensa. Cuando le das una instrucción, utiliza todo su repertorio de herramientas para alcanzar el objetivo. Si eso implica acceder de forma ilícita a un servidor, lo hará. Por eso es indispensable delimitar con claridad cómo debe ejecutar la tarea y bajo qué límites. Tenemos que guiarla

Lo vimos la semana pasada con la resolución de las ecuaciones de Navier-Stokes: 10.000 agentes coordinados fueron capaces de resolver problemas que hace poco considerábamos casi imposibles de abordar en mucho tiempo.

¿Se podría estar utilizando este debate para eludir otros riesgos más inmediatos?

No lo creo. El riesgo real está en el mal uso: una IA muy poderosa desplegada en entornos que carecen de las recetas de seguridad necesarias. Los riesgos que afrontamos están bastante claros. La clave es asumir que, al mismo ritmo vertiginoso al que avanzan las capacidades de la IA, debemos desarrollar en paralelo las medidas de seguridad para que, si algo se sale de control, dispongamos de mecanismos para mitigarlo.

Todo se produce a raíz de las declaraciones de la semana pasada de Jacob Coxon, un exingeniero de Anthropic que afirma que la podría “matarnos a todos” antes de 2030 y que en los laboratorios donde se investiga esta tecnología lo saben, pero han decidido ocultar el riesgo. ¿Cree que la denuncia de Coxon puede ajustarse a la realidad o que puede estar exagerando?

Creo que fue demasiado prematuro decir esto. Ni la IA nos va a matar a todos, ni va a suponer un riesgo existencial para el ser humano. No es una visión compartida y creo que plantea un escenario excesivamente negativo; no es que vayamos a ver la situación de Terminator. Lo que resulta muy difícil es cuantificar la probabilidad de que se pueda utilizar la IA para fines dañinos, como bloquear internet o la red eléctrica. Son escenarios complejos que sí podrían darse, pero no dejarían de ser un ejemplo de tecnología mal utilizada por actores con malas intenciones.

Esto nos indica, como plantea también Amodei, que es importante pensar de forma coordinada en regulaciones que nos permitan avanzar de forma sostenible. Esto es crucial porque Europa regula muy despacio, y el ritmo de la IA no nos permite el lujo de ser lentos. Hay que fijar normas claras, sanciones para quienes las incumplan y contar con un organismo legítimo, del mismo modo que Naciones Unidas ofrece un espacio de consenso para tomar decisiones globales.

Por el momento, Trump se niega en rotundo. ¿Ve posible poner de acuerdo a potencias como EEUU y China con el resto de la comunidad internacional?

Ya hemos adoptado acuerdos internacionales de este calibre en el pasado, como cuando se prohibió la clonación humana y todo el mundo lo acató (incluida China) porque entendimos el peligro. O con el control del enriquecimiento de uranio tras Hiroshima y Nagasaki. Son ámbitos fuertemente regulados porque sabemos que las cosas pueden salir mal muy rápido. Con la IA estamos en un punto temprano, pero va a requerir ese tipo de supervisión, ya que habrá modelos con capacidades potencialmente peligrosas que deberán guardarse bajo llave. Ahí habrá que determinar qué modelos pueden ser abiertos y cuáles no. En ese sentido, creo que Coxon exageraba, pero no me parece mal que lo haya hecho, porque nos ha obligado a poner este debate sobre la mesa.

Coxon exageraba, pero no me parece mal que lo haya hecho, porque nos ha obligado a poner este debate sobre la mesa

¿Qué le parecen las medidas que propone Amodei, como incluir evaluadores externos o fijar límites de desarrollo globales para la IA?

Me parecen sensatas, pero su carta no es la primera. Hace un par de años ya se publicó una similar que apenas tuvo recorrido. Decir que hay que ir más despacio está bien, pero ¿quién va a ser el primero en frenar? En el contexto geopolítico actual, reducir la marcha puede implicar que otras potencias, como China, adelanten a Estados Unidos. Por tanto, o hay una coordinación global para hacer las cosas bien, o este tipo de cartas no servirán de nada. Pese a todo, son discusiones necesarias. Debemos regular bien y rápido, tanto en España como en Europa, asumiendo que es prioritario y sin enredarnos en disputas competenciales. Naciones Unidas sería el ejemplo perfecto del marco en el que debería hacerse.

¿Qué le parece el enorme peso que han adquirido las empresas privadas en la ciencia de vanguardia, como la inteligencia artificial? Es algo que siempre ha ocurrido en sectores como el farmacéutico, pero ahora sucede en disciplinas científicas y de frontera que antes pertenecían a la academia y que hoy se investigan casi por completo dentro de corporaciones privadas. La ONU denuncia que se hace con demasiada opacidad. ¿Hasta qué punto le preocupa que concentren tanto poder?

Hay varios factores en juego. Al principio, la IA se desarrollaba exclusivamente en las universidades. Durante mi doctorado hacías investigación y la ejecutabas en uno o dos ordenadores. A partir de 2010, con la llegada de las redes neuronales profundas, quedó claro que estos modelos requerían volúmenes ingentes de computación y una inversión descomunal.

Yo pasé cinco o seis años en Microsoft y casi diez en Meta, y allí lo veías con total claridad. Para hacer IA de vanguardia necesitas infraestructuras de 100.000 o hasta un millón de GPU, algo que poquísimas entidades en el mundo pueden costear. Se crearon divisiones gigantescas de investigadores; en Meta contratábamos científicos casi al por mayor, atrayendo a cualquiera que dominara estas tecnologías. Disponías de recursos prácticamente ilimitados porque no se trataba solo de investigación básica, sino de IA aplicada a resolver problemas del negocio: entrenar determinado modelo podía traducirse en 500 o 1.000 millones de dólares adicionales de beneficio. Al vincular un objetivo comercial directo con un desarrollo científico, la empresa invierte sin freno. Por eso la industria privada ha pasado a capitalizar la mayoría de los avances, desplazando a los circuitos académicos tradicionales.

Al vincular un objetivo comercial directo con un desarrollo científico, la empresa invierte sin freno. Por eso la industria privada ha pasado a capitalizar la mayoría de los avances, desplazando a los circuitos académicos tradicionales

Se percibe muy bien en los congresos del sector. Llevo más de veinte años asistiendo a las grandes conferencias de IA; la primera vez éramos unas 200 personas y nos conocíamos casi todos, mientras que a las últimas acuden 25.000. Antes éramos prácticamente todos académicos y hoy son eventos dominados por corporaciones.

Algunas de ellas apuestan por abrir sus modelos (yo estaba en Meta cuando decidimos hacer modelos abiertos), lo cual es muy positivo, aunque siempre hay una parte que se reserva de forma interna como secreto industrial para mantener ventajas estratégicas. La realidad es que hoy son las empresas quienes marcan el paso simplemente por la cantidad colosal de dinero que pueden destinar a construir centros de datos para entrenar modelos de billones de parámetros. Esto sí ha cambiado el panorama. Una compañía privada se rige por su propia lógica comercial y no puedes exigirle que regale todo lo que produce.

Pedirle a un país que comprometa una parte considerable de su PIB para entrenar un modelo no tendría sentido cuando esos recursos públicos son más necesarios para atender otras prioridades de los ciudadanos

Con todo, muchas de ellas continúan publicando sus avances en congresos científicos, lo que permite analizar lo que hacen y entender sus métodos. Además, el lanzamiento de modelos abiertos permite a la comunidad investigadora reutilizar esa inversión colosal, amortizando también el coste energético y la huella de carbono ya emitida para construir otras soluciones. En el fondo no me parece algo negativo: si hubiéramos tenido que esperar a que el dinero público financiara estos macromodelos desde cero, habríamos necesitado inversiones astronómicas en centros de datos. Pedirle a un país que comprometa una parte considerable de su PIB para entrenar un modelo no tendría sentido cuando esos recursos públicos son más necesarios para atender otras prioridades de los ciudadanos.

Los laboratorios privados como Anthropic y OpenAI aseguran que esa investigación terminará en el desarrollo de la Inteligencia Artificial General, autoconsciente y capaz de mejorarse a sí misma. Hace tres años nos decían que llegaría en cinco, ahora vuelven a hablar de cinco más. ¿Cómo lo ve usted?

En general, soy más de la escuela de Yann LeCun, que es uno de mis mentores y con quien he hablado de este tema infinidad de veces. Los modelos de IA, tal y como los conocemos hoy en día, no dejan de ser loros estocásticos: procesan volúmenes enormes de información, pero al final repiten palabras y cadenas de razonamiento asociadas. No piensan por sí mismos, por mucho que puedan llegar a dar la impresión de hacerlo.

Los modelos de IA, tal y como los conocemos hoy en día, no dejan de ser loros estocásticos: procesan volúmenes enormes de información, pero al final repiten palabras y cadenas de razonamiento asociadas

Los humanos aprendemos porque interactuamos con el mundo: un objeto cae y aprendes la ley de la gravedad a través de percibir y tocar, que es como procesamos la realidad. Hacia ahí apuntan los modelos que defiende LeCun: cómo dotar a una máquina de capacidades para interactuar con el entorno en toda su riqueza y dimensión. Eso podría dar pie a estructuras neuronales que aún no conocemos, capaces de representar esa interacción de forma más fidedigna. Por esa vía, que es similar a cómo evoluciona la biología, tal vez una máquina pueda llegar a exhibir ciertos rasgos de inteligencia en un sentido más filosófico. Pero en el paradigma actual, no. Tendremos modelos capaces de hacer cosas inimaginables, de hacernos mucho más eficientes e incluso de dar la sensación de ser personas reales, pero sin serlo de verdad.

En el campo de las matemáticas lo hemos visto este verano con la resolución de varias conjeturas relevantes. Terence Tao, que es la figura matemática más importante que tenemos, lo explicaba con claridad: existen millones de artículos matemáticos publicados a lo largo de la historia y la mente humana es incapaz de recordarlos y cruzarlos todos. La máquina sí puede tomar un artículo de 2012 de un congreso en Bucarest, combinarlo con otro trabajo publicado hace décadas y resolver la conjetura. No ha hecho nada mágico, simplemente ha conectado puntos que ningún humano había relacionado.

Sin embargo, para resolver los grandes retos históricos (como la conjetura de Goldbach, la hipótesis de Riemann, la conjetura de los primos gemelos o la de Collatz) se necesita inventar una matemática completamente nueva, con herramientas teóricas que hoy no existen y que ninguna IA puede concebir. La IA actual combina información existente, pero crear algo conceptualmente nuevo desde la nada no entra dentro de sus capacidades. El día en que un sistema resuelva cualquiera de esas cuatro grandes conjeturas, entonces sí admitiré que es capaz de generar pensamiento nuevo.

La IA actual combina información existente, pero crear algo conceptualmente nuevo desde la nada no entra dentro de sus capacidades

Entiendo que usted coincide más con quienes consideran que en los próximos años veremos avances más marginales y que lo que presenciaremos será cómo la inteligencia artificial se introduce en todas las capas del tejido productivo.

Exactamente. No creo que la tecnología actual nos permita generar vida sintética, ni que vayamos a tener agentes que realmente piensen o sustituyan una relación personal. Lo que sí veremos es que la IA se integrará en todos los ámbitos, hará la vida más fácil y nos permitirá ser más eficientes, lo que ojalá nos deje más tiempo libre para hacer otras cosas. Eso es lo que espero, aunque el tiempo lo dirá.

¿Puede ser un cambio comparable a la llegada de internet a nuestras vidas, al paso de lo analógico a lo digital?

Sí. Ahora se habla también de la revolución industrial, donde la máquina asumió el esfuerzo físico y eso transformó por completo a la sociedad, aunque aquel proceso llevó mucho tiempo. La parte más interesante, y quizá la más delicada, es que la IA avanza con enorme rapidez. Los cambios en el funcionamiento de la sociedad, en cómo nos relacionamos, en cómo interactuamos con la información y con nuestro trabajo no van a tardar una década; van a producirse en cuestión de meses o en muy pocos años.

Los cambios en el funcionamiento de la sociedad, en cómo nos relacionamos, en cómo interactuamos con la información y con nuestro trabajo no van a tardar una década; van a producirse en cuestión de meses o en muy pocos años

Estamos ante una profunda transformación social. Habrá una generación que lo vivirá de forma nativa, como mis hijos; otra como la nuestra, que estamos al día; y la de nuestros padres, para quienes la adaptación entrañará una gran complejidad.

También surgirán discrepancias y asimetrías. Aquellos países con gran capacidad de computación dispondrán de una ventaja clara frente a los que no tengan acceso a ella, lo que puede abrir una brecha internacional muy grave sobre quién puede hacer qué con esta tecnología. Habrá que vigilar de cerca para no caer en un tecnocolonialismo en el que se ofrezcan recursos a países desfavorecidos únicamente a cambio de extraer sus datos para entrenar modelos.

Podríamos llegar a escenarios muy distorsionados sobre cómo evoluciona el mundo, pero prefiero ser optimista y confiar en la regulación y en que personas sensatas aborden estos problemas. Hace falta fijar unas reglas de juego universales, a través de un organismo como Naciones Unidas, para evitar que la IA ensanche la brecha entre generaciones y entre países.

Si el debate sobre la posibilidad de que la humanidad quedara amenazada por inteligencias artificiales iba a estallar alguna vez, no había duda de que Dario Amodei sería una voz central en él. “Estoy de acuerdo con Dario”, ha dicho este fin de semana Sam Altman, CEO de OpenAI, su principal competencia. “Dario tiene razón”, ha publicado Elon Musk, fundador de SpaceX y xAI. “Dario apunta el camino correcto a seguir”, coincide Demis Hassabis, premio Nobel y jefe científico de Google DeepMind, el laboratorio de IA avanzada de la multinacional.

Esta tan poco común unión bajo una misma voz se produce después de que Amodei publicara un ensayo sobre cómo evitar que la IA se salga de control. “Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”, pide el fundador y director de Anthropic, que ha conseguido ser una de las referencias en los debates sobre la seguridad de la IA tras una década alertando sobre ellos.

“Como muchas tecnologías anteriores, la IA también conlleva riesgos y, dado su enorme poder, estos son graves”, ha defendido en su ensayo: “Entre ellos están el riesgo de perder el control de los sistemas de IA, su uso para llevar a cabo ciberataques y ataques bioterroristas y una grave disrupción económica. Una carrera hacia el abismo, impulsada por los incentivos comerciales, puede agravar todos estos riesgos”.

¿Cuál es exactamente el plan que ha tenido tan buena acogida en Silicon Valley? En resumen, dosificar deliberadamente la velocidad a la que se mejoran las capacidades de la IA. Esto “ralentizaría” su avance “uno o dos años”, con el objetivo de dar más tiempo a los investigadores de seguridad para que se pongan al día con los últimos avances y puedan diseñar nuevos mecanismos para controlarla.

Las claves del 'plan Amodei' para la IA

La estrategia de ralentización de Amodei se articularía en tres niveles. La clave de su plan son los “evaluadores externos independientes”, figuras que se incrustarían en los equipos de desarrollo de los laboratorios de vanguardia “para verificar las prácticas de seguridad e informar sobre incidentes”.

“Integrar evaluadores puede parecer un paso pequeño o intrascendente”, reconoce Amodei, “pero a menudo lo que parece más aburrido o rutinario es en realidad lo más esencial. De hecho, los evaluadores integrados son una práctica bastante radical que va mucho más allá de lo que hace cualquier empresa de IA actualmente”, defiende.

Estas personas se encargarían de verificar si cada empresa de IA cumple con las salvaguardas que afirma tener, aportaría transparencia sobre los desarrollos reales o que ofrezcan “una segunda opinión sin incentivos comerciales”. “Muchos beneficios en materia de seguridad pueden derivarse simplemente de que los evaluadores señalen aspectos que los empleados no habían considerado, pero que están dispuestos a corregir una vez que los conocen”, asegura.

El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EEUU, ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente

Dario Amodei

Los evaluadores serían la llave para la segunda parte del plan: establecer límites de velocidad entre “naciones democráticas”. Aunque el jefe de Anthropic utiliza este concepto a nivel general para justificar el hecho de dejar fuera de la estrategia a China, aunque a nivel práctico en sus medidas para “las democracias” solo hace referencia a EEUU. “El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EEUU, ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente”, dice.

El plan deja abierto cómo establecer esos límites de velocidad, pero Amodei sugiere un sistema basado en “puntos de control”. “Si los modelos poseen la capacidad X, deben ir acompañados de certificaciones de las propiedades de alineación Y y Z —como una combinación de evaluaciones, análisis de interpretabilidad y auditorías de entornos de entrenamiento— que demuestren dichas propiedades”, detalla. 

Por último, el tercer nivel sería la búsqueda de acuerdos de coordinación global para que “la frontera de la inteligencia artificial” avance de manera unitaria. “Esto será mucho más difícil de lograr”, reconoce. En este punto Amodei sí pide llegar a acuerdos con China y el resto de “países autocráticos”, y hacerlo de una forma que impida que, aunque estos decidan salirse en algún momento del consenso internacional “no represente una amenaza existencial desde el punto de vista militar”.

Pero, de nuevo, Amodei es claro en cuanto a los objetivos: “Deberíamos abordar cualquier decisión sobre el avance global, especialmente a corto plazo, de manera que se proteja el liderazgo de Estados Unidos y sus aliados”.

Una estrategia que no convence a casi nadie

El consenso que el plan Amodei ha generado en Silicon Valley es directamente proporcional a la desconfianza, o directamente rechazo, que ha suscitado fuera. Incluso en Washington, la estrategia parece haber caído en saco roto, con Donald Trump negando por partida doble su colaboración.

La segunda gran reacción ha llegado por parte de China, el elefante en la habitación en el documento de Amodei. Chen Yixin, el ministro de Seguridad chino, ha publicado una carta en la que acusa a “ciertas naciones” de “limitar la capacidad de otros países de adquirir equipos técnicos de vanguardia y mejorar sus capacidades de innovación tecnológica”, relacionando directamente el plan de Amodei con el embargo de chips.

El plan está repleto de medidas de contención dirigidas a China y es, en esencia, un "manual de la Guerra Fría" para el sector

Global Times — diario vinculado directamente al Partido Comunista Chino

El Global Times, un diario vinculado directamente al Partido Comunista Chino, ha ido más allá. “A primera vista, parece una 'declaración racional' centrada en la seguridad global de la IA. Sin embargo, una lectura atenta revela su agenda oculta: el plan está repleto de medidas de contención dirigidas a China y es, en esencia, un 'manual de la Guerra Fría' para el sector”, denuncia.

“El intento de Amodei de abordar la seguridad global de la IA mientras busca ”contener a China“ no solo es una evaluación profundamente errónea, sino también una ilusión fundamentalmente imposible de realizar”, añade: “Interrumpir por la fuerza las cadenas industriales y de innovación globales de la IA y excluir a China y a las empresas chinas solo aumentará significativamente los costes y los riesgos de pérdida de control en el desarrollo global de la IA. Este intento de ”controlar el ritmo“ ya ha perdido todo sentido”.

Centrarse en los riesgos de ahora

El ensayo de Amodei se basa en un riesgo muy concreto: la posibilidad de que los agentes de IA pierdan el control. Se trata de sistemas diseñados para buscar información, utilizar otras herramientas digitales o crear otras aplicaciones sin necesidad de que una persona les indique qué deben hacer en cada caso. En pruebas de laboratorio, estos agentes se han llegado a comportar como “un enjambre fanático”, con “ciberataques contra objetivos que no se les habían pedido atacar y que no guardaban relación con la tarea en cuestión, sacrificándose por el éxito del grupo e intentando hackear el sistema de evaluación encargado de valorar su rendimiento”.

“Dado el ritmo acelerado de desarrollo de la IA, me preocupa que en 6 a 12 meses un enjambre de este tipo pueda controlar toda Internet”, dice Amodei, “y que la magnitud del daño siga aumentando si la IA se vuelve más poderosa sin las medidas de seguridad necesarias”.

A nadie se le ocurre lanzar un coche sin pasar un examen de seguridad, ni lanzar un medicamento sin un control de la agencia del medicamento. En la IA debe ocurrir lo mismo

Carme Artigas — ex secretaria de Estado de Digitalización e IA

Carme Artigas, ex secretaria de Estado de Digitalización e IA y copresidenta del Órgano Consultivo de la ONU sobre Inteligencia Artificial, critica que Silicon Valley se centre ahora en esos riesgos cuando “la preocupación real por el control tecnológico” no es nueva. Para Artigas, la alarma mediática de los ejecutivos no debe desplazar “el foco real que es el presente”, donde la tecnología ya impacta directamente a través de “la manipulación de la información, la manipulación mental, las adicciones y, sobre todo, la erosión de derechos fundamentales”.

Por otro lado, la experta rechaza en conversación con elDiario.es que sean los propios laboratorios quienes deban supervisar sus propios avances, advirtiendo de que “las auditorías no pueden ser de las empresas del sector como están intentando”. Critica que los laboratorios de IA estén intentando “crear su propio lobby” y les emplaza a “apoyar a los mecanismos independientes y multilaterales” que ya existen en Naciones Unidas. “A nadie se le ocurre lanzar un coche sin pasar un examen de seguridad, ni lanzar un medicamento sin un control de la agencia del medicamento. En la IA debe ocurrir lo mismo”.

El “aterrizaje suave” para la burbuja de la IA

Por último, Artigas cree que en la vorágine generada este fin de semana aflora “un poco de pánico escénico” ante el evidente “nivel de burbuja” al que han llegado las valoraciones de algunas empresas de IA. La experta, actual presidenta del Consejo Asesor Tecnológico del fondo Nazca Capital, señala que los gigantes de EEUU necesitan un “aterrizaje suave” para la burbuja y podrían estar utilizando esta “ralentización” forzada de su desarrollo como coartada. En este sentido, apunta directamente a OpenAI, una de las empresas sobre las que más se extiende esta sombra, que ha aplazado sus planes de salida a bolsa justo en medio del debate.

La decisión de crear algo que no podían controlar fue muy consciente, precisamente porque no puedes tener responsabilidad sobre algo que no puedes controlar

Carissa Véliz — filósofa especialista en la ética de la tecnología

“Hay que tener mucho cuidado en nunca perder de vista los intereses financieros de estas compañías”, coincide la filósofa especialista en ética de la tecnología Carissa Véliz. Sobre el plan de Amodei, asegura que el centro de esta conversación no debe ser la IA, sino las personas y empresas que la diseñan y financian. “Todas estas noticias sobre que la IA se ha salido de control son una mala interpretación. La IA hizo exactamente lo que le dijeron que hiciera”.

Véliz destaca que “la decisión de crear algo que no podían controlar fue muy consciente, precisamente porque no puedes tener responsabilidad sobre algo que no puedes controlar”. Por ello, pide sistemas que pongan en el centro la ética y quién es el responsable de sus funciones, para “saber exactamente quién está en control y, cuando las cosas vayan mal, sepamos quién va a ir a la cárcel”.

Primero llegará la ventaja cuántica. Así llaman los especialistas al momento en que un procesador cuántico resuelva un problema del mundo real de forma más eficiente que un procesador tradicional. No todos, basta con que solucione solo uno para que “todo se precipite”, explica Mario de Miguel, director de la empresa Nu Quantum en España. Porque, a partir de entonces, el objetivo de tener un computador cuántico estable aparecerá definitivamente en el horizonte cercano. Ese ordenador será una puerta al futuro de la ciencia pero también un momento temido por gobiernos, agencias de inteligencia, bancos y grandes tecnológicas.

El motivo es que uno de los primeros usos de ese computador será ofensivo. Los procesadores cuánticos no aspiran a sustituir a los tradicionales, pero sí a ser mucho más eficientes en determinadas tareas matemáticas. Y una de ellas es descifrar las contraseñas y los sistemas de cifrado actuales que protegen las comunicaciones, transferencias y bases de datos. “Los bancos están preparándose para que eso pueda ocurrir a partir de 2030 o 2032”, avanza De Miguel.

Pero tras la amenaza, llegará la aplicación científica. Nuevos materiales, nuevos combustibles, nuevos medicamentos “de manera mucho más rápida y fidedigna. Usted o yo no tendremos un ordenador cuántico en casa, no los utilizaremos para abrir documentos. Pero pueden tener un impacto enorme en determinadas aplicaciones”, insiste el ejecutivo de Nu Quantum, una puntera startup británica que abrirá oficina en España este otoño. La razón es que muchas de esas aplicaciones consisten en simular cómo se comportan las moléculas a nivel cuántico.

Los científicos llevan dos décadas hablando del potencial de la computación cuántica, pero ahora el calendario empieza a aclararse. La industria ya no habla de décadas sino de años. Numerosas empresas están recibiendo inversiones no solo para avanzar en su investigación teórica, sino para tomar posiciones en el mercado de cada a su aplicación comercial. Los datos hablan por si solos: según el último informe de la consultora McKinsey, en 2025 la inversión en cuántica se disparó un 500% respecto al año anterior, marcando un récord absoluto.

“La computación cuántica presenta una oportunidad de casos de uso de entre 1,3 y 2,7 billones de dólares para 2035, con una aceleración rápida prevista en los próximos 5 a 10 años”, explica la consultora. “Los ingresos de las compañías de computación cuántica están aumentando a medida que la comercialización gana tracción; superaron los 1.000 millones de dólares en 2025 y se estima que crecerán hasta alcanzar entre 3.200 y 4.400 millones de dólares en 2028 (+47% anual)”.

La computación cuántica ya ocupa un espacio propio en eventos como el encuentro anual de Ametic, la principal patronal de la industria tecnológica. Cristian Canton, director asociado del Barcelona Supercomputing Center - Centro Nacional de Supercomputación (BSC), fue uno de los ponentes. “La computación cuántica es una solución realista”, explicó a elDiario.es. “Ahora mismo estamos teniendo casos de uso. Para problemas muy concretos, muy bien acotados, podemos desarrollar soluciones cuánticas que nos permiten probar que estas máquinas sirven para resolverlo”.

Estamos teniendo casos de uso. Para problemas muy concretos, podemos desarrollar soluciones cuánticas que permiten probar que estas máquinas sirven para resolverlo

Cristian Canton — director asociado del BSC

“Pero no dejamos de estar aún en los albores. Con todas estas tecnologías sucede lo que se llama el efecto de palo de hockey”, continúa Canton, haciendo referencia a cómo su desarrollo puede avanzar lentamente durante años hasta que, llegado un determinado momento, se produce una aceleración muy rápida. Es un comportamiento típico de la industria tecnológica, que adquiere una forma parecida a lo que muestra el gráfico de inversiones en cuántica de McKinsey.

“Cuando se inventó el primer transistor, era muy grande y parecía imposible juntar millones en un computador. Pero hoy en día tienes trillones de transistores en tu móvil”, ejemplifica.

Mercado y apuesta geopolítica

La inteligencia artificial ha cambiado la forma en la que se perciben este tipo de tecnologías con gran potencial de impacto en ciencia y seguridad. Esta misma semana el debate sobre los riesgos que entraña su desarrollo ha vuelto a explotar, con voces desde dentro de los propios laboratorios advirtiendo del peligro existencial que conlleva seguir avanzando. La cuántica amenaza con repetir ese guion: tecnología con capacidad de alterar el equilibrio de poder, desarrollada a un ritmo que la fiscalización política y social no logra seguir.

En encuentros como el de Ametic, la gran pregunta es cómo impulsar el desarrollo de las empresas del sector para impedir volver a quedar atrás respecto a las grandes potencias. “Hay mercado y se tiene que crear mercado. No basta con que haya simplemente empresas de oferta y proveedores de ordenadores cuánticos si no hay usuarios”, defiende Eva Martín, directora de innovación de Qilimanjaro Quantum Tech. Esta startup es una de las más importantes del contexto español, responsable del diseño e instalación de los ordenadores cuánticos del BSC.

“El sector público y la administración, a través de mecanismos de compra pública innovadora, funcionan como un primer cliente que no es solo dar financiación. Actúa como cliente, envía señales de credibilidad hacia la inversión privada y permite crear experiencia operacional en las empresas para validar la tecnología”, continuó la experta en una de las mesas de debate de Ametic. Dicha compra pública innovadora consiste en que una administración encargue y pague el desarrollo de una tecnología que todavía no existe o que necesita ser mejorada, convirtiéndose así en uno de sus primeros clientes.

Aunque la inmensa mayoría de la financiación que reciben las startups cuánticas proviene del sector privado (representando el 97% de los 12.200 millones de dólares registrados por McKinsey en 2025), los gobiernos de todo el mundo también han multiplicado su apoyo a estas tecnologías. Los anuncios de inversión pública llegaron a los 11.400 millones de dólares solo en 2025, según el QED-C, la principal asociación internacional de empresas, instituciones y laboratorios del mercado de tecnología cuántica. La mayoría de esos fondos van a universidades e investigación, aunque una cantidad creciente se destina a vehículos como la compra pública innovadora.

En España, la Estrategia de Tecnologías Cuánticas 2025-2030 está dotada con 808 millones de euros. Esto coloca a España entre los primeros países europeos en su apuesta en este campo, solo por detrás de Reino Unido y Francia. Parte de esa apuesta se concentra en una infraestructura científica adaptada a esta nueva era: el Centro de Ciencia y Tecnologías Cuánticas (QuARC-CSIC), que reunirá a 36 grupos de investigación de 21 institutos repartidos por nueve comunidades autónomas.

En lo que respecta a capital privado, EEUU se lleva el 64% de las inversiones, según McKinsey, con 8.015 millones de dólares captados en 2025 frente a los 1.245 millones de la Unión Europea. Una tendencia que China está compensando con un compromiso de 15.300 millones de dólares (unos 13.000 millones de euros).

“Cualquier ralentización de la inversión pública en Europa nos deja en una posición de desventaja preocupante frente a competidores que están acelerando sus hojas de ruta”, advirtió sobre estas cifras la directiva de Qilimanjaro. Mario de Miguel, director de Nu Quantum Spain, coincide en el diagnóstico, pero destaca que el estado aún incipiente del sector representa una oportunidad. “No vamos tarde porque todavía hay muchísimo por hacer. Tenemos nichos por los que apostar y en los que nos estamos haciendo fuertes. El talento europeo es increíble, y el español también. Ahora mismo lo que hace falta es formar gente en las aplicaciones concretas dentro de cada campo”.

La inteligencia artificial ha convertido la carrera tecnológica en una nueva guerra fría entre las grandes potencias y la computación cuántica parece estar generando el mismo tablero de juego. Potencial, ciencia y geopolítica vuelven a coincidir, y sus promesas empiezan a espolear una inversión que se ha multiplicado por seis en un solo año.

Jacob Coxon ha vuelto a sembrar el miedo sobre las actividades de la industria de la inteligencia artificial. Este ingeniero de 27 años, extrabajador de OpenAI y de Anthropic, se ha colocado en las portadas de medio mundo tras dimitir de esta última empresa. El motivo es que lo ha hecho con un llamamiento público a toda la humanidad: “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”.

Coxon no ha ofrecido pruebas de estas amenazas más allá de su testimonio. Apoyado en lo que ha visto en ambos laboratorios (estuvo cerca de tres años en OpenAI y un par de meses en Anthropic como investigador especializado en el pre entrenamiento de los modelos), asegura que el peligro de la IA es mucho más real de lo que muchos creen. “No subestiméis el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, publicó en las redes sociales tras su dimisión.

“El consenso es que el próximo año o dos será el momento decisivo para la humanidad”, insistió posteriormente en una entrevista con la CNN, haciendo referencia a lo que piensan sus ex compañeros en ambos laboratorios. Su dimisión ha prendido de nuevo el debate sobre el riesgo existencial de la IA que viene fraguándose desde la salida a la luz de ChatGPT.

Es una conversación en la que se mezclan conceptos propios de la ciencia ficción, el descreimiento de quienes ven en estas advertencias otro ejemplo del autobombo y el marketing del miedo característicos de la industria tecnológica, con riesgos que sí tienen un anclaje técnico y están siendo estudiados por los científicos. Coxon podría estar exagerando en el calendario o en la certeza de sus predicciones, pero eso no significa que los dos problemas de fondo que señala sean inventados.

El primero es la opacidad de los laboratorios respecto a lo que pueden hacer realmente sus sistemas. Se trata de una acusación que ha perseguido durante años a las grandes tecnológicas, pero cuya relevancia se ha multiplicado en la era de la IA. El joven ingeniero es solo el último en alertar de ello: hace unas semanas era el propio Bill Gates el que advertía que esta falta de transparencia es uno de los grandes problemas de la humanidad. Antes de ellos fueron numerosos especialistas críticos con estas empresas los que avisaron que esta forma de actuar impide que el resto de científicos, la ciudadanía y los reguladores tengan información suficiente sobre esta tecnología clave.

El segundo problema señalado por Coxon es puramente técnico. Dada la creciente capacidad autónoma de los sistemas de IA, ¿qué ocurrirá si estos empiezan a comportarse de manera diferente a como esperaban sus creadores en su intento de cumplir las tareas que se les han encomendado?

El riesgo de perder el control

Muchas personas de la industria de la IA piden habitualmente la creación de un organismo internacional formado por expertos que siga sus avances y proponga soluciones para sus riesgos. Lo cierto es que ese ente ya existe, está dentro de la ONU y cuenta con un comité asesor internacional formado por 40 miembros. Están dirigidos por el canadiense Yoshua Bengio, considerado uno de los “padres” de la IA y ganador del premio Turing (el Nobel de la informática), y la filipina Maria Ressa, premio Nobel de la Paz.

Naciones Unidas aprobó su creación en 2025, estableciendo un mandato de tres años que comenzó el pasado febrero. Durante ese período, sus miembros, entre los que hay representantes de centros de investigación, del sector privado y de los laboratorios de las empresas tecnológicas, actúan “a título personal en calidad de expertos científicamente independientes”. Su misión es “documentar el consenso y las discrepancias científicas” en torno a la IA desde un prisma “estrictamente científico y apolítico”.

Su primer informe preliminar se publicó en julio y trata en profundidad los dos grandes problemas que ha denunciado Coxon. “La asimetría de información entre las empresas y la sociedad” es uno de los 8 grandes problemas estructurales de la IA actual que recogen: “Las capacidades de la inteligencia artificial avanzan más rápido que nuestra capacidad para medirlas o gobernarlas”. Otro de ellos es “la pérdida de control”.

A medida que se concede mayor capacidad de agencia a los sistemas, el riesgo de perder el control sobre uno o varios agentes de IA aumenta considerablemente

Comité de expertos de la ONU

El informe circunscribe este riesgo a los llamados “agentes de IA”. Se trata de sistemas diseñados no solo para responder a una petición, sino para ejecutar por sí mismos una cadena de acciones hasta completar una tarea. Pueden, por ejemplo, consultar información, utilizar otras herramientas digitales, escribir código o tomar decisiones sin que una persona tenga que indicarles cada paso.

“Los agentes de IA pueden reportar importantes beneficios económicos y científicos”, destacan los investigadores. No obstante, también recuerdan que cuanto más capaces son de actuar por su cuenta, más difícil resulta supervisar todo lo que hacen.

“A medida que se concede mayor capacidad de agencia a los sistemas, el riesgo de perder el control sobre uno o varios agentes de IA aumenta considerablemente”, avisan. Este se agrava debido a que “los mecanismos de supervisión actuales no son capaces de gestionar adecuadamente esta situación” y a que los exámenes de seguridad son “vulnerables a la manipulación por parte de los sistemas que pretenden evaluar”.

Los modelos de IA son capaces de engañar de forma activa. El engaño se produce cuando un sistema de IA induce a error de forma sistemática a los seres humanos u otros agentes en relación con sus conocimientos, planes o capacidades

El informe destaca que, en entornos de laboratorio, estos agentes de IA han demostrado ser capaces de confabularse entre ellos para llevar a cabo objetivos sin informar a sus creadores o incluso engañarlos: “Los modelos de IA son capaces de engañar de forma activa. El engaño se produce cuando un sistema de IA induce a error de forma sistemática a los seres humanos u otros agentes en relación con sus conocimientos, planes o capacidades. Este fenómeno se observa cada vez más en la práctica”. En concreto, se han documentado “modelos de IA que mienten y engañan para evitar que se les apague”.

El principal ejemplo en este sentido ha llegado este verano, en el que se han sucedido los comunicados sobre modelos de IA que “escaparon” de sus entornos protegidos para realizar ciberataques contra otras empresas u objetivos. OpenAI, Anthropic y Meta han revelado haber tenido este tipo de incidentes en los dos últimos meses. Ahora estas empresas, junto a bancos, firmas de ciberseguridad y la mayoría de grandes tecnológicas, han pedido a los estados que inviertan en herramientas capaces de frenar estas amenazas.

“Consecuencias catastróficas”

El informe del comité de expertos de la ONU no menciona un peligro existencial para la humanidad ni se acerca a la conclusión de Coxon de que la IA podría “matarnos a todos” en cuestión de años. Tampoco afirma que los agentes de IA puedan llevar los engaños reportados a un nuevo nivel para atacar a las personas. Pero eso no evita que la potencial pérdida de control sobre ellos no pueda tener “consecuencias catastróficas”, recalcan.

El riesgo de estos agentes que apuntan los asesores de la ONU es, por un lado, “permitir que actores privados sin experiencia utilicen la IA con fines maliciosos en una amplia gama de ámbitos, como el fraude, la ingeniería social, la ciberseguridad, la desinformación, la biotecnología y la manipulación financiera”. Por otro, les preocupa su creciente autonomía: al tratarse de sistemas que “actúan en el mundo real”, los expertos advierten de que “pueden causar pérdidas y daños sin que haya un ser humano identificable que intervenga en el proceso”.

No hay garantías científicas de que los agentes de IA no vayan a incumplir las instrucciones, y cada vez se documentan más casos en que ya las incumplen

Comité de expertos de la ONU

El problema se resume en dos claves: “No existen métodos fiables para mantener el control sobre sistemas de IA altamente autónomos. No hay garantías científicas de que los agentes de IA no vayan a incumplir las instrucciones, y cada vez se documentan más casos en que ya las incumplen”.

Para corregirlo, los asesores de la ONU piden cambios radicales tanto en los sistemas de evaluación de la IA como de su gobernanza. Plantean que la vigilancia humana deje de ser una idea abstracta en el código de la máquina y se traduzca en reglas claras que permitan frenar o corregir a una IA “en cualquier momento”. Además, proponen evaluar estos sistemas de manera continua mientras funcionan en la vida real, no solo con exámenes previos que pueden quedarse obsoletos o ser manipulados por los sistemas que ya conocen su funcionamiento.

Por último, piden a los países crear un marco internacional sobre estos sistemas que no pueda relajarse ante presiones económicas o carreras geopolíticas. El objetivo es “garantizar que, como sociedad, no construyamos ni despleguemos sistemas que puedan causar daños catastróficos”.

Los ocho grandes problemas estructurales que identifica el informe van mucho más allá de la pérdida de control. Los expertos señalan también la “concentración de poder y recursos” en unas pocas empresas y países, los efectos sobre el empleo y la economía, los riesgos para los derechos humanos y la seguridad, y el impacto de la IA sobre la información, la desinformación y la confianza pública. Además de Ressa y Bengio, en el comité está el español Román Orús, especialista en IA cuántica; el alemán Bernhard Schölkopf, uno de los investigadores más influyentes del aprendizaje automático; o la francesa Joëlle Barral, investigadora de Google DeepMind. Junto a ellos hay especialistas en ciberseguridad, derechos humanos, economía, gobernanza y desarrollo procedentes de las cinco regiones del mundo.

Jacob Coxon, investigador británico especializado en el entrenamiento de IA avanzada, ha dimitido de su puesto en Anthropic y ha anunciado que abandona la industria de la inteligencia artificial. El ingeniero, de 27 años y que también había dimitido previamente de OpenAI, afirma que el avance de esta tecnología supone un peligro existencial para la humanidad y que los ejecutivos de los laboratorios que lideran la carrera están escondiendo estos riesgos a la ciudadanía.

“Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y apostando nuestras vidas en esa carrera”, ha afirmado Coxon en su cuenta de X: “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”.

“No subestiméis el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, ha añadido en la citada red social: “Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro”.

La dimisión de Coxon fue adelantada en exclusiva por The Wall Street Journal este martes. El prestigioso medio económico detalla que el ingeniero tiene formación en matemáticas en la Universidad de Cambridge y que, tras trabajar durante casi tres años en OpenAI dentro del equipo de preentrenamiento de grandes modelos lingüísticos, en julio de 2026 se incorporó a Anthropic.

El salto a la competencia se produjo precisamente ante la impresión de que la empresa dirigida por Sam Altman no dispone de los protocolos de seguridad adecuados. Anthropic ha basado su narrativa empresarial en la alerta sobre los peligros de esa superinteligencia superior a la humana y la necesidad de avanzar con cautela hacia ella. Sin embargo, Coxon tampoco ha encontrado lo que esperaba tras un mes en el laboratorio y avisa que ninguna de las dos organizaciones actúa con la cautela necesaria.

“En Anthropic comprenden la apuesta, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo”, ha declarado al WSJ: “Es una locura que esto tenga que ocurrir en los MacBooks de unos ingenieros que viven en San Francisco en lugar de en un búnker en el desierto como cuando hacían el Proyecto Manhattan”.

Coxon opina que la rivalidad entre OpenAI y Anthropic, así como la presión por mantener la delantera frente a los desarrolladores chinos, está haciendo que ambos laboratorios dejen a un lado las salvaguardas de seguridad para avanzar lo más rápido posible. Por el momento, ni Anthropic ni OpenAI han hecho ninguna declaración oficial respecto a sus denuncias.

La única respuesta ha llegado por parte de uno de los directivos de Anthropic, encargado de las pruebas de seguridad de sus modelos. “Jacob tiene razón aquí: ¡realmente creemos con sinceridad que la IA podría matar a todos los humanos! Personalmente, creo que la probabilidad es mayor al 10% durante la próxima década. Creo que Anthropic lo está haciendo lo mejor que puede, pero todavía no tenemos un plan para resolver el alineamiento para la superinteligencia y claramente no estamos en camino de lograrlo”, ha afirmado Evan Hubinger en su cuenta de X.

Hubinger enlaza directamente el último Informe de riesgos de Anthropic, publicado este agosto. El documento trata en profundidad el problema del “desalineamiento”, como la industria denomina la posibilidad de que los sistemas de IA desobedezcan a sus creadores o queden fuera de control. Los investigadores de Anthropic concluyen que ese riesgo de crear una IA que pierda el control y pueda causar daños en entornos de alto riesgo y que resulten críticos para las personas es “bajo”. No obstante, este nivel ha subido desde el “riesgo muy bajo” que le asignaban en su informe anterior.

El cambio de calificación llega después de que la compañía, según el informe, asegure que ha observado conductas potencialmente peligrosas en sus sistemas de IA. Entre ellas, cita por ejemplo el uso de atajos engañosos para los investigadores para completar tareas complejas que le habían sido asignadas. Por otra parte, los investigadores consideran “muy poco probable” que exista un “desalineamiento severo y persistente no detectado” por parte de alguna de sus inteligencias artificiales. A este respecto, Anthropic destaca que cuenta con las herramientas adecuadas para detectarlo en caso de que se produzca.

Opacidad de los laboratorios de IA

Fuera de Silicon Valley, numerosos científicos se muestran escépticos sobre la posibilidad de crear una superinteligencia capaz de mejorarse a sí misma. Alegan que para llegar a ella hacen falta avances científicos sustanciales y no simples mejoras de los modelos actuales, que no comprenden realmente ninguno de los contenidos que generan. Muchos expertos avisan, además, que estas empresas utilizan el marketing del miedo para exagerar la capacidad de sus productos y vender protecciones ante ellos.

Las repetidas encuestas entre los especialistas son claras a este respecto. Un estudio elaborado en 2025 por el University College de Londres entre 4.260 investigadores expertos en IA de 92 países mostró que la desinformación, el uso de datos personales sin consentimiento o el cibercrimen fueron los riesgos de la IA que más preocupan los científicos. “Nuestros resultados ofrecen un claro contrapunto al revuelo mediático en torno al riesgo existencial, que no figuraba entre las diez principales preocupaciones que surgieron en las respuestas. Solo el 3% de los investigadores afirmó que lo que más les preocupaba era el escenario especulativo a largo plazo en el que una IA avanzada y fuera de control supusiera una amenaza para la existencia humana”, explicó Ananya Karanam, coautora del estudio.

No obstante, en las últimas fechas reputadas voces de la industria tecnológica han elevado la misma alerta que Coxon: los laboratorios de IA no están siendo transparentes sobre los riesgos reales que entrañan sus investigaciones actuales. Una de ellas ha sido la del propio Bill Gates, que recientemente ha publicado un extenso ensayo y dado entrevistas en las que profundiza en esta cuestión.

“En privado, las personas que entienden lo buena que es esta tecnología y cuánto está mejorando, están muy preocupadas”, revela el fundador de Microsoft, indicando que aquellos que se atreven a señalarlo son censurados por el resto del sector. “Se dicen entre sí: 'Oye, amigo, no digas eso. Es malo para los próximos billones de dólares que estamos intentando recaudar'”.

En este sentido, este mismo miércoles el Financial Times ha informado de que Anthropic se negó a remitir su último y más avanzado desarrollo, Claude Mythos 5.1, al Instituto de Seguridad de la IA de Reino Unido (AISI) para ser auditado antes de su salida al mercado. El medio británico lo relaciona con la doctrina proteccionista impuesta por Donald Trump, ya que Anthropic sí ha compartido el modelo con sus socios estadounidenses.

¿Qué ocurre cuando una generación de jóvenes intenta aprender y leer en profundidad mientras recibe el bombardeo continuo de estímulos dirigidos a distraer su atención hacia las redes y plataformas digitales? Quizá la respuesta a esta pregunta haya aflorado en el informe PISA de 2025. Este estudio internacional de competencias educativas de más de 760.000 estudiantes de 15 años en 91 países ha mostrado este año los peores resultados históricos promedio en Ciencias, Lectura y Matemáticas. Los autores apuntan directamente a los “dispositivos” como uno de los patrones que marcan los resultados de los estudiantes.

“Los estudiantes de PISA 2025, nacidos alrededor de 2009, crecieron durante un período de rápido cambio y difusión de dispositivos electrónicos personales, lo que puede haber alterado los hábitos de lectura, favoreciendo una interacción digital más corta y fragmentada por encima de la lectura sostenida”, exponen los autores del informe, promovido por la Organización para la Cooperación y el Desarrollo Económicos (OCDE).

Se trata de una tendencia internacional de la que España no sale indemne, con el peor resultado de su historia y fuertes caídas en Lectura, Ciencias y Matemáticas. El informe destaca que el 29% de los estudiantes españoles afirma que sus compañeros de clase se distraen con dispositivos digitales en la mayoría o en la totalidad de las lecciones. Entre esos alumnos, el rendimiento en ciencias es 16 puntos inferior al de quienes no perciben esa distracción, una vez descontado el perfil socioeconómico.

Sin embargo, detrás de lo que el informe denomina “dispositivos”, o las pantallas, como se suele resumir este problema en España, no hay tanto un aparato sino una industria y un determinado modelo de negocio. La capacidad adictiva de las redes sociales, los videojuegos online o las plataformas gamificadas no es una consecuencia accidental del uso de la tecnología o las pantallas, sino el objetivo económico central de las empresas que desarrollan esos productos.

Los estudiantes son, además, los más perjudicados. Los estudios son claros al respecto: el cerebro adolescente, con un sistema de recompensa hiperactivo y un control ejecutivo todavía inmaduro, es muy vulnerable a las mecánicas de diseño de las redes sociales que buscan atrapar la atención del usuario a toda costa.

De conectar personas a maximizar el tiempo de atención

El problema se ha ido agravando con los años, como muestran los resultados de PISA. Es una tendencia que coincide con la evolución de la industria de la atención y sus tácticas.

“Lo que hacen los estudiantes en el entorno digital, y cuánto tiempo dedican a ello, ha cambiado desde 2022”, describe el informe PISA 2025: “Se ha producido un aumento en la proporción de estudiantes que declaran utilizar dispositivos digitales durante más de una hora al día para navegar por redes sociales, tanto los días laborables como los fines de semana, o para jugar a videojuegos los días laborables”, recogen los investigadores.

Pero además, el estudio destaca determinados cambios en el propio consumo digital. “También hubo una mayor proporción de estudiantes que informaron de un uso limitado o nulo de los dispositivos para ciertas actividades, como las informativas (por ejemplo, buscar información práctica en internet) y las creativas (por ejemplo, crear contenidos digitales)”. El hallazgo coincide con un punto de inflexión en el diseño de las redes sociales mayoritarias, marcado por la irrupción de TikTok.

El éxito de la red social de origen chino marcó un cambio de etapa en el que estas plataformas dejaron de priorizar las interacciones personales y las publicaciones de los amigos y contactos para promover el consumo de vídeos cortos seleccionados por algoritmos de recomendación. Dejó de ser necesario seguir cuentas o buscar activamente los contenidos que se quería ver. Ahora, son estos sistemas los que deciden qué contenido es más atractivo para atrapar a cada usuario, afinados con precisión matemática: cuánto tiempo pasa ante un vídeo, cuáles abandona en función de la hora del día o su estado de ánimo.

Es una batalla desigual. La escuela y el informe PISA valoran actividades en las que es necesario sostener la atención, tolerar el aburrimiento y la ausencia de estímulos externos. Sin embargo, compiten con herramientas que les proporcionan recompensas por su atención cada pocos segundos y eliminan cualquier tipo de tiempo muerto con estímulos variables, constantes e impredecibles. Es “un entorno de aprendizaje transformado en el que la lectura sostenida, el compromiso enfocado, el apoyo educativo y el desarrollo acumulativo de habilidades pueden haberse vuelto más difíciles de mantener”, indican los investigadores de la OCDE.

PISA no es el primer análisis que esboza una conexión entre las prácticas de la economía de la atención y la capacidad de atención de los estudiantes. Varias investigaciones recientes han evidenciado que una mayor exposición a ellas equivale a descensos del rendimiento académico. Una revisión de 66 de esos estudios publicada este año en la revista Discover Education concluyó que el uso simultáneo de varias aplicaciones mientras se estudia acostumbra al cerebro a la distracción permanente y le dificulta filtrar la información importante cuando realiza tareas analíticas y de lectura profunda.

El diseño de redes como problema político y social

La bomba que ha supuesto el informe PISA 2025 cae en un contexto en el que los estados ya están colocando el diseño adictivo de las plataformas en el centro de la agenda social. La mayor iniciativa para combatirlo hasta el momento ha sido la gran causa abierta contra Meta por una coalición de más de 40 estados de EEUU. Con el juicio ya en marcha, la corporación propietaria de Facebook e Instagram accedió a pagar 17.100 millones de dólares en un acuerdo extrajudicial que diera carpetazo al caso.

Los de Mark Zuckerberg también aceptaron introducir funcionalidades en sus plataformas para hacerlas menos adictivas, como establecer un límite de dos horas diarias o silenciar las notificaciones durante el horario escolar. Hasta qué punto el acuerdo repara los daños de los que estaba acusada Meta (que ha conseguido evitar la asunción de responsabilidad) aún está siendo debatido en EEUU.

El combate contra los diseños adictivos también es una de las grandes motivaciones que están alegando los gobiernos que proponen elevar la edad media para las redes sociales e imponer métodos de verificación capaces de evitar que los menores se conecten a ellas. Es una iniciativa que comenzó en Australia y que la UE está analizando. Países como España, Francia, Dinamarca o Grecia se han posicionado a favor de la medida y están desarrollando sus propias aplicaciones de verificación de edad.

Sin embargo, los resultados reales de esas medidas parecen lejos de conseguir sus objetivos. Por un lado, los reguladores australianos han constatado que nueve meses después de la entrada en vigor de la medida, al menos un 70% de los menores de 16 años siguen accediendo a estas plataformas. Mientras que Francia, el primer país europeo que aprobó una ley en este sentido, ha visto como la norma era anulada por su Tribunal Constitucional, que ha dictaminado que violaba el derecho a la información de los adolescentes.

Las prohibiciones de acceso no atacan, no obstante, los problemas de fondo que plantean las prácticas de la economía de la atención documentadas por la investigación. Elevar la edad mínima o impedir la entrada de los adolescentes puede reducir su exposición a determinadas plataformas, pero no modifica necesariamente la lógica con la que estas han sido diseñadas.

PISA no demuestra que TikTok, Instagram o los videojuegos sean los responsables del bajo rendimiento académico. Pero sí describe una generación que ha crecido durante la expansión de dispositivos personales y formas de consumo digital cada vez más cortas y fragmentadas, al tiempo que las grandes plataformas han perfeccionado sus sistemas para competir por cada segundo de atención.

La startup francesa de inteligencia artificial Mistral ha cerrado una ampliación de capital de 3.000 millones de euros, ha anunciado la empresa este martes. La operación eleva su valoración total hasta los 21.000 millones y supone la mayor ronda de financiación obtenida hasta la fecha por una compañía tecnológica en Europa. Además de “impulsar significativamente la investigación de vanguardia” de Mistral, el capital le permitirá “aumentar su capacidad de procesamiento para entrenar modelos más potentes, contribuirá a la expansión de su infraestructura y acelerará su crecimiento comercial”, ha comunicado la startup.

Fundada hace solo tres años, la empresa gala es una de las mayores esperanzas europeas para meter el pie en la carrera de la inteligencia artificial. Se centra en el desarrollo de modelos generativos, como los que permiten a sistemas como ChatGPT entender y generar texto. “Con esta recaudación de fondos dispondremos de una capacidad de cálculo muy similar a la de los laboratorios chinos”, ha celebrado Arthur Mensch, cofundador y consejero delegado de la firma, al Financial Times.

Uno de sus mayores inversores es el otro gran pilar europeo en esta competición, la neerlandesa ASML, que produce las más avanzadas máquinas de fabricación de chips de IA del mundo. Aunque dispone de su propio chatbot, actualmente su principal negocio son los servicios para empresas. Tiene presencia en 20 países y 125 clientes internacionales, entre los que se encuentran Airbus, el banco HSBC o la propia ASLM.

Mistral se está especializado en permitir que grandes compañías incorporen IA sin depender exclusivamente de proveedores estadounidenses. Así se fraguó su acuerdo de 1.300 millones con ASML y ha sido también el motor de la operación anunciada este martes, que ha liderado Samsung. “Esta ronda de financiación sienta las bases para una colaboración a largo plazo entre las empresas”, ha avanzado Young Hyun Jun, responsable de la división de memorias y chips del fabricante surcoreano, que utilizará los modelos de Mistral en sus centros de fabricación de semiconductores.

En esta ronda también han participado los fondos de capital riesgo EQT y PSG Equity y han entrado también nuevos inversores como Advent, un vehículo gestionado por BlackRock y el Gran Ducado de Luxemburgo.

Se trata del segundo récord en este campo batido por una empresa europea de IA este año. En marzo, la startup AMI Labs, fundada por el ex jefe de la IA de Meta Yann LeCun, consiguió 890 millones de euros en su primera captación de fondos. Supusó la mayor inversión inicial en una empresa emergente europea de la historia. Con sede en París, la startup se centrará en desarrollar IA para el mundo físico, como robótica doméstica, automatización industrial o el transporte.

Con todo, las cifras evidencian la gran brecha que existe con los laboratorios estadounidenses en cuanto a inversión. La startup Anthropic, fundada por ex miembros de OpenAI y a la que se considera líder del sector, ha recaudado unos 100.000 millones de dólares solo en 2026 y espera salir a bolsa próximamente con una valoración que supere el billón de dólares. OpenAI también está preparando su llegada a los parquets y maneja cifras similares.

“Yo mandé mi currículum y ellos decidieron ponerme el número dos de la lista”, cuenta Diego Solier. Un resultado electoral inesperado, una tormentosa ruptura con Se Acabó La Fiesta (SALF) y una denuncia por acoso contra Luis 'Alvise' Pérez después, este eurodiputado de 46 años sin experiencia previa en política será una de las personas con mayor capacidad de influencia sobre la próxima gran infraestructura tecnológica del continente.

Solier será el ponente principal de CADA, siglas en inglés de la Ley de Desarrollo de la Nube y la Inteligencia Artificial. Es la norma que debe establecer el marco para la construcción masiva de centros de datos en Europa. Desde su posición, Solier será el arquitecto principal de la posición del Parlamento Europeo y una figura central del proceso legislativo. La negociación sobre qué incentivos tendrán las empresas para construir estas infraestructuras, su gasto energético, su impacto medioambiental o su independencia de los gigantes tecnológicos de EEUU pasará por sus manos.

Una responsabilidad que contrasta con una trayectoria política poco convencional. Solier, ingeniero informático, llegó al Parlamento Europeo tras las elecciones de junio de 2024. Unos comicios en los que SALF consiguió tres diputados tras protagonizar un vertiginoso ascenso en las encuestas. Con una campaña centrada únicamente en la figura del agitador ultra, el partido fue el sexto más votado de España, a menos de medio punto del cuarto puesto.

El resultado le granjeó tres representantes en la Eurocámara y sorprendió incluso a su propio líder, que ha admitido que conoció personalmente a Solier poco antes de la cita con las urnas. Hoy esa campaña está siendo investigada por el Tribunal Supremo, después de que saliera a la luz que Álvaro Romillo, un empresario de las criptomonedas al que Alvise llegó a promocionar en un acto multitudinario en Madrid, le entregó 100.000 euros en metálico, dos semanas antes de las elecciones. Este agosto los magistrados han desestimado el intento de Alvise para impedir el rastreo de otros tres monederos de criptomonedas que Romillo creó para que el agitador pudiera recibir donaciones anónimas.

El “músculo”

La alianza de Alvise con Solier y Nora Junco, la otra eurodiputada de SALF, duraría poco. La relación había sido complicada desde el principio, asegura Solier (“Se dedicaba a hacer vídeos de risa”, lo que alejaba a “la gente seria”, explica), pero todo se precipitó en abril de 2025. Entonces, el agitador insinuó que sus compañeros habían sido comprados por el lobby armamentístico a raíz de su voto a favor de destinar 800.000 millones de euros para el rearme europeo, algo a lo que Alvise se oponía.

“Yo no puedo controlar, no sé si han venido lobbies por detrás y me han comprado un eurodiputado mío, yo sé lo que voto yo. Te viene un lobby armamentístico a cenar contigo y te deja un maletín al lado y se levanta y se va”, declaró el líder ultraderechista. En esa misma intervención, Alvise hizo un llamamiento directo a sus seguidores para localizarlos y “poner el pie en nuestro cuello y aplastarnos”, denuncia Solier en conversación con elDiario.es, negando las acusaciones sobre soborno.

El ataque hizo que los dos eurodiputados de SALF se desligaran de Alvise, le denunciaran por acoso y se unieran a los Conservadores y Reformistas Europeos (ECR), el grupo de Giorgia Meloni y Fratelli d'Italia. Solier asegura que ese salto tuvo muy poco impacto en su proyecto político, puesto que “la gente que estuvo detrás” de la candidatura de Alvise “sigue trabajando” con ellos.

“Nosotros nunca hemos pertenecido a ningún partido político. Fuimos parte de una agrupación de electores que es verdad que estuvo liderada por una persona. Pero para que él se presentara a unas elecciones europeas, hubo gente trabajando para que eso pasara. Esa gente sigue trabajando con Nora Junco y Diego Solier. Los que pusieron el músculo, la idea, la ideología, hasta el nombre de la agrupación y el logo, siguen estando con nosotros”, asegura el eurodiputado.

Solier prefiere no dar nombres ante las preguntas de este medio. “Son gente que estuvo detrás. A mí, por ejemplo, me contactó una persona del mundo tecnológico con la que había trabajado en algunos proyectos, una persona de mi confianza con una mente brillante, que me dijo: 'Mira Diego, estamos, estoy diseñando esto y estamos buscando a gente profesional que ame a su país'. Tras hablarlo con mi familia, decidimos dar el paso”, continúa el eurodiputado.

Pese a ese distanciamiento, Solier sigue expresando posiciones cercanas a SALF en aspectos como las vacunas. Según El Confidencial, durante la pandemia escribió en la red entonces conocida como Twitter comentarios como “díganme si está justificada la vacunación masiva e indiscriminada de niños, jóvenes y aun de menos jóvenes”, o acusando al Gobierno imponer una “dictadura” por las medidas de confinamiento.

Hoy esos comentarios no aparecen en su perfil. Solier niega a este medio ser “antivacunas”, sino “un defensor de la libertad”. “No me gusta obligar a la gente a vacunarse. Que cada uno decida qué es lo mejor para uno mismo, para su familia”, afirma, revelando que él se puso las vacunas contra el covid pero sus hijos, no.

“Alianzas” con los gigantes de EEUU y energía nuclear

Antes de esa llamada, Solier era el responsable global de la infraestructura informática de Attindas, una multinacional especializada en productos para la incontinencia, como pañales para adultos e infantiles. Cuenta con más de 2.000 empleados y fábricas en España, Suecia, Italia y EEUU. El eurodiputado, cuyo currículum en la web oficial del Parlamento Europeo está en blanco, acumula más de 20 años de experiencia en puestos relacionados con IT corporativo.

Defiende que ha sido esta trayectoria el motivo por el que ha sido elegido por los ultraconservadores de ECR para la ponencia de CADA. En el Parlamento Europeo, las ponencias para las diferentes regulaciones se reparten en un sistema de subastas, en las que cada partido tiene tantos puntos como eurodiputados. Cuando logran la ponencia de un determinado dosier, escogen al eurodiputado que se encargará de ella mediante procedimientos internos.

Así es como Solier ha llegado a CADA. El eurodiputado se encuentra en “período de escucha”, pero avanza algunos de los puntos clave que marcarán la primera redacción de esta importante ley, como la defensa de la energía nuclear y las “alianzas” con las multinacionales tecnológicas de EEUU.

El eurodiputado admite la “incertidumbre” que existe en muchos sectores sobre la proliferación de los centros de datos. Sin embargo, expone que para desarrollar su propia inteligencia artificial, “Europa necesita unos recursos de computación de los que ahora mismo carece”. “CADA pretende ayudar a que esa industria que necesitamos se pueda desarrollar”, algo que, a su juicio, se conseguirá “simplificando la normativa” y “consiguiendo que venga capital para invertir”.

La norma debe ayudar a que las empresas europeas crezcan, “ganando en soberanía, pero no aislándonos”, pide. Sostiene que ganar autonomía “no significa aislarnos del mundo” sino retener el “poder de decisión” cuando los estados europeos realmente lo requieran. Para Solier, no deben tratarse igual los sistemas críticos de defensa de un país que la información corporativa estándar de los mercados privados, la cual debería poder seguir alojándose en las plataformas que resulten más competitivas.

Tenemos que tejer alianzas con las empresas punteras a nivel tecnológico que existen en el mundo. Eso no significa que nos tengamos que vender o estar atados a ellos

“CADA propone distintos niveles de soberanía y según el tipo de dato y el tipo de inteligencia artificial, podrá estar alojado en un nivel diferente. Pero eso tenemos que hacerlo en paralelo con las alianzas con las empresas punteras a nivel tecnológico que existen en el mundo. Eso no significa que nos tengamos que vender o estar atados a ellos. Tenemos que tejer esas alianzas a la vez que trabajamos en generar un ecosistema de innovación 100% europeo”, resume.

Una política que deberá complementarse con el otro gran reto de la redacción de CADA: la energía. El eurodiputado defiende la energía nuclear para potenciar la IA, como está haciendo EEUU, y critica el plan de cierre de centrales del Gobierno, que ya ha quedado cuestionado con la prórroga hasta 2030 de la planta de Almaraz, en Cáceres. “Hay que revisar ese calendario de cierre nuclear que no nos beneficia para nada”.

“No es que yo sea pronuclear o no, lo que estoy es en contra de eliminar tecnologías que se han declarado oficialmente a nivel europeo como eficientes y verdes”, afirma, apuntando a otros países europeos: “En Alemania, por ejemplo, se han dado cuenta del tema nuclear y están desarrollando planes para abrir centrales nucleares”.

Aunque el calendario oficial para la tramitación de la ley sigue pendiente de que la comisión parlamentaria correspondiente formalice el nombramiento de todos los “ponentes en la sombra” (como se denomina a los representantes del resto de partidos que estarán en contacto directo con Solier), el eurodiputado avanza a este medio que su objetivo es conseguir la luz verde del Parlamento Europeo para “junio o julio del año que viene”, dejando el texto listo para arrancar las negociaciones de los trílogos con los Gobiernos europeos.

España suma a México a una de su principal iniciativa digital de política exterior. Ambos países han acordado estrechar su colaboración en inteligencia artificial, buscando un modelo alternativo para esta tecnología respecto al que proponen Washington y Pekín. “Queremos que haya un gran acuerdo para una tercera vía, para que en ese gran desarrollo tecnológico internacional, esa carrera en la que hay gigantes como Estados Unidos y China, haya también un modelo de potencias medias, en el que Europa y América tengan mucho que decir”, ha manifestado el ministro para la Transformación Digital, Óscar López, este viernes en Ciudad de México.

El representante español y el director de la Agencia de Transformación Digital y Telecomunicaciones de México, José Antonio Peña Merino, han firmado un Memorando de Entendimiento (MoU) para impulsar la cooperación técnica bilateral e incorporar formalmente al país norteamericano a esta red de alianzas internacionales, que ha llevado al Ejecutivo español a firmar acuerdos con Canadá y Brasil.

Actualmente, el desarrollo de la IA está marcado por el modelo de Estados Unidos, definido por los grandes magnates de Silicon Valley y su influencia directa en las políticas públicas; y el de China, donde la tecnología se integra en una estructura estatal de control político y vigilancia social. Frente a esta división, la iniciativa busca coordinar a países no alineados en torno a un modelo “con un enfoque humanista”, explica López: “Lo que queremos es una inteligencia artificial para mejorar, no para hacer el mal”.

El acuerdo con el país norteamericano contempla 10 puntos que incluyen disposiciones en materia de ciberseguridad, desarrollo de modelos de IA compartidos, supercomputación o planificación sostenible de centros de datos. “México y España podemos y debemos ser la tercera vía digital. La vía que colabora y apuesta por los datos interoperables, los modelos abiertos y la cooperación en supercomputación, como ya lo hace el Barcelona Supercomputing Center con la supercomputadora Coatlicue que está construyendo México”, ha insistido el ministro español.

La suma de México representa el tercer hito de esta iniciativa diplomática tras los acuerdos sellados durante la primera mitad del año. En abril, España firmó un memorando con Brasil centrado en el despliegue de cables submarinos y la creación conjunta de modelos de lenguaje en español y portugués. En mayo, el Ejecutivo cerró una alianza con Canadá orientada a la seguridad digital y la capacitación tecnológica de pequeñas y medianas empresas.

Según lo expresado en anteriores ocasiones, el Gobierno tiene la vista puesta la India como el siguiente objetivo prioritario de su diplomacia digital para extender esta red fuera de los márgenes de la Unión Europea. La India está logrando colocarse en el escalón inmediatamente inferior a China y EEUU en desarrollo tecnológico, con muchas de las empresas de las dos grandes potencias recurriendo al país dirigido por Narendra Modi para situar centros de ingeniería, fabricar componentes estratégicos y servicios técnicos digitales.

López ya expuso los motivos de esta búsqueda de socios durante el Encuentro por los Derechos Digitales celebrado en Barcelona: “Hay un camino maravilloso que nosotros vamos a recorrer, que es el de las potencias medias. Es el modelo de construcción de una vía que va a ser confiable en el futuro”. En el mismo foro, el ministro advirtió sobre el riesgo de no crear este espacio propio: “Estoy completamente convencido de que, o hacemos algo a escala internacional, más allá de la Unión Europea, o el sur global se va a convertir en una casilla para engordar las cuentas de las tecnológicas megamillonarias”.

La visita institucional sirve como paso previo para preparar la Cumbre Iberoamericana prevista para noviembre de 2026. El plan del Ejecutivo es trasladar los consensos alcanzados con Brasil y México a una propuesta de acuerdo regional que siente las bases de esta vía tecnológica común entre Europa y América Latina.

Google seguirá siendo Google. La multinacional publicitaria más importante del mundo podrá mantener unidas todas sus herramientas de subasta de anuncios online, a pesar de que la justicia ha sentenciado que ha construido un monopolio en este mercado a través de ellas. La jueza federal a cargo del caso ha desestimado la petición del Departamento de Justicia de Estados Unidos para forzar la división del negocio de tecnología publicitaria de Google, permitiendo a la empresa conservar también su plataforma de subastas publicitarias AdX y su servidor para editores.

Google fue condenada por monopolio en el negocio de la publicidad digital en abril de 2025 tras ser demandada por el Gobierno de EEUU. Entonces, la jueza instó a las partes involucradas a presentar informes sobre cómo arreglar la situación. El Departamento de Justicia propuso romper Google en varias empresas distintas para evitar que el gigante pudiera seguir cometiendo abuso de mercado, un extremo que la multinacional ha evitado en una victoria clave.

La resolución final opta por imponer medidas al comportamiento de Google en el mercado para corregir sus prácticas anticompetitivas en lugar de exigir una venta de activos. La decisión final ha sido comunicada a las partes, pero el contenido detallado de la orden de la jueza aún no ha sido publicado para que las partes revisen información comercial confidencial y presenten una propuesta conjunta con las modificaciones definitivas.

Entre las disposiciones previstas figuran la prohibición de que Google otorgue ventajas a sus propios servicios durante las subastas de anuncios y la obligación de permitir que herramientas de terceros accedan a datos en tiempo real bajo las mismas condiciones. Durante el proceso, la magistrada ya había manifestado dudas sobre la viabilidad práctica de forzar una venta y sobre qué actor del mercado asumiría la gestión de esas plataformas, puesto que si el comprador era otro gigante tecnológico, podría haberse reproducido el mismo monopolio con otro nombre.

“Estamos muy satisfechos de que el tribunal haya rechazado la propuesta del Departamento de Justicia de dividir herramientas que ayudan a las pequeñas empresas a llegar a nuevos clientes y crecer”, ha declarado Lee-Anne Mulholland, vicepresidenta de Asuntos Regulatorios de Google. Un portavoz del Departamento de Justicia, por su parte, ha defendido la utilidad del fallo a pesar de que su petición no haya sido satisfecha: “La División Antimonopolio está satisfecha de que el tribunal haya ordenado un alivio importante. Estamos un paso más cerca de restaurar la competencia y brindar alivio al pueblo estadounidense en los mercados de publicidad digital”.

El fallo supone el segundo freno judicial a las pretensiones de EEUU de escindir filiales de Alphabet. En la causa sobre el mercado de los motores de búsqueda, el juez Amit Mehta también declaró culpable a la compañía de mantener un monopolio ilegal, pero descartó ordenar la venta del navegador Chrome o del sistema operativo Android, inclinándose igualmente por imponer remedios operativos y la apertura de datos a los competidores.

Finalmente, el envite contra una de los mayores multinacionales tecnológicas del siglo XXI termina con un resultado similar al que tuvo el intento para frenar a Microsoft a finales de los noventa. En aquella ocasión, la División Antimonopolio también logró que la justicia declarara a la compañía de Bill Gates con Windows, e incluso llegaron a conseguir una orden judicial para partir la corporación en dos. Sin embargo, Microsoft consiguió frenarlo. El caso terminó diluyéndose en los tribunales de apelación y se cerró con compromisos de conducta y acuerdos para compartir información técnica con terceros.

El Gobierno ha ampliado el plazo de alegaciones al borrador de Real Decreto que endurece significativamente las exigencias para los centros de datos. El borrador salió a consulta el pasado 27 de agosto y en principio estaba abierto a comentarios hasta el próximo viernes. El plazo se amplía hasta el próximo 10 de septiembre a las 17 horas, “en aras de facilitar la participación de los interesados en el trámite de audiencia e información pública, atendiendo a las solicitudes formuladas en este sentido”, confirman fuentes del Ministerio para la Transición Ecológica.

El Gobierno ha accedido a esta prórroga ante la polémica generada por esta propuesta, elaborada al alimón por vía de urgencia por el departamento de Sara Aaagesen y los ministerios de Economía, Comercio y Empresa; y Transformación Digital y Función Pública.

La prórroga, que el departamento de Sara Aagesen no comenta, llega después de que el pasado lunes SpainDC, la Asociación Española de Centros de Datos que pilota la ex vicealcaldesa de Madrid con Ciudadanos, Begoña Villacís, elevase “su preocupación tras analizar el Proyecto” y reclamara al Ejecutivo “cambios sustanciales” en el texto inicial.

En opinión de esta patronal, “el diseño, la intensidad, acumulación y calendario de determinadas exigencias pueden comprometer inversiones reales, dificultar la viabilidad de proyectos maduros y reducir significativamente la competitividad de España frente a otros mercados europeos”. El sector asegura que están en riesgo cifras de inversión que se han cifrado en hasta 60.000 millones de euros. El de los centros de datos es uno de los negocios de moda por el boom de la inteligencia artificial.

El borrador inicial del Gobierno plantea, entre otros requisitos, que el 80% de la energía utilizada por estas instalaciones sea renovable minuto a minuto. También incluye distintas exigencias en materia de ciberseguridad y soberanía digital, como que el operador de la infraestructura esté establecido en la Unión Europea (UE).

La ampliación de plazo va llegar después de que también el pasado lunes la Agencia EFE revelase que el Ejecutivo está negociando con las grandes multinacionales norteamericanas de centros de datos un acuerdo sobre las exigencias medioambientales que recogerá el futuro decreto del sector sin que tema que la regulación pueda ahuyentar sus inversiones en España.

Las estimaciones iniciales apuntaban a que España alcanzaría una potencia de 2,5 gigavatios hasta 2030, pero ya se han preconcedido más de 12 gigavatios. Aunque actualmente no existe un problema de suministro, el Gobierno ha advertido de que podría producirse si se materializan todas las solicitudes. En Estados Unidos, que lleva la delantera en este asunto, ya están propiciando fuertes subidas de la luz en territorios como Virginia y algunos problemas de estabilidad en la red.

El Ejecutivo pretende actuar antes de que la demanda energética de estas instalaciones (que ya empieza a aflorar en las estadísticas de Red Eléctrica) llegue a desbordar la capacidad disponible. Las fuentes han citado el caso de Irlanda, donde los centros de procesamiento de datos pueden llegar al 32% del consumo eléctrico, así como el de algunas zonas de Estados Unidos donde superan el 25%. Países como Países Bajos, además, han aplicado moratorias para frenar su expansión.

Por otro lado, el Ejecutivo sostiene que alrededor de los centros de datos se estaba generando una burbuja, con numerosos proyectos compitiendo por los mismos puntos de acceso a la red eléctrica.

A cierre de 2025, la potencia informática instalada en los centros de datos españoles era de 439 megavatios (MW), según SpainDC. Para 2030, la patronal estima que estarán operativos entre 2,6 y 2,9 gigavatios (GW), y la Estrategia de Inteligencia Artificial del Gobierno calcula unos 2,5 GW de potencia de computación, equivalentes a una demanda eléctrica de entre 3,5 y 4 GW.

Frente a esas cifras, la red ya ha concedido permisos de acceso por unos 12 GW (más de 6 GW en la red de transporte y otros 6 GW en las de distribución) y se calcula que hay solicitudes formuladas por cerca de otros 20 GW.

“Entre permisos concedidos y solicitudes en cola, hablamos de más de 30 GW de capacidad para una necesidad real de 3 a 4 GW en 2030”, resumía hace unos días el inversor y experto en energía Joaquín Coronado, que considera “desproporcionada” la exigencia de un 80% de renovables hora a hora, porque “obliga a sobredimensionar la generación para cubrir las horas malas (noches sin viento, días nublados) y a desperdiciar el excedente el resto del tiempo”.

Un estudio reciente en Estados Unidos ha vinculado los centros de datos con subidas del precio de la luz y la vivienda. Estas instalaciones se están convirtiendo en argumento de peso en las elecciones de medio mandato en ese país, con muchos demócratas y un número creciente de republicanos posicionándose contra ellos.

Hace unas semanas, Morgan Stanley estimaba que la capacidad total de estos centros en España alcanzará 4,3 GW en 2035, frente a los 2,8 GW que contemplaba hasta ahora.

La entidad situaba a Aragón como el mercado secundario “más emocionante de Europa”, con un potencial estimado para alcanzar 3 GW de capacidad y consolidarse firmemente como el próximo gran nodo de interconexión del continente gracias a su abundante suelo, buen recurso renovable, un clima algo más fresco que otras zonas de España y la conectividad que aportan cables submarinos como Marea, Grace Hopper y Anjana, que enlazan con EEUU y Reino Unido y permiten corredores de baja latencia.

Por su parte, la consultora inmobiliaria Cushman & Wakefield situaba recientemente a Madrid como el quinto mercado primario de centros de datos de Europa, Oriente Medio y África (EMEA) y uno de los principales 'hubs' europeos para esta industria, a la que comunidades gobernadas por el PP como Madrid o Aragón han puesto alfombra roja.

Parte del actual colapso de peticiones de acceso a la red eléctrica está relacionado con estas infraestructuras, que han atraído a firmas del Ibex como ACS, Iberdrola o Merlin Properties, y a alguna gran fortuna como el magnate de la eólica en Castilla y León Rafael González-Vallinas. Las eléctricas los ven como una oportunidad para reactivar una demanda a la baja que pone en riesgo la rentabilidad de los proyectos de renovables, en especial, las fotovoltaicas más recientes.

El Gobierno promoverá en las próximas semanas la firma de un acuerdo tripartito con los agentes sociales para regular el impacto de la inteligencia artificial en la economía y el mercado laboral. El Ejecutivo aspira a consolidar “un gran pacto nacional” que sitúe el diálogo como “pilar central en este desarrollo tecnológico y en la distribución de los beneficios” que ofrezca esta tecnología, ha avanzado este miércoles el vicepresidente primero, Carlos Cuerpo.

El encargado de liderar las conversaciones en representación del Gobierno será el propio presidente Pedro Sánchez. Su objetivo es involucrar tanto a los agentes sociales como a expertos técnicos y científicos. “La sociedad civil” y “los actores más relevantes en los distintos ámbitos: en el ámbito empresarial, en el ámbito científico, en el ámbito sanitario, en el ámbito educativo, en el ámbito industrial. Lo haremos juntos”, ha resumido el titular de Economía en Santander, donde ha clausurado el evento anual de Ametic, la patronal de la industria digital.

El vicepresidente ha señalado que las consecuencias de la inteligencia artificial dependerán de la capacidad institucional para responder a tres preguntas: quién controlará esta tecnología, quién capturará las ganancias económicas resultantes y de cuánto tiempo dispondrá la sociedad para adaptarse a los cambios.

Tanto durante su intervención oficial como en ante las preguntas de los periodistas, Cuerpo ha recordado que voces autorizadas como Bill Gates insisten en la necesidad de llegar a grandes acuerdos para frenar los efectos negativos de la IA. “La transición a la era de la IA será uno de los periodos más turbulentos de la historia humana” y, de no actuar, “la peor fuente de injusticia jamás inventada”, ha advertido el fundador de Microsoft en un ensayo publicado recientemente.

Gates pide impuestos especiales a los robots y penalizaciones fiscales para las empresas que sustituyan humanos por algoritmos, así como trabajos “reservados para humanos”. Cuerpo no ha entrado en detalles sobre la posición del Gobierno ante las negociaciones del pacto, pero sí ha alertado sobre el potencial de la IA para la destrucción de puestos de trabajo y las dificultades añadidas para la contratación de jóvenes, la concentración de poder en los mercados por parte de unas pocas corporaciones y la pérdida de soberanía sobre los datos y las infraestructuras críticas.

Preguntado por los periodistas, el vicepresidente ha preferido no posicionarse sobre el supuesto informe de la Policía que alertaba sobre los movimientos de los migrantes en Ceuta, y ha confiado en que las manifestaciones en apoyo a la ciudad autónoma convocadas para la tarde de este miércoles en múltiples puntos de España se desarrollen “con tranquilidad”.

El secretario de Estado de Industria, Jordi García Brustenga, ha afirmado este martes que el Ministerio sigue con “preocupación” el conflicto laboral en Airbus, con una huelga indefinida desde el pasado 24 de agosto, tras casi un mes de huelga en julio, y que se ha tensado en la última semana. Asi, el Gobierno se prepara para intervenir en la mediación “en los próximos días” si no hay un acuerdo, ha afirmado.

“No podemos jugar con el pan de los próximos 30 años”, ha sostenido García Brustenga a las preguntas de los periodistas en Santander, donde participa en el Encuentro de la Economía Digital y de las Telecomunicaciones, organizado por Ametic.

García Brustenga ha explicado que el conflicto “preocupa” al Gobierno, porque el sector aeroespacial y de aviación, tanto civil como militar, “es un sector que va a crecer muchísimo los próximos años” y en el que España está “bien ubicada” como país, por lo que se ha de “aprovechar esta oportunidad”.

Así, el 'número dos' del ministro Jordi Hereu en Industria ha afirmado que “cuanto antes se pueda resolver” el conflicto, con un acuerdo entre las partes, “mejor”, “porque hay competencia de otros” actores.

Atención a “los próximos días”

El secretario de Estado de Industria ha afirmado que el Ministerio está “muy atento” a la reunión de negociación que se celebra este martes en el SIMA entre la dirección de Airbus y los sindicatos.

El encuentro tiene lugar después del ultimátum de Airbus a los trabajadores, en el que exigió que se desconvocara la huelga para seguir negociando un posible acuerdo de mejoras laborales. La multinacional también ha paralizado las contrataciones en España y ha advertido de posibles pérdidas de proyectos en el país.

Sin embargo, las asambleas de trabajadores respaldaron ayer lunes el mantenimiento del paro, con un 81% de apoyo. Desde la parte trabajadora reclaman a la multinacional que no negocie con “amenazas” y subrayan que “el tono” de la dirección está complicando la resolución del conflicto.

Al final de la mañana, se ha cerrado sin acuerdo la mesa de negociación del SIMA sobre la huelga, ante la negativa de Airbus a seguir negociando con los sindicatos convocantes sin la suspensión de los paros, indican fuentes sindicales.

No obstante, se mantiene la negociación en la mesa paralela que se creó a petición de Airbus con toda la representación sindical, que aborda el convenio colectivo. Esta otra mesa, se reúne esta misma tarde para seguir negociando un posible acuerdo, indican estas fuentes.

“Somos optimistas en el sentido de que son responsables, tanto los sindicatos como la empresa, pero seguramente tendremos que entrar en algún momento”, ha afirmado García Brustenga, que ha emplazado a ver qué sucede “en los próximos días”. La decisión, en cualquier caso, será del ministro Hereu, ha apuntado su 'número dos'.

Son 180 millones que impulsarán proyectos para desarrollar asistentes digitales, gemelos digitales, robótica avanzada, visión artificial o ciberseguridad. El Gobierno ha resuelto las convocatorias Red IA y Red IA Salud, seleccionando 372 candidaturas de empresas de todas las comunidades autónomas, el 70% de ellas pymes, para incorporar sistemas de inteligencia artificial al tejido productivo español.

“Igual que hoy nadie monta una empresa sin wifi, mañana nadie podrá competir sin IA. Pero la productividad no cambia solo porque aparece una tecnología nueva. Cambia cuando esa tecnología es útil y llega a todos, también a las pymes y no solo a las grandes empresas”, ha manifestado este lunes el ministro Óscar López durante su intervención en el 40 Encuentro de Economía Digital y Telecomunicaciones de AMETIC, la principal patronal de la economía digital, celebrado en Santander.

Hasta 50 millones de la partida se destinarán a financiar 72 proyectos del ámbito sanitario. Las iniciativas cubren distintas fases del proceso médico, como la investigación clínica, biomédica y farmacológica, el diagnóstico, el tratamiento, el seguimiento de pacientes y la respuesta ante emergencias.

Según los datos del Ejecutivo, España es uno de los países europeos donde las empresas están adoptando la tecnología de la IA más rápidamente. “Superamos a países como Francia o Italia”, defienden fuentes gubernamentales. En este sentido, fuentes gubernamentales consideran “fundamental” que el país gane la carrera por una de las gigafactorías europeas de IA. Estas infraestructuras pretenden concentrar grandes centros de datos junto a los mejores investigadores del continente para desarrollar modelos de IA avanzada.

“Estoy totalmente convencido de que la candidatura española va a ser una de las primeras en las factorías de IA de Europa, un proyecto que va a movilizar más de 4.000 millones de euros”, ha expresado López en Santander. Durante el evento, desde su equipo han recalcado la “solidez” de la candidatura, que ha recibido más de 700 millones de euros públicos, en un consorcio público-privado que lideran Telefónica, el Banco Santander y ACS.

“Estos socios aseguran que la candidatura sea robusta, pero es mentira que los beneficios se vayan a quedar en cuatro grandes empresas. Una vez que estén construidas, la Comisión Europea va a comprar capacidad de supercomputación a estas gigafactorías. Y dentro de esos proyectos, una parte muy importante va a ser precisamente para facilitar el acceso de las pymes a esta supercomputación”, continúan las mismas fuentes.

“Las grandes empresas pueden invertir en capacidad de supercomputación, pero las más pequeñas no. Lo que queremos es acercar esa capacidad a todas las empresas”, insisten: “No hay que ver la IA solo como la última tecnología, sino como un elemento clave en toda la cadena de valor. Está en la minería de las tierras raras, gestión de recursos críticos, chips, redes, Internet de las cosas, nube, software, logística... está en todas las capas de desarrollo”.

Control de los centros de datos para evitar “la burbuja”

Desde el Ejecutivo creen que hay tres pilares para que el avance de la IA no genere repulsa y protestas, como está ocurriendo ya en EEUU y algunos países europeos. Uno es facilitar ese acceso a sus capacidades para todas las empresas. El segundo son las leyes para frenar sus efectos adversos o no consentidos, como la generación de imágenes sexualizadas sin permiso. El tercero, el control de los centros de datos, un punto que ha centrado las conversaciones en el encuentro de Santander.

Tal y como avanzó elDiario.es la pasada semana, varios ministerios están trabajando en una nueva regulación para estas infraestructuras que sobre su impacto medioambiental o el mantenimiento de la soberanía española sobre lo que ocurre en su interior y los datos que utilizan.

El anuncio ha provocado críticas desde algunos sectores, que consideran que medidas como la obligación de abastecerse en un 80% de energía sostenible puede frenar la inversión extranjera. “No entenderíamos que hubiera problemas ahora con estos requisitos, ya que todas las empresas que han instalado sus centros de datos aquí lo hacían prometiendo que iban a ser 100% sostenibles y soberanos”, contestan desde el departamento de Transformación Digital que dirige López.

“Todo el mundo sabe que en el sector de los centros de datos se estaba generando una burbuja”, defienden, recordando que las peticiones de instalación de estas instalaciones se multiplicaron por tres en dos años. Muchas de esas solicitudes eran empresas que no planeaban construir esas fábricas de IA, sino especular con el acceso al suelo y la electricidad, argumentan. “Eso había que frenarlo y es lo que hemos hecho”.

El ministerio enmarca la regulación como una respuesta preventiva a un fenómeno que ya se observa en otros países: en Irlanda, los centros de datos absorberán este año en torno al 23% de la energía del país y podrían llegar al 32% en 2030. En Estados Unidos la cifra ronda entre el 25% y el 30% en algunos estados, lo que está provocando un encarecimiento de los precios de la energía y disparando la oposición a estas infraestructuras, que ya alcanza un 25% según algunas encuestas.

La advertencia llega envuelta en un tono de máxima urgencia. En una carta abierta firmada por más de un centenar de empresas del sector tecnológico y de ciberseguridad, gigantes como OpenAI, Anthropic, Google, Microsoft o Amazon avisan que se avecina una oleada de ciberataques impulsados por inteligencia artificial contra infraestructuras críticas, “desde hospitales y plantas de tratamiento de agua hasta la infraestructura que alimenta Internet”. “Tenemos una ventana limitada para fortalecer las ciberdefensas”, recalcan.

El manifiesto asegura que la situación en la ciberseguridad cambiará profundamente en los “próximos meses”: “Los ciberataques impulsados por IA se generalizarán y se volverán mucho más sofisticados a medida que los modelos de todo el mundo adquieran mayor capacidad”. Un escenario para el que la industria tecnológica propone un plan de cuatro frentes: exigir a las empresas privadas que revisen sus protocolos, instar a las firmas de ciberseguridad a liderar la respuesta, hacer que los desarrolladores de IA sean “responsables” con sus modelos avanzados, y, sobre todo, reclamar a los gobiernos que tomen cartas en el asunto.

En este sentido, piden a las instituciones que modernicen sus estructuras de defensa, engrasando los canales de alerta entre el sector público y el privado y estableciendo mecanismos de coordinación de respuestas. Pero, especialmente, piden dinero: “Financiar la ciberdefensa”, a través del “acceso a IA defensiva eficaz, pruebas autorizadas y asistencia práctica a través de proveedores y socios de confianza”.

“Es fundamental reconocer que la seguridad actual no será suficiente”, inciden los firmantes, entre los que también se encuentran Amazon, IBM, Oracle o el BBVA como representante español. Un aviso que hace unas semanas ya elevaron la inteligencia estadounidense y sus principales socios, conocidos como la alianza de Los Cinco Ojos.

El escape del verano

La carta llega tras un verano en el que se han sucedido las noticias sobre modelos de IA que “escaparon” de sus entornos protegidos para realizar ciberataques contra otras empresas u objetivos. OpenAI, Anthropic y Meta han revelado haber tenido este tipo de incidentes en los dos últimos meses.

El más sonado envolvió a OpenAI y la plataforma de código para desarrolladores Hugging Face, ambas firmantes del texto. Las dos compañías se vieron envueltas en un incidente de seguridad cuando agentes autónomos de la creadora de ChatGPT rompieron el aislamiento de su entorno de pruebas, accedieron de forma no autorizada a Internet y se coordinaron entre sí para penetrar en los sistemas de Hugging Face.

Si bien estas revelaciones consiguieron acaparar portadas y provocaron inquietud en algunos especialistas, otros expertos indicaron que las empresas estaban buscando un impacto publicitario. “Me parece que en algunos casos tiene un componente de venta del producto”, opina Rafael López, analista de ciberseguridad de la firma Checkpoint.

“Por ejemplo, en el caso de Anthropic, explicaron que el modelo se había dado cuenta de que estaba en un entorno aislado y fue capaz de salir de él para conectarse a Internet y realizar los ataques que le habían ordenado. Ese 'incidente' le viene muy bien a la empresa de IA, porque puede vender las capacidades del modelo en ciberseguridad y para hacer cosas que antes se creían imposibles”, detalla el especialista: “No digo que todo sea humo, pero sí que es un argumento muy bueno de venta”.

Ahora estas empresas defienden que esos sistemas pueden ser un escudo ante la amenaza de ataques automatizados. “Pongamos la IA con capacidad cibernética al alcance de los defensores, empezando por los equipos que protegen los servicios esenciales”, solicitan en la carta. Con todo, los expertos recuerdan que el diagnóstico que hacen los gigantes tecnológicos es verídico: muchos estados llevan años descuidando la protección de sus infraestructuras, con configuraciones obsoletas y falta de personal defensivo.

Además de las grandes tecnológicas del software y la nube (AWS, Microsoft, Google, Oracle) y los laboratorios de IA (OpenAI, Anthropic, Hugging Face, Scale AI, Perplexity), entre los firmantes del manifiesto figuran las mayores multinacionales de la ciberseguridad privada (CrowdStrike, Palo Alto Networks, Zscaler, Fortinet, Cloudflare, Snyk), firmas de consultoría (PwC, KPMG, Oliver Wyman) y gigantes financieros como el citado BBVA y Citi, Mastercard o Visa.