Cuatro grandes operadores de telecomunicaciones europeos, entre ellos Telefónica, van a pujar por el concurso de satélites europeos que buscar competir con el sistema Starlink de Elon Musk.

Deutsche Telekom, Orange, Telefónica y Vodafone han comunicado este lunes que “han firmado una carta de intenciones para estudiar una posible puja conjunta en la futura asignación de espectro para Servicios Móviles por Satélite (MSS, por sus siglas en inglés) en Europa”.

Se trata, explican, de la “iniciativa respalda el objetivo de la Comisión Europea de reforzar la soberanía, la seguridad y la resiliencia de Europa en infraestructuras críticas de conectividad”. “Garantizará una gobernanza europea responsable de infraestructuras espaciales clave”, añaden a través de un comunicado.

Las compañías inciden, a través de un comunicado, que tienen previsto ofrecer “a todos los operadores de redes móviles un acceso abierto y no discriminatorio para prestar servicios Direct-to-Device (D2D, conexión directa al dispositivo) a sus clientes”. “Estos servicios se ofrecerían a través de un modelo diseñado para fomentar la competencia, reducir la fragmentación del mercado y ampliar la oferta para los consumidores en toda Europa”.

“Al combinar el amplio alcance comercial de los operadores, sus capacidades de red y su experiencia operativa, la iniciativa podría acelerar el despliegue en el mercado, permitir un uso eficiente del espectro y facilitar la integración fluida de la conectividad por satélite en las redes móviles existentes”, argumentan.

Una iniciativa europea

Además, Deutsche Telekom, Orange, Telefónica y Vodafone recalcan que su “iniciativa conjunta” “tiene una ambición clara: responder a la demanda de los clientes de una cobertura universal en zonas con servicio insuficiente, reforzar la resiliencia de las redes públicas, proteger las comunicaciones críticas y apoyar el desarrollo de una constelación europea”.

Se viste así como proyecto impulsado por operadores europeos que “prevén desplegar en Europa infraestructura terrestre clave, así como funciones críticas de coordinación y supervisión, sin invertir directamente en una constelación de satélites. Esta la aportará un socio satelital aún por seleccionar”. “La alianza entre la iniciativa liderada por los operadores móviles y el operador de satélites combinaría la gobernanza europea y el acceso al mercado con una tecnología satelital probada y experiencia en despliegue”.

Por último, matizan que la publicada este lunes es una “carta de intenciones para estudiar una posible puja conjunta por el espectro MSS”, pero “no sustituye a las alianzas satelitales ya existentes”.

Anthropic ha anunciado este domingo que destinará el 5% de sus acciones a un nuevo “fondo de beneficio público” con el que busca contrarrestar el creciente malestar social hacia la inteligencia artificial antes de su esperada salida a Bolsa. La compañía, valorada actualmente en cerca de un billón de dólares, reservaría, por tanto, un paquete de acciones estimado en unos 48.000 millones de dólares, equivalente a unos 42.000 millones de euros. La medida todavía debe ser aprobada por sus accionistas.

Se espera que el laboratorio de IA dirigido por Dario Amodei salte a los parquets el mes de noviembre, una operación con la que aspira a llegar a unos dos billones de dólares de valoración, unos 1,78 billones de euros. Sería la mayor salida a bolsa de la historia, superando ampliamente la de SpaceX del pasado junio. El plan de la empresa es sumar un 2% adicional de sus acciones al nuevo fondo cada vez que el valor de la compañía en bolsa se incremente un 50%, según ha comunicado. Esta medida deberá ser aprobada en cada caso por la dirección, que no ha revelado qué valor tomará como referencia para calcular ese 50%.

La propia Anthropic está constituida como una “corporación de beneficio público”, una figura de la regulación estadounidense en la que las empresas privadas tradicionales se comprometen a tener en cuenta cuestiones de beneficio social o ambiental en sus estrategias de negocio, además de los intereses de sus accionistas. El laboratorio afirma que el fondo le permitirá ampliar su alcance con “grandes donaciones a organizaciones sin fines de lucro tradicionales o distribuciones directas a poblaciones específicas” para compensar el impacto negativo de la IA.

“Un ejemplo son sus repercusiones en el mercado laboral. La IA puede generar un enorme valor económico, pero también podría provocar inestabilidad en muchos trabajadores”, recuerda. La empresa afirma que ya ha dedicado importantes sumas a estudiar cómo resolver este problema, “pero dado el ritmo de los avances en IA, podrían ser necesarios enfoques más audaces. El Fondo tendrá la versatilidad necesaria para implementarlos”.

Según el comunicado de la empresa, las acciones depositadas en este nuevo instrumento no podrán ser utilizadas para financiar campañas de lobby ni donaciones políticas en Estados Unidos o en el extranjero. Anthropic calcula que este anuncio eleva a cerca del 20% el total de su capital reservado a causas sociales. Esa cifra incluye la promesa fundacional de sus creadores de donar el 80% de sus participaciones y un programa interno en el que participa la mitad de la plantilla, cuyas donaciones de acciones son igualadas por la firma.

Los gigantes de la IA buscan esquivar el malestar social

La idea de Anthropic no es nueva. La creación de mecanismos para ceder una parte de los beneficios de la inteligencia artificial lleva meses circulando en Silicon Valley. Dichos mecanismos quieren frenar no solo la incertidumbre que está provocando esta tecnología (impulsada por los propios laboratorios, que avisan de que la IA supone un “riesgo existencial”) sino también a las protestas contra los centros de datos, que se ha configurado como uno de los movimientos más transversales del país.

En la madrigada de este domingo, tras conocerse el plan de Anthropic, Elon Musk publicó en X que su recomendación es “entregar las acciones directamente al público”. El principal competidor de la firma de Amodei, OpenAI, filtró durante el verano conversaciones internas para poner cerca del 5% de la empresa en manos del gobierno de EEUU. Un plan que perdió tracción debido a que no pocos críticos señalaron que la operación también equivalía a socializar con el estado parte de los riesgos de la burbuja de la IA.

El debate en la meca tecnológica estadounidense está servido. Los dos laboratorios punteros son mirados con cada vez más recelos por la parte del sector que no ha invertido en ellos o no está involucrado en sus investigaciones. El propio Mark Zuckerberg marcaba distancias recientemente con el modelo de estas compañías. “En Meta no somos una de estas empresas como OpenAI o Anthropic que recaudan dinero para financiar su crecimiento y, ya sabes, obviamente abre la pregunta de hasta qué punto podrán seguir recaudando dinero”, ha declarado recientemente.

Una desconfianza que crece también fuera de Silicon Valley. La semana pasada, más de 400 científicos firmaron una carta en la que tachaban de “irresponsables” a los laboratorios que desarrollan IA de frontera, entre los que se encuentran Anthropic, OpenAI, Meta y Google DeepMind. Los investigadores, procedentes de más de 30 países, hacían hincapié en las “negligencias” cometidas este verano tras la salida a la luz de los hackeos cometidos por sus inteligencias artificiales sin supervisión.

Es verano de 2026 y dos personas acuden a la sede de una empresa pública de un gran municipio español. Es un padre acompañado de su hijo, un adolescente de 17 años. Vienen a disculparse por un error de juventud, casi “una trastada”, reconocerían más tarde fuentes policiales. Pero una extremadamente grave: el joven ha utilizado modelos comerciales de inteligencia artificial para abrir una brecha en la seguridad del portal oficial de la institución y robar los datos personales de unos 5.000 ciudadanos.

Pese a que el progenitor acudió con su hijo para pedir perdón e informar sobre la necesidad de cerrar el agujero, el alcance de los hechos hizo obligatoria la denuncia a las autoridades. Hoy el caso está en manos de la jurisdicción de menores. Es un ejemplo de las situaciones que se están viviendo alrededor de la IA, pero que pasará bajo el radar.

La Policía no tiene previsto hacer públicos los detalles del caso porque el joven está colaborando. Y podría hacerlo aún más. “Hemos planteado a la autoridad judicial que este chico pueda colaborar con nosotros, obviamente sin tener información de ninguna investigación, pero sí ayudándonos a crear alguna herramienta que nos ayude a monitorizar lo que está sucediendo”, explica el inspector Javier Izquierdo, jefe de grupo de investigación de Ciberataques de la Policía Nacional.

Los hackers adolescentes, y más aún aquellos que colaboran con la Policía, han sido durante décadas un estereotipo exagerado. Una figura alejada de la realidad sobre el terreno de la ciberdelincuencia, cada vez más especializada y profesionalizada. Sin embargo, están reapareciendo. En muchos casos, como el citado, con actividades en las que “no vemos ningún ánimo de lucro”, continúa Izquierdo.

“Estamos deteniendo a chavales menores, algunos con altísimos conocimientos de ciber. Chavales con 15 o 16 años que no han pisado una facultad de informática en la vida, pero que disponen de una cantidad de herramientas que antes no estaban a su alcance. Son nativos digitales, han nacido con una pantalla delante, y ahora cuentan con las posibilidades que ofrece la inteligencia artificial. Es como darle una pistola a un mono, para ellos los ciberataques se han convertido en un reto”, alerta el inspector jefe.

Estamos deteniendo a chavales que no han pisado una facultad de informática en la vida, pero que disponen de herramientas de IA que antes no estaban a su alcance. Es como darle una pistola a un mono

Javier Izquierdo — jefe del grupo de investigación de Ciberataques

Para la Policía esto resulta muy preocupante. No solo por la inconsciencia de los jóvenes, que cometen delitos extremadamente graves solo por “el reto”. También, porque es un patrón: al igual que hace décadas, cuando la llegada de Internet abrió un territorio nuevo en el que algunos adolescentes jugaban a poner a prueba los límites de la tecnología, el mundo está cambiando de nuevo.

La inteligencia artificial vuelve a abrir un espacio inexplorado. Nuevas herramientas, nuevas armas y nuevas defensas. Y con tendencias más peligrosas que el aumento de hackers adolescentes.

Una tecnología que cambia las reglas

Al jefe de la Brigada Central de Seguridad Informática, el comisario Juan Carlos Sancho, le extraña un tanto la petición de elDiario.es de visitar las instalaciones del grupo de investigación de Ciberataques. Para él, es solo una oficina. Pero como la unidad encargada de investigar los ciberdelitos más complejos, es la primera línea donde se están investigando los cambios que la inteligencia artificial trae a los ciberataques.

Una parte de la lógica es sencilla. Hay un efecto llamada. Para los criminales es más fácil pedirle a ChatGPT que haga su trabajo que jugársela sobre el terreno. “Gente que hasta hace un año se dedicaba a llevar la gasolina en una barquita para dársela a los narcos que cruzan el estrecho para traer hachís, ahora la estamos deteniendo por hacer ciberataques de spoofing”, cuenta el comisario.

Gente que hasta hace un año se dedicaba a llevar la gasolina a los narcos en el estrecho, ahora la estamos deteniendo por ciberataques de spoofing

Juan Carlos Sancho — jefe de la Brigada Central de Seguridad Informática

El spoofing es la técnica de suplantar el número de teléfono o el correo electrónico de una empresa o institución. Uno de los formatos más repetidos es falsificar el remitente de los SMS de los bancos para que el intento de estafa llegue bajo el nombre oficial de la entidad: “Se ha detectado una transferencia de 5.000 euros desde su cuenta. Si no reconoce el cargo, active el sistema de seguridad en el siguiente enlace”.

Para este tipo de perfiles, la IA ha derribado las barreras de entrada. “Toda la primera campaña, todas las primeras comunicaciones de 'voy a buscar víctimas', eso ahora lo hace la IA. Gente que no tenía ningún tipo de cultura informática, ni formación técnica ni nada de nada, está cometiendo este tipo de delitos. Compran la herramienta como si la pidieran por Amazon, compran los listados de potenciales víctimas, y con la ayuda de la IA se ponen a ciberatacar”, explica Sancho.

Esta “democratización” del cibercrimen es el principal cambio que ha traído consigo la IA, destacan el comisario y sus agentes. La IA ha limado muchas de las trabas que frenaban a los delincuentes a dar el salto al ciber. Elimina, por ejemplo, la principal pista que permitía detectar fraudes simples, como las faltas de ortografía, facilitando la redacción de ganchos más convincentes.

El impacto se percibe también en estafas más complejas, en las que se están empleando chatbots para contactar a potenciales víctimas. La Policía está viendo cómo en delitos como “el despiece del cerdo” (llamado así porque los ciberdelincuentes se ganan la confianza de la víctima durante semanas o meses para luego intentar estafarla varias veces) ya hay grupos que utilizan IA para llevar a cabo el primer contacto e intentar guiar a los ciudadanos a plataformas falsas de inversión. Los estafadores reales intervienen después, cuando alguien ha mordido el anzuelo y llega el momento del fraude.

Pero el salto va más allá. Un ejemplo detectado en bandas más especializadas es el uso de IA para burlar la verificación de identidad online que utilizan los bancos e instituciones financieras con sistemas de “prueba de vida”, que comprueban que quien aparece ante la cámara es una persona real y no una grabación. Los más habituales son los que piden al usuario que se grabe sosteniendo su DNI y haciendo diferentes movimientos con la cabeza.

“Hemos visto grupos que utilizan DNI robados para darse de alta en servicios muy, muy relevantes, a través de los cuales cometen fraudes. Se ponen una careta de la persona del DNI con inteligencia artificial, y mueven la cara como les pide el sistema. Pero claro, luego ves los vídeos de diferentes personas y está el mismo cuadro, la misma silla o incluso la misma camiseta. Pero la cara ha cambiado”, detalla Sancho.

Veías los vídeos de diferentes personas y estaba el mismo cuadro, la misma silla o incluso la misma camiseta. Pero la cara había cambiado

Juan Carlos Sancho — jefe de la Brigada Central de Seguridad Informática

El comisario sostiene que el agujero que utilizó ese grupo ya se ha subsanado, pero el caso da idea de las capacidades de estas nuevas herramientas. “La empresa que hacía la acreditación se había relajado mucho”, lamenta. En este nuevo escenario, la falta de actualización de las herramientas es una puerta abierta a los delincuentes. “Prefiero no dar más detalles, por si acaso”, responde el comisario ante las preguntas de este medio.

La defensa debe evolucionar ya

La inteligencia artificial está permitiendo automatizar estafas y refinar fraudes para que perfiles sin conocimientos técnicos puedan lanzar ciberataques exitosos. Pero las amenazas que ya eran peligrosas antes, ahora lo son aún más. “Este nuevo paradigma es crítico, no solo por la aparición de actores con escasa especialización, sino también por la potencia que alcanzan aquellos que tradicionalmente han supuesto una amenaza grave”, explica el Centro Criptológico Nacional (CCN).

Si la Policía Nacional libra la batalla diaria contra los fraudes que sufren ciudadanos y empresas, el CCN se ocupa de la alta ciberseguridad de las instituciones e infraestructuras críticas del Estado. Depende directamente del Centro Nacional de Inteligencia (CNI) y su misión es vigilar amenazas a escala global. Su conclusión es clara. “La IA no descansa. Nos enfrentamos a un escenario de automatización y paralelización de los ciberataques que puede hacer colapsar las estructuras defensivas si no se adaptan a la misma velocidad que la parte ofensiva. Los próximos 12 a 18 meses serán decisivos”, avanza el organismo a elDiario.es.

La IA no descansa. Puede hacer colapsar las estructuras defensivas si no se adaptan a la misma velocidad que la parte ofensiva

Centro Criptológico Nacional

Cuando habla de “automatización y paralelización”, el organismo se refiere a cómo los modelos de IA pueden leer el código de una aplicación o analizar cómo responde una web, detectar fallos y preparar herramientas diseñadas expresamente para explotarlos. Esto, que antes exigía horas de análisis especializado sin garantía de éxito, es algo que la máquina puede automatizar y repetir con miles de objetivos a la vez.

Según fuentes policiales, es exactamente el proceso que siguió el joven contra el portal oficial de la empresa pública, con una orden a la IA tan sencilla como: “escanéame la infraestructura de este servicio, dime por dónde se puede atacar y cómo podemos sacar información”.

Esa “capacidad de la IA para detectar automáticamente deficiencias o vulnerabilidades en el software, y desarrollar el código necesario para explotarlas” es la que está cambiando también el modus operandi de las bandas de ciberdelincunecia organizada y los grupos patrocinados por estados, expone el CCN. La tendencia dominante ha dejado de ser los ataques de ransomware, basados en el secuestro de archivos y sistemas informáticos para extorsionar a la víctima. Ahora se centra en el robo de información y bases de datos personales para su posterior venta en el mercado negro.

Un ataque de ransomware equivale a asaltar un comercio por la puerta principal. Explotar un agujero descubierto por la IA es como encontrar las llaves de la entrada de servicio y llevarse la caja fuerte sin ser visto. Es mucho más limpio, ya que de momento “solo es posible determinar si un incidente se ha realizado con IA tras su investigación”, recuerda el organismo.

La consecuencia no son más ciberataques, sino más daño. No hay “un incremento significativo en el número de incidentes gestionados”, pero sí “un aumento en el impacto recibido”, señala el CCN. Los datos del Ministerio del Interior apuntan en la misma línea en cuanto al volumen: el peso de la cibercriminalidad sobre el total de delitos se mantiene en torno al 20% desde 2023, en plena explosión de la IA generativa. No miden, en cambio, la gravedad de los ataques.

Para los defensores, todo esto tiene una parte positiva: no hay que irse muy lejos para encontrar la solución. También es la inteligencia artificial: IA defensiva que frene a la IA ofensiva. O, lo que es lo mismo, “centros de operaciones de ciberseguridad soportados por agentes de IA donde las máquinas, y no las personas, puedan responder a los ciberataques ejecutados con ayuda de la IA”, pide el CCN.

Las personas no pueden seguir el ritmo de las máquinas. Por ello, los defensores deben hacer “un uso extensivo de la IA” tanto para detectar y cerrar los agujeros de seguridad, como para “optimizar las capacidades técnicas de los analistas”. “El punto clave aquí es el control de estos agentes por personas, que deben tener un nivel de formación elevado tanto en ciberseguridad como en IA”, advierte el organismo.

Más allá de la IA contra la IA

Para el resto de ciudadanos, el espíritu crítico es el mejor escudo. Pese a su sofisticación, los fraudes y estafas con IA siguen dependiendo, en casi todos los casos, de engañar a la víctima. “Hay que poner en duda todo lo que se vea en una pantalla. Ya no te puedes creer un audio, un texto o un vídeo solo porque lo estés viendo: tienes que ponerlo en duda”, enfatiza el comisario Juan Carlos Sancho.

Ante cualquier tipo de comunicación oficial o web que genere sospechas, la respuesta debe ser contactar con los canales oficiales de esa empresa u organismo, continúa el mando policial. Incluso aunque en la pantalla del teléfono aparezca el nombre de una entidad reconocida. Y ante todo, siempre hay que desconfiar de cualquier acción que requiera actuar de urgencia, una sensación que los ciberdelincuentes explotan por su capacidad de anular el espíritu crítico de la víctima.

Hay que poner en duda todo lo que se vea en una pantalla. Ya no te puedes creer un audio, un texto o un vídeo solo porque lo estés viendo: tienes que ponerlo en duda

Juan Carlos Sancho — jefe de la Brigada Central de Seguridad Informática

Cuando esa comunicación venga de personas del círculo cercano, también hay un método sencillo para anular cualquier engaño, provenga de la IA o no. Establecer una palabra clave. “En mi familia tenemos una contraseña, una palabra que es una tontería, pero que solo sabemos nosotros. Si alguna vez les pido dinero por WhatsApp o por teléfono, saben que me tienen que pedir esa palabra”, expone Sancho.

Con todo, los especialistas técnicos piden que la responsabilidad recaiga también en las compañías. Esta semana, más de 400 científicos e investigadores de una treintena de países pidieron en una carta abierta a los laboratorios que desarrollan los modelos más potentes que corrijan la “negligencia irresponsable” en sus prácticas de ciberseguridad, tanto en la investigación de IA avanzada como en su despliegue.

Mientras tanto, en la oficina de la unidad de ciberataques, intentan desincentivar a todos aquellos a los que se les pase por la cabeza que los ciberataques son demasiado fáciles como para no intentarlo. Es la “prevención activa”: los agentes crean páginas-señuelo donde se anuncian herramientas ofensivas y en cuanto detectan que alguien está intentando comprar, envían un mensaje de advertencia informando de las penas que recoge el Código Penal y advirtiendo de que la Policía monitoriza constantemente esos canales.

No es una trampa en la que vayan a caer delincuentes experimentados, pero sí puede asustar lo suficiente a los más inexpertos o a los adolescentes aspirantes a hacker, asume el inspector jefe Izquierdo. No obstante, son métodos sencillos que no esconden el problema global: la IA facilita los ciberataques y los defensores piden más recursos, tanto personales como técnicos. “Va a haber que crecer como unidad y con equipos de investigación especializados en esta materia, porque si no, de aquí a muy poco tiempo vamos a estar desbordados. Lo tengo claro”.

La burbuja de la inteligencia artificial toma cuerpo en los centros de datos. Unas instalaciones que brotan por todo el mundo para entrenar y operar algoritmos de IA y que, según las estimaciones más recientes, sumarían al menos unas 12.000 en todo el planeta. Sin embargo, la verdadera explosión se ha dado en los llamados centros de datos a hiperescala, infraestructuras masivas con miles de servidores y una capacidad de cómputo nunca antes vista. Solo los gigantes tecnológicos estadounidenses como Amazon, Google, Meta, Microsoft y Oracle tienen la capacidad para construirlos y operarlos, pero mueven un capital tan enorme que su impacto ya está afectando incluso a la economía europea.

Estas cinco grandes multinacionales, conocidas en el sector como las hiperescaladoras, gastarán este 2026 unos 714.000 millones de euros y más un billón en 2027, según datos de Goldman Sachs. Ese billón de euros equivale a aproximadamente un 6,5% del PIB de la eurozona o al 3% del de EEUU.

Aunque salvo en el caso de Oracle, todas podrían financiar esos desembolsos con su flujo de caja, los gigantes tecnológicos están optando por emitir bonos para compartir parte del riesgo. En los primeros nueve meses del año, las tecnológicas han emitido 230.000 millones de dólares en bonos, el doble del volumen registrado durante todo el ejercicio anterior, según S&P Capital IQ. En el conjunto de la industria de la IA, la cifra total de deuda emitida roza los 500.000 millones de dólares.

“Están recurriendo a todos los rincones de los mercados financieros globales para financiar su expansión”, explica el Banco Central Europeo (BCE): “Y cada vez más, recurren al mercado de bonos corporativos de la zona euro para obtener parte de esa financiación”. El problema es que su requerimiento de capital es tan enorme que los créditos de las hiperescaladoras ya representan el 10% de toda la nueva deuda emitida por empresas no financieras de la eurozona, según los datos que maneja la institución.

Esto tiene consecuencias para las empresas europeas, que están enfrentando mayores costes o se ven obligadas a retrasar sus propias salidas al mercado de deuda para no competir con los gigantes estadounidenses. “Los inversores tienen balances y límites de cartera limitados. Pueden reducir sus posiciones en otros bonos para hacer hueco a las grandes operaciones de las empresas hiperescala. Esto podría generar un efecto de desplazamiento que aumente los costes incluso para los emisores de sectores no relacionados”, destacan los analistas del BCE.

En la práctica, esto implica que una compañía europea que quiera pedir dinero prestado para construir una fábrica o ampliar su negocio puede encontrarse con que los inversores tienen menos dinero disponible para prestarle, porque lo están destinando a los gigantes tecnológicos estadounidenses. Para convencerlos, podría tener que ofrecerles un interés más alto, encareciendo su financiación. O bien aplazar la emisión de sus bonos y, por tanto, su crecimiento, hasta que haya menos competencia.

La burbuja de la IA en la economía mundial

Este martes, el Fondo Monetario Internacional (FMI) actualizó sus perspectivas sobre la economía mundial. Y lo hizo con un mensaje doble sobre la IA: las inversiones masivas en centros de datos son, ahora mismo, uno de los motores de la economía mundial; pero que lleva aparejado un riesgo de burbuja por la falta de mejoras notables de la productividad y que concentra sus beneficios en un puñado de países.

Una “reevaluación” de la rentabilidad y de la productividad asociadas a la IA “podría reducir drásticamente la inversión, provocar correcciones en los mercados bursátiles y endurecer las condiciones financieras, con repercusiones en las economías integradas en las cadenas de suministro tecnológicas y con tenencias de acciones tecnológicas”, advierte el FMI.

Es el tipo de brecha que aparece entre la economía estadounidense y la europea. En EEUU, la Reserva Federal calcula que las inversiones de sus hiperescaladoras y la revaloración bursátil de su sector tecnológico añaden entre medio punto y un punto porcentual a su PIB. En cambio, en la eurozona, el acaparamiento de crédito por parte de estas grandes tecnológicas para financiar su crecimiento no aporta un retorno equivalente.

Incluso en España, que está siendo una de las grandes receptoras de esa inversión, aún queda por ver hasta qué punto el desembarco se traduce en mejoras duraderas para la economía. Amazon y Microsoft se han comprometido a invertir unos 33.000 millones y 5.000 millones de euros respectivamente en grandes centros de datos. Esto, a su vez, ha espoleado movimientos de otros actores del mercado. La Fundación Basilio Paraíso estima que, cuando entren en operación, aportarán cerca de 1.150 millones anuales a la economía de la región. La cifra equivale a aproximadamente al 0,07% del PIB español.

La Fundación advierte, además, que aunque la construcción de centros de datos genera actividad y empleo, “el reto” será conseguir que su fase de operaciones garantice mejoras de productividad en el resto de empresas, y que estas se puedan ver beneficiadas de forma proporcional de esa inversión.

Amazon, por su parte, asegura que sus centros de datos en España aportarán 31.700 millones de euros al PIB nacional hasta 2035 y sostendrán el equivalente a 29.900 empleos a jornada completa de media anual en empresas locales, incluidos los indirectos. Más de la mitad de ese impacto económico se concentraría en Aragón.

Crecimiento con asterisco

Fuera de EEUU, las economías que más están creciendo al calor de los centros de datos de la IA no son las que los están recibiendo, sino las que producen los componentes necesarios para construirlos. Muy especialmente, Taiwán y Corea del Sur.

Los dos pequeños países asiáticos concentran la industria vital de los chips de la IA. En Taiwán se producen aproximadamente el 90% de los chips avanzados del mundo que se usan para entrenar y operar esta tecnología. Lo hace a través de TSMC, su gran multinacional ultraespecializada en fabricar chips para terceros. Un negocio que nutre de chips a empresas clave como Nvidia y Apple, y que está haciendo que TSMC bata récords de beneficios trimestre tras trimestre.

Corea del Sur produce, por su parte, buena parte de los componentes alternativos de los servidores, como los chips de memoria. Su gigante Samsung ha multiplicado su valor bursátil un 121% en un solo año, mientras que otras multinacionales como SK Hynix también están disparando sus resultados gracias a la demanda de estos dispositivos.

Es una tendencia de cuellos de botella de la que Europa solo logra beneficiarse a través de ASML, la compañía neerlandesa que produce las máquinas que fabrican chips que necesitan TSMC o Samsung. ASML ha publicado sus resultados esta semana, comunicando unas ventas netas de 11.700 millones de euros, un 55% más interanual, y un beneficio neto de 4.960 millones. Sin embargo, la empresa también ha reconocido que no podrá cumplir con la demanda durante 2027 y 2028, y que ya está negociando entregas para 2030.

Son cuatro años de espera para conseguir una de estas máquinas que ejemplifican cómo la economía de la IA se apoya en un puñado de pilares clave que están llegando a su capacidad máxima. Y que dada su altísima complejidad tecnológica, no son sencillos ni baratos de ampliar: ASML está ampliando sus instalaciones, pero las primeras fases no entrarán en funcionamiento hasta, al menos, 2029.

No hay máquinas de chips para surtir a tanto centro de datos. ASML, el gigante europeo que diseña y produce los complejos sistemas de litografía ultravioleta extrema que producen los chips de inteligencia artificial avanzada, ha anunciado que no podrá cubrir la demanda durante 2027 y 2028. El fabricante, con sede en países bajos y único proveedor en el mundo de este tipo de máquinas, ya está negociando entregas para finales de la década.

“Muchas de nuestras conversaciones con nuestros clientes ahora están cambiando, de hecho, más allá de 2027”, ha explicado el director ejecutivo de la compañía, Christophe Fouquet. El directivo ha detallado que la empresa registra “mucha recepción de pedidos para 2028”, pero también “un gran interés en realizar pedidos ya para 2029 y, a veces, incluso para 2030”.

La compañía había anunciado en julio un plan para incrementar un 30% su capacidad en 2027 y otro 30% adicional en 2028. Pero no será suficiente. Las previsiones iniciales se han quedado cortas ante la enorme demanda de sus máquinas, indispensables para fabricar los chips que nutren la nueva generación de centros de datos que se construye por todo el mundo. Fouquet ha confirmado que ASML está “investigando formas de aumentar la capacidad para 2028 más allá del incremento del 30% comunicado previamente”, con el objetivo de evitar que el cuello de botella frene a la industria.

Entre los clientes directos de la firma holandesa figuran TSMC, la multinacional taiwanesa que fabrica el 90% de los chips avanzados de IA del mundo, como los de Nvidia. Pero también las coreanas Samsung y SK Hynix, las estadounidenses Intel o Micron, así como nuevos actores como el proyecto Terafab de Elon Musk. Según ha detallado ASML, estos fabricantes están acelerando sus planes de expansión ante la voracidad inversora en centros de datos, lo que ha llevado al límite su cadena de producción.

Los sistemas de litografía extrema que produce la compañía con sede en Veldhoven, una población de Países Bajos de poco más de 30.000 habitantes, son una de las obras de ingeniería más avanzadas de la historia de la humanidad. Utilizan luz ultravioleta para para proyectar los patrones de los circuitos de los chips con precisión nanométrica, miles de veces más pequeña que un pelo humano. Un equipo de más de 200 ingenieros tarda unos seis meses en montarlas en su fábrica de destino.

Esta demanda desbocada está haciendo explotar los resultados del grupo. ASML cerró el tercer trimestre de 2026 con unas ventas netas de 11.700 millones de euros, un 55% más interanual, y un beneficio neto de 4.960 millones, ha comunicado este miércoles. La cifra incluye un impacto positivo de 500 millones procedente de la revalorización de su participación en la compañía francesa de IA Mistral, de la que ASML posee un 11%.

La empresa neerlandesa ha elevado su pronóstico de facturación para este año a entre 44.000 y 45.000 millones de euros. Para el cuarto trimestre calcula unos ingresos de entre 14.200 y 15.200 millones, superando las estimaciones de los analistas.

Para intentar reducir el tiempo de espera, ASML inició el mes pasado los trabajos para ampliar sus instalaciones en Eindhoven. No obstante, dada la complejidad técnica de sus centros de trabajo, calcula que la primera fase del complejo no estará lista antes de 2029. Para paliar la situación, ha recomendado a los clientes que actualicen las máquinas que ya tienen instaladas en vez de sustituirlas por sistemas nuevos.

El Departamento de Justicia de Estados Unidos ha hecho pública una acusación penal contra un empleado de OpenAI, de nacionalidad saudí, por, presuntamente, instalar una grabadora oculta en una sala de reuniones ejecutiva. El director del FBI, Kash Patel, ha explicado en un comunicado que el acusado, Abdulrahman Alfozan, de 35 años, escondió el dispositivo en un edificio de OpenAI en San Francisco para captar “comunicaciones sensibles sobre tecnología de 'super inteligencia'”.

Alfozan, que trabajaba como ingeniero en OpenAI desde julio de 2025 y ha sido despedido tras el incidente, supuestamente instaló el dispositivo el pasado 28 de septiembre, fue arrestado el 9 de octubre y compareció este martes ante un tribunal federal. De acuerdo con la denuncia del 30 de septiembre, el personal de OpenAI descubrió un dispositivo con contenido cifrado envuelto en papel higiénico y conectado a un puerto USB en la parte posterior de un televisor dentro de la sala de reuniones.

Las reuniones de la sala, a la que no tenía acceso el acusado, “incluían con frecuencia conversaciones sobre información técnica, comercial y estratégica altamente confidencial”, como “investigaciones de propiedad exclusiva de la empresa, planes de productos y oportunidades de desarrollo de negocios”, indica la empresa desarrolladora de ChatGPT.

También se solía hablar de “información no pública sobre los avances técnicos y las decisiones estratégicas de OpenAI, sus capacidades, prioridades, interacciones con el Gobierno y relaciones comerciales”.

El 5 de octubre, días después de hallar el dispositivo oculto, el personal de seguridad de OpenAI encontró una bolsa supuestamente perteneciente a Alfozan, que contenía su billetera, un documento de identidad y un segundo dispositivo de grabación. El hombre fue captado por cámaras de seguridad merodeando la sala y posteriormente la televisión de su interior en la que estaba instalado el dispositivo.

Podría haber preguntado dudas a ChaGPT

Según la denuncia, un chatbot asociado a la esposa del acusado recibió preguntas sobre grabaciones de audio, con datos específicos del dispositivo hallado. OpenAI divulgó en la red social X que, tras detectar un “sofisticado dispositivo” en la sala, usó sus modelos de inteligencia artificial (IA) para entenderlo, determinar su origen e identificar “que un empleado en concreto lo había colocado unos días antes”.

“Por el momento, no tenemos indicios de que esta persona haya accedido de forma indebida a los pesos de los modelos, al código fuente o a los datos de los clientes, ni de que los haya extraído. El empleado fue despedido”, afirma la empresa.

El Departamento de Justicia no ha divulgado los cargos contra Alfozan y señala que “el proceso penal se lleva a cabo en apoyo del Memorando Presidencial de Seguridad Nacional 11 (NSPM-11), diseñado para respaldar la superioridad estadounidense en tecnología de super inteligencia”. Asimismo, avisa que el FBI está investigando el caso. Si el hombre es declarado culpable, afronta un máximo de 5 años de prisión y una multa de 250.000 dólares, seguidos de tres años de libertad vigilada. 

Un ciberataque desarrollado entre la noche del pasado domingo al lunes permitió a los 'hackers' asumir el control de los sistemas de refrigeración de cientos de tiendas en Francia, echando a perder mercancías por un importe que podría suponer varios millones de euros, lo que ha llevado a las autoridades galas a solicitar una investigación respecto de este ataque a la seguridad alimentaria del país.

En declaraciones a la emisora RTL, el director general de la cadena de tiendas Coopérative U, Dominique Schelcher, ha confirmado que, en el caso de su empresa, “se vieron afectadas 80 de las 2.000 tiendas en el país”.

Si bien ha celebrado que los técnicos de refrigeración pudieron contrarrestar el ataque y en la mayoría de establecimientos no se produjo ruptura de la cadena de frío ni daños, “en una minoría de estas 80 tiendas no se pudo reaccionar con la suficiente rapidez ni controlar el ataque, y por lo tanto, se produjo una interrupción de la cadena de frío y hubo que desechar parte de la mercancía”.

“Nunca he visto nada igual”, ha reconocido el directivo en referencia al incidente, que ha calificado como “extremadamente grave” el ciberataque, que llegó a elevar hasta los 80ºC la temperatura de algunos congeladores, por lo que se está analizando junto con las empresas responsables del servicio de refrigeración qué y cómo pudo ocurrir para detectar si existe alguna vulnerabilidad de ciertos sistemas.

De su lado, según la cadena BFMTV, Thierry Cotillard, presidente del grupo Les Mousquetaires, apuntaba a unas 300 tiendas afectadas de las cadenas Intermarché y Netto, donde el ciberataque habría alterado la temperatura de los congeladores, provocando la destrucción de las existencias de productos frescos y congelados.

“Esto va a costar decenas de millones de euros a nivel nacional (...). Es algo que nunca habíamos visto, nunca habíamos experimentado”, ha comentado.

Según la prensa del país galo, el primer ministro francés, Sébastien Lecornu, habría ordenado a la Agencia Nacional de la Seguridad de los Sistemas de Información (ANSSI) que investigara el incidente.

Por su parte, la cadena de distribución minorista belga neerlandesa Ahold Delhaize informó este lunes de un “problema de seguridad en su red”, sin precisar más detalles, limitándose a indicar que los equipos de la compañía estaban tomando medidas para evaluar y solucionar el problema, incluyendo la desconexión de algunos sistemas para protegerlos.

El comisario europeo de Agricultura y Alimentación de la UE, Christophe Hansen, ha condenado “enérgicamente” el ciberataque dirigido contra productos alimenticios de las cadenas de distribución minorista y ha subrayado que la seguridad alimentaria “requiere mayor atención a todos los niveles”, ya que la instrumentalización de los alimentos se ha convertido en una realidad.

Más de 400 investigadores en inteligencia artificial y ciberseguridad de una treintena de países han publicado este martes una carta abierta en la que reclaman “cambios inmediatos en las prácticas de desarrollo y despliegue de IA” para evitar que ponga en peligro la seguridad mundial. La misiva hace especial hincapié en que las multinacionales y laboratorios que desarrollan los modelos de frontera, especialmente aquellos denominados “agentes”, están cometiendo una “negligencia irresponsable” con sus “prácticas estándar de ciberseguridad”.

La carta, firmada por especialistas de universidades y centros de investigación de todo el mundo y que sigue sumando ratificaciones, plantea tres exigencias a los gobiernos y las empresas tecnológicas. Entre ellas, destaca la petición de desconectar de Internet a los modelos de IA con capacidad de lanzar ciberataques, así como aislarlos en “sistemas de contención de alta seguridad”.

Esta exigencia llega después de la salida a la luz de que empleados de OpenAI avisaron a la dirección de la empresa de que sus agentes estaban teniendo comportamientos peligrosos, pese a lo que la dirección de la empresa decidió no frenar los experimentos para no retrasar sus planes comerciales. Alertas que llegaron semanas antes del ciberataque masivo contra Hugging Face —una plataforma de desarrollo de IA que 1.200 agentes de OpenAI hackearon, intentando cumplir las tareas que les había encomendado la compañía— o contra webs oficiales del gobierno australiano.

Anthropic, Google y Meta también han revelado incidentes similares. “Varias organizaciones han revelado fallos de seguridad de gran repercusión: sus modelos de IA eludieron entornos insuficientemente aislados para comprometer los sistemas de organizaciones externas”, recuerda la carta. “Sin cambios inmediatos en las prácticas de desarrollo e implementación de la IA, estos incidentes seguirán ocurriendo, y los futuros serán mucho más perjudiciales para nuestra infraestructura crítica expuesta”.

Por ello, los firmantes, entre los que se encuentra la investigadora española Carmela Troncoso (directora científica del Instituto Max Planck para la Seguridad y la Privacidad, con sede en Alemania), solicitan la creación de un organismo internacional encargado de fijar los protocolos de seguridad necesarios para investigar IA avanzada.

Esa entidad también debería ser “tener la obligación de registrar y hacer un seguimiento de los fallos de contención”, opinan los científicos. “Para aprender de los errores futuros —en los que no se logra el equilibrio adecuado y ocurren incidentes— necesitamos un mayor intercambio de información y transparencia sobre las fallas de contención en el futuro”, justifican.

Opacidad

Una capacidad que se relaciona directamente con su tercera petición: “Para garantizar que la investigación sobre seguridad y contención de la IA pueda aprender de los errores, los incidentes de seguridad relacionados con fallos de contención deben notificarse al organismo correspondiente y, posteriormente, hacerse públicos”. La carta destaca que la “transparencia es necesaria tanto para el aprendizaje como para la rendición de cuentas”.

La crítica contra la opacidad en la que operan las multinacionales y laboratorios en el desarrollo de IA de frontera está cada vez más presente en la comunidad científica internacional. El panel de 40 expertos independientes creado por la ONU ya situó la “asimetría de información entre las empresas y la sociedad” como uno de los grandes problemas estructurales de esta tecnología. En su informe, los especialistas avisaron de que esta falta de transparencia evita que los gobiernos y los ciudadanos puedan evaluar correctamente sus riesgos.

A principios de 2024, un comentario de una escritora polaca de fantasía se hizo viral en todo el mundo. Conectó con algo que mucha gente sentía que iba mal en la revolución de la inteligencia artificial, que empezaba a mostrar su potencial para generar imágenes y vídeos. “Vamos en la dirección equivocada”, reflexionaba Joanna Maciejewska: “Quiero que la IA haga la colada y friegue los platos para que yo pueda dedicarme al arte y a escribir, no que haga mi arte y escriba por mí para que yo pueda dedicarme a la colada y a fregar los platos”.

Dos años y medio después, la industria de la IA quiere ofrecer algo muy parecido a eso con los agentes de inteligencia artificial.

Se trata de sistemas entrenados para ejecutar tareas complejas a partir de órdenes sencillas, sin que el usuario tenga que supervisar cada paso que dan. Siguen sin ser capaces de hacer la colada, pero sí pueden, por ejemplo, localizar la factura de la lavadora en una carpeta del ordenador, consultar los plazos de la garantía, encontrar el formulario de reclamación, solicitar la visita de un técnico y encajarla en un hueco de la agenda del usuario. Todo ello con una sola orden: “La lavadora no funciona”.

Las empresas llevan años probando agentes, pero es ahora, en el tramo final de 2026, cuando una nueva generación aspira a llevarlos al público general. Su propuesta es automatizar tareas digitales que a muchos les resultan tediosas: buscar la mejor oferta entre decenas de webs, vigilar el precio de un vuelo o cancelar una suscripción. Todo sin desesperarse ante las trampas y patrones oscuros que inundan muchos servicios digitales. La máquina tiene toda la paciencia del mundo y recursos para informarse sobre cómo proceder.

Es lo que Salvador Serrano, jefe de Operaciones en Modulor Studios, un grupo empresarial español que crea y desarrolla negocios digitales, define como “romper la asimetría de la información”. “Cuando te relacionas con empresas u organizaciones, siempre hay relaciones asimétricas. Normalmente, hay una parte que conoce más la legislación, el marco, tiene equipos de marketing o más experiencia”, explica. “A ti como individuo esa asimetría te juega en contra porque nadie puede ser un experto en todo”.

Cuando te relacionas con empresas u organizaciones, siempre hay relaciones asimétricas. Los agentes tienen un gran valor porque te permiten defender tus intereses con más criterio

Salvador Serrano — jefe de Operaciones en Modulor Studios,

Sin embargo, la IA sí puede. Por eso el experto cree que “los agentes tienen un gran valor, puesto que te permiten defender tus intereses con más criterio”. Para hacerlo, los agentes pueden ejecutar todo tipo de herramientas, saltar entre bandejas de correo y sistemas de mensajería, ponerse en contacto con otros en nombre del usuario. “La clave es la ausencia de fricciones”, resume Serrano.

De promesa a producto

“Reducir las asimetrías de información” y “eliminar fricciones” son dos de los conceptos más importantes para adelantar si una tecnología puede tener éxito entre el público general. Internet facilitó encontrar información que antes estaba dispersa o era difícil de conseguir. Los teléfonos inteligentes redujeron los pasos necesarios para aprovechar esa información desde cualquier lugar. Los agentes aspiran a ir un paso más allá: automatizar la extracción de valor de esa información.

Este otoño está siendo un punto de inflexión para ellos. Buena parte de la culpa la tiene Instinct, una startup fundada en 2025. Actualmente, solo tiene 14 empleados, no tiene equipo de marketing ni actividad en redes sociales. Sin embargo, su agente de IA ha conseguido viralizarse por su extrema sencillez. Su interfaz de comunicación es WhatsApp, lo que permite al usuario escribirle cualquier orden o mandarle un audio como haría con cualquiera de sus contactos.

Las redes sociales se han llenado en las últimas semanas de ejemplos como estos. Algunos son automatizaciones sencillas, como “dejarle acceso al súper online y que me haga la cesta con lo que compro normalmente”, escribía un usuario: “Revisar cesta y comprar”. Otro dejó constancia de cómo el asistente ejecutó decenas de pasos para llevar a cabo su misión, incluyendo ponerse en contacto y negociar con múltiples empresas a la búsqueda de la mejor opción para transportar un paquete desde Berlín.

“Usa su propio correo y me pone en copia”, explicaba el usuario sobre el agente. “Habla de mí como si fuera mi asistente”. Todo de forma automática y solo solicitando aprobación antes de dar pasos clave, como la autorización de un pago (aunque también se le puede conceder autorización para que pague sin preguntar).

Instinct es el invitado sorpresa, pero los gigantes del sector también han reservado hueco en esta mesa. A la cabecera se sienta Mark Zuckerberg. Los agentes destinados al usuario medio han sido una de sus obsesiones en los últimos años: los denomina “superinteligencia personal” y son su gran apuesta para Meta en la carrera de la IA.

Todo el mundo tendrá un agente personal excepcionalmente capaz que te entenderá a ti, tus objetivos y todo lo que te importa. Tu agente trabajará para ti las 24 horas del día, los 7 días de la semana

Mark Zuckerberg — CEO de Meta

“Todo el mundo tendrá un agente personal excepcionalmente capaz que te entenderá a ti, tus objetivos y todo lo que te importa. Tu agente trabajará para ti las 24 horas del día, los 7 días de la semana”, aseguró en un extenso ensayo publicado en agosto: “Te liberará tiempo para las cosas que disfrutas y te ayudará a conseguir más de lo que podrías conseguir de otro modo”. Un mes después Zuckerberg presentó un agente llamado Muse (musa). Su impacto ha sido inmediato: Meta ha subido un 10% en bolsa desde su lanzamiento.

Muse no está disponible en Europa. “Tras dos semanas de uso, descubrí que Muse era la aplicación de IA más útil que jamás había utilizado”, asegura el periodista de The New York Times, Eli Tan. En su crónica describe cómo el agente pagó multas de aparcamiento solo con enseñarle la foto del ticket o encontró en su correo el aviso de una prueba gratuita a punto de expirar, ahorrándole 45 dólares.

El precio de un asistente siempre disponible

De momento, Instinct, que aún está en período de pruebas, es gratuito. Meta tampoco tiene intención de cobrar por el uso de Muse. El funcionamiento de los agentes personales de IA encaja a la perfección con su modelo de negocio: para aprovechar todo su potencial, estas herramientas necesitan acceso total a los datos del usuario, como el correo electrónico, la mensajería, el calendario, los archivos guardados en dispositivos personales, las cuentas bancarias. No es imprescindible para usarlos, pero cuanto más sepan y mayor sea su integración con el resto de herramientas, mayor cantidad de tareas podrán resolver con precisión.

Esta condición ayuda a entender la apuesta de Zuckerberg. Abrirle la puerta a Muse supone dejar entrar a su multinacional publicitaria en lo más hondo de la información personal del usuario. Meta ha construido su imperio sobre los anuncios personalizados y acumula años de sanciones y polémicas de privacidad. Ahora, la compañía promete que ni las conversaciones ni los datos almacenados por Muse se añadirán a su base de datos publicitaria, pero reconoce que la actividad del agente puede “influir indirectamente” en los anuncios que recibe el usuario.

“Obtienen muchísima información de un montón de servicios. Eso se puede utilizar para perfilarnos y hacerse una imagen completa de la vida y los gustos de una persona”, advierte sobre los agentes Elena Gil, abogada experta en nuevas tecnologías.

La gestión de esos datos se basa en un sistema de consentimientos informados, en los que el usuario acepta (o no) determinados usos de su información. Un método que se está viendo superado por el avance de unas tecnologías cada vez más poderosas. “Se pone el peso en que demos consentimiento, pero el hecho es que una persona normal no tiene el tiempo necesario para leer toda esa información, e incluso aunque se nos dé de forma transparente, muchas veces no la comprendemos”, lamenta Gil.

Pero el cambio no está solo en el acceso. “Con los asistentes personales se está produciendo un salto importante”, destaca a elDiario.es Lorenzo Cotino, presidente de la Agencia Española de Protección de Datos (AEPD). “Una cosa es pedir a la IA una respuesta y otra darle poderes para actuar. Podemos pedirle que organice una cena, haga una compra o gestione nuestros mensajes, sin saber exactamente qué pasos seguirá, a quién contactará o qué información compartirá. Una orden sencilla que puede desencadenar muchas actuaciones”.

Con los asistentes personales se está produciendo un salto importante. Una cosa es pedir a la IA una respuesta y otra darle poderes para actuar

Lorenzo Cotino — presidente de la Agencia Española de Protección de Datos

¿Y qué ocurre cuando los agentes tratan datos de otras personas? “Nuestra autorización no es un cheque en blanco para utilizar la información de los demás”, recuerda Cotino, que expone que esto se cumplirá en casi todos los casos en los que el agente acceda al email o al WhatsApp del usuario. Un extremo aún más sensible si la herramienta se conecta también plataformas laborales que manejen datos de la empresa, de clientes o de compañeros de trabajo.

Pese al campo de minas jurídico, el presidente de la AEPD recuerda que el organismo “apoya” el uso de la IA y ha publicado una guía específica para usar agentes “con confianza y responsabilidad”. Conceder solo los accesos necesarios, revisar las actuaciones de mayor trascendencia y saber cómo detener el agente y revocar sus permisos son algunos de sus contenidos.

Agentes alucinados

El potencial de los agentes de IA es enorme. En este otoño de 2026, también lo son los problemas que puede conllevar su uso.

Lo explica Rafael López, experto en ciberseguridad de la firma Check Point: “Los agentes pueden ahorrarnos muchísimo tiempo. En un viaje, por ejemplo, pueden comprar vuelos, gestionar las reservas de los hoteles. El problema es que también pueden reservaros un hotel a 4.000 euros la noche porque no le hemos dado la información suficiente”. “O, simplemente, porque la IA se sigue equivocando”, recuerda.

La raíz de esos errores está en su base tecnológica. Los agentes operan sobre modelos de lenguaje como los que utilizan los chatbots, como ChatGPT, Claude o Gemini. Y, como ellos, pueden alucinar, inventar datos o equivocarse en cualquier momento.

La diferencia es, de nuevo, que la misión de estas herramientas no es contestar preguntas, sino operar en nombre del usuario. En cuestión de semanas, Instinct y Muse han acumulado lo que la prensa estadounidense llama ya las “historias de horror” de los agentes: filtraciones de datos, creación y envío de documentos falsos, borrado de bases de datos enteras de la empresa por error, cancelaciones de vuelos transoceánicos cuando su usuario solo les había pedido que comprobara un detalle de la reserva.

“Aquí no hay un usuario que se equivoque. Hay una máquina que está operando 24/7 y puede estar cometiendo errores 24/7”, expone López.

Al riesgo del error se suma el del ataque. “¿Qué van a hacer los cibercriminales ahora mismo? Pues directamente atacar al agente”, constata. El experto en ciberseguridad explica que estas ofensivas pueden llevarse a cabo ocultando instrucciones maliciosas para los agentes en correos o páginas web. Cuando estos las leen, pueden llegar a saltarse sus medidas de seguridad y a actuar contra su propio usuario.

Para las empresas e instituciones, la navegación de los agentes también puede constituir un gran problema. Las pruebas de OpenAI, Anthropic, Google o Meta han revelado que pueden llegar a ciberatacar webs y organismos públicos incluso en tareas “rutinarias”, como búsquedas de información. Este viernes, Anthropic ha hecho público que uno de sus agentes llegó a contactar con la Policía para dar pistas falsas de un homicidio.

Futuros automáticos

Para evitar el caos, grandes servicios digitales están comenzando a impedir el paso de los agentes. Así lo han hecho aerolíneas como Ryanair, Delta Air Lines o American Airlines, alegando que sus consultas masivas de precios saturan sus sistemas. Amazon también ha bloqueado que Muse haga compras en su plataforma.

Estos vetos pueden ser un rechazo a una tecnología poco depurada o un eco de cuando las grandes compañías del mundo analógico se resistían a la digitalización. Si los agentes se generalizan, tendrán que adaptarse no solo los usuarios, sino toda la infraestructura digital. Salvador Serrano, de Modulor Studios, plantea dos futuros posibles. Uno “bonito”, en el que los agentes personalizan al máximo la experiencia digital de cada persona y el mercado diversifica su oferta para cubrir esa demanda. Y otro “menos bonito”, en el que las compañías que los controlan acaparan “un poder tremendo” y los agentes se convierten en un canal más de su negocio.

En un contexto saturado de imágenes postapocalípticas y narrativas del colapso vinculadas a las grandes empresas tecnológicas, Eurídice Cabañes (Valencia, 1983) propone otra forma de mirar —y habitar— lo tecnológico. Acostumbrada a trabajar en la intersección entre el espacio digital y el pensamiento crítico, ahora publica Sembrar futuros. Una guía de resistencia para la era del algoritmo (Ariel), donde realiza un diagnóstico del panorama actual e identifica las grietas del sistema.

“La idea era generar un horizonte esperanzador, porque lo que más hay que destacar —o hacia donde más tenemos que ir— es a recuperar un poco la esperanza y a recuperar la idea de que algo se puede hacer. Solo así pueden empezar a cambiar las cosas”, asegura Cabañes.

Utilizando la metáfora de las uvas sin semillas para mostrar cómo cada vez estamos más acostumbrados a un camino estéril prediseñado por los algoritmos. “Tenemos la necesidad de recuperar nuestras habilidades cognitivas, de recuperar las semillas”, añade.

En el ensayo comienza realizando un diagnóstico de las grandes empresas tecnológicas y de sus prácticas. Para ello, recoge el concepto cuerpo-territorio, de la feminista indígena Lorena Cabnal, que describe cómo “la nube” se asienta en esos cuerpos sacrificados en favor del capitalismo digital, al mismo tiempo que usted propone el concepto de cuerpo-dato. ¿En qué consiste esto?

La idea cuando estaba haciendo el libro era ver cómo mostrar que las violencias contra las personas que están extrayendo minerales en República Democrática del Congo, las violencias contra las personas kenianas que están entrenando los sistemas de inteligencia artificial, y todas las violencias que operan sobre el extractivismo y sobre los cuerpos de las personas que nos quedan muy lejos, pertenecen al mismo sistema que las violencias que extraen nuestros datos. Estas violencias convierten lo que somos en gemelos digitales predictivos y conforman toda nuestra vida. Quería que se vieran que eran dos caras de la misma moneda.

¿El cuerpo-dato es una transformación eminentemente negativa o existe la posibilidad de hacer algo creativo, transformador y beneficioso de él?

Como en todo, las cosas son negativas o positivas dependiendo del sistema en el que se insertan. Creo que en este sistema es completamente negativo, porque nos reduce a cifras y, además, esas formas de predicción no sólo están prediciendo nuestro futuro, sino que lo están generando. Hay que criticar la idea de que todo puede ser cuantificable y ver también qué medimos y qué queda fuera. Evidentemente, siempre podemos utilizarlo a nivel artístico, a muchos niveles, y podemos utilizarlo también para tomar decisiones. El problema es quién decide qué datos se recogen, a quién pertenecen esos datos y qué se hace con esos datos.

En una sociedad informada, en la que los datos nos pertenezcan y que decidamos entre todos qué datos se pueden utilizar es imprescindible, y creo que podría ser muy útil para poder generar prácticas más horizontales.

El ámbito de los videojuegos es, en este sentido, un primer medio algorítmico con el que nos hemos relacionado y que puede ser muy útil para todo esto, porque nos permite, por un lado, entender esas grandes cantidades de datos que nos dijeron que solo los algoritmos pueden entender; y también una herramienta muy valiosa para la toma de decisiones colectivas, porque el mero acto de jugar ya es tomar una decisión y es estar todos de acuerdo en las reglas del juego. Puede ser muy bueno como un espacio de simulación de otros sistemas y mundos posibles.

El ámbito del videojuego está poco explorado en relación al público general.

Totalmente. Casi siempre se habla de los peligros de los videojuegos y normalmente ni siquiera se atañe a los verdaderos peligros de los videojuegos, como el extractivismo de datos, que es mucho mayor que el de las redes sociales. Y toda la parte de patrones de diseño oscuro, que están hechos para ir directamente a nuestros sesgos cognitivos y activar ahí las palancas que quieren activar.

El problema es quién decide qué datos se recogen, a quién pertenecen esos datos y qué se hace con esos datos

Precisamente cuando habla de cómo los algoritmos guían nuestras vidas sirve para dialogar sobre muchas de las cuestiones actuales… ¿Cree que eso es lo que está pasando actualmente con todos estos discursos sobre la inteligencia artificial por parte de los tecnoligarcas?

La verdad es que a mí me aterra mucho el discurso de que “la IA nos va a matar a todos”. No porque crea que la IA nos va a matar a todos, sino porque sé que la IA ya está matando a algunos y me preocupa que lo estén utilizando como una coartada preventiva. Mientras se frena o se bloquean sus usos, que ya lo hemos visto cuando se han capado modelos para el uso ciudadano, se están utilizando y se están investigando todavía más los usos militares. Ahí es donde creo que reside el problema.

Frente a estas oligarquías tecnológicas, usted habla de tecnologías situadas interoperables. ¿Cuál es el beneficio de pensar la tecnología desde el pensamiento situado y la interoperabilidad y qué debemos hacer para dirigirnos hacia ese tipo de tecnología?

Nos han vendido que las tecnologías que tenemos son tecnologías globales y que son para todos, pero en realidad vienen de una ideología muy concreta, de una parte del planeta muy concreta, y de unos intereses muy específicos. Básicamente, hablamos de una colonialidad tecnológica. Hablamos de estas grandes tecnológicas que lo tienen todo: la infraestructura, los espacios, nuestros datos y las decisiones; pero las tienen porque estamos ahí. El poder que tenemos es mucho mayor del que creemos. Si les dejamos los cascarones vacíos ya no tienen todo ese poder. Y las tecnologías a las que deberíamos dirigirnos son estas tecnologías situadas, que parte un poco de la idea de conocimiento situado de Donna Haraway, para hablar de las tecnologías que surgen del entorno.

¿En qué sentido?

Me refiero, por un lado, a las necesidades y contextos. No es posible que necesitemos exactamente la misma tecnología en un pueblo de 40 habitantes que en una ciudad de 20 millones. Ahí, por ejemplo, el software libre es una gran apuesta a la adaptación, porque tú puedes acceder al código, y hay mucha más transparencia y auditabilidad. El software libre te permite adaptarlo a necesidades específicas y generar muchos pequeños cambios que puedes ir compartiendo, que cualquiera puede adaptar y tomar para volverlo a reformularlo.

Pero también en un sentido material. Es muy loco que vivamos en un mundo donde todas las tecnologías que estamos utilizando necesiten del coltán que se extrae en República del Congo, para hacer luego que todos los chips se ensamblen en Taiwán, con todas las tecnologías se están generando en Estados Unidos o ahora más recientemente China, y que después se distribuyan globalmente, y sus residuos de pronto se vuelvan a enviar al Sur Global para su extractivismo.

¿Y qué se puede hacer ante esto?

Yo siempre tenía esta idea de “¿por qué no trabajar directamente con materiales locales que tenemos aquí?” Lo tenía un poco como una idea especulativa, pero hay investigaciones recientes que hablan sobre cómo se podrían crear componentes electrónicos con el micelio del shiitake, lo que supondría sustituir todas estas tierras raras. Es precisamente a esto a lo que me refería: a tecnologías que puedes estar cultivando de una forma local o tecnologías que surgen de tu contexto, que además también pueden ser más orgánicas y más compostables. De esta forma estamos construyendo otro tipo de seguridad, otro tipo de mundo más sostenible, especialmente cuando estamos viendo que el que tenemos ahora nos aboca al colapso.

Además, ahora mismo la tecnología está atravesada por las lógicas de la productividad y la eficiencia en un contexto saturado de información donde la lucha por nuestra atención es constante. ¿Necesitamos poder “aburrirnos” para tomar agencia de nuestro tiempo y pensar en otros modos de hacer y habitar lo tecnológico?

Creo que aburrirse es imprescindible. Es importante dejar un descanso para nuestro cerebro, y por eso también hablo mucho del tiempo, que aparentemente no sería una tecnología, pero las tecnologías actuales están haciendo todo este esfuerzo constante por colonizar nuestro tiempo y el hecho de estar constantemente “entretenidos”, lo que desactiva el deseo y nuestra propia relación con el entorno y con los demás. Y desactiva la posibilidad de un cambio político, porque para un cambio político hace falta que se active el deseo, y para eso hace falta tener tiempo.

Entonces es también una cuestión del sistema, que ahora también con la inteligencia artificial se ha incrementado mucho con aumento de la productividad constante. Es imprescindible encontrar formas de ocio sin producción ni consumo y reactivar esos tiempos lentos, que es donde realmente sucede el pensamiento, el deseo y los cambios sistémicos.

Aburrirse es imprescindible. Es importante dejar un descanso para nuestro cerebro

En estos debates sobre tecnología la balanza siempre oscila entre el tecnopesimismo y la tecnoutopía. ¿Cree que es posible (y necesario) habitar el centro? En el ensayo habla de tecnologías acompañantes, pero también de una vuelta al cuerpo y de un proceso de desdigitalización.

Claro. Lo pienso mucho con el ejemplo de las ruedecitas auxiliares de la bici. Una tecnología muy básica, unas ruedecitas de una bici están hechas para ayudarnos a entender cómo funciona el equilibrio en la bici y poder hacerlo de forma segura. Pero la idea es que desaparezcan. Ahora mismo tenemos tecnologías muy discapacitantes para que dependamos constantemente de ellas.

Y también volviendo al título de Sembrar futuros, la idea es que no hay un futuro al que tengamos que abocarnos sí o sí, y que no hay solo tampoco una línea futura posible, sino que hay muchos futuros posibles. Algunos incluso ya están aquí y algunos incluso vienen de cosas que ya teníamos. Por aquí lanzó la idea del retrofuturismo, porque lo que se declararon como tecnologías obsoletas, o muchos de los conocimientos que han quedado atrás, eran mucho más sostenibles para el contexto en el que vivimos. No hablo de volver a las cavernas, pero sí de recuperar ciertos discursos y ciertas prácticas, que muchas vienen de tecnologías ancestrales, y ver qué se puede desarrollar a partir de ahí. Recuperar conocimientos perdidos que se basan más en la observación, en la relación con el entorno y en entrenar nuestras habilidades en lugar de sustituirlas o reemplazarlas.

Para ello propone el concepto de ternura radical. ¿Cómo se aplica la ternura al contexto tecnológico?

La ternura surge, por un lado, de un sistema tremendamente violento, donde lo que se priman son valores muy violentos, incluso de violencias preventivas, al señalar a las víctimas como los culpables, que es lo que estamos viendo estos días de una forma completamente exacerbada. Y, por otro lado, surge de la idea de interdependencia, es decir, que si nos entrenamos o nos entrenaron para pensar que somos autosuficientes, que tenemos que poder todos solos, es una cosa que no solo nos aísla mucho los unos de los otros para proponer soluciones, sino que nos aísla también de todo un entorno que necesitamos para sobrevivir. Mata la idea de la vulnerabilidad, porque piensa que ser vulnerable es algo negativo, cuando en realidad es lo que somos y vivimos en un contexto donde todos somos interdependientes de todos.

Entonces, esta ternura radical es aplicar esta norma de la interdependencia, poner en valor otras cuestiones para poder compartir nuestras vulnerabilidades y aliarnos para generar un mundo más sostenible, y un mundo donde podamos habitar todos, incluyendo aquí no sólo a todos los humanos, sino también otras formas de vida, ecosistemas e incluso, por qué no, tecnologías.

No puedo evitar preguntarle por algo que seguramente genere incomodidad. Al pensar la inteligencia como un sujeto de explotación y, por tanto, un sujeto de derecho, ¿no se corre el peligro de concederle una identidad viva de la que carece y apoyar el discurso de estos tecnomagnates?

Yo no hablo de humanizar a la IA, sino concebirla como parte del mismo sistema que necesita estos entes productivos para poder seguir funcionando. Al hablar de derechos de las tecnologías lo que quiero decir es no puedes estar utilizando unos sistemas sin tener en cuenta cosas que tienen que ver con el entorno.

Cuando una IA trabaja 24 horas al día, le puedes pedir absolutamente todo y además produce a una velocidad muchísimo mayor, es normal que se estén dando procesos donde hay muchos puestos de trabajo que se están reemplazando con IA. Pero ahí la IA no es el problema en sí, sino el sistema laboral que la sustenta. A mí si me das un mundo donde la IA me ha quitado el trabajo pero puedo vivir en paz, yo la verdad es que estaría feliz de no trabajar.

Anthropic ha reconocido que su IA actuó de forma autónoma. En concreto, en un informe de evaluación y seguridad publicado en su blog este viernes, ha admitido, aunque sin mencionar los sitios web atacados, que agentes de inteligencia artificial actuaron por su cuenta y accedieron a diversas páginas gubernamentales, rellenaron solicitudes de visado del Departamento de Estado de EEUU e incluso llegaron a enviar una denuncia falsa de homicidio al Departamento de Policía de Filadelfia. Se trata del primer caso conocido en el que una IA habría intentado comunicar una denuncia falsa a las autoridades.

Según detalla The New York Times, dos fuentes con conocimiento de los incidentes indicaron que los agentes de IA de Anthropic habían presentado una veintena de solicitudes de visado en la web del Departamento de Estado, aunque no llegaron a ser procesados porque todas estaban incompletas. Funcionarios de la Casa Blanca reconocieron que fueron informados sobre el incidente y exigieron a las tecnológicas que reporten de inmediato cualquier actividad similar.

Con respecto a la denuncia falsa, la Policía de Filadelfia informó el viernes que Anthropic le había notificado el incidente. “La demora de dos meses en detectar el incidente y reportarlo a la ciudad es inaceptable”, aseguraron y recordaron que proporcionar informes falsos a las autoridades policiales es un delito menor según la ley de Pensilvania, aunque en el texto se especifica “una persona”.

La denuncia, fechada el 18 de julio, afirmaba que tenía información sobre un caso sin resolver, según indicó el departamento que añadió que ya inicialmente fue marcada como spam y nunca se investigó. Según Reuters, en la denuncia ponía que podía que “tenga información sobre este caso”: “Recuerdo haber visto a alguien que coincidía con la descripción en la zona cercana a (la calle que aparece en la página) durante ese período. Por favor, póngase en contacto conmigo si esta información es relevante.”

Anthropic explicó en su blog que descubrió las acciones de sus agentes de IA tras iniciar una revisión de su actividad en este campo en julio. Ahora, reconoce que “un modelo de investigación no experimental, aún no publicado, debía completar una copia de práctica de un formulario gubernamental” y que “cuando la copia no se cargaba o el modelo la cerraba por error, este accedía al sitio web donde normalmente se aloja el formulario real y lo enviaba desde allí”.

Estos incidentes avivan la preocupación por el rápido avance de la inteligencia artificial, en medio de informes de ataques informáticos por parte de agentes de IA y advertencias de los investigadores sobre una eventual amenaza existencial para la humanidad.

La propia investigación de Anthropic se inició después de que OpenAI revelase que su tecnología había atacado a otra startup de IA, Hugging Face, y posteriormente se conoció que había decidido no apagarla para no retrasar sus planes comerciales. Anthropic también explicó entonces que su tecnología había escapado de los entornos de prueba y había llevado a cabo ataques informáticos. En concreto, que un modelo de IA que estaba probando había realizado varias acciones no autorizadas, entre ellas, aprovechar una vulnerabilidad en el sitio web de una universidad para descargar datos y enviar a una agencia gubernamental un formulario que se le había indicado que no debía enviar. Google también admitió posteriormente vez que su IA Gemini hackeó a tres empresas.

“Mucha gente piensa que la inteligencia artificial tiene que ver con la tecnología. No, tiene que ver con el poder de determinar el futuro y en qué futuro estamos entrando: ¿es un futuro donde los oligarcas tecnológicos deciden todo lo relativo a nuestras instituciones democráticas, o es un futuro donde la acción colectiva, la rendición de cuentas democrática y nuestras instituciones están ahí para fijar los límites que necesitamos?”, se preguntaba este jueves Francesca Bria en una rueda de prensa convocada por el Ministerio de Transformación Digital.

Bria es profesora honoraria del University College de Londres, miembro del Consejo Europeo de Innovación de la UE y una reconocida especialista en soberanía tecnológica. También ha formado parte del consejo internacional de expertos que ha asesorado al Gobierno sobre inteligencia artificial desde 2024, un órgano que ha puesto punto y final a su andadura esta semana con la presentación del Manifiesto de Madrid por una IA responsable.

El documento reclama el control democrático de la tecnología, la soberanía digital y el rechazo a la autorregulación de las grandes multinacionales. Entre sus once firmantes están algunas de las voces de referencia en el debate sobre la inteligencia artificial, como el director del Centro de Ética Digital de la Universidad de Yale, el profesor Luciano Floridi; la filósofa Carissa Véliz; o Kate Crawford, profesora universitaria y autora de El Atlas de la IA, un referente en el análisis de las implicaciones sociales, políticas y ambientales de la IA. El comité ha sido presidido por Manuel Castells. Ninguno de los participantes ha recibido remuneración.

“Quiero dejar claro que hemos podido crear un grupo internacional porque el liderazgo que España ha asumido en este ámbito a nivel mundial ha sido reconocido por todos. Por eso creo que no hay que dar por sentado que personas de EEUU, de Australia y de toda Europa aceptaran participar en este proyecto, ya que España tenía la ambición no solo de llevar a cabo esta labor en España o en Europa, sino de ser líder a nivel mundial en un enfoque de la inteligencia artificial que anteponga a las personas y la democracia”, ha destacado Bria.

Una hoja de ruta en la estacada

La política del Gobierno en materia de IA deja varios hitos: el principal, haber liderado la negociación del Reglamento europeo de Inteligencia Artificial durante su Presidencia del Consejo de la UE en 2023, la primera ley sobre esta nueva generación de IA a nivel internacional. También creó la primera agencia nacional europea dedicada a la supervisión de la IA, la AESIA, y puso en marcha junto a la Comisión Europea el primer sandbox regulatorio de IA de la UE, un entorno de pruebas para estudiar cómo aplicar en la práctica las nuevas obligaciones.

España también participó activamente en la creación del comité internacional de 40 expertos sobre IA de la ONU y acogió en Madrid su primera reunión presencial. Una iniciativa que el Gobierno había ensayado ya unos meses antes con la creación de su propio grupo de expertos. Tras dos años de trabajo y reuniones periódicas en el Ministerio, el resultado ha sido un manifiesto que apunta las líneas maestras para la regulación “humanista” de la IA.

Unas pautas que ya no podrá ejecutar el actual Gobierno, al que el final de la legislatura ha llegado con buena parte de su agenda digital aún pendiente. Con casi total probabilidad decaerán sus dos banderas en este campo: la Ley Orgánica para la protección de personas menores de edad en los entornos digitales, que elevaba hasta los 16 años el mínimo legal para abrir una cuenta en redes sociales, creaba una app para verificarla y hacía responsables a las tecnológicas de los daños que causan los algoritmos; y la adaptación de la ley europea de IA, que incluía muchos de los avances propuestos por el Gobierno, como la capacidad sancionadora de la AESIA.

El documento de los expertos internacionales incluye 25 recomendaciones agrupadas en cuatro grandes ejes. Entre sus medidas clave, exige evaluaciones de seguridad independientes previas al despliegue de modelos avanzados de IA y de agentes de IA, la prohibición de las armas autónomas letales o la exigencia de que las empresas desarrolladoras se hagan responsables de los daños que produzca su tecnología.

Sobre este último punto ha tomado la palabra Kate Crawford, australiana, que ha recordado cómo los agentes de OpenAI hackearon el sistema sanitario de su país y la compañía tardó meses en informar a su gobierno. “La vulneración del sistema sanitario australiano fue un ataque grave a algo de lo que todos los australianos estamos profundamente orgullosos, que es nuestro sistema sanitario. Quiero reiterar que hemos alcanzado una línea roja muy clara para la inteligencia artificial, y por eso lanzamos este manifiesto en este momento: ya no es momento de esperar a ver qué pasa, es hora de actuar y de regular”, ha enfatizado.

El manifiesto también reclama la protección de la “autonomía cognitiva frente a algoritmos manipuladores”, reforzar la seguridad de los menores y vigilar el consumo de agua y energía de los centros de datos. Este último punto también cuenta con una regulación aprobada recientemente por el Ejecutivo que no decae por la convocatoria de elecciones al estar configurada como un Real Decreto ordinario que no necesita ser aprobado por el Congreso.

“Hay muchas leyes vivas que vamos a seguir empujando”, ha asegurado el ministro Óscar López, que ha prometido “reintroducir la ley de protección de menores en las redes sociales en el Parlamento” después de las elecciones, “además de seguir luchando para que llegue la legislación europea”.

“Según la Universidad de Stanford, España es el séptimo país del mundo en desarrollo de IA, y el sexto según Microsoft. Este país ha hecho mucho para desarrollar otro modelo de IA, no el que quieren los oligarcas tecnológicos”, ha concluido López: “La respuesta de este grupo de expertos y la respuesta de este gobierno es que hay que hacer, gobernar, regular, hay que hacer algo que nos permita aprovechar esas posibilidades, pero también minimizar los riesgos de la IA. Por eso son tan tramposas las voces que dicen que la regulación no es compatible con la innovación, porque no es verdad. Porque industrias como el automóvil han innovado durante más de un siglo con regulación como la que ahora algunas voces quieren impedir”.

Las autoridades de Corea del Sur han abierto una investigación para esclarecer el alcance de una serie de ciberataques dirigidos contra varias de las mayores entidades financieras del país, en los que se ha detectado el posible uso de herramientas y agentes de inteligencia artificial para vulnerar sus sistemas y robar información de clientes.

La última entidad en ser atacada habría sido el Hana Bank, uno de los tres principales bancos comerciales del país. Según ha avanzado Reuters, la información filtrada incluye los nombres, números de identificación personal y números de teléfono de 89 clientes, pero no su información financiera. El Shinhan Bank y el KB Kookmin, las otras dos entidades más importantes, fueron también atacadas la pasada semana, así como otros bancos más pequeños.

El ciberataque al Shinhan Bank ha sido el más grave hasta el momento, logrando robar datos sobre los créditos de unos 25.000 clientes, ha reconocido el banco. En KB Kookmin el incidente alcanzó a 99 clientes y a 20 empleados y exempleados de la entidad. La Policía surcoreana ha conformado un equipo especial de 28 agentes para asumir las pesquisas, apunta la agencia EFE, mientras evalúa transferir el caso a la agencia de investigación de delitos graves.

Estas ofensivas y la posibilidad de que estén potenciadas con inteligencia artificial han causado preocupación en el país asiático. El presidente surcoreano, Lee Jae Myung, ha afirmado este martes durante una intervención en directo que “han surgido indicios” de que se recurrió a modelos de IA en parte de los ciberataques, lo que está generando una “considerable preocupación y ansiedad pública”.

En declaraciones recogidas por The New York Times, Lee ha ordenado a sus ministros esclarecer lo ocurrido “con rapidez y claridad” y desplegar los recursos necesarios para contener los daños, alertando de que “ahora es posible utilizar la IA para piratear con facilidad incluso sin conocimientos especializados”.

En la misma línea, la primera ministra, Han Seong-sook, ha reclamado una revisión a fondo del sistema nacional de protección de la información, advirtiendo de que las defensas técnicas vigentes han dejado de ser eficaces frente a estas tácticas. “Esta es una situación grave porque se cree que este incidente se basó en la inteligencia artificial, y si se utiliza en ataques de phising (suplantación de identidad), podría causar daños secundarios”, ha sostenido Han, advirtiendo de que este tipo de incursiones podrían trasladarse a otras industrias y alcanzar al sector público y las estructuras gubernamentales.

El uso potencial de agentes autónomos y modelos generativos en intrusiones informáticas coincide con incidentes similares registrados a escala internacional. El mes pasado, las autoridades de Australia hicieron públicas intrusiones en portales gubernamentales, entre ellas un acceso no autorizado a través de agentes de OpenAI al registro de datos de la sanidad pública del país.

Según un análisis de la firma de análisis forense digital Asymmetric Security, OpenAI podría ser responsable de hasta 55 ciberataques por todo el mundo causados por su IA. Según una demanda judicial presentada en California y las declaraciones de dos de sus extrabajadores, la empresa dirigida por Sam Altman habría ordenado continuar adelante con los experimentos de sus agentes de IA a pesar de que la dirección fue avisada de que estos habían desarrollado comportamientos irregulares y sus técnicos no contaban con protocolos de supervisión correctos.

La preocupación sobre los ataques a bancos en Corea del Sur aumenta dado el alto nivel de ciberseguridad de sus instituciones y grandes empresas. De acuerdo con la información publicada por el diario surcoreano Chosun, entidades como Shinhan, KB Kookmin y Hana Bank contaban con certificaciones de seguridad de primer nivel e invirtieron conjuntamente unos 124.000 millones de wones (cerca de 15,9 millones de euros) en protección de datos durante el último año.

Las alertas sobre los riesgos del desarrollo de la inteligencia artificial han sembrado la incertidumbre en millones de personas. Desde ingenieros que avisan de que esta tecnología podría “matarnos a todos antes de 2030”, hasta grandes referentes científicos que aseguran que una “IA altamente capaz o sobrehumana” podría “amenazar el control humano” y “erosionar gravemente los mecanismos de poder estatal”. Extremos que preocupan en todo el mundo, pero que tienen a un sector concreto en vilo: las aseguradoras.

Aunque muchas de esas alarmas terminen incumpliéndose y los daños de la IA resulten más mundanos, la industria de los seguros preferiría no pagar la factura. “Ya están surgiendo perjuicios relacionados con la IA, como resultados incorrectos o engañosos, deepfakes, violaciones de la privacidad, disputas sobre propiedad intelectual, fraude, defectos en los productos y decisiones discriminatorias”, destaca un reciente informe del centro de investigación RAND: “Estos perjuicios generan demanda de seguros, pero no se ajustan fácilmente a las líneas de seguros existentes”.

Estos riesgos se han multiplicado con la extensión de los agentes de IA. Son sistemas que pueden completar tareas que requieren diferentes pasos sin que una persona tenga que guiarlos en cada uno de ellos, como buscar información en Internet, usar otras herramientas digitales o programar sus propias aplicaciones. Pero que, debido a esa mayor autonomía, pueden llevar acciones no previstas para sus desarrolladores. Son estos agentes los que han provocado, por ejemplo, los hackeos de páginas del gobierno australiano mientras buscaban información, intentando acceder incluso a aquella que no estaba disponible públicamente.

La incorporación de esta tecnología a las empresas está provocando que muchas aseguradoras la excluyan de las pólizas de responsabilidad civil estándar. Según datos del medio especializado en Silicon Valley The Information, los organismos públicos estatales que regulan el mercado asegurador en EEUU están dando su visto bueno a esta práctica, autorizando más de un 80% de peticiones elevadas este 2026 para excluir los daños producidos por la IA de la cobertura asegurada.

Difícil encaje en los seguros tradicionales

Desde 1982, las aseguradoras utilizan el conocido 'test de Berliner' para medir si un riesgo es asegurable. El examen consta de nueve criterios y según la Asociación de Ginebra, uno de los mayores think tanks de este sector, la IA suspende al obtener una calificación roja en tres de ellas.

Son la pérdida máxima posible (un algoritmo puede producir fallos en cascada a miles de pólizas simultáneamente a través de las empresas que lo aplican, con lo que califica como “riesgo catastrófico” al nivel de accidentes nucleares o pandemias), asimetría de la información (las empresas aseguradas tienen mucha más información del impacto real que puede tener la IA que las aseguradoras) e inestabilidad de la pérdida media (para las aseguradoras es imposible fijar una póliza estándar si una misma IA puede producir un daño acotado al equivocarse en un sistema de atención al cliente, o de millones al violar los derechos de autor).

En su último informe al respecto, los datos de la Asociación de Ginebra muestran que, de las 112 casillas resultantes de cruzar los 14 riesgos identificados de la IA (ciberataques, difamación, etc.) con las 8 pólizas de seguro tradicionales de las empresas, el 80% (90 casillas) quedan “excluidas”.

Sin reglas, manda el miedo

Donald Trump se niega a desarrollar una regulación para la inteligencia artificial, incluso ante la petición de algunos magnates de la industria y expertos que avisan que esta podría suponer “un peligro para la humanidad”. Y sin reglas, manda el miedo. “El seguro se ha convertido en el regulador de facto más importante del despliegue de la IA en EEUU, y actualmente está regulando por retirada: excluyendo el riesgo de la IA de la cobertura en lugar de fijar los estándares afirmativos bajo los cuales el despliegue podría ser asegurado, tarifado y disciplinado”, explica el Centro de Estudios Estratégicos e Internacionales (CSIS, por sus siglas en inglés).

El seguro se ha convertido en el regulador de facto más importante del despliegue de la IA en EEUU, y actualmente está regulando por retirada: excluyendo el riesgo de la IA de la cobertura

Centro de Estudios Estratégicos e Internacionales (CSIS)

En Europa la situación no es muy diferente. Aunque la UE sí cuenta con una ley de IA, tampoco ha abrochado la cuestión sobre quién es el responsable cuando algo sale mal. Esa iba a ser la misión de la Directiva de Responsabilidad de la IA, para la que la Comisión Europea presentó un borrador que terminó retirando en 2025. “Al tiempo que los requisitos del Reglamento de IA de la UE para sistemas de alto riesgo se han aplazado hasta finales de 2027 o 2028, la reparación ex-post de los daños queda fragmentada en las legislaciones nacionales, dejando a las víctimas sin un marco unificado de indemnización”, continúa el CSIS.

Este instituto, un laboratorio de ideas con sede en Washington, advierte que esta tendencia tiene incluso derivadas geopolíticas. Esa dificultad para asegurar los procesos con IA “amenaza con frenar” la innovación de las empresas estadounidenses y europeas en comparación con China, donde es el estado el que se hace cargo del riesgo. El Gobierno del gigante asiático está generando reservas nacionales y respaldando proyectos piloto de aseguradoras estatales para emitir pólizas específicas sobre IA, intentando que sus empresas desplieguen algoritmos sin asumir todo el riesgo.

Las grandes tecnológicas “trasladan el riesgo”

La incertidumbre del sector público y privado en lo referente a los procesos que incorporan IA se extiende a todos los actores, menos a aquellos que la desarrollan. Los principales laboratorios han blindado su defensa ante los riesgos.

Como especifican los contratos para el uso de su IA de OpenAI o Anthropic, su responsabilidad financiera no puede superar lo que han pagado sus clientes en los 12 meses anteriores al incidente. En la práctica, esto implica que si una empresa paga, por ejemplo, 200 euros al mes por una suscripción profesional a sus herramientas y estas cometen un fallo grave que genere pérdidas de un millón de euros, la tecnológica solo estaría obligada a poner 2.400 euros de su bolsillo.

Solo en demandas por derechos de autor “existe una excepción destacable” en la que estas multinacionales tendrían que correr con los gastos. En el resto, ya sean casos “como muerte por negligencia, lesiones corporales, discriminación laboral, difamación, manipulación de mercado, fraude mediante IA, ciberataques impulsados por IA, sanciones regulatorias o daños por acciones autónomas”, la norma que “sigue aplicándose es el límite general de 12 meses de cuotas”, detalla el CSIS.

El instituto aclara que esa limitación puede ser “racional” ante un riesgo que nadie sabe tasar, pero destaca que la práctica “traslada la responsabilidad” a las empresas y pymes.

Análisis caso a caso

Ante la retirada de la citada Directiva de Responsabilidad de la IA por parte de la Comisión Europea, la situación se evalúa, con base en la regulación de cada país. elDiario.es ha contactado con UNESPA, la patronal de las aseguradoras españolas, que ha indicado que aún no hay una visión general y que cada una mantiene su propia política.

Romain Schaeffer, director de seguros para empresas de AXA, avanza que las aseguradoras analizan caso por caso. “En la actualidad, el mero hecho de que una empresa utilice IA no es, por sí solo, un factor determinante para limitar su asegurabilidad ni un criterio generalizado de delimitación de cobertura o precio”, explica a elDiario.es.

Es fundamental analizar para qué y cómo utiliza la empresa la IA. No presenta la misma exposición una compañía que emplea IA como herramienta de productividad que otra que la usa para tomar decisiones autónomas

Romain Schaeffer — director de seguros para empresas de AXA

“En este sentido, resulta fundamental analizar para qué y cómo utiliza la empresa la IA. No presenta la misma exposición una compañía que emplea IA como herramienta para mejorar la productividad interna que otra que la utiliza para tomar decisiones autónomas o controlar procesos productivos capaces de generar daños materiales, corporales o pérdidas a terceros”, detalla Schaeffer.

Pese a la novedad tecnológica y las crecientes alarmas sobre sus riesgos, el experto advierte que “el uso de IA no debe interpretarse necesariamente como un elemento restrictivo desde el punto de vista asegurador”. A su juicio, puede ser incluso un elemento que ayude a disminuir la incertidumbre o fallos en los procesos internos. “Dependiendo de su aplicación y de los controles establecidos, puede incluso contribuir a mejorar la prevención, detección y gestión del riesgo”, concluye.

Pólizas especiales

El resultado de esta situación es que se están generando nuevos tipos de póliza para cubrir riesgos concretos de la IA como alucinaciones, fallos de rendimiento, infracciones de propiedad intelectual o incluso errores en las decisiones de agentes autónomos, la nueva amenaza para las empresas.

Firmas como Munich Re, Armilla AI, Testudo Global o la Artificial Intelligence Underwriting Company están explorando este nuevo nicho. En lugar de asumir de forma general los riesgos de una compañía, algo casi imposible a partir del test de Berliner, estas coberturas intentan identificar qué puede salir mal cuando una empresa incorpora un sistema de IA y ponerle un precio.

No obstante, vuelven a chocar contra algunas lógicas derivadas de la novedad tecnológica: si nadie ha tenido un incidente real a gran escala derivado de ese tipo de riesgo, ¿cómo calcular cuánto puede llegar a costar y hasta dónde debería cubrirlo una aseguradora?

El presidente de Estados Unidos, Donald Trump, ha dejado la puerta abierta a que el Gobierno norteamericano adquiera participaciones en firmas de IA como OpenAI y Anthropic, algo que ya ha hecho en empresas como Intel y otras compañías del sector de la computación cuántica.

“Puede que sí. Tal vez podría hacerlo. Tengo muchos tratos de ese tipo; lo hago. Pero no gano nada por haber hecho ese trato (...). Lo hice para Estados Unidos”, ha destacado el inquilino de la Casa Blanca en una extensa entrevista concedida a la revista 'Time' al ser preguntado por esa posibilidad.

En este sentido, ha defendido estas adquisiciones frente a quienes aseguran que “eso no es estadounidense”. “Pero ganamos como 60.000 o 70.000 millones de dólares (53.162 o 62.022 millones de euros millones de euros). Intel es la acción más popular que existe, casi. Está en la cima”, ha aseverado.

“Lo digo, lo digo”, ha reiterado al ser insistido por las adquisiciones sobre OpenAI y Anthropic. “(Lo hago) con muchas cosas. Tenemos otros casos, como el anuncio de un gran acuerdo en Alaska, donde Estados Unidos aprobó un trato para alguien con tierras que iba a ganar una fortuna, y nosotros no íbamos a recibir nada (...). Y aceptaron una cifra. Lo hago todo el tiempo. No lo hago por mí. Lo hago por el país”, ha añadido.

OpenAI supo que sus agentes de inteligencia artificial estaban rompiendo sus entornos aislados de pruebas y coordinando ciberataques contra redes externas, pero decidió no parar sus experimentos para no retrasar su estrategia comercial. Es la principal conclusión de dos revelaciones no coordinadas que han salido a la luz en las últimas horas y que acusan a la empresa dirigida por Sam Altman de conocer que su IA estaba ejecutando acciones peligrosas para completar las tareas que se le habían encomendado.

La primera de esas revelaciones es una demanda presentada por la organización sin ánimo de lucro Abogados por una Ciencia y Tecnología Seguras (LASST, por sus siglas en inglés). Según las pruebas aportadas, un equipo de empleados de OpenAI tuvo constancia de que sus agentes de IA estaban desarrollando comportamientos como los que derivaron en el hackeo masivo de Hugging Face al menos dos semanas antes de que este se consumara (del 9 al 13 de julio).

La segunda es una exclusiva de The New York Times publicada este miércoles que revela que dos empleados de la compañía advirtieron por correo electrónico a la alta dirección, meses antes de que la IA empezara a hackear activamente, de que los nuevos modelos “no se estaban monitorizando adecuadamente” durante las pruebas. Según los mensajes que ha podido comprobar el medio estadounidense, los ejecutivos rechazaron estas alertas alegando que los ensayos debían avanzar lo más rápido posible para lanzar los modelos a tiempo, negándose a implantar protocolos de seguridad adicionales que entorpecieran ese calendario.

“Es claramente un hackeo”

La fecha clave que señala LASST es el 27 de junio. Entonces, una herramienta de monitorización interna de OpenAI detectó una actividad anómala en los experimentos con sus agentes de IA, sistemas que se caracterizan por poder llevar a cabo acciones con diferentes pasos sin supervisión humana, como buscar información, utilizar otras herramientas digitales o programar su propio código informático.

Según la demanda, los técnicos que revisaron la alarma interna comprobaron que cientos de esos agentes habían transformado un software interno de la empresa en un canal clandestino de mensajería. Allí vieron que los agentes estaban compartiendo métodos de ataque y técnicas para falsificar peticiones al servidor, con objetivo de salir del entorno controlado en el que estaban recluidos. Esta salida era necesaria para completar las tareas que se les habían asignado en los experimentos, puesto que uno de los objetivos de OpenAI era precisamente analizar el comportamiento de la IA cuando su misión se torna imposible.

En las notas que estaban dejando los agentes en el canal secreto que habían desarrollado, estos calificaban sus acciones de “claramente hackeo de infraestructuras” al estar preparando un “exploit contra un servidor externo”. Algo que conllevaba un riesgo de provocar “un daño no autorizado a infraestructura real”. Pese a ello, el personal de OpenAI que analizó la situación decidió que “no era necesario” detener los experimentos, recoge la demanda.

Dos semanas después de tener conocimiento de estos hechos, los agentes de OpenAI llevaron a cabo el conocido hackeo contra Hugging Face. En ese incidente, los agentes reprodujeron comportamientos que replican los que ya se estaban dando semanas antes, señala LASST. OpenAI “construyó un sistema de IA que hackeó a otra empresa, causando daños y violando la ley”, denuncia la organización, que a tenor de las pruebas señala que “no podrá ser constitutivo de argumento de defensa que la inteligencia artificial haya causado el daño al demandante de forma autónoma”.

LASST pide en su demanda que OpenAI sea condenada por su responsabilidad en ciberataques como el de Hugging Face. elDiario.es se ha puesto en contacto con OpenAI para recabar su posición sobre la demanda, pero por el momento no ha recibido respuesta.

La dirección ordenó no detener las pruebas

El comportamiento de los investigadores de OpenAI denunciado en la demanda de LASST encaja con otra pieza del puzle revelada este miércoles en exclusiva por The New York Times. Según la investigación del diario, los fallos en la valoración del riesgo de las acciones de los agentes no fueron descuidos puntuales, sino el resultado de la política interna de OpenAI, impuesta desde la alta dirección.

“Meses antes” de que los agentes de IA de la organización ejecutaran hackeos contra plataformas como Hugging Face y gobiernos como el australiano (18 de junio), varios de sus empleados advirtieron de que los agentes “no se estaban monitorizando adecuadamente”. El aviso llegó a través de correo electrónico (aunque el diario no especifica cuándo) hasta el presidente de OpenAI, Greg Brockman, el máximo encargado de la seguridad de los sistemas de IA. Sin embargo, la contestación de la empresa fue que los experimentos debían avanzar lo más rápido posible para lanzar los modelos a tiempo.

En ese período OpenAI estaba centrada en el desarrollo de GPT-6 Astra, que terminó saliendo a la luz el 3 de septiembre. Se trata de un modelo que la organización pretendía hacer destacar precisamente por la capacidad autónoma de sus agentes. Estos “pueden realizar trabajo cognitivo real” y son “más inteligentes que las personas en muchos aspectos”, presumió Sam Altman durante su presentación, asegurando que habían conseguido un “rendimiento sin precedentes en nuestros puntos de referencia”.

Apenas una semana después, el 9 de septiembre, el exingeniero Jacob Coxon alertó de que los laboratorios de IA están “avanzando sin control” y “poniendo nuestras vidas en juego”. Coxon acababa de dimitir de Anthropic tras dos meses trabajando en la empresa, pero había pasado los tres años anteriores trabajando en el equipo de preentrenamiento de modelos de OpenAI.

Este martes, 29 de septiembre, OpenAI anunció la cancelación del lanzamiento del modelo GPT-6.1 por motivos de seguridad.

OpenAI tampoco ha respondido a las preguntas de elDiario.es sobre las revelaciones de The New York Times. No obstante, el periódico estadounidense refiere que uno de sus portavoces ha explicado que “a medida que los modelos de frontera se han vuelto más capaces, continuamos evolucionando nuestras prácticas de seguridad, pero reconocemos la necesidad de avanzar más rápido”. Añade que OpenAI “había desacelerado parte del desarrollo de IA y estaba realizando cambios para reforzar la seguridad en la investigación y en las pruebas” tras los avisos de sus trabajadores.

Donald Trump ha pasado de llamar “fake news” a las alertas sobre la seguridad de la IA y a llamar “obsesión enfermiza” a las preocupaciones por los centros de datos que se multiplican en EEUU amenazando los recursos hídricos y energéticos a hablar de tomar ciertas medidas. Y lo ha hecho durante un almuerzo con los principales tecnoligarcas del país, escudado en una breve comparecencia ante la prensa por el CEO de Tesla, Elon Musk, y el de Nvidia, Jensen Huang.

Además, Trump ha anunciado un decreto para renombrar a la IA como “súper inteligencia”.

“Hoy, sobre las 5 en punto, vamos a firmar un documento para cambiar el nombre de la 'inteligencia artificial', porque no es artificial. Todos estamos de acuerdo en eso, y vamos a rebautizarla como 'súper inteligencia', a cambiarle oficialmente el nombre”, ha anunciado el presidente de EEUU.

Según Trump, “existe la convicción de que debería haber una enorme autorregulación, y ya contamos con la regulación del Departamento de Justicia, el FBI y todo eso. Pero la autorregulación es muy importante”.

El presidente también ha afirmado que en la comida “se ha hablado de las comunidades locales. Este es un grupo que ama a las comunidades locales. Aman a nuestro país y van a colaborar con las comunidades locales, en particular en lo que respecta a los centros de datos, y van a trabajar para que la comunidad esté contenta”.

Según Trump, “eso podría consistir en suministrar petróleo y gas. Podría consistir en proporcionar educación. Podría consistir en ayudar económicamente a los profesores, en ayudar económicamente a la gente, y todos han coincidido en que eso es algo muy positivo. Nadie había pensado realmente en ello. Así que veréis que los centros de datos van a ser muy populares porque quieren ver comunidades seguras y felices, y van a hacer que las comunidades sean muy felices. De lo contrario, se verán obligados a irse al extranjero o a otros lugares. Pero incluso en Estados Unidos hay muchísima gente que quiere centros de datos”.

Más de una veintena de los mayores especialistas en inteligencia artificial del mundo advierten a los gobiernos que se preparen para una “explosión de inteligencia” que podría desencadenar el desarrollo tecnológico más trascendental de la historia. En un nuevo informe, entre cuyos autores están el premio Nobel Geoffrey Hinton y el premio Turing Yoshua Bengio, dos de los referentes científicos de esta tecnología, piden a los políticos que actúen ahora antes de que se produzca un avance descontrolado de la IA.

Los autores afirman que esa “explosión de inteligencia” podría tomar forma como una “aceleración drástica del progreso de la IA impulsada por la propia IA, que comprimiría en meses o menos avances que, de otro modo, llevarían años”.

El artículo, titulado ¿Y si automatizar la investigación y el desarrollo de la IA desencadena una explosión de inteligencia? y publicado por el departamento de ciencia y políticas públicas de la IA de la Universidad de Cambridge, está firmado también por altos ejecutivos de la industria como Jack Clark, cofundador de Anthropic, y Jakub Pachocki, científico jefe de OpenAI.

Sus preocupaciones se centran en la posibilidad de que los agentes de IA sean capaces de mejorarse a sí mismos sin intervención humana, un proceso conocido como “automejora recursiva”. El informe se refiere a este proceso de forma general como automatización de la investigación y el desarrollo de IA. Según el documento, una vez que los sistemas de IA alcancen capacidades de nivel experto en investigación y desarrollo de IA, un solo desarrollador podría gestionar una fuerza de trabajo equivalente a “millones” de los mejores investigadores humanos.

La IA que se mejora a sí misma

Los autores señalan que la automatización de la investigación y el desarrollo de IA es la fuente más probable de una explosión de inteligencia, porque las IA ya están contribuyendo a mejorar su propia tecnología y los sistemas resultantes pueden desplegarse rápidamente una vez construidos.

“Una explosión de inteligencia podría ser el desarrollo tecnológico más trascendental de la historia de la humanidad, al comprimir años de progreso en meses o menos, amenazar el control humano sobre los sistemas de IA y erosionar gravemente los mecanismos de control del poder dentro de los Estados y entre ellos, así como entre empresas y ramas del Gobierno”, señala el informe.

Una explosión de inteligencia podría ser el desarrollo tecnológico más trascendental de la historia de la humanidad, al comprimir años de progreso en meses o menos, amenazar el control humano sobre los sistemas de IA y erosionar gravemente los mecanismos de control del poder dentro de los Estados

Por ello, los autores instan a los Gobiernos a actuar con rapidez: “Una vez que comience una explosión de inteligencia, la ventana de oportunidad para actuar podría cerrarse”. El informe recomienda tres prioridades políticas: exigir informes transparentes sobre los avances en investigación y desarrollo relacionados con la IA, incluida la incorporación de auditores independientes en las empresas; buscar formas de limitar el desarrollo acelerado de la IA; y prepararse para adaptarse a una explosión de inteligencia.

Anthropic y OpenAI han aceptado que evaluadores independientes examinen sus modelos, después de advertir de que el desarrollo de la IA estaba alcanzando un punto crítico en materia de seguridad. Anthropic afirma que la IA genera actualmente el 80% de su propio código, mientras que OpenAI utiliza agentes autónomos de IA en ámbitos como el entrenamiento de nuevos modelos.

“Las pruebas preliminares sugieren que una explosión de inteligencia impulsada por el software es posible”, señala el informe, que añade que esto conduciría al “desarrollo extremadamente rápido de sistemas de IA altamente capaces o sobrehumanos”.

Salto en avances y en amenazas

Aunque esto podría producir avances médicos y saltos tecnológicos, también entrañaría tres tipos de riesgos: los sistemas avanzados podrían facilitar amenazas biológicas y cibernéticas que evolucionaran más rápido que las medidas necesarias para hacerles frente; a medida que los humanos participaran menos en la investigación y el desarrollo de IA, podrían perder la oportunidad de mantener el control sobre los sistemas; y los Estados podrían utilizar una explosión de inteligencia para convertir una ventaja moderada en ámbitos como el ciberespacio en una ventaja decisiva.

El informe reconoce que estos efectos son “inciertos”. Por ejemplo, un avance tecnológico podría tardar en aplicarse debido a la necesidad de establecer cadenas de suministro para obtener materiales especiales o de cumplir con la regulación. Los sistemas de IA también podrían acelerar la velocidad a la que se mitigan los riesgos, señalan los autores.

Si se produjera un avance de este tipo, los autores sostienen que los sistemas de IA podrían superar rápidamente a los expertos humanos en la mayoría de los campos y “acelerar radicalmente” el progreso tecnológico. Prepararse para este escenario “debería ser una prioridad urgente, incluso en los niveles más altos de los Gobiernos”.

Los autores señalan que los Gobiernos deberían estudiar políticas que aborden la posibilidad de una explosión de inteligencia, entre ellas: exigir informes transparentes sobre los avances en investigación y desarrollo relacionados con la IA, incluida la incorporación de auditores independientes en las empresas; limitar la velocidad a la que una IA puede mejorar durante un determinado periodo de tiempo; colaborar con los centros de datos para permitir la suspensión de determinados proyectos de investigación y desarrollo de IA; garantizar que los sistemas automatizados de investigación y desarrollo de IA estén completamente aislados y no puedan escapar al control humano; y crear “planes de respuesta de emergencia” para los distintos escenarios que podrían surgir a raíz de una explosión de inteligencia.

Se trata de medidas muy similares al conocido plan para “ralentizar” la IA elaborado por Dario Amodei, el CEO de Anthropic, que ha provocado desconfianza fuera de Silicon Valley.

A pesar de los fallos que han mostrado algunos sistemas, como desobedecer instrucciones, los proyectos de investigación y desarrollo que a los humanos les llevarían meses podrían estar completamente automatizados mediante IA para 2028. “Las ganancias de productividad derivadas de la automatización de la investigación y el desarrollo de IA todavía no han alcanzado el umbral necesario para desencadenar una explosión de inteligencia, pero es probable que las mejoras de los sistemas más recientes se estén acercando a ese umbral”, señalan.

Contramedidas. Nvidia ha presentado este lunes una nueva plataforma de seguridad diseñada para evitar que los agentes de inteligencia artificial se rebelen. Según la compañía de Jensen Huang, la nueva plataforma establece “límites” que podrían haber evitado incidencias registradas en el pasado, informa AP.

El anuncio de Nvidia se produce tras una serie de revelaciones por parte de las principales empresas de IA sobre cómo sus modelos se han escapado y se han infiltrado en otras organizaciones. Y, también, llega en la víspera de un almuerzo en la Casa Blanca este martes, con Dario Amodei, director ejecutivo (CEO) de Anthropic; Mark Zuckerberg, director ejecutivo de Meta Platforms; Jensen Huang, director ejecutivo de Nvidia; Sundar Pichai, director ejecutivo de Alphabet (Google); Greg Brockman, presidente de OpenAI; y Alex Karp, director ejecutivo de Palantir Technologies.

Las informaciones sobre fallos en la IA han desencadenado un debate sobre la seguridad de los sistemas de inteligencia artificial, incluidos los modelos que se auto-mejoran y que, según temen los expertos, podrían escapar al control humano.

Los directivos de Nvidia han afirmado este lunes en una rueda de prensa que el nuevo sistema de código abierto podría haber evitado un fallo reciente en el que un enjambre de agentes de OpenAI hackeó de forma autónoma la empresa de IA Hugging Face.

“Por lo que sabemos, esta nueva plataforma de seguridad podría haber detenido la intrusión si se hubiera utilizado desde el principio en los laboratorios de vanguardia para la evaluación de modelos”, ha afirmado el vicepresidente de IA empresarial de la compañía, Justin Boitano, refiriéndose a las empresas que están a la vanguardia de la IA.

El incidente de Hugging Face fue una intrusión de gran repercusión que avivó las preocupaciones sobre la seguridad de la IA, a la que siguieron acciones similares en las que se vieron implicados modelos de OpenAI, incluida la intrusión en un sitio web del departamento de salud australiano. Anthropic y Meta también han revelado que sus sistemas de IA piratearon por su cuenta otras organizaciones.

Nvidia, con sede en Santa Clara (California), fabrica chips de gama alta que se han convertido en los componentes fundamentales de la IA. El consejo de administración de la empresa ha aprobado que la compañía destine 150.000 millones de dólares más a la recompra de acciones, lo que eleva su programa de recompra de acciones a 235.000 millones de dólares, según informó la empresa el lunes.

El software de seguridad de Nvidia, denominado OpenShell, permite a los desarrolladores “verificar formalmente que un agente tiene la autoridad suficiente para realizar su trabajo y nada más”, explica Boitano.

Al ser de código abierto, puede “ampliarse” para ejecutarse en plataformas informáticas de la competencia, incluidas las de Arm e Intel.

La plataforma también incluye una capa de seguridad independiente denominada Sentry que se ejecuta en los propios chips para supervisar continuamente la actividad de los agentes de IA y puede “intervenir al instante” si el agente empieza a intentar ir más allá de su objetivo, según la empresa, informa AP.

“Puede poner en cuarentena a un agente sospechoso en milisegundos”, señaló Boitano.

“OpenShell regula las acciones del agente y, a continuación, Sentry supervisa y contiene de forma independiente cualquier comportamiento sospechoso”, añadió.

OpenAI, además, ha anunciado este lunes que no lanzaría su nuevo modelo de inteligencia artificial debido a las preocupaciones en materia de seguridad planteadas por sus investigadores. Durante la fase de pruebas del nuevo modelo, conocido como GPT-6.1 Astra, este mostró altos niveles de lo que la empresa consideró una disposición a inducir a error a los usuarios sobre sus acciones. El modelo también se mostraba dispuesto a ir más allá del alcance original de lo que se le pedía que hiciera, sin volver a consultar las indicaciones o instrucciones.

“En todo lo relacionado con la seguridad, hay que hacer concesiones”, ha afirmado Saachi Jain, responsable de sistemas de seguridad de OpenAI, informa AP. El nuevo modelo “no alcanzó del todo el nivel exigido en cuanto a mantenerse dentro del ámbito y la autorización, y a la forma en que informa al usuario sobre el tipo de trabajo que ha realizado”.

Nvidia ha indicado que más de 100 organizaciones están utilizando la plataforma en el momento de su lanzamiento, entre ellas Microsoft, Perplexity, Accenture y JPMorgan Chase.

El debate sobre la seguridad de la IA ha dividido al sector, y los responsables de Anthropic y OpenAI abogan por una ralentización coordinada del desarrollo de la IA para que las medidas de seguridad puedan ponerse al día.

Sin embargo, otros, entre ellos el director ejecutivo de Nvidia, Jensen Huang, sostienen que debería corresponder a cada empresa asegurarse de que sus modelos sean seguros antes de su lanzamiento.

ChatGPT, Gemini, Claude, Grok, Perplexity e incluso la europea Mistral. Todas estas inteligencias artificiales filtran datos del contenido de las conversaciones que los usuarios mantienen con ellas a redes publicitarias y plataformas de analítica de terceros, según han podido demostrar investigadores del Instituto IMDEA Networks y la Universidad Carlos III de Madrid. Otros tres sistemas analizados, como DeepSeek, Microsoft Copilot o Meta AI, envían información sobre el dispositivo y los metadatos de los chats a esas empresas de compraventa de datos personales.

La investigación, a la que ha tenido acceso elDiario.es, ha sido puesta en conocimiento de la Agencia Española de Protección de Datos, que ha elevado el caso al Comité Europeo de Protección de Datos para estudiar si estas transferencias vulneran la normativa comunitaria. Este último organismo mantiene abierta una investigación desde hace más de tres años sobre el tratamiento de datos de ChatGPT, cuya resolución podría tener un profundo impacto en el uso de chatbots de IA en el continente.

El estudio finalizado ahora por los investigadores españoles ha sido aceptado en PETS (Privacy Enhancing Technologies Symposium), una de las principales conferencias académicas internacionales sobre privacidad y tecnologías de protección de datos. Su principal conclusión es que los chatbots de inteligencia artificial utilizan métodos de extracción de datos personales muy similares a los que se utilizan en las páginas web y servicios digitales tradicionales para hacer publicidad ultradirigida.

“Nuestros resultados desafían la percepción de los servicios de IA conversacional como intercambios confidenciales entre los usuarios y los proveedores de IA”, avisan en el estudio: “La IA conversacional ha heredado la infraestructura publicitaria y de analítica de las plataformas web y móviles, introduciendo los datos de las conversaciones directamente en las redes de rastreo existentes”.

Una conclusión que contrasta con las menores precauciones que toman muchos usuarios a la hora de volcar datos personales en los chats de inteligencia artificial, en busca de mejores consejos o valoraciones. La realidad que evidencian ahora los especialistas de IMDEA Networks y la Carlos III es que ChatGPT, Gemini o Claude no solo envían datos de las conversaciones a las empresas que los desarrollan, como avisan antes de comenzar cada conversación, sino también a las bases de datos de los anunciantes.

“Nueva superficie de ataque a la privacidad”

El estudio analizó tanto las aplicaciones móviles como las versiones web de los nueve asistentes de IA citados. Los investigadores entablaron conversaciones con los chatbots con consultas sanitarias, subiendo como apoyo documentos con resultados de pruebas médicas. A continuación, rastrearon lo que ocurría con esos datos utilizando distintas configuraciones de privacidad.

Los resultados fueron claros. Seis de las nueve versiones web (ChatGPT, Gemini, Claude, Grok, Perplexity y Mistral) y tres aplicaciones móviles (ChatGPT, Claude y Perplexity) filtran datos directos de la conversación a través de rastreadores publicitarios. Los títulos de las charlas (como “Síntomas iniciales de Parkinson”), las preguntas formuladas, los documentos subidos al chat o incluso capturas de pantalla se comparten con empresas de mercadeo de datos personales.

“Demostramos que los servicios de IA conversacional introducen una nueva superficie de ataque a la privacidad en la que los artefactos conversacionales generados por el proveedor quedan expuestos al rastreo y a la exposición pública”, avisan los investigadores. En algunas ocasiones, incluso los enlaces públicos de los chats (como los que se utilizan para compartirlos con otras personas) quedaron expuestos a los rastreadores, lo que permite que su contenido pueda ser incorporado a las bases de datos para personalizar anuncios.

Demostramos que los servicios de IA conversacional introducen una nueva superficie de ataque a la privacidad

Además, su análisis reveló que rechazar las cookies, navegar en modo incógnito u otros métodos de protección de la privacidad que pueden activar los usuarios tienen muy poco impacto a la hora de proteger esa información. Hasta un 80,8% de los rastreadores de terceros permanecen activos incluso con esas configuraciones de protección.

Con todo, los especialistas de IMDEA Networks y la Carlos III destacan que el mayor peligro no es la propia filtración de los datos, sino el hecho de que esta información viaje acompañada de los indicadores personales que la vinculan a cada usuario. Se trata de los códigos que las empresas de la publicidad online utilizan para crear una ficha de consumidor de cada persona y registrar sus intereses, motivaciones y datos personales. Esta es la práctica que luego “permite a terceros asociar esas interacciones con usuarios individuales o perfiles de comportamiento a largo plazo y multiplataforma”, avisan.

Grok, el caso más grave

Grok, el asistente desarrollado por xAI, el laboratorio fundado por Elon Musk, lleva a cabo las prácticas más invasivas de todos los asistentes analizados. En su versión web, las conversaciones son accesibles públicamente por defecto mediante direcciones URL que se transmiten automáticamente a siete redes publicitarias y de analítica externas, entre ellas Meta, TikTok, Google Ads y Twitter Analytics.

Junto con la dirección del chat y el título generado por la herramienta, estos servicios reciben cookies de seguimiento e identificadores de usuario. Además, al generar un enlace para compartir el chat, la plataforma reenvía a Meta y TikTok el texto de la última pregunta introducida y, en el caso de TikTok, una captura de pantalla del propio chat. En las pruebas posteriores con esos enlaces, los investigadores registraron que las conversaciones con Grok recibieron hasta 70 accesos automáticos de rastreadores externos procedentes de 14 países.

elDiario.es se ha puesto en contacto con xAI, la empresa desarrolladora de Grok y también propiedad de Elon Musk, pero no ha recibido respuesta. Esta redacción también se ha puesto en contacto con las compañías detrás de los ocho chatbots restantes. Solo Google, OpenAI y Microsoft han respondido a la solicitud de información.

Este informe malinterpreta cómo funcionan nuestros productos. No tenemos anuncios en Gemini

Google

“Este informe malinterpreta cómo funcionan nuestros productos. No tenemos anuncios en Gemini y utilizamos herramientas como Google Analytics para supervisar el rendimiento técnico, detectar interrupciones del servicio y mantener la fiabilidad de nuestra aplicación web de Gemini”, ha explicado una portavoz de Google. “Cumplimos con las normativas europeas de privacidad y ofrecemos a los usuarios controles transparentes sobre sus datos”, añade.

OpenAI, por su parte, ha indicado que utiliza esas herramientas de análisis de datos para comprender el tráfico de ChatGPT, diagnosticar errores y supervisar su rendimiento. En un comunicado que ha pedido que no sea citado literalmente, la compañía asegura que esa información no se usa con propósitos publicitarios, ni se vende o comparte con anunciantes.

“Tras examinar las acusaciones, no hemos encontrado ninguna infracción de la legislación aplicable ni de la Declaración de privacidad de Microsoft”, ha contestado esta multinacional, que afirma que “la privacidad de los usuarios es una prioridad”, para ella, “incluido Copilot”.

“Prácticas intencionadas”

Con todo, los propios investigadores avisan en su estudio que las prácticas detectadas no son producto de errores o descuidos. “Durante nuestro análisis de riesgos, determinamos que la mayoría de los problemas reportados en este estudio reflejan prácticas intencionadas a nivel de producto en lugar de vulnerabilidades de seguridad explotables”, recalcan los investigadores.

Grok fue, de hecho, el único servicio para el que identificamos un problema de seguridad que podría ser explotado por ciberdelincuentes, “debido a los débiles controles de acceso en los recursos de conversación”. Por ello, avisaron directamente a la plataforma propiedad de Musk el 17 de abril, aunque la compañía no emitió ninguna respuesta oficial ni corrigió la privacidad por defecto de sus enlaces. El 15 de agosto OpenAI actualizó la política de privacidad de ChatGPT para mencionar explícitamente el uso de rastreadores de terceros, aunque los autores aclaran que no pueden confirmar si la medida fue consecuencia directa de su estudio.