“Mucha gente piensa que la inteligencia artificial tiene que ver con la tecnología. No, tiene que ver con el poder de determinar el futuro y en qué futuro estamos entrando: ¿es un futuro donde los oligarcas tecnológicos deciden todo lo relativo a nuestras instituciones democráticas, o es un futuro donde la acción colectiva, la rendición de cuentas democrática y nuestras instituciones están ahí para fijar los límites que necesitamos?”, se preguntaba este jueves Francesca Bria en una rueda de prensa convocada por el Ministerio de Transformación Digital.

Bria es profesora honoraria del University College de Londres, miembro del Consejo Europeo de Innovación de la UE y una reconocida especialista en soberanía tecnológica. También ha formado parte del consejo internacional de expertos que ha asesorado al Gobierno sobre inteligencia artificial desde 2024, un órgano que ha puesto punto y final a su andadura esta semana con la presentación del Manifiesto de Madrid por una IA responsable.

El documento reclama el control democrático de la tecnología, la soberanía digital y el rechazo a la autorregulación de las grandes multinacionales. Entre sus once firmantes están algunas de las voces de referencia en el debate sobre la inteligencia artificial, como el director del Centro de Ética Digital de la Universidad de Yale, el profesor Luciano Floridi; la filósofa Carissa Véliz; o Kate Crawford, profesora universitaria y autora de El Atlas de la IA, un referente en el análisis de las implicaciones sociales, políticas y ambientales de la IA. El comité ha sido presidido por Manuel Castells. Ninguno de los participantes ha recibido remuneración.

“Quiero dejar claro que hemos podido crear un grupo internacional porque el liderazgo que España ha asumido en este ámbito a nivel mundial ha sido reconocido por todos. Por eso creo que no hay que dar por sentado que personas de EEUU, de Australia y de toda Europa aceptaran participar en este proyecto, ya que España tenía la ambición no solo de llevar a cabo esta labor en España o en Europa, sino de ser líder a nivel mundial en un enfoque de la inteligencia artificial que anteponga a las personas y la democracia”, ha destacado Bria.

Una hoja de ruta en la estacada

La política del Gobierno en materia de IA deja varios hitos: el principal, haber liderado la negociación del Reglamento europeo de Inteligencia Artificial durante su Presidencia del Consejo de la UE en 2023, la primera ley sobre esta nueva generación de IA a nivel internacional. También creó la primera agencia nacional europea dedicada a la supervisión de la IA, la AESIA, y puso en marcha junto a la Comisión Europea el primer sandbox regulatorio de IA de la UE, un entorno de pruebas para estudiar cómo aplicar en la práctica las nuevas obligaciones.

España también participó activamente en la creación del comité internacional de 40 expertos sobre IA de la ONU y acogió en Madrid su primera reunión presencial. Una iniciativa que el Gobierno había ensayado ya unos meses antes con la creación de su propio grupo de expertos. Tras dos años de trabajo y reuniones periódicas en el Ministerio, el resultado ha sido un manifiesto que apunta las líneas maestras para la regulación “humanista” de la IA.

Unas pautas que ya no podrá ejecutar el actual Gobierno, al que el final de la legislatura ha llegado con buena parte de su agenda digital aún pendiente. Con casi total probabilidad decaerán sus dos banderas en este campo: la Ley Orgánica para la protección de personas menores de edad en los entornos digitales, que elevaba hasta los 16 años el mínimo legal para abrir una cuenta en redes sociales, creaba una app para verificarla y hacía responsables a las tecnológicas de los daños que causan los algoritmos; y la adaptación de la ley europea de IA, que incluía muchos de los avances propuestos por el Gobierno, como la capacidad sancionadora de la AESIA.

El documento de los expertos internacionales incluye 25 recomendaciones agrupadas en cuatro grandes ejes. Entre sus medidas clave, exige evaluaciones de seguridad independientes previas al despliegue de modelos avanzados de IA y de agentes de IA, la prohibición de las armas autónomas letales o la exigencia de que las empresas desarrolladoras se hagan responsables de los daños que produzca su tecnología.

Sobre este último punto ha tomado la palabra Kate Crawford, australiana, que ha recordado cómo los agentes de OpenAI hackearon el sistema sanitario de su país y la compañía tardó meses en informar a su gobierno. “La vulneración del sistema sanitario australiano fue un ataque grave a algo de lo que todos los australianos estamos profundamente orgullosos, que es nuestro sistema sanitario. Quiero reiterar que hemos alcanzado una línea roja muy clara para la inteligencia artificial, y por eso lanzamos este manifiesto en este momento: ya no es momento de esperar a ver qué pasa, es hora de actuar y de regular”, ha enfatizado.

El manifiesto también reclama la protección de la “autonomía cognitiva frente a algoritmos manipuladores”, reforzar la seguridad de los menores y vigilar el consumo de agua y energía de los centros de datos. Este último punto también cuenta con una regulación aprobada recientemente por el Ejecutivo que no decae por la convocatoria de elecciones al estar configurada como un Real Decreto ordinario que no necesita ser aprobado por el Congreso.

“Hay muchas leyes vivas que vamos a seguir empujando”, ha asegurado el ministro Óscar López, que ha prometido “reintroducir la ley de protección de menores en las redes sociales en el Parlamento” después de las elecciones, “además de seguir luchando para que llegue la legislación europea”.

“Según la Universidad de Stanford, España es el séptimo país del mundo en desarrollo de IA, y el sexto según Microsoft. Este país ha hecho mucho para desarrollar otro modelo de IA, no el que quieren los oligarcas tecnológicos”, ha concluido López: “La respuesta de este grupo de expertos y la respuesta de este gobierno es que hay que hacer, gobernar, regular, hay que hacer algo que nos permita aprovechar esas posibilidades, pero también minimizar los riesgos de la IA. Por eso son tan tramposas las voces que dicen que la regulación no es compatible con la innovación, porque no es verdad. Porque industrias como el automóvil han innovado durante más de un siglo con regulación como la que ahora algunas voces quieren impedir”.

La Junta de Extremadura ha decidido duplicar la partida presupuestaria destinada a impulsar la adopción de la inteligencia artificial (IA) entre pequeñas y medianas empresas y trabajadores autónomos, elevando la dotación global de dos a cuatro millones de euros. La ampliación, publicada en el Diario Oficial de Extremadura (DOE), responde al alud de peticiones registrado tras la apertura de la convocatoria, que superó las 500 solicitudes durante su primera jornada de inscripción.

El incremento de fondos servirá para financiar los expedientes que ya han sido tramitados y no implicará la apertura de un nuevo plazo de solicitud, según ha puntualizado la Junta. La medida forma parte de la estrategia de transformación digital articulada por la Consejería de Economía, Empleo y Transformación Digital para modernizar el tejido productivo autonómico y elevar los niveles de competitividad empresarial.

El director general de Digitalización Regional, Jesús Coslado, ha celebrado la respuesta del sector privado, señalando que los datos demuestran la predisposición del empresariado local por actualizar sus procesos. “Más de 500 solicitudes son la señal de que las pymes y los autónomos extremeños quieren modernizarse, producir mejor y competir en mejores condiciones. La Junta responde duplicando el presupuesto”, ha aseverado.

Financiación del 85% e incentivos a la implantación

El programa subvenciona hasta el 85% del coste total de los proyectos tecnológicos, estableciendo un techo máximo de 100.000 euros por beneficiario. La convocatoria está abierta a pymes, autónomos y unidades económicas que dispongan de centro de trabajo en la comunidad autónoma.

Los fondos pueden aplicarse tanto a tareas de consultoría estratégica y capacitación del personal como a la compra de licencias, desarrollo de programas informáticos, suscripciones tecnológicas y contratación de servicios en la nube. Las soluciones subvencionables abarcan herramientas de automatización de procesos, sistemas para anticipar tendencias de demanda, módulos de detección de fallos de producción, canales avanzados de atención al cliente y plataformas de ciberseguridad para mitigar el fraude.

En el plano financiero, la administración regional abonará de forma anticipada el 60% de la cuantía concedida tras la resolución favorable, mientras que el 40% restante se liquidará una vez justificada la inversión realizada, todo ello sin requerir avales o garantías previas por el anticipo.

Crecimiento del sector tecnológico en la región

El fuerte interés por esta línea de incentivos coincide con una fase de dinamismo en el ámbito digital extremeño. Durante el año 2025, la creación de puestos de trabajo en el sector tecnológico regional creció a un ritmo ocho veces superior al promedio del mercado laboral general, rozando los 9.000 profesionales en activo.

Según los datos de la Junta, las actividades digitales concentraron el 17% de todo el empleo neto generado en Extremadura a lo largo del pasado ejercicio, ofreciendo salarios medios un 38,5% por encima de la media de los sectores económicos tradicionales. Desde 2024, la administración autonómica ha movilizado más de 20 millones de euros en programas dirigidos a mejorar la conectividad, la capacitación tecnológica y la competitividad de las empresas del territorio.

En pantalla, vemos a Pedro Sánchez en la declaración institucional en la que anunció el adelanto electoral el pasado lunes, pero algo estrambótico descuadra: a su lado hay un hombre trajeado de brazos cruzados que le mira, se gira, y mira al espectador: “Este tipo nos quiere llevar a la dictadura. Mucho cuidado en las elecciones, hará lo que haga falta para ganar”. La secuencia cierra con un texto, blanco sobre negro, que reza: “No votes por correo”, la advertencia que la presidenta de la Comunidad de Madrid, Isabel Díaz Ayuso, agita desde la convocatoria de elecciones.

El vídeo surrealista, encuadrado en La Moncloa, ha sido creado con Inteligencia Artificial para insertar dentro de este escenario a quien lo publica: Ismael Sirio, diputado por el PP en la Asamblea de Madrid y director de comunicación online de los populares madrileños.

“Sé que [a los ciudadanos] les indigna ver cómo sus intereses, los intereses de la gente de a pie, son pisoteados en el Parlamento en beneficio de unos pocos”, aseguraba Sánchez, refiriéndose a los decretos de vivienda tumbados por PP, Vox y Junts. Estas declaraciones sí son reales, aunque la IA amplía el plano que se ve en pantalla, ya que la emisión de La Moncloa no mostraba al presidente de cuerpo entero. Ismael Sirio interpreta esas palabras como un intento de desacreditar al Congreso de los Diputados y por tanto, una deriva dictatorial.

No es la primera vez que el diputado experimenta con la IA y el tono hiperbólico y sensacionalista. Si retrocedemos en su perfil, hace tan solo siete días, publicaba un vídeo en el que habla de la crisis migratoria en Ceuta con música tecno, aparentemente creada por IA, en la que hablaba en estos términos: “¿Y a mí qué coño me cuentas? ¿Es mi problema que haya desigualdad entre España y Marruecos? ¿Los tengo que acoger a todos? No.”. Seguidamente, a medida que acelera el ritmo de la música enumera: “Peleas, navajazos, ocupaciones, puñaladas...” Incluso habla de supuestos vídeo de “mujeres gritando que están siendo violadas”.

“Ni se les ocurra votar por correo”, aseguraba Ayuso el pasado lunes, apuntándose explícitamente a las teorías conspiranoicas de la ultraderecha sobre el fraude electoral para preparar el terreno antes las elecciones generales del 29 de noviembre. Lejos de retractarse, parece que su partido dobla la apuesta y juega con la IA para difundirla todavía más.

La publicación Sirio en Instagram ha sido recibida entre risas por sus compañeros de partido. Alfonso Serrano, Secretario General del PP de Madrid: “¿Otra vez les tienes bailando?”, se burlaba en la red social X, refiriéndose a la noticia que sacaba el diario 'El País' sobre el vídeo del diputado.

Otro elemento llamativo de la publicación son los “colaboradores” etiquetados en ella: además de dos cuentas de Instagram oficiales del partido, figuran otros tres perfiles que difunden contenido de corte derechista pero que no están formalmente vinculados al partido. La cuenta 'Wall Street Wolverine', un perfil conocido y con cientos de miles de seguidores, 'España Unida' y 'Patriotas', dos cuentas con algo más de doscientos mil seguidores que publican contenido muy similar entre sí y colaboran a menudo con las Nuevas Generaciones del PP.

Especialmente el 'Wall Street Wolverine', es un perfil con gran difusión en burbujas de extrema derecha en redes sociales, algo que el diputado parece estar usando en su favor para dar mayor difusión a sus publicaciones.

Una carta escrita hace más de 200 años vuelve a ser protagonista después de que un ingeniero haya logrado descifrar su contenido. El documento, vinculado a Napoleón Bonaparte y enviado en 1809 al general francés Auguste de Marmont, había permanecido sin descifrar durante décadas, después de que se perdiera la clave utilizada para codificar el mensaje.

La primera línea de la carta se escribió en francés, pero las 24 líneas siguientes consisten en números de dos dígitos, letras sueltas y símbolos inventados. En total, el código contenía alrededor de 1.300 signos desconocidos, pero la historia de este mensaje ha cambiado ahora gracias a Carter Church, ingeniero de una empresa de ciberseguridad.

Church ha descifrado el código utilizando inteligencia artificial y ha compartido lo que Bonaparte trató de comunicar con aquellos símbolos. “Utilicé GPT-6 Astra para descifrar un mensaje cifrado sin resolver dirigido a uno de los generales de Napoleón que llevaba 217 años sin poder leerse”, compartió el ingeniero en su cuenta de X.

Según Church, el modelo de OpenAI completó todo el proceso en unas seis horas, desde la transcripción y clasificación de los diferentes símbolos hasta el análisis criptográfico y la comprobación del texto final. El trabajo concluyó que, en la carta, Napeolón detalló la ubicación de todos los ejércitos franceses y aliados, e instó a Marmont a “no dejarse intimidar” por su posición aislada.

El contexto de la carta

En 1809, Austria se preparaba para volver a enfrentarse a Napoleón, aprovechando que buena parte de sus tropas estaban ocupadas en España. Los Habsburgo habían reconstruido su ejército y el archiduque Carlos, uno de sus mejores generales, estaba listo para atacar. La guerra parecía inminente, pero Napoleón tenía un problema.

El general Marmont, uno de sus militares de mayor confianza, estaba aislado en Dalmacia (Croacia), al mando de alrededor de unos 13.000 soldados. Si Austria atacaba, sus tropas quedarían separadas del resto del ejército francés, así que el 16 de marzo de ese año, Napoleón tomó una decisión. Ordenó enviarle información a Marmont sobre las posiciones militares francesas y aliadas para advertirle de la situación.

Bonaparte escribió desde París a su hijastro Eugenio, virrey de Italia, y le pidió que fuera él quien preparara la misiva al general francés con estos datos, pero le dio una condición. El texto debía ir “dans une lettre chiffrée et par un officier intelligent”, es decir, en una carta cifrada y entregada por un oficial de confianza.

Mientras algunas personas del mundo de las artes y la cultura tratan de mantener la inteligencia artificial al margen de sus procesos creativos, apostando por “la verdad” de su labor, otros como Ben Affleck han comenzado a incorporar esta tecnología como una herramienta más. Así lo confesó el propio actor y director de cine hace unos días.

“Utilicé [la IA] para muchas cosas en esta película”, comenzó explicando al periodista de Bloomberg, Lucas Shaw, durante una conversación sobre Animals [Animales], su próximo proyecto en el que se pone al frente como cineasta. Affleck, sin embargo, no dio demasiados detalles en este encuentro sobre cómo había hecho uso de esta tecnología en el desarrollo del filme.

“Me da un poco de reparo señalar cuáles son, o incluso hablar de ello, porque en mi trabajo intentamos fomentar la ilusión de la realidad, ¿no?”, añadió en aquella entrevista. El actor, no obstante, intentó entonces justificar la decisión: “Sí, la usamos, y de hecho, creo que fue un buen ejemplo de cómo usar la IA de forma ética porque es una película muy humana”.

La cosa no quedó ahí, y después de compartir con el mundo que Animals se había creado con la ayuda de la IA, otros medios decidieron preguntarle por el proceso. Así, a The Hollywood Reporter, Affleck le dio un poco más de contexto. “No usaría algo que se entrene o haya aprendido de ningún trabajo protegido por derechos de autor, o que sea una inteligencia creada por un colega mío o alguien a quien admiro. Por eso creamos un conjunto de datos propio, para que no fuera necesario extraer información”.

Su relación con la IA viene de lejos

El actor de Pearl Harbor lleva varios años trabajando en el campo de la inteligencia artificial sin que muchos estuvieran al corriente de ello. A principios de 2026, vendió su empresa de IA, InterPositive, a Netflix por casi 600 millones de dólares. En aquel momento, no mucha gente conocía a esta compañía que desarrolla herramientas de IA para ayudar a cineastas y creativos.

“En Netflix, por ejemplo, te preguntan: ‘¿Quieren usar esto? ¿Quieren probarlo?’ Se trata de un conjunto de herramientas específicas. No se trata de crear personas falsas ni de reemplazar a nadie. Se trata de otra herramienta interesante de postproducción, y si se nota o se identifica, se ha arruinado. Es como un mal efecto visual, como una mala actuación”, explicó sobre el proceso de Animals.

La película narra la historia de un candidato a la alcaldía de Los Ángeles (Affleck) cuyo hijo es secuestrado y en la que él y su esposa (Kerry Washington) se ven obligados a hacer lo posible por conseguir el rescate. El thriller, que se estrenará en algunos cines de Estados Unidos, llegará a Netflix el próximo 9 de octubre envuelto en polémica. ¿La IA ha llegado al cine para quedarse?

Es difícil abrir hoy una red social sin toparse con un vídeo corto que augure el fin del trabajo, la pérdida de control sobre las máquinas o la llegada de una inteligencia superior. Son mensajes diseñados para el impacto rápido que instalan un clima de inquietud casi constante.

Sin embargo, esta alarma no nace únicamente de los algoritmos de TikTok o Instagram; en las últimas semanas se ha alimentado de hechos muy reales. Grandes tecnológicas han llegado a incluir advertencias sobre 'riesgos existenciales' en los folletos destinados a sus inversores, al tiempo que se sucedían sonadas dimisiones de investigadores de seguridad preocupados por las prisas en comercializar los modelos más avanzados.

Frente a este ruido ambiental que oscila entre la fascinación y el catastrofismo, conviene dar un paso atrás y quitarle a la tecnología esa aura de magia o amenaza incontrolable.

La inteligencia artificial que conocemos hoy no es una entidad consciente ni un fenómeno misterioso: es la consecuencia directa del aumento masivo de la capacidad de cómputo y de almacenamiento de datos que la humanidad ha alcanzado en las últimas décadas.

Es infraestructura, son matemáticas y, sobre todo, son datos. Comprender esto no le resta mérito a la innovación, pero nos devuelve algo fundamental: la tranquilidad y el control.

El mito del agente que actúa solo

En el centro del debate actual se encuentran los llamados 'agentes autónomos', sistemas capaces de encadenar tareas complejas y tomar decisiones en tiempo real. Coincidiendo con alertas recientes en materia de ciberseguridad sobre la vulnerabilidad de estas herramientas, ha vuelto a surgir el temor a que la tecnología “escape” a la supervisión humana.

Un agente es tan autónomo como el equipo humano que lo ha diseñado ha decidido que sea.

Una inteligencia artificial no cobra vida por iniciativa propia para mover fondos en un banco, gestionar el inventario de un hospital ni, mucho menos, lanzar un ciberataque de forma espontánea contra una infraestructura crítica.

La autonomía no es un fenómeno mágico, sino un parámetro explícito de diseño de software. La responsabilidad, por tanto, siempre es y será humana

Si un sistema causa un fallo de seguridad o provoca una intrusión no deseada, no es porque la máquina haya desarrollado voluntad, sino porque un actor humano la ha programado, alimentado y dotado de los permisos y accesos necesarios para operar.

La autonomía no es un fenómeno mágico, sino un parámetro explícito de diseño de software. La responsabilidad, por tanto, siempre es y será humana.

Los dos pilares de la seguridad: datos de calidad y marcos de confianza

Si la autonomía depende del diseño, ¿cómo garantizamos que estos sistemas funcionen a favor de la sociedad y no en su contra? La respuesta se apoya en dos pilares complementarios.

El primero es la gobernanza y gestión de los datos (los principios que impulsamos desde marcos profesionales como DAMA). Una inteligencia artificial es tan precisa, justa y segura como la calidad de los datos con los que ha sido entrenada. Si alimentamos un sistema con datos sesgados, desactualizados o de procedencia dudosa, el resultado será defectuoso.

Una buena estrategia de datos no consiste en acumular información sin control, sino en garantizar su trazabilidad, su precisión, su ciberseguridad y el respeto absoluto a la privacidad de las personas.

Una buena estrategia de datos no consiste en acumular información sin control, sino en garantizar su trazabilidad, su precisión, su ciberseguridad y el respeto absoluto a la privacidad de las personas

El segundo pilar son los marcos de IA confiables. A menudo se habla de la necesidad de 'inventar' una ética para las máquinas, cuando en realidad las directrices ya están redactadas y consensuadas internacionalmente. Principios como la transparencia, la explicabilidad de los algoritmos, la no discriminación y, especialmente, la supervisión humana (Human-in-the-Loop) forman parte de los estándares técnicos globales.

El desafío de hoy no es teórico, sino práctico: articular los mecanismos para asegurar que se apliquen estos marcos de forma verificable

El desafío de hoy no es teórico, sino práctico: articular los mecanismos para asegurar que se apliquen estos marcos de forma verificable

Por qué regular no es frenar

Aparece aquí con frecuencia una narrativa recurrente: la que sostiene que exigir normas y garantías sofoca la innovación y nos condena a la zaga tecnológica. Sin embargo, la historia de la industria demuestra lo contrario.

La aviación comercial y el sector farmacéutico son dos de las industrias más estrictamente reguladas del planeta. Nadie se sube a un avión pensando en la burocracia que ha exigido certificar su turbina, ni duda al comprar un medicamento en la farmacia de su barrio pensando que las inspecciones sanitarias han frenado el progreso de la medicina.

Fueron precisamente los controles de calidad rigurosos, las homologaciones y la supervisión pública los que generaron la confianza indispensable para que la sociedad adoptara masivamente el transporte aéreo y los fármacos en su vida cotidiana.

Fueron precisamente los controles de calidad rigurosos, las homologaciones y la supervisión pública los que generaron la confianza indispensable para que la sociedad adoptara masivamente el transporte aéreo y los fármacos en su vida cotidiana

Con la tecnología ocurre exactamente lo mismo. El despliegue de la normativa europea (EU AI Act) y de iniciativas como el Plan IA360 no debe interpretarse como una traba burocrática, sino como la cinta de seguridad que exige el mercado.

Supervisar los modelos de alto riesgo, crear entornos de prueba y exigir soberanía en los datos y algoritmos de la administración no frena la innovación. Al contrario: son las condiciones indispensables para construir una confianza real.

La ciudadanía en el centro

La tecnología no es un fenómeno meteorológico que debamos padecer como espectadores asustados desde la pantalla del móvil. Es una herramienta de transformación extraordinaria que, bien encauzada, puede mejorar nuestros servicios públicos, optimizar el uso de la energía, agilizar la atención sanitaria y crear empleo de alto valor añadido.

Para lograrlo, la clave está en pasar del consumo pasivo de contenidos alarmistas a exigir una tecnología transparente. La verdadera innovación no es la que avanza a ciegas pidiendo perdón después, sino la que se diseña desde el primer día con rigor en el dato, principios éticos claros y un objetivo inequívoco: servir a las personas.

Las cámaras instaladas para la prueba hicieron de ojos para cuatro modelos de inteligencia artificial, que recibían imágenes del recorrido mientras controlaban un Toyota Corolla entre conos. DrivingBench puso así a GPT-6 Astra, Claude Fable 5.1, Grok 4.6 y GPT-5.6 Sol ante una tarea para la que estos sistemas generalistas no habían sido concebidos específicamente.

DrivingBench prueba cuatro modelos al volante de un Toyota

El experimento de DrivingBench buscaba comprobar hasta dónde podía llegar un modelo generativo al gobernar un coche real mediante la información captada en el circuito. La prueba se desarrolló a velocidad muy baja y con una persona preparada para accionar el freno, unas condiciones que limitaban el riesgo mientras permitían observar cómo respondían los modelos fuera de sus usos habituales.

La mayor distancia llegó con GPT-6 Astra, que completó el trazado en su segundo intento y recorrió 134,7 metros en cinco minutos y 22 segundos. Según GB News, esa marcha equivalía a unas 0,94 millas por hora, cerca de 1,5 kilómetros por hora.

DrivingBench recoge que Astra fue el único modelo capaz de terminar, mientras Claude Fable 5.1 alcanzó aproximadamente la mitad en su tercera prueba y había igualado así el avance logrado por Astra en su primera salida.

El rendimiento de GPT-5.6 Sol quedó muy por debajo, con cerca del 6% del circuito completado en sus tres intentos y 17,1 metros recorridos en el tercero. Ese registro apenas mejoró en dos metros la primera prueba, pese a que después de cada salida los modelos recibían la petición de revisar sus errores. Grok 4.6 llegó a 22,6 metros en su mejor tentativa, alrededor del 11% del trazado, y tampoco consiguió superar el recorrido completo.

Algunos sistemas rechazaron inicialmente conducir el vehículo

Antes de comprobar cómo giraban, los investigadores tuvieron que conseguir que algunos sistemas aceptaran ponerse al volante, porque detectaban que estaban manejando un vehículo real que podía causar daños y rechazaban la tarea por motivos de seguridad.

DrivingBench señaló que GPT-6 Astra destacaba entre los modelos que se negaban incluso con el aparcamiento vacío, límites de velocidad reducidos y una persona preparada para intervenir. Presentar el ejercicio como una simulación tampoco resolvió siempre el problema, ya que las imágenes podían revelar al modelo que estaba ante un coche real. El equipo terminó añadiendo la palabra sandbox al nombre de uno de los componentes y consiguió así que los modelos condujeran de forma regular.

Una línea diagonal de conos concentró buena parte de los tropiezos, porque varios modelos no identificaban correctamente por qué lado discurría el carril antes de la primera curva. DrivingBench atribuyó ese fallo a la percepción del trazado, y los resultados muestran que casi todos los intentos que no llegaron a mitad del circuito quedaron detenidos antes de superar ese primer giro. Fable 5.1 también dedicó gran parte de una prueba a procesar información, pues solo estuvo conduciendo 31 de los 190 segundos registrados.

Ramabadran descarta actualmente el uso de modelos generalistas

Aditya Ramabadran, uno de los informáticos responsables de DrivingBench, situó el alcance del ensayo lejos de una aplicación habitual en declaraciones a The Register, donde señaló que usar hoy un modelo generalista avanzado para conducir “definitivamente no resulta viable”.

El investigador planteó otra vía para el futuro, basada en reducir modelos generalistas capaces y convertirlos en sistemas menores que puedan ejecutarse en el propio vehículo. DrivingBench reconoce además que cada serie de intentos solo pudo evaluarse una vez y que un estudio más amplio necesitaría nuevas repeticiones y circuitos diferentes.

Los sistemas creados específicamente para conducción autónoma conservan por ahora una ventaja frente a este tipo de experimentos con modelos generalistas, y Waymo ya opera servicios de taxi capaces de transportar pasajeros sin personal a bordo preparado para tomar el control.

El ensayo de DrivingBench, por lo tanto, deja una distancia amplia entre conseguir que un chatbot mueva un coche y disponer de una tecnología apta para circular en condiciones reales, con la seguridad y la evaluación todavía como límites principales del trabajo futuro.

Una vez cada cierto tiempo, los científicos se topan con un resultado tan sorprendente que dudan sobre sus propios cálculos. La última de estas sacudidas se produjo a finales de la década de 1990, cuando el australiano Brian Schmidt y otros dos astrofísicos se dieron cuenta de que el universo no se estaba ralentizando, como esperaban, sino que su expansión se estaba acelerando y conduciéndonos hacia un futuro en el que las galaxias se separan a tal distancia que todo es oscuridad y frío.

Reconocido con el premio Nobel de Física en 2011, Schmidt participa estos días en el festival Passion for Knowledge, que se celebra en San Sebastián organizado por el DIPC. Charlamos con él en las horas previas a su conferencia, sobre las derivadas de su hallazgo, la irrupción de la inteligencia artificial en el mundo de la investigación científica y las nuevas incógnitas que se abren en el mundo de la cosmología. 

Usted protagonizó uno de los descubrimientos más asombrosos de la historia de la ciencia, porque encontraron exactamente lo contrario de lo que esperaban. ¿Cómo lo recuerda?

Empezamos intentando medir cuánto se estaba frenando el universo, y cuando medimos, en cambio, vimos que se estaba acelerando. Lo primero que piensas es que has cometido un error terrible. Así que pasas muchísimo tiempo repasándolo todo una y otra vez en todas las direcciones posibles. Y, cuando finalmente te convences de que no hay ningún error que conozcas, empiezas a preocuparte por las cosas que no conoces y que nadie conoce. Por un lado piensas en un gran descubrimiento, y por otro te preocupa haber pasado por alto algo en la ecuación de Einstein por un factor de dos. Porque parece demasiado descabellado para creérselo.

¿Puede explicar de forma sencilla por qué las supernovas Tipo Ia eran tan importantes, qué esperaban encontrar y qué vieron finalmente?

Las supernovas de Tipo Ia son explosiones de estrellas enanas blancas que actúan como “candelas estándar”, lo que nos permite calcular a qué distancia están según lo brillantes o tenues que se ven desde la Tierra. En 1994 mis colegas en Chile demostraron que podíamos usar estas supernovas para medir distancias cósmicas con una precisión sin precedentes, con un margen de error de solo el 7%. Así que diseñamos un experimento para fotografiar y descubrir supernovas lejanas con las nuevas cámaras digitales que se estaban construyendo por primera vez y luego observarlas con el telescopio Keck de 10 metros en Hawái para medir su desplazamiento al rojo (redshift), o lo que parece una velocidad alejándose de nosotros. Así es como funcionó, y se debió a que todas esas cosas coincidieron en el 94.

¿Qué nos enseña esto sobre la ciencia? Una vez dijo que no podemos prejuzgar al universo con ideas fijas.

Bueno, una de las cosas que creo que la gente no comprende es que la ciencia siempre supone que las cosas pueden estar equivocadas y seguimos poniéndolas a prueba. Así que no prejuzgas al universo. De hecho, tienes que observarlo, medirlo y ver qué está sucediendo realmente, en lugar de lo que pensamos que debería suceder. Y a veces el universo te va a sorprender, porque no lo entendemos todo. Es fundamental que la gente entienda que la ciencia avanza haciendo predicciones cada vez mejores. Cuanto más aprendemos, mejor podemos predecir. Nada es exactamente perfecto a la primera. Lo hemos visto, por ejemplo, con el cambio climático: no lo entendemos perfectamente, pero podemos predecirlo cada vez mejor y somos bastante buenos haciéndolo. Desafortunadamente, a pesar de las dudas de algunos, las predicciones eran bastante buenas; no eran perfectas, pero ahora son mucho mejores. Así es como funciona la ciencia.

Muchas veces nos centramos en los momentos “Eureka”, pero los momentos en que algo no encaja, también son muy importantes, ¿verdad?

Sí. En nuestro caso era como “Dios mío, ¿qué hemos hecho mal?”. Era una locura, pero simplemente suponíamos que encontraríamos un fallo. Es un gran momento y ciertamente asombroso haber estado en medio de todo ello, haber nacido en el momento adecuado.

Su hallazgo tuvo implicaciones muy importantes en términos cosmológicos y puso el foco en la energía oscura. ¿Cómo cambió la visión del universo?

Bueno, cuando te falta el 70% del universo, resulta que afecta a muchas cosas. El modelo cosmológico estaba realmente en apuros en 1998. Los teóricos que trataban de entender la inflación cósmica —aquello que nos impulsó justo en el momento del Big Bang— querían que hubiera suficiente materia para que el universo fuera plano, pero simplemente no encontrábamos suficiente masa ni suficiente gravedad en el universo cuando mirábamos las galaxias; nos faltaba un factor de cuatro o cinco. 

Por otro lado, al medir la velocidad a la que se expandía el universo —la constante de Hubble—, la edad máxima posible del universo era de unos 13.500 millones de años. Pero si el universo se estuviera frenando, tendría que ser más joven que eso, quizás 11.000 o 12.000 millones de años, y estábamos bastante seguros de que había estrellas más viejas que eso en el universo. Así que el descubrimiento de la aceleración hizo que el universo fuera más viejo, de unos 13.800 millones de años. 

Y también significó que no solo teníamos gravedad normal, sino esta energía oscura. Es una fuerza que hace que la gravedad empuje de forma repulsiva, pero también hace que el espacio se curve al igual que la materia. Al representar el 70% del universo, nos daba la materia suficiente para hacer el universo plano, como querían los teóricos de la inflación. Así que solucionó un montón de problemas y nos dio una claridad con la que podíamos entender el universo más o menos desde el principio hasta el final.

Ustedes recuperaron en cierta forma algo que Einstein llamó “su mayor error” o un “mal chiste”, la constante cosmológica, pero para demostrar que el universo se aceleraba y no que era estático. ¿Einstein tenía razón por los motivos equivocados?

Sí. Si piensas en cómo funciona la ciencia, él miró sus ecuaciones y dijo correctamente que podía añadir esa constante. La añadió por la razón equivocada, pero luego la examinó y vio que estaba bien que estuviera ahí, que no era obligatoria pero sí posible. Es una versión más precisa y amplia de su teoría. Así que estaba en lo cierto por la razón equivocada, pero aun así fue una aportación muy importante que hizo hace tantos años, y es el único ingrediente que conocemos capaz de hacer que el universo se acelere, así que fue muy útil.

En un cuento de Las Cosmicómicas, Italo Calvino describía un universo en expansión que la comunicación entre galaxias era imposible porque al expandirse quedan fuera de nuestro alcance. Su descubrimiento incluso lo empeora, ¿qué implicaciones tiene?

La idea de que el horizonte cosmológico excluye cosas con las que actualmente podríamos estar conectados en el futuro es asombrosa. A cierto nivel es difícil de aceptar, pero está absolutamente permitido por la relatividad general. Siempre hemos estado atados a la idea de que el horizonte —lo que podemos ver en el universo— puede estar más allá del horizonte. Siempre hemos estado limitados por el hecho de que ahora mismo no podemos ver cosas porque están demasiado lejos; solo podemos ver hasta hace 13.800 millones de años. El universo simplemente no es lo suficientemente viejo como para que veamos lo demás. Eso siempre ha sido una característica del modelo. Si el universo no se acelerara, en un tiempo infinito podrías llegar a ver todo el universo, sea infinito o finito, quizás justo antes de que todo colapse.

La idea de que el horizonte cosmológico excluye cosas es asombrosa. Si el universo no se acelerara, en un tiempo infinito podrías llegar a verlo entero

Pero este no es el caso. Según sus descubrimientos, nos dirigimos a un futuro en el que todo se vuelve más oscuro, en un mar de nada donde todo se irá alejando y apagando…

Todo se desvanece. Es una consecuencia de lo que descubrimos y es un poco difícil de aceptar, pero parece ser lo que ocurre. Todas esas galaxias que vemos ahora con el telescopio espacial James Webb (JWST), la luz que están emitiendo en este preciso instante, nunca llegará a nosotros.

Hablando del James Webb, gracias a sus observaciones han encontrado esos “pequeños puntos rojos” que creen que son agujeros negros supermasivos primordiales o galaxias tempranas. ¿Cómo espera que estas nuevas herramientas cambien nuestra imagen del universo?

Los puntos rojos van a ser un hallazgo enorme porque realmente parecen agujeros negros gigantescos de un millón de veces la masa del Sol con una cubierta de hidrógeno a su alrededor, brillando como estrellas gigantes. Averiguar por qué están ahí va a ser muy interesante porque no anticipábamos en absoluto su existencia. Siempre hemos tenido el misterio de por qué cada galaxia tiene un agujero negro de un millón de masas solares en su centro o por qué la galaxia elíptica más cercana tiene uno de mil millones de masas solares, y cómo se crearon. Esos pequeños puntos rojos parecen ser la respuesta. Aún tenemos que averiguar cómo se crearon, pero el James Webb nos está diciendo que el principio del universo, las primeras estrellas y galaxias, fue mucho más loco de lo que jamás imaginamos. Vamos a aprender sobre el nacimiento del universo durante la próxima década y es apasionante. No es aburrido, sino todo lo contrario; es mucho más emocionante de lo que pensábamos. Quién sabe qué aprenderemos, pero parece que de algún modo el universo fue capaz de construir agujeros negros de un millón de masas solares nada más salir de la caja, y eso es una verdadera sorpresa.

El universo fue capaz de construir agujeros negros de un millón de masas solares nada más salir de la caja, y eso es una verdadera sorpresa

¿Lo más emocionante en ciencia es no entender algo y luego aprender lo que es?

Creo que lo más emocionante en ciencia es no entender algo, aprender lo que es y saber que tenemos un montón de otras cosas que tampoco entendemos y que también podemos resolver. Lo peor que podría pasarnos en ciencia sería entenderlo todo. Lo verdaderamente emocionante es cuando de repente entiendes algo que no tenía sentido. Nuestro descubrimiento dio sentido a la cosmología, pero no todo está resuelto; están surgiendo algunos problemas a medida que hacemos modelos cada vez mejores. Así que no creo que nuestra comprensión vaya a cambiar por completo, pero puede evolucionar un poco a lo largo de las próximas décadas. 

Pensar que estamos en un momento especial del universo en el que aún podemos ver las galaxias resulta inquietante, usted habla de la posibilidad de que existan otros universos. ¿Por qué?

Debemos aceptar el hecho de que no somos omniscientes. No podemos saberlo todo, pero sabemos que existimos y observamos. Tenemos que estar en un universo que nos permita existir y observar. Y resulta que, en el número infinito de posibilidades de universos —si hay más de uno—, eso hace que nuestro universo sea especial. La primera pregunta es: ¿hay un solo universo o muchísimos universos? Tienes que empezar preguntándote qué es la “nada”, la nada sin leyes físicas. Es difícil de concebir. Se puede argumentar de forma plausible, aunque no estrictamente científica, que el conjunto de todos los universos es probablemente infinito, siempre ha existido y siempre existirá en todas las direcciones. Eso sugiere que la parte que vemos, que es finita, no es todo lo que hay. Y si eso es cierto, tenemos que estar en una parte que permita nuestra existencia.

La otra forma de pensarlo es preguntarse cuándo ha habido planetas desde los cuales seres como nosotros pudieran hacer descubrimientos. El 98% de todos los planetas que existirán en el universo ya se han formado. Si lo miras así, este es un momento bastante promedio para que alguien pueda observar el universo; no es tan probable estar en miles de millones de años en el futuro porque no habrá tantos planetas en comparación con ahora, ni los había justo después del Big Bang. Así que si te preguntas cuándo tendríamos que existir para poder hacer la medición que hicimos, el momento actual no es un mal momento; es un momento bastante promedio

Ustedes usaron las supernovas Tipo Ia como referencia, al igual que Henrietta Leavitt usó las cefeidas. ¿Ha pensado alguna vez en cómo ella y otras mujeres han sido ignoradas históricamente en la ciencia, e incluso todavía hoy en los Premios Nobel?

Henrietta Swan Leavitt estuvo en una época dorada para las mujeres astrónomas en su momento, aunque duró poco. Respecto a la situación actual, el comité del Premio Nobel cometió omisiones terribles con Lise Meitner o con Jocelyn Bell Burnell en el descubrimiento de los púlsares; omisiones verdaderamente lamentables. Creo que están aprendiendo, pero nuestro campo ha sido muy lento en incorporar a las mujeres. Ahora estamos mejor, somos de las mejores ciencias físicas y espero que tengamos más mujeres reconocidas. Andrea Ghez, una astrónoma extraordinaria que estudia el agujero negro del centro de la galaxia, fue la primera astrónoma en ganar el Nobel de Física. No debería haber sido la primera, pero lo es, y ojalá vengan muchos más. Tenemos que reconocer que no lo hemos hecho bien.  

El comité del Premio Nobel cometió omisiones verdaderamente lamentables con algunas mujeres. Tenemos que reconocer que no lo hemos hecho bien

Usted trabaja en los cielos australes, que fueron una sorpresa para los astrónomos europeos. ¿Mirar el universo desde el hemisferio sur ayuda a apreciar el valor de mirar desde un ángulo diferente?

Una de las particularidades del cielo del sur es que allí está el centro de la galaxia y las Nubes de Magallanes, por lo que es una parte fundamental del cielo. Se suele decir que habríamos descubierto que estábamos en una galaxia mucho antes si los primeros astrónomos modernos hubieran estado en el hemisferio sur, porque desde aquí es mucho más evidente. Cuando solo tienes una vista parcial del universo, puedes cometer errores de bulto. Y eso aplica a toda la ciencia: nunca lo ves todo, y a medida que ves más, aprendes más. En ciencia debemos recordarnos que nunca lo sabemos todo y que distintas perspectivas son esenciales. Por ejemplo, los astrónomos aborígenes australianos han estado mirando el cielo durante 60.000 años, y es importante recordar toda esa experiencia cuando hablamos de supernovas antiguas, porque ellos llevan hablando de estos eventos durante milenios.

¿Está siguiendo la polémica sobre la inteligencia artificial y las matemáticas de las últimas semanas? En su campo, ¿también siente que la IA está cambiando la forma de trabajar de los científicos?

Es muy interesante. Los matemáticos estaban acostumbrados a ser los únicos capaces de resolver esos problemas complejos y es difícil de digerir ver que el equivalente a una calculadora avanzada puede hacerlo. La IA ha sacudido su campo. Va a ser cada vez mejor conociendo todo lo que los humanos han hecho. Si estás dispuesto a alimentarla con un reactor nuclear de un gigavatio (frente a los 20 vatios que consume mi cerebro), va a ser capaz de superarme en muchas cosas. Puede que no sea barato, pero tendrá más conocimiento que cualquier ser humano individual y podrá resolver problemas que los humanos nunca han podido resolver. En astronomía, mis datos son muy complejos y desordenados; nuestro campo no se limita a resolver demostraciones, sino que está limitado por los datos. Usamos la IA para procesar petabytes de datos, pero nosotros seguimos al mando. Es crucial que los matemáticos, nosotros y toda la sociedad recordemos que la IA está para servirnos y debemos ser responsables de ella. Si hago que la IA haga algo increíble, me llevo el crédito; si hace algo terriblemente malo, también supone las consecuencias. Parece que no estamos pidiendo cuentas a la gente por las cosas malas que hace la IA, y eso debe parar de inmediato; las leyes para ello ya existen.

Si la IA pudiera hacer todo lo que hacen los humanos, ¿qué haríamos nosotros? ¿Estaríamos satisfechos? Tomar margaritas sin hacer nada no es la utopía, es una distopía

Quizás en un futuro no muy lejano la IA tome todos los datos recopilados y empiece a responder las grandes preguntas, como por qué estamos aquí. ¿Habláis de esto en vuestro campo?

Sí, hablamos de ello. Pero esto ya lo describió Douglas Adams con la gran simulación donde la respuesta al sentido del universo es 42 y nadie entiende nada. La pregunta que yo me haría es: si la IA empieza a hacerse preguntas que a los humanos no les interesan, ¿nos importa? Queremos que nos sirva. ¿Por qué íbamos a entregar nuestras vidas a la IA? Las matemáticas o la astronomía tratan sobre la comprensión humana. Si la IA pudiera hacer todo lo que hacen los humanos, ¿qué haríamos nosotros? ¿Estaríamos satisfechos? Tomar margaritas sin hacer nada no es la utopía, es una distopía; es una vida sin sentido, y hay que tener cuidado con lo que se desea.

La gente orgullosa de ser ignorante terminará siendo servil a las máquinas o a quienes las controlan

Paradójicamente, mientras las máquinas aprenden todo el conocimiento humano, las personas lo olvidan y cada vez hay menos alfabetización y cultura matemática. ¿Cómo vive un Premio Nobel en una época donde hay gente orgullosa de su ignorancia?

La gente orgullosa de ser ignorante terminará siendo servil a las máquinas o a quienes las controlan. Pagarán un precio muy alto por su ignorancia y me da lástima por ellos. Lo que le digo a mis estudiantes es que si alguien sin educación en la otra punta del planeta puede hacer con la IA lo mismo que haces tú, no tienes un buen futuro. Tienes que ser alguien que sepa lo suficiente para hacer que la IA trabaje para ti. La utopía sería que todos en el planeta supieran usar la IA para ser más productivos y tener una vida con sentido. Dejar que la IA haga tu trabajo sin aprender tú es peligroso; aprender requiere años. Me preocupa que solo unos pocos disciplinados lo hagan y se conviertan en los “reyes del futuro” que controlen la IA y al resto de la humanidad.

Usted donó parte del dinero de tu Premio Nobel a la educación y a profesores en escuelas. Los recientes informes PISA muestran peores resultados que nunca. ¿Cómo se siente al respecto?

Hay que mirar PISA en detalle. Las cosas llevan cayendo mucho tiempo y la pandemia no ayudó. La IA está empezando a influir ahora; me preocupan más los resultados de PISA de dentro de tres años. Además, la caída en PISA es un problema del mundo occidental, no de China, Corea o Singapur. En Australia, los hijos de inmigrantes obtienen mejores resultados porque hay una cultura familiar que prioriza la educación. Finlandia ha bajado porque ha adoptado los aspectos culturales occidentales. La actitud de las familias hacia el aprendizaje es crucial.

Enseñar desde parvulario el concepto de incertidumbre es lo más importante que podríamos hacer, especialmente en esta era de la IA

Mencionó una vez cuánto le sorprende el exceso de confianza de los no expertos creen estar en posesión de la verdad. ¿Es el gran mal de nuestro tiempo?

Sí. Yo siempre sospecho de cualquier información que recibo y la miro de doce formas distintas, mientras que hay gente que lee algo en Reddit o en X y te dice: “Tú estás equivocado y yo tengo razón porque lo he leído ahí”. Ese exceso de confianza por tener una sola fuente que concuerda con lo que querían oír nos ha llevado a un mal lugar. Está causando graves problemas en nuestras democracias porque no compartimos un marco de referencia común. Antes las ideas eran filtradas por expertos, libros y bibliotecas; ahora cada uno busca solo lo que confirma sus ideas. Cuando surgió la web pensé que el acceso libre a la información sin intermediarios sería maravilloso, pero no esperaba que fragmentara la sociedad. Algo que creía extraordinario ha salido terriblemente mal.

Y la última: si solo pudiera enseñar una cosa a los niños en la escuela, ¿cuál sería?

La incertidumbre. No estamos enseñando la incertidumbre, el comprender que nada es un hecho absoluto sin contexto. Puedes enseñarle esto a un niño de cinco años y haría que dejáramos de memorizar cosas y entendiéramos las cosas. Enseñar desde parvulario la noción de incertidumbre es la cosa más importante que podríamos hacer para ayudar a la gente a entender y pensar realmente, especialmente en la era de la IA, entendiendo que las cosas que lees pueden estar equivocadas, que la IA te dice cosas equivocadas, que la gente se equivoca y que los hechos de hoy pueden no ser completamente correctos. Eso sería un gran salto adelante.

La inteligencia artificial está cambiando el mundo, y en lo que respecta a lo audiovisual cada vez es más difícil distinguir qué imágenes son auténticas y cuáles han sido generadas o manipuladas. Por eso, Antonio Banderas reivindica un espacio que, a su juicio, conserva una característica imposible de alterar: el teatro en directo. El actor malagueño considera que los escenarios pueden convertirse en un lugar especialmente valioso en un futuro dominado por las nuevas tecnologías.

Banderas ha defendido su idea durante el acto Málaga, 60 años de vida compartida, donde ha sido distinguido en la categoría de Proyección Internacional. El intérprete ha reflexionado sobre los cambios tecnológicos que atraviesan el cine y la televisión y ha explicado por qué considera que el teatro ofrece una experiencia diferente.

“Hoy en día, acosados por la inteligencia artificial, por ya no saber cuando vamos al cine o cuando vamos a la televisión si lo que estamos viendo es real, el teatro sí ofrecía algo real, es un refugio para la verdad”, ha señalado. Una reflexión con la que Banderas pone el foco en la relación directa que existe entre los intérpretes y quienes se encuentran sentados frente al escenario.

Una realidad que la tecnología no puede cambiar

El actor reconoce que sobre las tablas pueden representarse historias muy distintas y existir diferentes interpretaciones de la realidad. Sin embargo, considera que hay un elemento clave que es inalterable: las personas que actúan y el público comparten físicamente el mismo espacio y el mismo momento.

“Hay muchas verdades según quien haya escrito las obras, quien las dirija, quien las interprete, pero hay una realidad objetiva y esa realidad objetiva es un grupo de personas frente a otro grupo de personas y eso nunca cambiará pase lo que pase con las nuevas tecnologías y con el futuro”, ha afirmado Banderas.

Su defensa de las artes escénicas está estrechamente relacionada con el giro que experimentó su propia vida después de desarrollar durante décadas buena parte de su trayectoria profesional fuera de España. Banderas ha recordado que vivió casi tres décadas alejado de su tierra antes de regresar a Málaga, una decisión que ahora sitúa entre las más importantes de su vida.

Banderas ha hehco un símil con La Odisea para describir ese recorrido personal. Después de salir de su ciudad natal, viajar por diferentes lugares del mundo y finalmente regresar, asegura que “Málaga se convierte en mi Ítaca personal”. Su objetivo, según ha explicado, fue trasladar a su ciudad parte de los conocimientos y experiencias adquiridos durante su carrera internacional.

El infarto que cambió sus prioridades

En ese regreso tuvo una importancia especial el ataque al corazón que sufrió Banderas, un episodio que el actor considera que ha sido determinante para cambiar su manera de afrontar la vida. “La gente lo puede interpretar como malo, pero en mi caso fue muy significativo, muy bueno”, ha explicado.

Aquello, sostiene, le abrió los ojos: “Fue como si alguien me pusiera unas gafas para ver una realidad”. Esa nueva perspectiva estaba vinculada tanto a Málaga como al teatro y terminó cristalizando en uno de sus proyectos más personales, el Teatro del Soho, con el que Banderas decidió reforzar su apuesta por las artes escénicas desde su ciudad natal. Además, el actor también ha destacado que desarrollar esta iniciativa requería rodearse de otras personas y compañías. A su proyecto teatral se han sumado posteriormente otras iniciativas vinculadas a Málaga, desde la restauración hasta su apuesta por nuevos espacios de producción y formación cultural.

Las alertas sobre los riesgos del desarrollo de la inteligencia artificial han sembrado la incertidumbre en millones de personas. Desde ingenieros que avisan de que esta tecnología podría “matarnos a todos antes de 2030”, hasta grandes referentes científicos que aseguran que una “IA altamente capaz o sobrehumana” podría “amenazar el control humano” y “erosionar gravemente los mecanismos de poder estatal”. Extremos que preocupan en todo el mundo, pero que tienen a un sector concreto en vilo: las aseguradoras.

Aunque muchas de esas alarmas terminen incumpliéndose y los daños de la IA resulten más mundanos, la industria de los seguros preferiría no pagar la factura. “Ya están surgiendo perjuicios relacionados con la IA, como resultados incorrectos o engañosos, deepfakes, violaciones de la privacidad, disputas sobre propiedad intelectual, fraude, defectos en los productos y decisiones discriminatorias”, destaca un reciente informe del centro de investigación RAND: “Estos perjuicios generan demanda de seguros, pero no se ajustan fácilmente a las líneas de seguros existentes”.

Estos riesgos se han multiplicado con la extensión de los agentes de IA. Son sistemas que pueden completar tareas que requieren diferentes pasos sin que una persona tenga que guiarlos en cada uno de ellos, como buscar información en Internet, usar otras herramientas digitales o programar sus propias aplicaciones. Pero que, debido a esa mayor autonomía, pueden llevar acciones no previstas para sus desarrolladores. Son estos agentes los que han provocado, por ejemplo, los hackeos de páginas del gobierno australiano mientras buscaban información, intentando acceder incluso a aquella que no estaba disponible públicamente.

La incorporación de esta tecnología a las empresas está provocando que muchas aseguradoras la excluyan de las pólizas de responsabilidad civil estándar. Según datos del medio especializado en Silicon Valley The Information, los organismos públicos estatales que regulan el mercado asegurador en EEUU están dando su visto bueno a esta práctica, autorizando más de un 80% de peticiones elevadas este 2026 para excluir los daños producidos por la IA de la cobertura asegurada.

Difícil encaje en los seguros tradicionales

Desde 1982, las aseguradoras utilizan el conocido 'test de Berliner' para medir si un riesgo es asegurable. El examen consta de nueve criterios y según la Asociación de Ginebra, uno de los mayores think tanks de este sector, la IA suspende al obtener una calificación roja en tres de ellas.

Son la pérdida máxima posible (un algoritmo puede producir fallos en cascada a miles de pólizas simultáneamente a través de las empresas que lo aplican, con lo que califica como “riesgo catastrófico” al nivel de accidentes nucleares o pandemias), asimetría de la información (las empresas aseguradas tienen mucha más información del impacto real que puede tener la IA que las aseguradoras) e inestabilidad de la pérdida media (para las aseguradoras es imposible fijar una póliza estándar si una misma IA puede producir un daño acotado al equivocarse en un sistema de atención al cliente, o de millones al violar los derechos de autor).

En su último informe al respecto, los datos de la Asociación de Ginebra muestran que, de las 112 casillas resultantes de cruzar los 14 riesgos identificados de la IA (ciberataques, difamación, etc.) con las 8 pólizas de seguro tradicionales de las empresas, el 80% (90 casillas) quedan “excluidas”.

Sin reglas, manda el miedo

Donald Trump se niega a desarrollar una regulación para la inteligencia artificial, incluso ante la petición de algunos magnates de la industria y expertos que avisan que esta podría suponer “un peligro para la humanidad”. Y sin reglas, manda el miedo. “El seguro se ha convertido en el regulador de facto más importante del despliegue de la IA en EEUU, y actualmente está regulando por retirada: excluyendo el riesgo de la IA de la cobertura en lugar de fijar los estándares afirmativos bajo los cuales el despliegue podría ser asegurado, tarifado y disciplinado”, explica el Centro de Estudios Estratégicos e Internacionales (CSIS, por sus siglas en inglés).

El seguro se ha convertido en el regulador de facto más importante del despliegue de la IA en EEUU, y actualmente está regulando por retirada: excluyendo el riesgo de la IA de la cobertura

Centro de Estudios Estratégicos e Internacionales (CSIS)

En Europa la situación no es muy diferente. Aunque la UE sí cuenta con una ley de IA, tampoco ha abrochado la cuestión sobre quién es el responsable cuando algo sale mal. Esa iba a ser la misión de la Directiva de Responsabilidad de la IA, para la que la Comisión Europea presentó un borrador que terminó retirando en 2025. “Al tiempo que los requisitos del Reglamento de IA de la UE para sistemas de alto riesgo se han aplazado hasta finales de 2027 o 2028, la reparación ex-post de los daños queda fragmentada en las legislaciones nacionales, dejando a las víctimas sin un marco unificado de indemnización”, continúa el CSIS.

Este instituto, un laboratorio de ideas con sede en Washington, advierte que esta tendencia tiene incluso derivadas geopolíticas. Esa dificultad para asegurar los procesos con IA “amenaza con frenar” la innovación de las empresas estadounidenses y europeas en comparación con China, donde es el estado el que se hace cargo del riesgo. El Gobierno del gigante asiático está generando reservas nacionales y respaldando proyectos piloto de aseguradoras estatales para emitir pólizas específicas sobre IA, intentando que sus empresas desplieguen algoritmos sin asumir todo el riesgo.

Las grandes tecnológicas “trasladan el riesgo”

La incertidumbre del sector público y privado en lo referente a los procesos que incorporan IA se extiende a todos los actores, menos a aquellos que la desarrollan. Los principales laboratorios han blindado su defensa ante los riesgos.

Como especifican los contratos para el uso de su IA de OpenAI o Anthropic, su responsabilidad financiera no puede superar lo que han pagado sus clientes en los 12 meses anteriores al incidente. En la práctica, esto implica que si una empresa paga, por ejemplo, 200 euros al mes por una suscripción profesional a sus herramientas y estas cometen un fallo grave que genere pérdidas de un millón de euros, la tecnológica solo estaría obligada a poner 2.400 euros de su bolsillo.

Solo en demandas por derechos de autor “existe una excepción destacable” en la que estas multinacionales tendrían que correr con los gastos. En el resto, ya sean casos “como muerte por negligencia, lesiones corporales, discriminación laboral, difamación, manipulación de mercado, fraude mediante IA, ciberataques impulsados por IA, sanciones regulatorias o daños por acciones autónomas”, la norma que “sigue aplicándose es el límite general de 12 meses de cuotas”, detalla el CSIS.

El instituto aclara que esa limitación puede ser “racional” ante un riesgo que nadie sabe tasar, pero destaca que la práctica “traslada la responsabilidad” a las empresas y pymes.

Análisis caso a caso

Ante la retirada de la citada Directiva de Responsabilidad de la IA por parte de la Comisión Europea, la situación se evalúa, con base en la regulación de cada país. elDiario.es ha contactado con UNESPA, la patronal de las aseguradoras españolas, que ha indicado que aún no hay una visión general y que cada una mantiene su propia política.

Romain Schaeffer, director de seguros para empresas de AXA, avanza que las aseguradoras analizan caso por caso. “En la actualidad, el mero hecho de que una empresa utilice IA no es, por sí solo, un factor determinante para limitar su asegurabilidad ni un criterio generalizado de delimitación de cobertura o precio”, explica a elDiario.es.

Es fundamental analizar para qué y cómo utiliza la empresa la IA. No presenta la misma exposición una compañía que emplea IA como herramienta de productividad que otra que la usa para tomar decisiones autónomas

Romain Schaeffer — director de seguros para empresas de AXA

“En este sentido, resulta fundamental analizar para qué y cómo utiliza la empresa la IA. No presenta la misma exposición una compañía que emplea IA como herramienta para mejorar la productividad interna que otra que la utiliza para tomar decisiones autónomas o controlar procesos productivos capaces de generar daños materiales, corporales o pérdidas a terceros”, detalla Schaeffer.

Pese a la novedad tecnológica y las crecientes alarmas sobre sus riesgos, el experto advierte que “el uso de IA no debe interpretarse necesariamente como un elemento restrictivo desde el punto de vista asegurador”. A su juicio, puede ser incluso un elemento que ayude a disminuir la incertidumbre o fallos en los procesos internos. “Dependiendo de su aplicación y de los controles establecidos, puede incluso contribuir a mejorar la prevención, detección y gestión del riesgo”, concluye.

Pólizas especiales

El resultado de esta situación es que se están generando nuevos tipos de póliza para cubrir riesgos concretos de la IA como alucinaciones, fallos de rendimiento, infracciones de propiedad intelectual o incluso errores en las decisiones de agentes autónomos, la nueva amenaza para las empresas.

Firmas como Munich Re, Armilla AI, Testudo Global o la Artificial Intelligence Underwriting Company están explorando este nuevo nicho. En lugar de asumir de forma general los riesgos de una compañía, algo casi imposible a partir del test de Berliner, estas coberturas intentan identificar qué puede salir mal cuando una empresa incorpora un sistema de IA y ponerle un precio.

No obstante, vuelven a chocar contra algunas lógicas derivadas de la novedad tecnológica: si nadie ha tenido un incidente real a gran escala derivado de ese tipo de riesgo, ¿cómo calcular cuánto puede llegar a costar y hasta dónde debería cubrirlo una aseguradora?

Críticas contra el presidente del Gobierno, Pedro Sánchez, o contra la acampada por la vivienda en la Puerta del Sol, las hemos visto de todos los colores. Hay gente que no ve bien que miles de personas se hayan plantado en el kilómetro '0' para decir 'basta ya' por la crisis de vivienda.

Entre esas personas, se encuentra el diputado del Partido Popular por Lugo en el Congreso de los Diputados, Jaime de Olano. Sólo hace falta entrar en su perfil en la red social X para darse cuenta de que suele utilizar inteligencia artificial para casi todo. Pero lo que nadie se esperaba es que iba a intentar colar un vídeo falso de la acampada de la Puerta del Sol.

Al menos esa parece que ha sido su intención. Lo peor de todo, más allá del vídeo, es cómo empieza el mensaje. “Sánchez toma por idiotas a sus votantes”, ha señalado al inicio. Hablar de tomar “por idiotas” con un vídeo hecho con IA que intenta pasar como real, no sé si es el mejor ejemplo.

Pero él ha insistido. “Esta gente y la banda de Sánchez son los que te van a proporcionar una vivienda asequible. Vean, vean...”, ha asegurado, junto al vídeo de 10 segundos.

La escena se trata de, claramente, un montaje. Aparecen varias personas sentadas con tiendas de campaña, carteles sobre los desahucios y Maricarmen, banderas de Palestina y, aunque pretenden colarlo como real, sólo hace falta fijarse en el mítico rótulo de Tío Pepe que no tiene nada que ver con el real.

Extremadura Digital Day nació en 2018 como una intuición compartida por seis profesionales del sector tecnológico. Ocurrió en Cáceres, con pocos recursos, mucha voluntad y una idea sencilla: reunir a quienes estaban construyendo tecnología en la región y abrir un espacio donde conocerse, aprender y colaborar. Aquel primer encuentro reunió a 200 personas y dejó claro que había una energía latente. Ocho años después, este sábado, el Complejo Cultural San Francisco acogerá la séptima edición de EDD26, un evento que espera superar las 500 personas y que ya no pertenece a quienes lo iniciaron, sino a una comunidad entera.

EDD se ha convertido en un punto de encuentro que ha traído a Cáceres a algunos de los mejores ponentes tecnológicos de España y Europa, ha conectado empresas con talento local y ha propiciado contrataciones, proyectos compartidos y nuevas iniciativas empresariales. También ha contribuido a que compañías tecnológicas internacionales se fijaran en Extremadura, instalaran centros de trabajo y los hicieran crecer. Nada de esto puede atribuirse únicamente al evento, pero sí a la red de relaciones y oportunidades que ha ido generando edición tras edición.

La organización insiste en que el mérito no está en las cifras, sino en el modo en que se ha construido: desde la comunidad y para la comunidad. Con presupuestos modestos, sin ánimo de lucro y con un modelo basado en el trabajo voluntario de organizadores, colaboradores y entidades que han confiado en el proyecto. Lo que entra vuelve al propio EDD y, cuando ha sobrado, se ha destinado a apoyar otras iniciativas tecnológicas de la región mediante recursos, materiales, conocimiento o experiencia. Ese espíritu ha permitido que el encuentro se mantenga vivo incluso tras el paréntesis de la pandemia.

Este sábado, EDD26 abrirá sus puertas con una propuesta que quiere ampliar su alcance y acercar la tecnología a toda la ciudadanía. El evento contará con tres salas simultáneas —Magellan, Lucushost y Ariadnex— y 25 ponentes que abordarán cuestiones como inteligencia artificial, desarrollo de software, automatización, ciberseguridad, accesibilidad, empleo, diseño, educación, liderazgo, datos y diversidad. La recepción comenzará a las 8.15 y las actividades se prolongarán hasta las 18.30.

La inteligencia artificial será uno de los ejes del programa, con sesiones que explorarán sus aplicaciones prácticas y sus implicaciones en ámbitos como el empleo, la productividad o la educación. También habrá espacio para proyectos emergentes, como Flood Detector, desarrollado por cuatro jóvenes estudiantes extremeñas y que simboliza el talento que empieza a formarse desde edades tempranas.

Junto a la programación profesional, el encuentro habilitará una zona abierta al público con acceso gratuito, donde cualquier visitante podrá experimentar con tecnologías sin necesidad de conocimientos previos. Habrá robótica, impresión 3D, simuladores, gafas de realidad virtual y aumentada, videojuegos Arcade, juegos de mesa y talleres como Animals Life, que combina tecnología analógica y digital mediante sonido, luz e imagen. La entrada gratuita debe obtenerse previamente a través de la web de Extremadura Digital Day.

Con nombres y apellidos

El crecimiento del evento ha sido paralelo al del ecosistema tecnológico cacereño, que ha visto nacer comunidades, iniciativas y empresas que hoy forman parte de una red más amplia y sólida. La organización reconoce especialmente la labor de Daniel Castañera, Raúl Bordallo, Ricardo Regalado, Carlos G. Rodríguez, Antonio Gordillo Guerrero, Francisco J. Hermoso Baños, María Palomino Trejo, Sergio Fernández Rincón y del añorado Joaquín Guillén Melo, pero subraya que EDD hace tiempo que dejó de ser de seis, de ocho o de un grupo concreto: es de todas las personas que han puesto algo de su parte para que exista.

Extremadura Digital Day mantiene su propósito inicial de conectar profesionales, compartir conocimiento y generar oportunidades, pero aspira también a sacar la tecnología del ámbito estrictamente especializado y convertirla en una experiencia accesible para jóvenes, familias, estudiantes y cualquier persona interesada en descubrir nuevas herramientas. En un momento en que la inteligencia artificial y la automatización están transformando sectores enteros, el encuentro quiere reforzar la idea de que la tecnología no es solo un espacio profesional, sino un territorio común.

EDD nació como una apuesta y hoy es una comunidad. Por eso, quienes lo organizan dicen que este sábado toca presumir: no del evento en sí, sino de las cientos —probablemente miles— de personas que han contribuido a que Extremadura tenga un espacio propio en el mapa tecnológico nacional.

La compañía tecnológica Anthropic anunció la semana pasada que su modelo de inteligencia artificial (Claude) había servido para encontrar “un novedoso sistema enzimático con propiedades que recuerdan a CRISPR” al que bautizaron como ART. Unas horas después, un artículo en The New York Times reveló que el hallazgo de estas “transcriptasas inversas asociadas a matrices” como potencial herramienta de edición genética no era tan novedoso como se anunciaba ni genuino de la IA: el biólogo computacional Mario Rodríguez Mestre, de la Universidad de Copenhague, ya lo había descubierto en 2022. 

“El descubrimiento que ellos hacen no es nada nuevo, era algo que ya se sabía”, explica el investigador español a elDiario.es. “Y eso de que es una herramienta de edición genética parecida a CRISPR no es cierto. No se parece a CRISPR en nada”. Rodríguez Mestre asegura que él y su equipo utilizaron extensamente Claude para su investigación y que esta IA tenía acceso a su manuscrito de tesis, a todas las carpetas compartidas del laboratorio y a los correos con colaboradores. “Es decir, prácticamente a todo”, resume. “Sobre si la inteligencia lo ha sacado de ahí, no tengo ninguna prueba para demostrarlo, pero es una posibilidad y una sospecha”.

Rodríguez Mestre aclara que estas moléculas son en realidad retrones: transcriptasas inversas que sintetizan ADN a partir de una plantilla de ARN no codificante en virus gigantes (jumbófagos), una arquitectura que permite generar grandes cantidades de ADN y que abre la puerta a la edición genética múltiple. El equipo del científico ya había identificado y caracterizado exactamente estas mismas secuencias y sus conjuntos de ARN en 2022 —a las que bautizaron como «jumbotrones»—, pero estos resultados no estaban publicados en ninguna revista científica ni repositorio de preprints. La única vía para que el modelo dispusiera de esa información era a través de los borradores y materiales privados que él mismo había compartido con Claude durante sus investigaciones.

Una polémica con antecedentes

La polémica se produce unas semanas después de que otra tecnológica, OpenAI, anunciara una solución al problema de Navier-Stokes, uno de los seis problemas del milenio, entre sospechas de que se basaron en las ideas de los dos matemáticos españoles que trabajaban en ello. El biólogo español, que se enteró del anuncio de Anthropic por el aviso de otros expertos que conocen su trabajo, cree que en su caso hay dos posibles explicaciones. La primera, que considera menos probable, que usaran sus datos para el hallazgo. La segunda, que los propios científicos de la tecnológica ya conocieran la existencia de estas secuencias de moléculas y guiaran deliberadamente a la IA con datos preprocesados para forzar el resultado y venderlo como un logro autónomo.

Llamo a toda la comunidad científica a que se lo piense dos veces antes de utilizar LLM propietarios y empiece a buscar alternativas

Mario Rodríguez Mestre — Biólogo computacional de la Universidad de Copenhague

“Cualquiera de las dos me parece que entraña una serie de problemáticas que afectan a cualquier tipo de investigador que esté utilizando estas herramientas”, asegura. “Lo que parece muy claro es que no ha sido un descubrimiento autónomo de la inteligencia artificial”. Por este motivo, Rodríguez Mestre anuncia que dejará de usar la herramienta y recomienda a los otros científicos seguir su ejemplo. 

“Yo voy a dejar de usar Claude y ahora mismo estoy intentando migrar todo lo que yo ya tenía a modelos open source”, asegura el científico. “Creo que la posibilidad de que la IA se hubiera utilizado para entrenar con mis datos es real y merece la pena ponerlo de relieve. Por eso llamo a toda la comunidad científica a que se lo piense dos veces antes de utilizar LLM propietarios y empiece a buscar alternativas y no depender de empresas cuyas políticas de recopilación de datos y de ética no están muy claras”. 

Por su parte, Anthropic aseguró a The New York Times no tener constancia de ningún trabajo publicado previamente que describa el sistema enzimático que presentaron. Asimismo, la compañía sostiene que Claude no ha sido entrenado con las conversaciones o archivos de los usuarios y que su equipo de biología molecular tampoco tiene acceso a dicha información privada.

Viendo las orejas al lobo

Tras el anuncio de OpenAI de la solución de unos de los problemas del milenio, los matemáticos más destacados del mundo firmaron un manifiesto para pedir trasparencia en el uso de estas herramientas. Si se extiende la sospecha sobre la forma en que trabajan las empresas desarrolladoras de la IA, advertían, los matemáticos dejarán de compartir sus resultados para evitar que el algoritmo se los apropie. Rodríguez Mestre también quiere poner encima de la mesa esta preocupación en su campo. “Empezaron con los artistas, luego los escritores, los diseñadores de código y ahora nos ha tocado a nosotros los científicos”, asegura. “Quizás creíamos que no nos íbamos a ver afectados, pero bueno, aquí le estamos viendo las orejas al lobo”.

Quizás creíamos que no nos íbamos a ver afectados, pero bueno, aquí le estamos viendo las orejas al lobo

Mario Rodríguez Mestre — Biólogo computacional de la Universidad de Copenhague

Toni Gabaldón, jefe del grupo de Genómica Comparada del IRB Barcelona, cree que el caso de los matemáticos ya daba a entender que es muy posible que esta apropiación de los datos en investigación estuviera ocurriendo. “Es un peligro que hay que tener en cuenta”, explica. “Partir de la idea de que las empresas tecnológicas van a mantener una ética rigurosa es un poco naíf, porque no hay manera de comprobarlo. Tú escribes en tu ordenador en Barcelona y esos datos van a un centro de cómputo que está en Arizona, en China o en otro sitio; por ahí pasan tus datos y un modelo puede estar aprendiendo de eso. ¿Quién te dice a ti que no ha pasado eso?”.

En su caso, decidió hace tiempo no usar la IA para procesos creativos y solo para procesos mecánicos y aburridos. “Pero incluso ahí tienes el peligro”, advierte. “Porque cuando envías un artículo, puede que algún colaborador o revisor lo meta en ChatGPT o Claude, y esa información puede estar llegando por otro lado. Al final tampoco eres dueño de eso”. A su juicio, Anthropic le dio demasiado bombo al anuncio sobre su nueva herramienta molecular, porque ya se conocen estas y otras parecidas. “Uno de los efectos de la IA es que mucha gente creerá haber encontrado cosas que ya existen: vamos a reinventar la rueda muchas veces”, predice. 

Un “toque de atención” para todos

Para el genetista Lluis Montoliu, del CNB-CSIC, el caso es preocupante, porque se suponía los modelos de pago de estas herramientas de IA garantizaban que los textos no se compartían con la nube. “Todo parece indicar lo contrario y me temo que deberemos ser mucho más cuidadosos y deberemos evitar introducir aquellos experimentos que todavía no estén publicados y que puedan representar una novedad en un determinado campo”, señala. “Incluso cuando subimos un texto para corregir la gramática del inglés eso puede pasar a ser del acervo del universo de la IA”. En su opinión, este último caso, junto con lo que sucedió en el problema del milenio de OpenAI, es un “toque de atención” a los científicos para que revisen cómo usan estas inteligencias.

Me temo que deberemos ser mucho más cuidadosos y evitar introducir aquellos experimentos que todavía no estén publicados o sean novedosos en un determinado campo

Lluis Montoliu — Investigador del CNB-CSIC

“Yo uso estas herramientas diariamente”, explica Ana Rojas, bióloga computacional del CSIC y directora del grupo de Biología Computacional y Bioinformática (CBBiO). El problema, asegura, es que los científicos cada vez son más dependientes de estas herramientas y tienen que confiar en lo que las compañías dicen. “Ellas dicen: no, nosotros no entrenamos los modelos. Pero está claro que lo hacen, porque este tipo de información no podrían obtenerla de otro modo”, señala. 

Para la especialista, la situación es muy complicada para los científicos, porque los científicos están indefensos. “Tienes que confiar en que las tecnológicas que mantengan esa privacidad, pero claramente ellas van a querer sacar beneficio a costa de la privacidad de los usuarios”, señala. Es una situación similar a la que vivieron los pequeños fabricantes que denunciaron que Amazon copiaba su producto cuando ve que tiene éxito, admite. “Por otro lado, las tecnológicas deberían compartir el crédito con los autores humanos, pero si lo hacen tienen que reconocer que han accedido a informaciones confidenciales”. 

Las tecnológicas deberían compartir el crédito con los autores humanos, pero si lo hacen tienen que reconocer que han sacado esa información de informaciones confidenciales

Ana Rojas — Directora del grupo de Biología Computacional y Bioinformática (CBBiO) e investigadora del CSIC

César de la Fuente, investigador y director del Machine Biology Group de la Universidad de Pennsylvania, lleva años trabajando con IA para encontrar nuevas moléculas con interés biomédico y cree que la investigación está experimentando una sacudida sin precedentes. “Las reglas del juego están cambiando muchísimo, por eso se está causando tanto revuelo y estrés”, asegura. “En biología y ciencias de la vida parecía que estábamos más lejos de este escenario que los matemáticos, porque hace falta hacer experimentos, pero todo va muy deprisa”. En su laboratorio, han tomado la precaución de no introducir sus resultados en los sistemas de IA y trabajar localmente. 

“En teoría, estas compañías te garantizan que no lo usan como parte del entrenamiento de sus modelos si usas los modelos de pago, pero siempre que usas un software o herramientas de compañías privadas hay la posibilidad de que haya filtraciones de lo que estés haciendo”, explica De la Fuente. “En cualquier caso, para aquellas personas preocupadas o que estén trabajando en algo altamente confidencial, existe la opción de descargarse un modelo preentrenado de IA de open source y hacer el entrenamiento de manera local, sin estar conectado a ningún lado”

Para De la Fuente, las tecnológicas corren el riesgo de ganarse tan mala fama que los científicos se nieguen a colaborar o a usar sus herramientas. “Tener malas relaciones públicas les puede pasar factura”, señala. “Si al final nadie quiere trabajar con ellos va a ser un problema, se están moviendo tan rápidamente que tienen que tener cuidado”. “La mayor parte de los científicos ha adoptado la IA de manera ciega y acrítica porque les facilita el trabajo, pero este tipo de cuestiones empiezan a generar un sentimiento de incomodidad y a pensar que esto también tiene sus peligros”, resume Toni Gabaldón. “Estamos despertando un poco ahora”.

Ana Rojas también recomienda a los otros investigadores que tengan mucho cuidado y descarguen los modelos de IA en equipos locales cuando sea posible. “Y la información confidencial, las discusiones, que se hagan de la manera tradicional, hablando por teleconferencia y cosas de ese tipo”, afirma. “Tenemos que pensar entre nosotros cómo defender nuestro trabajo ante el reto que viene”, concluye. “Es un gran reto que toda una comunidad tenemos que abordar, no solamente la gente que trabaja en IA, sino todo el mundo que trabaja en ciencia en general o en humanidades, porque llegará un momento en que ellos van a ser los propietarios de todos los modelos y entonces no podemos competir. Tenemos que hacerlo de otra manera”.

OpenAI supo que sus agentes de inteligencia artificial estaban rompiendo sus entornos aislados de pruebas y coordinando ciberataques contra redes externas, pero decidió no parar sus experimentos para no retrasar su estrategia comercial. Es la principal conclusión de dos revelaciones no coordinadas que han salido a la luz en las últimas horas y que acusan a la empresa dirigida por Sam Altman de conocer que su IA estaba ejecutando acciones peligrosas para completar las tareas que se le habían encomendado.

La primera de esas revelaciones es una demanda presentada por la organización sin ánimo de lucro Abogados por una Ciencia y Tecnología Seguras (LASST, por sus siglas en inglés). Según las pruebas aportadas, un equipo de empleados de OpenAI tuvo constancia de que sus agentes de IA estaban desarrollando comportamientos como los que derivaron en el hackeo masivo de Hugging Face al menos dos semanas antes de que este se consumara (del 9 al 13 de julio).

La segunda es una exclusiva de The New York Times publicada este miércoles que revela que dos empleados de la compañía advirtieron por correo electrónico a la alta dirección, meses antes de que la IA empezara a hackear activamente, de que los nuevos modelos “no se estaban monitorizando adecuadamente” durante las pruebas. Según los mensajes que ha podido comprobar el medio estadounidense, los ejecutivos rechazaron estas alertas alegando que los ensayos debían avanzar lo más rápido posible para lanzar los modelos a tiempo, negándose a implantar protocolos de seguridad adicionales que entorpecieran ese calendario.

“Es claramente un hackeo”

La fecha clave que señala LASST es el 27 de junio. Entonces, una herramienta de monitorización interna de OpenAI detectó una actividad anómala en los experimentos con sus agentes de IA, sistemas que se caracterizan por poder llevar a cabo acciones con diferentes pasos sin supervisión humana, como buscar información, utilizar otras herramientas digitales o programar su propio código informático.

Según la demanda, los técnicos que revisaron la alarma interna comprobaron que cientos de esos agentes habían transformado un software interno de la empresa en un canal clandestino de mensajería. Allí vieron que los agentes estaban compartiendo métodos de ataque y técnicas para falsificar peticiones al servidor, con objetivo de salir del entorno controlado en el que estaban recluidos. Esta salida era necesaria para completar las tareas que se les habían asignado en los experimentos, puesto que uno de los objetivos de OpenAI era precisamente analizar el comportamiento de la IA cuando su misión se torna imposible.

En las notas que estaban dejando los agentes en el canal secreto que habían desarrollado, estos calificaban sus acciones de “claramente hackeo de infraestructuras” al estar preparando un “exploit contra un servidor externo”. Algo que conllevaba un riesgo de provocar “un daño no autorizado a infraestructura real”. Pese a ello, el personal de OpenAI que analizó la situación decidió que “no era necesario” detener los experimentos, recoge la demanda.

Dos semanas después de tener conocimiento de estos hechos, los agentes de OpenAI llevaron a cabo el conocido hackeo contra Hugging Face. En ese incidente, los agentes reprodujeron comportamientos que replican los que ya se estaban dando semanas antes, señala LASST. OpenAI “construyó un sistema de IA que hackeó a otra empresa, causando daños y violando la ley”, denuncia la organización, que a tenor de las pruebas señala que “no podrá ser constitutivo de argumento de defensa que la inteligencia artificial haya causado el daño al demandante de forma autónoma”.

LASST pide en su demanda que OpenAI sea condenada por su responsabilidad en ciberataques como el de Hugging Face. elDiario.es se ha puesto en contacto con OpenAI para recabar su posición sobre la demanda, pero por el momento no ha recibido respuesta.

La dirección ordenó no detener las pruebas

El comportamiento de los investigadores de OpenAI denunciado en la demanda de LASST encaja con otra pieza del puzle revelada este miércoles en exclusiva por The New York Times. Según la investigación del diario, los fallos en la valoración del riesgo de las acciones de los agentes no fueron descuidos puntuales, sino el resultado de la política interna de OpenAI, impuesta desde la alta dirección.

“Meses antes” de que los agentes de IA de la organización ejecutaran hackeos contra plataformas como Hugging Face y gobiernos como el australiano (18 de junio), varios de sus empleados advirtieron de que los agentes “no se estaban monitorizando adecuadamente”. El aviso llegó a través de correo electrónico (aunque el diario no especifica cuándo) hasta el presidente de OpenAI, Greg Brockman, el máximo encargado de la seguridad de los sistemas de IA. Sin embargo, la contestación de la empresa fue que los experimentos debían avanzar lo más rápido posible para lanzar los modelos a tiempo.

En ese período OpenAI estaba centrada en el desarrollo de GPT-6 Astra, que terminó saliendo a la luz el 3 de septiembre. Se trata de un modelo que la organización pretendía hacer destacar precisamente por la capacidad autónoma de sus agentes. Estos “pueden realizar trabajo cognitivo real” y son “más inteligentes que las personas en muchos aspectos”, presumió Sam Altman durante su presentación, asegurando que habían conseguido un “rendimiento sin precedentes en nuestros puntos de referencia”.

Apenas una semana después, el 9 de septiembre, el exingeniero Jacob Coxon alertó de que los laboratorios de IA están “avanzando sin control” y “poniendo nuestras vidas en juego”. Coxon acababa de dimitir de Anthropic tras dos meses trabajando en la empresa, pero había pasado los tres años anteriores trabajando en el equipo de preentrenamiento de modelos de OpenAI.

Este martes, 29 de septiembre, OpenAI anunció la cancelación del lanzamiento del modelo GPT-6.1 por motivos de seguridad.

OpenAI tampoco ha respondido a las preguntas de elDiario.es sobre las revelaciones de The New York Times. No obstante, el periódico estadounidense refiere que uno de sus portavoces ha explicado que “a medida que los modelos de frontera se han vuelto más capaces, continuamos evolucionando nuestras prácticas de seguridad, pero reconocemos la necesidad de avanzar más rápido”. Añade que OpenAI “había desacelerado parte del desarrollo de IA y estaba realizando cambios para reforzar la seguridad en la investigación y en las pruebas” tras los avisos de sus trabajadores.

El presidente del Gobierno de La Rioja, Gonzalo Capellán, ha inaugurado este miércoles en el Monasterio de Yuso, en San Millán de la Cogolla, ‘AutorIA. La Rioja, tierra del español’, una exposición que recorre la historia, evolución y futuro del español surgido del scriptorium de San Millán, cuna de la lengua que compartimos 600 millones de hispanohablantes, hasta los desafíos que plantea actualmente la inteligencia artificial. Yuso como punto de partida de un recorrido inmersivo que ofrece al visitante en una experiencia inolvidable que la trasladará del códice al código. El acto ha contado con la participación de representantes de las instituciones y entidades que han colaborado en el proyecto y ha dado paso a las primeras visitas a una muestra que podrá visitarse hasta el 10 de enero de 2027.

“San Millán de la Cogolla y La Rioja han sido a lo largo de la historia punto de encuentro de culturas y de personas con el espíritu compartido de caminar juntos, esta exposición, que solo podía ser aquí y no en ningún otro lugar, nos brinda la oportunidad para proyectarnos a España y al mundo”, ha señalado el presidente en su intervención. 

Ha subrayado la “trascendencia global” de los monasterios de Yuso y Suso, enclavados en el Valle del Cárdenas y declarados por la UNESCO patrimonio de la humanidad, que condensan siglos de historia y que pueden presumir de una “profundidad cultural y patrimonial que les hace únicos. Además de ser el origen de las primeras palabras escritas en español, han mantenido una presencia religiosa y espiritual continuada a lo largo de 15 siglos desde el eremita San Millán”. Tanto es así, ha resaltado que “no se entiende la Reconquista ni la configuración de España como nación moderna sin estos monasterios y la figura de San Millán como referente de la cristiandad”.

Sobre el nombre de la exposición ‘AutorIA. La Rioja, tierra del español’, ha apuntado que homenajea el “legado cultural, unido a la lengua, de este monasterio por el conjunto de los códices que produjeron los monjes de su scriptorium medieval, de los manuscritos en plural que se produjeron desde aquí. Esa lengua que nacía de esa manera, se ha convertido efectivamente en una lengua universal, en una lengua que produce industrias en todos los ámbitos, sociales, culturales, tecnológicos y económicos. Ese patrimonio tiene unos vínculos, unos orígenes aquí muy fuertes, por eso hemos querido que el primer nombre fuera ‘AutorIA’, en referencia a esos copistas autores de los primeros textos del origen del español”.

Los retos del español ante la IA

Durante su intervención Capellán ha puesto el foco en uno de los grandes debates que quiere suscitar esta cita: “el origen y futuro del español, retos que el español tiene como lengua ante la digitalización, ante las tecnologías, ante la inteligencia artificial. Esta exposición también quiere ser una reflexión hacia dónde va el español y qué lugar quiere y debe seguir jugando La Rioja en esa historia del español, que hoy es la segunda lengua científica del mundo”, ha recordado elogiando la gran aportación que desde esta región se hace en este ámbito con Dialnet. También en materia educativa, ha recordado que la universidad online con mayor impacto en el mundo hispanohablante es la Universidad Internacional de La Rioja (UNIR).

Por su parte, con ‘La Rioja, tierra del Español’ esta región se reivindica “como referente para la lengua española, para sus orígenes, para su evolución y su desarrollo, pero también para todo lo que tenga que ver en el diálogo sobre el futuro del español”, ha subrayado el jefe del Ejecutivo autonómico.

Gonzalo Capellán ha recordado el papel fundamental de Ramón Menéndez Pidal, quien en 1926, “difunde y proyecta San Millán como origen del español, centrando la atención de los especialistas en la lengua, en las glosas, en los glosarios, en el Códice 60 y en estos monasterios. Es él quien otorga la trascendencia nuclear que tienen las glosas, que hasta entonces había pasado más desapercibidas, para entender los primeros pasos y el origen del español”.

Con la mirada puesta en el futuro más inmediato, ha recordado que gracias a la labor de la Fundación para la Transformación se trabaja en la configuración del corpus oral más importante del español “para que todo el desarrollo de tecnologías y aplicaciones usadas con el procesamiento de lenguaje natural esté ubicado aquí, en La Rioja. Un desarrollo estratégico para la región de la mano del poderoso clúster de empresas tecnológicas punteras que hay en esta región desarrollando importantes actividades”.

La inauguración de ‘AutorIA’ trae consigo la puesta en marcha de un nuevo recorrido por el Monasterio de Yuso, que incorpora espacios que hasta ahora no formaban parte de la visita habitual y nuevos contenidos audiovisuales, inmersivos e interactivos. La propuesta se desarrolla en el marco de la preparación del 30.º aniversario de la declaración de los monasterios de San Millán de la Cogolla como Patrimonio Mundial por la UNESCO, que se conmemorará en 2027.

San Millán, punto de partida de una lengua universal

La exposición sitúa San Millán de la Cogolla como punto de partida para acercarse a la historia del español y al papel que los monasterios emilianenses desempeñaron durante siglos como centros de conocimiento, cultura y transmisión escrita.

Los códices elaborados y conservados en su escritorio medieval permiten acercarse a uno de los momentos fundamentales de la evolución de la lengua. En este contexto, ‘AutorIA’ incorpora referencias a los Glosarios Emilianenses, uno de los primeros y más completos testimonios escritos del romance hispánico, que permiten comprender la importancia de San Millán para el estudio de los orígenes del español.

El recorrido continúa con Gonzalo de Berceo, primer autor conocido de nuestra literatura, y se amplía posteriormente a autores, obras y protagonistas que han contribuido a enriquecer y proyectar el español a lo largo de los siglos. De Nebrija a Cervantes, de Miguel Hernández a Pablo Neruda, de Juan Ramón Jiménez a Camilo José Cela, de María de la O Lejárraga a Ana María Matute, la exposición muestra una lengua viva y en permanente evolución. La propuesta aborda asimismo la dimensión internacional del español, una lengua compartida actualmente por más de 600 millones de personas, y las diferentes formas en las que sus autores y comunidades han contribuido a su desarrollo y proyección.

Más de 60 piezas reunidas en Yuso

‘AutorIA’ reúne más de 60 piezas procedentes de una veintena de instituciones y colecciones, entre ellas el Museo del Louvre, la British Library, el Museo del Prado, la Real Academia Española, el Museo Arqueológico Nacional, la Real Biblioteca del Monasterio del Escorial y la Fundación Menéndez Pidal, además de instituciones y colecciones riojanas.

Entre las piezas más destacadas se encuentran los tres brazos conservados de la cruz de marfil de San Millán, dos procedentes del Museo del Louvre y uno del Museo Arqueológico Nacional, que se reúnen por primera vez en España. La reunión permite contemplar conjuntamente una parte excepcional del patrimonio emilianense vinculada al arte mozárabe.

También se suma a la muestra el clavecín de Bárbara de Braganza, instrumento en el que tocó el compositor barroco Domenico Scarlatti, que puede contemplarse en la sala de La Preciosa, junto a los cantorales del monasterio.

La exposición incluye además la Virgen de la Manzana, sustraída del Monasterio de Suso en 1963 y que regresa definitivamente a La Rioja, así como otras piezas y testimonios vinculados a figuras esenciales de la lengua y la cultura.

La selección se completa con fondos y materiales relacionados con la historia del español y con quienes han contribuido a su conocimiento, estudio y creación, en un recorrido que reúne patrimonio histórico, literatura y cultura. “Lo trascendente es que todo este conjunto de piezas, toda esa narrativa de la historia y evolución del español y de San Millán, vuelve al lugar de referencia. Se contextualizan por primera vez en el lugar donde se produjeron, donde se crearon las que le dieron sentido, que es San Millán y este monasterio”, ha destacado el presidente.

Tal y como ha subrayado Capellán, la inversión realizada permitirá contar con “un espacio museológico que va a seguir en el tiempo, con un recorrido permanente, y que nos va a permitir que sea una exposición viva, que puedan seguir cambiando piezas, que podamos seguir haciendo pequeñas exposiciones”.

Un nuevo Yuso, parte de la experiencia

Una de las principales novedades de ‘AutorIA’ es la incorporación del propio Monasterio de Yuso al recorrido expositivo. El visitante puede acceder a espacios que hasta ahora no formaban parte de la visita, entre ellos las antiguas celdas monásticas, el refectorio y la Biblioteca, una de las estancias de mayor valor patrimonial del conjunto.

El recorrido incorpora además nuevos recursos audiovisuales, inmersivos e interactivos, como videomapping, proyecciones y pantallas de gran formato, que permiten abordar distintos momentos de la historia del español y acercar al visitante a sus autores, sus palabras y su evolución. La experiencia se completa con una aplicación web con explicaciones y contenidos de realidad aumentada, que permite ampliar la información durante el recorrido. Para utilizar estos contenidos se recomienda que los visitantes acudan con sus propios auriculares.

La propuesta convierte de este modo el monasterio en un elemento esencial del relato, de manera que la visita permite conocer tanto los contenidos de la exposición como espacios y elementos de Yuso vinculados a la vida monástica y a la transmisión del conocimiento.

El recorrido llega hasta el presente para mostrar que la relación de La Rioja con el español no pertenece únicamente a su pasado. En este ámbito, ‘AutorIA’ incorpora como referencia Dialnet, el mayor sistema abierto de información científica en lengua española. La presencia de Dialnet permite conectar la tradición de los monasterios emilianenses como espacios de conservación y transmisión del conocimiento con la realidad actual de una lengua utilizada también para la investigación y la producción científica.

La exposición aborda así el español como una realidad cultural, científica y social en continua transformación y presenta La Rioja como un territorio vinculado tanto a su patrimonio histórico como a su conocimiento y proyección contemporáneos.

La IA, el último capítulo

El recorrido concluye con la inteligencia artificial, que aparece como el último capítulo de una historia que comenzó con quienes escribieron, copiaron, estudiaron y conservaron el conocimiento en los monasterios.

‘AutorIA’ plantea en este tramo cuestiones relacionadas con la creación y la autoría ante la irrupción de tecnologías capaces de generar textos, información y contenidos. La propuesta invita a reflexionar sobre qué significa ser autor cuando las máquinas intervienen en los procesos de creación y sobre los nuevos interrogantes que este escenario plantea para el futuro del español.

De este modo, la exposición conecta los primeros testimonios escritos del romance hispánico con los grandes autores de la literatura y con una realidad tecnológica que está modificando las formas de crear, comunicar y generar conocimiento.

La propuesta expositiva permanecerá abierta hasta el 10 de enero de 2027 y permite combinar el recorrido expositivo con la visita al conjunto monástico y con las diferentes posibilidades culturales, patrimoniales, gastronómicas y de naturaleza que ofrece San Millán de la Cogolla y su entorno.

Las visitas guiadas tienen una duración aproximada de una hora y media, se realizan cada 20 minutos y admiten un máximo de 25 personas. Se ofrecen en español, inglés y francés. La visita libre cuenta también con un máximo de 25 personas y permite realizar el recorrido al ritmo de cada visitante.

El horario general es de martes a sábado, de 10:00 a 18:30 horas, con último acceso a las 16:30 horas, y domingos y festivos, de 10:00 a 15:00 horas, con último acceso a las 13:30 horas. Los lunes permanecerá cerrado, salvo cuando coincidan con un día festivo.

Las entradas pueden adquirirse a través de www.autorialarioja.com y en la taquilla del Monasterio de Yuso. La entrada general tiene un precio de 12 euros en visita guiada y 10 euros en visita libre; la reducida, destinada a mayores de 65 años, grupos de más de diez personas, peregrinos, profesores y miembros de ICOMOS e ICOM, es de 10 y 8 euros, respectivamente. Para menores de 8 a 17 años, el precio es de 8 euros en visita guiada y 6 euros en visita libre, mientras que los menores de 8 años tienen acceso gratuito. La tarifa familiar, para dos adultos y dos menores, es de 25 euros en visita guiada y 20 euros en visita libre.

Que la inteligencia artificial (IA) está transformando el mundo laboral ya no es algo que suene a ciencia ficción, sino que forma parte del presente más inmediato. Los algoritmos participan cada vez más en las primeras fases de los procesos de contratación y se encargan de filtrar las candidaturas antes de que una persona evalúe a los aspirantes a un determinado puesto de trabajo.

Con esta realidad como punto de partida ha arrancado este miércoles en la Facultad de Ciencias del Trabajo de la Universidad de Sevilla la 15.ª edición de las jornadas Gira Talks, impulsadas por Coca-Cola. El encuentro ha reunido a 130 estudiantes para invitarlos a reflexionar sobre cómo la inteligencia artificial está transformando la selección de personal y los retos éticos que plantea su uso.

“La realidad es que cada vez más, antes de que lo revise una persona, un currículum ya ha sido clasificado o filtrado por un algoritmo”, afirmó la decana de la facultad anfitriona, María del Milagro Martín, durante la apertura de la jornada. Según explicó, la IA está “transformando de manera profunda” los procesos de selección, la gestión del talento y la forma en la que las organizaciones toman decisiones sobre las personas.

La decana defendió que comprender estos mecanismos se ha convertido en una “necesidad” para los jóvenes que pronto accederán al mercado laboral. “Primero porque seréis candidatos en procesos de selección, pero también porque en un futuro tendréis la responsabilidad de tomar esas decisiones”, aseguró dirigiéndose a los jóvenes que aspiran a desarrollar su carrera profesional en departamentos vinculados a los recursos humanos y la gestión del talento.

Por ello, la responsable de la Facultad de Ciencias del Trabajo insistió durante su intervención en que la tecnología no actúa de forma neutral. “Quien selecciona no es la IA, sino las personas que diseñan, interpretan y utilizan los algoritmos”, subrayó. En este sentido, advirtió de que estas herramientas tecnológicas pueden incorporar “patrones de comportamiento y reproducir sesgos” que desemboquen en “situaciones discriminatorias” para determinados colectivos si no existe una supervisión adecuada.

La IA como aliada, no como sustituta

Por su parte, la directora de Comunicación, Asuntos Públicos y Sostenibilidad de Coca-Cola Europacific Partners, Beatriz Codes, puso el foco en el potencial de las nuevas generaciones y en la necesidad de que aprendan a utilizar estas herramientas sin renunciar a su propio criterio. “El talento joven es una de las mayores fuerzas que tenemos hoy en la sociedad”, afirmó en el arranque de la nueva edición de GIRA Talks, un programa que ha acompañado durante los últimos 14 años a más de 9.000 jóvenes –entre ellos, 1.049 de Sevilla– en su preparación para el mercado laboral.

La representante de Coca-Cola destacó que la inteligencia artificial ya forma parte de la forma de enseñar, estudiar y contratar, pero defendió que debe entenderse como un apoyo y no como un sustituto de las capacidades humanas. “La IA es una gran aliada, pero lo que nos hace únicos es nuestro criterio personal”, señaló, animando a los asistentes a aprender cómo integrar a la IA para contar mejor sus fortalezas sin que ello “sustituya la esencia de la persona”.

En la apertura de la jornada también participó el director general de Andalucía Emprende, Javier González, quien defendió la colaboración público-privada para “no solo crear el talento, sino retenerlo”. González coincidió en que la tecnología es una herramienta que viene a “multiplicar” y que puede “facilitarnos” la vida, pero sin olvidar que “el criterio y el talento son las personas quienes lo aportan a esa herramienta”.

La encargada de inaugurar oficialmente el encuentro ha sido la rectora de la Universidad de Sevilla, Carmen Vargas. Durante su intervención, puso en valor el contenido de una jornada orientada a ofrecer a los jóvenes las claves para sacar el máximo provecho a sus candidaturas ante una oferta laboral. Para la rectora, lo más importante no solo es saber preguntar a la IA, sino “saber interpretar las respuestas” y contar con “el criterio suficiente para no delegar en las herramientas tecnológicas las decisiones que tienen que tomar las personas”.

La tecnología al servicio de las personas

Tras la apertura oficial, los 130 universitarios continuaron la jornada con tres horas de formación de la mano de la Fundación Universidad-Empresa, en las que abordaron el uso de la IA como herramienta para impulsar el talento, las claves para comunicarse con precisión con estas herramientas y su aplicación como aliada en los procesos de selección. La formación también puso el foco en la importancia de utilizar la inteligencia artificial desde la ética, los valores y la responsabilidad.

La acción formativa ha servido para trasladar la IA del terreno teórico a situaciones concretas que los jóvenes encontrarán cuando comiencen a buscar empleo. A través de diferentes sesiones prácticas, los estudiantes han trabajado en cómo utilizar estas herramientas para preparar sus procesos de selección haciendo un uso responsable y útil de la inteligencia artificial. 

Una formación que deja una idea central: la incorporación de la IA a los procesos de selección no elimina la responsabilidad humana, sino que exige reforzar el criterio de quienes diseñan, utilizan e interpretan estas herramientas para garantizar que la tecnología esté, como señaló la decana, “al servicio de las personas y nunca al revés”.

Las enfermedades fúngicas del cereal pueden provocar importantes pérdidas tanto de producción como de calidad. Ante este escenario, y en un contexto marcado por unas condiciones climáticas cada vez más variables y una creciente exigencia normativa, el proyecto CERES 2.0 surge para mejorar la gestión de la sanidad vegetal de los cultivos de trigo y cebada en La Rioja.

El proyecto, desarrollado por ARAG-ASAJA, Servicios Agrarios Riojanos (SAR) y la empresa SpectralGeo, impulsa una red inteligente de vigilancia fitosanitaria basada en inteligencia artificial, que combina la monitorización continua de parcelas, la recogida sistemática de datos en campo, información meteorológica y ambiental, información espectral e históricos de cultivo. Esta información irá destinada a la Consejería de Agricultura del Gobierno de La Rioja lo que le permitirá generar modelos predictivos capaces de detectar situaciones de riesgo y anticipar la aparición y evolución de las principales enfermedades del cereal.

CERES 2.0 tiene como objetivo facilitar una toma de decisiones más precisa y eficiente, ayudando a los agricultores a determinar cuándo existe realmente un riesgo y cuál es el momento adecuado para actuar.

Más de 222 hectáreas monitorizadas en La Rioja Alta

La red de vigilancia desarrollada en el marco del proyecto cuenta actualmente con más de 222 hectáreas monitorizadas, distribuidas en parcelas de 15 municipios de La Rioja Alta, lo que permite disponer de información continua y representativa del territorio.

Técnicos especializados de SAR realizan visitas periódicas a parcelas representativas y recopilan datos georreferenciados sobre el estado de los cultivos, la incidencia de enfermedades y las condiciones climáticas. Esta información se integra posteriormente con datos meteorológicos, ambientales, espectrales e históricos de cultivo. A partir de toda esta información, los modelos de inteligencia artificial analizan los diferentes parámetros para detectar riesgos, predecir la evolución de las enfermedades y generar alertas tempranas.

De esta forma, CERES 2.0 centra su seguimiento en las principales patologías que afectan a los cultivos incluidos en el proyecto. En el caso del trigo, la red vigila la incidencia de septoria, roya y oídio, mientras que en cebada se monitorizan rincosporiosis, helmintosporiosis y ramulariosis.

El conocimiento anticipado de estas enfermedades pretende mejorar la eficacia de las actuaciones fitosanitarias y evitar aplicaciones innecesarias. De esta manera, el proyecto busca contribuir a una utilización más eficiente de los recursos y a una reducción de los costes de las explotaciones cerealistas.

CERES 2.0 está desarrollado en el marco de las ayudas de cooperación para el medio ambiente del PEPAC 2023-2027, financiado por el Gobierno de La Rioja, Ministerio de Agricultura y Unión Europea.

Más de una veintena de los mayores especialistas en inteligencia artificial del mundo advierten a los gobiernos que se preparen para una “explosión de inteligencia” que podría desencadenar el desarrollo tecnológico más trascendental de la historia. En un nuevo informe, entre cuyos autores están el premio Nobel Geoffrey Hinton y el premio Turing Yoshua Bengio, dos de los referentes científicos de esta tecnología, piden a los políticos que actúen ahora antes de que se produzca un avance descontrolado de la IA.

Los autores afirman que esa “explosión de inteligencia” podría tomar forma como una “aceleración drástica del progreso de la IA impulsada por la propia IA, que comprimiría en meses o menos avances que, de otro modo, llevarían años”.

El artículo, titulado ¿Y si automatizar la investigación y el desarrollo de la IA desencadena una explosión de inteligencia? y publicado por el departamento de ciencia y políticas públicas de la IA de la Universidad de Cambridge, está firmado también por altos ejecutivos de la industria como Jack Clark, cofundador de Anthropic, y Jakub Pachocki, científico jefe de OpenAI.

Sus preocupaciones se centran en la posibilidad de que los agentes de IA sean capaces de mejorarse a sí mismos sin intervención humana, un proceso conocido como “automejora recursiva”. El informe se refiere a este proceso de forma general como automatización de la investigación y el desarrollo de IA. Según el documento, una vez que los sistemas de IA alcancen capacidades de nivel experto en investigación y desarrollo de IA, un solo desarrollador podría gestionar una fuerza de trabajo equivalente a “millones” de los mejores investigadores humanos.

La IA que se mejora a sí misma

Los autores señalan que la automatización de la investigación y el desarrollo de IA es la fuente más probable de una explosión de inteligencia, porque las IA ya están contribuyendo a mejorar su propia tecnología y los sistemas resultantes pueden desplegarse rápidamente una vez construidos.

“Una explosión de inteligencia podría ser el desarrollo tecnológico más trascendental de la historia de la humanidad, al comprimir años de progreso en meses o menos, amenazar el control humano sobre los sistemas de IA y erosionar gravemente los mecanismos de control del poder dentro de los Estados y entre ellos, así como entre empresas y ramas del Gobierno”, señala el informe.

Una explosión de inteligencia podría ser el desarrollo tecnológico más trascendental de la historia de la humanidad, al comprimir años de progreso en meses o menos, amenazar el control humano sobre los sistemas de IA y erosionar gravemente los mecanismos de control del poder dentro de los Estados

Por ello, los autores instan a los Gobiernos a actuar con rapidez: “Una vez que comience una explosión de inteligencia, la ventana de oportunidad para actuar podría cerrarse”. El informe recomienda tres prioridades políticas: exigir informes transparentes sobre los avances en investigación y desarrollo relacionados con la IA, incluida la incorporación de auditores independientes en las empresas; buscar formas de limitar el desarrollo acelerado de la IA; y prepararse para adaptarse a una explosión de inteligencia.

Anthropic y OpenAI han aceptado que evaluadores independientes examinen sus modelos, después de advertir de que el desarrollo de la IA estaba alcanzando un punto crítico en materia de seguridad. Anthropic afirma que la IA genera actualmente el 80% de su propio código, mientras que OpenAI utiliza agentes autónomos de IA en ámbitos como el entrenamiento de nuevos modelos.

“Las pruebas preliminares sugieren que una explosión de inteligencia impulsada por el software es posible”, señala el informe, que añade que esto conduciría al “desarrollo extremadamente rápido de sistemas de IA altamente capaces o sobrehumanos”.

Salto en avances y en amenazas

Aunque esto podría producir avances médicos y saltos tecnológicos, también entrañaría tres tipos de riesgos: los sistemas avanzados podrían facilitar amenazas biológicas y cibernéticas que evolucionaran más rápido que las medidas necesarias para hacerles frente; a medida que los humanos participaran menos en la investigación y el desarrollo de IA, podrían perder la oportunidad de mantener el control sobre los sistemas; y los Estados podrían utilizar una explosión de inteligencia para convertir una ventaja moderada en ámbitos como el ciberespacio en una ventaja decisiva.

El informe reconoce que estos efectos son “inciertos”. Por ejemplo, un avance tecnológico podría tardar en aplicarse debido a la necesidad de establecer cadenas de suministro para obtener materiales especiales o de cumplir con la regulación. Los sistemas de IA también podrían acelerar la velocidad a la que se mitigan los riesgos, señalan los autores.

Si se produjera un avance de este tipo, los autores sostienen que los sistemas de IA podrían superar rápidamente a los expertos humanos en la mayoría de los campos y “acelerar radicalmente” el progreso tecnológico. Prepararse para este escenario “debería ser una prioridad urgente, incluso en los niveles más altos de los Gobiernos”.

Los autores señalan que los Gobiernos deberían estudiar políticas que aborden la posibilidad de una explosión de inteligencia, entre ellas: exigir informes transparentes sobre los avances en investigación y desarrollo relacionados con la IA, incluida la incorporación de auditores independientes en las empresas; limitar la velocidad a la que una IA puede mejorar durante un determinado periodo de tiempo; colaborar con los centros de datos para permitir la suspensión de determinados proyectos de investigación y desarrollo de IA; garantizar que los sistemas automatizados de investigación y desarrollo de IA estén completamente aislados y no puedan escapar al control humano; y crear “planes de respuesta de emergencia” para los distintos escenarios que podrían surgir a raíz de una explosión de inteligencia.

Se trata de medidas muy similares al conocido plan para “ralentizar” la IA elaborado por Dario Amodei, el CEO de Anthropic, que ha provocado desconfianza fuera de Silicon Valley.

A pesar de los fallos que han mostrado algunos sistemas, como desobedecer instrucciones, los proyectos de investigación y desarrollo que a los humanos les llevarían meses podrían estar completamente automatizados mediante IA para 2028. “Las ganancias de productividad derivadas de la automatización de la investigación y el desarrollo de IA todavía no han alcanzado el umbral necesario para desencadenar una explosión de inteligencia, pero es probable que las mejoras de los sistemas más recientes se estén acercando a ese umbral”, señalan.

Tras el glamour del Zinemaldia, ahora Donostia se coloca la bata científica para dar paso a otro festival, en este caso el Passion for Knowledge. Organizado por el centro de investigación Donostia International Physics Center (DIPC), este proyecto se plantea como un encuentro entre la comunidad científica y la sociedad para promover la ciencia como una actividad cultural clave, capaz de contribuir al bienestar social y al progreso tecnológico.

Esta sexta edición del festival se celebra entre el lunes 28 de septiembre y el sábado 3 de octubre de 2026. La sede principal será el Teatro Victoria Eugenia en Donostia, con el apoyo del Palacio de Miramar y Tabakalera. Adicionalmente, se suman también escenarios en Bilbao, como el Bizkaia Aretoa y el museo Guggenheim. Todas las actividades de la programación son gratuitas para la ciudadanía, requiriendo inscripción previa en la web oficial, y contarán con servicio de traducción simultánea en euskera, castellano e inglés.

En el ámbito institucional y científico, los representantes públicos han reivindicado la ciencia como parte de la cultura y de la identidad de Donostia. El presidente del DIPC, Pedro Miguel Etxenike, ha definido Passion for Knowledge como un festival que sitúa la ciencia como “parte esencial de la cultura y del humanismo moderno”. El lehendakari, Imanol Pradales, ha definido Donostia como “vanguardia” y “ciudad vasca de la ciencia”, mientras que la diputada general de Gipuzkoa, Eider Mendoza, ha destacado la aportación de la investigación al bienestar y la transformación del territorio. El alcalde, Jon Insausti, ha situado el festival como un punto de encuentro entre “la ciencia, la tecnología y la cultura”.

Los representantes también han coincidido en la necesidad de acercar la investigación a la ciudadanía. Etxenike ha defendido la “ciencia en la ciudad” para fomentar un pensamiento crítico frente a la desinformación. Pradales ha apelado al concepto de 'jakin-mina', la curiosidad y el deseo de entender, para defender la democratización del conocimiento. Mendoza ha considerado una “oportunidad extraordinaria” acercar la ciencia de vanguardia a la población, mientras que Insausti ha reclamado que la investigación y la tecnología se orienten a mejorar la vida de las personas.

El programa incluye las conferencias plenarias de la tarde, el certamen audiovisual 'On Zientzia' y los encuentros 'Zientziarekin solasean!', en los que estudiantes de secundaria podrán conversar con científicos de primera línea. A estas actividades se suman 'Bertso Passion', que combina el bertsolarismo con la divulgación científica; las sesiones de 'Naukas Passion' y las propuestas infantiles de 'Passion Txiki', con experimentos, talleres y cuentacuentos en la Sala Club del Teatro Victoria Eugenia y Tabakalera.

Entre las novedades de esta edición se encuentra 'Nuevas Voces', un espacio dedicado a abordar algunos de los grandes retos contemporáneos mediante diálogos y presentaciones. El festival también ofrecerá una jornada formativa para estudiantes de doctorado sobre inteligencia artificial en el Palacio Miramar, un encuentro organizado junto a Emakumeak Zientzian sobre salud mental y bienestar en la carrera investigadora y el taller especializado SPARK, centrado en materiales cuánticos.

El cartel reúne a investigadores y divulgadores de distintos ámbitos. Entre los invitados internacionales figuran los premios Nobel Anne L’Huillier, Brian Schmidt, Wolfgang Ketterle y Jean-Marie Lehn, además de la escritora Siri Hustvedt y el matemático Marcus du Sautoy. Todos ellos abordarán cuestiones relacionadas con la física cuántica, la astrofísica, la neurociencia o la biodiversidad.

También participarán referentes del ámbito estatal como la paleoantropóloga María Martinón-Torres, el físico Juan Ignacio Cirac, el divulgador Eduardo Sáenz de Cabezón y la psiquiatra Rosa Molina. Por parte de Euskadi estarán el físico Pedro Miguel Etxenike y los investigadores Eneko Agirre, Ana Zubiaga, Juan José Gómez Cadenas y Román Orús, junto a los bertsolaris Maialen Lujanbio y Andoni Egaña.

ChatGPT, Gemini, Claude, Grok, Perplexity e incluso la europea Mistral. Todas estas inteligencias artificiales filtran datos del contenido de las conversaciones que los usuarios mantienen con ellas a redes publicitarias y plataformas de analítica de terceros, según han podido demostrar investigadores del Instituto IMDEA Networks y la Universidad Carlos III de Madrid. Otros tres sistemas analizados, como DeepSeek, Microsoft Copilot o Meta AI, envían información sobre el dispositivo y los metadatos de los chats a esas empresas de compraventa de datos personales.

La investigación, a la que ha tenido acceso elDiario.es, ha sido puesta en conocimiento de la Agencia Española de Protección de Datos, que ha elevado el caso al Comité Europeo de Protección de Datos para estudiar si estas transferencias vulneran la normativa comunitaria. Este último organismo mantiene abierta una investigación desde hace más de tres años sobre el tratamiento de datos de ChatGPT, cuya resolución podría tener un profundo impacto en el uso de chatbots de IA en el continente.

El estudio finalizado ahora por los investigadores españoles ha sido aceptado en PETS (Privacy Enhancing Technologies Symposium), una de las principales conferencias académicas internacionales sobre privacidad y tecnologías de protección de datos. Su principal conclusión es que los chatbots de inteligencia artificial utilizan métodos de extracción de datos personales muy similares a los que se utilizan en las páginas web y servicios digitales tradicionales para hacer publicidad ultradirigida.

“Nuestros resultados desafían la percepción de los servicios de IA conversacional como intercambios confidenciales entre los usuarios y los proveedores de IA”, avisan en el estudio: “La IA conversacional ha heredado la infraestructura publicitaria y de analítica de las plataformas web y móviles, introduciendo los datos de las conversaciones directamente en las redes de rastreo existentes”.

Una conclusión que contrasta con las menores precauciones que toman muchos usuarios a la hora de volcar datos personales en los chats de inteligencia artificial, en busca de mejores consejos o valoraciones. La realidad que evidencian ahora los especialistas de IMDEA Networks y la Carlos III es que ChatGPT, Gemini o Claude no solo envían datos de las conversaciones a las empresas que los desarrollan, como avisan antes de comenzar cada conversación, sino también a las bases de datos de los anunciantes.

“Nueva superficie de ataque a la privacidad”

El estudio analizó tanto las aplicaciones móviles como las versiones web de los nueve asistentes de IA citados. Los investigadores entablaron conversaciones con los chatbots con consultas sanitarias, subiendo como apoyo documentos con resultados de pruebas médicas. A continuación, rastrearon lo que ocurría con esos datos utilizando distintas configuraciones de privacidad.

Los resultados fueron claros. Seis de las nueve versiones web (ChatGPT, Gemini, Claude, Grok, Perplexity y Mistral) y tres aplicaciones móviles (ChatGPT, Claude y Perplexity) filtran datos directos de la conversación a través de rastreadores publicitarios. Los títulos de las charlas (como “Síntomas iniciales de Parkinson”), las preguntas formuladas, los documentos subidos al chat o incluso capturas de pantalla se comparten con empresas de mercadeo de datos personales.

“Demostramos que los servicios de IA conversacional introducen una nueva superficie de ataque a la privacidad en la que los artefactos conversacionales generados por el proveedor quedan expuestos al rastreo y a la exposición pública”, avisan los investigadores. En algunas ocasiones, incluso los enlaces públicos de los chats (como los que se utilizan para compartirlos con otras personas) quedaron expuestos a los rastreadores, lo que permite que su contenido pueda ser incorporado a las bases de datos para personalizar anuncios.

Demostramos que los servicios de IA conversacional introducen una nueva superficie de ataque a la privacidad

Además, su análisis reveló que rechazar las cookies, navegar en modo incógnito u otros métodos de protección de la privacidad que pueden activar los usuarios tienen muy poco impacto a la hora de proteger esa información. Hasta un 80,8% de los rastreadores de terceros permanecen activos incluso con esas configuraciones de protección.

Con todo, los especialistas de IMDEA Networks y la Carlos III destacan que el mayor peligro no es la propia filtración de los datos, sino el hecho de que esta información viaje acompañada de los indicadores personales que la vinculan a cada usuario. Se trata de los códigos que las empresas de la publicidad online utilizan para crear una ficha de consumidor de cada persona y registrar sus intereses, motivaciones y datos personales. Esta es la práctica que luego “permite a terceros asociar esas interacciones con usuarios individuales o perfiles de comportamiento a largo plazo y multiplataforma”, avisan.

Grok, el caso más grave

Grok, el asistente desarrollado por xAI, el laboratorio fundado por Elon Musk, lleva a cabo las prácticas más invasivas de todos los asistentes analizados. En su versión web, las conversaciones son accesibles públicamente por defecto mediante direcciones URL que se transmiten automáticamente a siete redes publicitarias y de analítica externas, entre ellas Meta, TikTok, Google Ads y Twitter Analytics.

Junto con la dirección del chat y el título generado por la herramienta, estos servicios reciben cookies de seguimiento e identificadores de usuario. Además, al generar un enlace para compartir el chat, la plataforma reenvía a Meta y TikTok el texto de la última pregunta introducida y, en el caso de TikTok, una captura de pantalla del propio chat. En las pruebas posteriores con esos enlaces, los investigadores registraron que las conversaciones con Grok recibieron hasta 70 accesos automáticos de rastreadores externos procedentes de 14 países.

elDiario.es se ha puesto en contacto con xAI, la empresa desarrolladora de Grok y también propiedad de Elon Musk, pero no ha recibido respuesta. Esta redacción también se ha puesto en contacto con las compañías detrás de los ocho chatbots restantes. Solo Google, OpenAI y Microsoft han respondido a la solicitud de información.

Este informe malinterpreta cómo funcionan nuestros productos. No tenemos anuncios en Gemini

Google

“Este informe malinterpreta cómo funcionan nuestros productos. No tenemos anuncios en Gemini y utilizamos herramientas como Google Analytics para supervisar el rendimiento técnico, detectar interrupciones del servicio y mantener la fiabilidad de nuestra aplicación web de Gemini”, ha explicado una portavoz de Google. “Cumplimos con las normativas europeas de privacidad y ofrecemos a los usuarios controles transparentes sobre sus datos”, añade.

OpenAI, por su parte, ha indicado que utiliza esas herramientas de análisis de datos para comprender el tráfico de ChatGPT, diagnosticar errores y supervisar su rendimiento. En un comunicado que ha pedido que no sea citado literalmente, la compañía asegura que esa información no se usa con propósitos publicitarios, ni se vende o comparte con anunciantes.

“Tras examinar las acusaciones, no hemos encontrado ninguna infracción de la legislación aplicable ni de la Declaración de privacidad de Microsoft”, ha contestado esta multinacional, que afirma que “la privacidad de los usuarios es una prioridad”, para ella, “incluido Copilot”.

“Prácticas intencionadas”

Con todo, los propios investigadores avisan en su estudio que las prácticas detectadas no son producto de errores o descuidos. “Durante nuestro análisis de riesgos, determinamos que la mayoría de los problemas reportados en este estudio reflejan prácticas intencionadas a nivel de producto en lugar de vulnerabilidades de seguridad explotables”, recalcan los investigadores.

Grok fue, de hecho, el único servicio para el que identificamos un problema de seguridad que podría ser explotado por ciberdelincuentes, “debido a los débiles controles de acceso en los recursos de conversación”. Por ello, avisaron directamente a la plataforma propiedad de Musk el 17 de abril, aunque la compañía no emitió ninguna respuesta oficial ni corrigió la privacidad por defecto de sus enlaces. El 15 de agosto OpenAI actualizó la política de privacidad de ChatGPT para mencionar explícitamente el uso de rastreadores de terceros, aunque los autores aclaran que no pueden confirmar si la medida fue consecuencia directa de su estudio.