Aviones, farmacias y algoritmos: ¿qué necesita la tecnología para inspirar confianza?
Es difícil abrir hoy una red social sin toparse con un vídeo corto que augure el fin del trabajo, la pérdida de control sobre las máquinas o la llegada de una inteligencia superior. Son mensajes diseñados para el impacto rápido que instalan un clima de inquietud casi constante.
Sin embargo, esta alarma no nace únicamente de los algoritmos de TikTok o Instagram; en las últimas semanas se ha alimentado de hechos muy reales. Grandes tecnológicas han llegado a incluir advertencias sobre 'riesgos existenciales' en los folletos destinados a sus inversores, al tiempo que se sucedían sonadas dimisiones de investigadores de seguridad preocupados por las prisas en comercializar los modelos más avanzados.
Frente a este ruido ambiental que oscila entre la fascinación y el catastrofismo, conviene dar un paso atrás y quitarle a la tecnología esa aura de magia o amenaza incontrolable.
La inteligencia artificial que conocemos hoy no es una entidad consciente ni un fenómeno misterioso: es la consecuencia directa del aumento masivo de la capacidad de cómputo y de almacenamiento de datos que la humanidad ha alcanzado en las últimas décadas.
Es infraestructura, son matemáticas y, sobre todo, son datos. Comprender esto no le resta mérito a la innovación, pero nos devuelve algo fundamental: la tranquilidad y el control.
El mito del agente que actúa solo
En el centro del debate actual se encuentran los llamados 'agentes autónomos', sistemas capaces de encadenar tareas complejas y tomar decisiones en tiempo real. Coincidiendo con alertas recientes en materia de ciberseguridad sobre la vulnerabilidad de estas herramientas, ha vuelto a surgir el temor a que la tecnología “escape” a la supervisión humana.
Un agente es tan autónomo como el equipo humano que lo ha diseñado ha decidido que sea.
Una inteligencia artificial no cobra vida por iniciativa propia para mover fondos en un banco, gestionar el inventario de un hospital ni, mucho menos, lanzar un ciberataque de forma espontánea contra una infraestructura crítica.
La autonomía no es un fenómeno mágico, sino un parámetro explícito de diseño de software. La responsabilidad, por tanto, siempre es y será humana
Si un sistema causa un fallo de seguridad o provoca una intrusión no deseada, no es porque la máquina haya desarrollado voluntad, sino porque un actor humano la ha programado, alimentado y dotado de los permisos y accesos necesarios para operar.
La autonomía no es un fenómeno mágico, sino un parámetro explícito de diseño de software. La responsabilidad, por tanto, siempre es y será humana.
Los dos pilares de la seguridad: datos de calidad y marcos de confianza
Si la autonomía depende del diseño, ¿cómo garantizamos que estos sistemas funcionen a favor de la sociedad y no en su contra? La respuesta se apoya en dos pilares complementarios.
El primero es la gobernanza y gestión de los datos (los principios que impulsamos desde marcos profesionales como DAMA). Una inteligencia artificial es tan precisa, justa y segura como la calidad de los datos con los que ha sido entrenada. Si alimentamos un sistema con datos sesgados, desactualizados o de procedencia dudosa, el resultado será defectuoso.
Una buena estrategia de datos no consiste en acumular información sin control, sino en garantizar su trazabilidad, su precisión, su ciberseguridad y el respeto absoluto a la privacidad de las personas.
Una buena estrategia de datos no consiste en acumular información sin control, sino en garantizar su trazabilidad, su precisión, su ciberseguridad y el respeto absoluto a la privacidad de las personas
El segundo pilar son los marcos de IA confiables. A menudo se habla de la necesidad de 'inventar' una ética para las máquinas, cuando en realidad las directrices ya están redactadas y consensuadas internacionalmente. Principios como la transparencia, la explicabilidad de los algoritmos, la no discriminación y, especialmente, la supervisión humana (Human-in-the-Loop) forman parte de los estándares técnicos globales.
El desafío de hoy no es teórico, sino práctico: articular los mecanismos para asegurar que se apliquen estos marcos de forma verificable
El desafío de hoy no es teórico, sino práctico: articular los mecanismos para asegurar que se apliquen estos marcos de forma verificable
Por qué regular no es frenar
Aparece aquí con frecuencia una narrativa recurrente: la que sostiene que exigir normas y garantías sofoca la innovación y nos condena a la zaga tecnológica. Sin embargo, la historia de la industria demuestra lo contrario.
La aviación comercial y el sector farmacéutico son dos de las industrias más estrictamente reguladas del planeta. Nadie se sube a un avión pensando en la burocracia que ha exigido certificar su turbina, ni duda al comprar un medicamento en la farmacia de su barrio pensando que las inspecciones sanitarias han frenado el progreso de la medicina.
Fueron precisamente los controles de calidad rigurosos, las homologaciones y la supervisión pública los que generaron la confianza indispensable para que la sociedad adoptara masivamente el transporte aéreo y los fármacos en su vida cotidiana.
Fueron precisamente los controles de calidad rigurosos, las homologaciones y la supervisión pública los que generaron la confianza indispensable para que la sociedad adoptara masivamente el transporte aéreo y los fármacos en su vida cotidiana
Con la tecnología ocurre exactamente lo mismo. El despliegue de la normativa europea (EU AI Act) y de iniciativas como el Plan IA360 no debe interpretarse como una traba burocrática, sino como la cinta de seguridad que exige el mercado.
Supervisar los modelos de alto riesgo, crear entornos de prueba y exigir soberanía en los datos y algoritmos de la administración no frena la innovación. Al contrario: son las condiciones indispensables para construir una confianza real.
La ciudadanía en el centro
La tecnología no es un fenómeno meteorológico que debamos padecer como espectadores asustados desde la pantalla del móvil. Es una herramienta de transformación extraordinaria que, bien encauzada, puede mejorar nuestros servicios públicos, optimizar el uso de la energía, agilizar la atención sanitaria y crear empleo de alto valor añadido.
Para lograrlo, la clave está en pasar del consumo pasivo de contenidos alarmistas a exigir una tecnología transparente. La verdadera innovación no es la que avanza a ciegas pidiendo perdón después, sino la que se diseña desde el primer día con rigor en el dato, principios éticos claros y un objetivo inequívoco: servir a las personas.