La inteligencia artificial pública obliga a decidir dónde se guardan los datos y quién los controla
Una persona pregunta a un asistente público si puede solicitar una ayuda, qué documentación necesita o cómo debe resolver una incidencia. Para obtener una respuesta, quizá proporcione información sobre su situación económica, familiar o profesional. La conversación parece sencilla, pero abre una pregunta que rara vez aparece en la pantalla: ¿dónde viajan esos datos y quién puede acceder a ellos?
La incorporación de inteligencia artificial a la administración no consiste solamente en elegir un modelo capaz de comprender preguntas y generar respuestas. También obliga a decidir dónde se ejecuta, qué información consulta, cuánto tiempo se conservan las conversaciones y qué empresas participan en el funcionamiento del sistema.
Estas decisiones forman parte de lo que se denomina soberanía digital. No significa que cada administración tenga que fabricar sus propios modelos o renunciar a todos los servicios externos. Significa que debe conservar la capacidad de conocer y gobernar el recorrido de sus datos, establecer las condiciones de acceso y evitar que una función pública esencial dependa completamente de decisiones ajenas.
El problema puede resultar invisible porque la inteligencia artificial suele presentarse como una única herramienta. En realidad, detrás de un asistente pueden intervenir un modelo de lenguaje, una base documental, un sistema de automatización, un proveedor de infraestructura, servicios de soporte y diferentes equipos de desarrollo. Cada componente introduce decisiones sobre seguridad, dependencia y control.
La nube no elimina la responsabilidad pública
Utilizar servicios en la nube puede ser una opción válida. Permite disponer de capacidad tecnológica sin mantener una infraestructura propia y facilita que organizaciones pequeñas accedan a herramientas avanzadas. Pero trasladar el procesamiento a un proveedor no traslada la responsabilidad de la administración.
Antes de utilizar un servicio externo debería conocerse dónde se almacenan los datos, si pueden emplearse para mejorar otros modelos, cuánto tiempo permanecen disponibles y qué terceros intervienen en su tratamiento. También debe estar previsto cómo se auditan los accesos y cómo puede eliminarse o recuperarse la información cuando termina el contrato.
La alternativa de ejecutar modelos en infraestructura propia reduce algunos riesgos, pero tampoco constituye una garantía automática. Mantener servidores locales exige seguridad física, actualizaciones, copias de respaldo, control de usuarios y personal con capacidad para operar el sistema. Un equipo instalado dentro de un edificio público puede ser soberano y, al mismo tiempo, estar mal protegido.
Existe además una fase especialmente delicada que suele recibir menos atención: el desarrollo. Aunque el sistema definitivo funcione dentro de la administración, sus documentos pueden salir del perímetro institucional durante las pruebas, la preparación de la base de conocimiento o una intervención de soporte remoto.
Un fragmento copiado en una herramienta externa, un documento enviado a un colaborador o una prueba realizada con datos reales puede romper el control que se pretendía garantizar con la infraestructura local. Por eso, los entornos de desarrollo deberían utilizar información sintética o anonimizada, y cualquier trabajo con documentos reales tendría que realizarse dentro de espacios expresamente autorizados y trazables.
El verdadero control se comprueba cuando algo cambia
Una administración controla realmente su sistema cuando puede actualizar sus documentos, sustituir un modelo, modificar un flujo de trabajo o cambiar de proveedor sin perder la información ni tener que reconstruirlo todo desde cero.
La soberanía depende, por tanto, de la arquitectura y de los contratos. Los documentos originales, las bases de conocimiento, los registros de actividad y las configuraciones deberían poder exportarse en formatos utilizables. Las integraciones tendrían que apoyarse en interfaces documentadas y evitar dependencias innecesarias de una sola herramienta.
También importa quién conserva el conocimiento necesario para operar la solución. Si solo el proveedor entiende cómo se incorporan nuevos documentos, cómo se corrigen respuestas o cómo se revisan los permisos, la administración mantiene la propiedad formal del sistema, pero no su autonomía práctica.
Esto no obliga a prescindir de empresas especializadas. La colaboración externa puede resultar imprescindible para diseñar, implantar y mantener soluciones complejas. La cuestión es que el proveedor aporte capacidad sin convertirse en el único lugar donde reside el conocimiento sobre el funcionamiento del servicio.
El control también debe llegar a las respuestas. Un asistente público necesita registrar qué fuentes ha utilizado, permitir la supervisión de sus resultados y diferenciar las consultas informativas de aquellas que pueden afectar a derechos o decisiones administrativas. Cuanto más sensible sea el uso, mayores deben ser la trazabilidad y la intervención humana.
Para la ciudadanía, estas decisiones técnicas tienen consecuencias concretas. Determinan quién puede conocer una consulta, cómo se protege una información personal y si el servicio continuará funcionando cuando cambie un contrato o una tecnología.
La inteligencia artificial pública no será más confiable únicamente porque responda mejor. También debe hacerlo dentro de una arquitectura en la que los datos, las reglas de acceso y las decisiones esenciales sigan bajo control institucional. Innovar no consiste solo en incorporar nuevas capacidades, sino en saber qué dependencias se aceptan y cuáles no deberían cederse.