Indra experimentará en campaña con un algoritmo de detección de 'fake news' que probó en las elecciones andaluzas
Indra experimenta desde hace meses con un algoritmo de detección de noticias falsas para interceptarlas y “etiquetarlas” como tales de forma automatizada. Según ha podido saber eldiario.es, la multinacional tecnológica española lo puso a prueba de forma confidencial en las pasadas elecciones andaluzas con “resultados bastante satisfactorios”: los avisos del sistema coincidieron con los resultados a los que llegaron los verificadores de bulos españoles más reconocidos. La prueba definitiva será la campaña para las elecciones generales del próximo 28 de abril.
Fuentes de la empresa han explicado a este medio que el algoritmo ofrece una predicción en forma de escala con la probabilidad de que una noticia sea desinformación. Además de las señales de alerta tradicionales como la autoría, la temática o la viralización temprana, el modelo automático con el que experimenta Indra “entra en un nivel bastante profundo de las estructuras semánticas del titular y del corpus, para ver repeticiones de patrones, de ideas, de afirmaciones, de frases subordinadas, etc.”.
“Quienes lo hemos estado probando recibíamos alertas en nuestro móvil en tiempo real sobre qué noticias se iban detectando con un riesgo medio-alto o alto calculado, sobre qué temáticas, qué partidos eran los más protagonistas, y en qué zonas geográficas se hacía mayor incidencia”, afirma José Antonio Rubio, director del departamento de soluciones electorales de Minsait, propiedad de Indra.
El objetivo de la empresa es poner su plataforma a disposición de las administraciones en los periodos electorales, así como hacerla accesible a los verificadores de noticias mediante suscripción. Aclara que el gobierno central español no ha tenido relación con la decisión de desarrollar el algoritmo. De hecho, explican que su algoritmo no estará del todo desarrollada para la campaña electoral del 28 de abril. La convocatoria de elecciones generales por parte de Pedro Sánchez pilló a la empresa a contrapié, ya que su plan de trabajo tenía como horizonte los comicios europeos del 25 de mayo. El 28 de abril el algoritmo todavía estará en pruebas, lo que ofrecerá otra oportunidad para testarlo en la campaña electoral.
Al contrario, Rubio expone que las instituciones oficiales más interesadas se encuentran en el seno de la Unión Europea. “Hay una inquietud por parte de ciertas autoridades electorales para impulsar medidas de protección y ser quienes provean el servicio valiéndose de nuestra tecnología”, revela. El plan, continúa, es que la herramienta pueda hacer una “labor de advertencia” de las noticias sospechosas y ahorre desmentidos oficiales.
Según ha podido confirmar este medio, Indra está enseñando a su plataforma antidesinformación con las bases de datos de algunos de los principales verificadores de información a nivel nacional. “La idea es poderlo entrenar con hemerotecas o repositorios locales y que pueda trabajar en otros países”, expone Rubio.
¿Quién vigila al algoritmo vigilante?
La iniciativa de Indra llega en un momento de creciente preocupación por la fiscalización de las decisiones automáticas de los algoritmos. Numerosos expertos alertan de que, pese a basarse en modelos matemáticos, la denominada “inteligencia artificial” no tiene por qué ser neutral. Al contrario, advierten, puede ser tan racista, clasista o machista como aquellos que la programan.
Preguntado acerca del métodos de fiscalización de su algoritmo y cómo hará transparente el proceso de decisión que lleva a etiquetar una noticia como falsa, Rubio manifiesta que Indra “no va a tener resistencia a contar cómo funciona” la manera en la que etiquetan las noticias. “No sobre cómo llegamos a ellas, que será la parte de propiedad intelectual que tenemos que proteger, pero sí para que haya un contraste de los resultados”. Algo que, en todo caso, ocurrirá con la versión definitiva del algoritmo, que todavía se encuentra en pruebas. “Las ponderaciones que configuran la versión actual están siendo revisadas, porque Andalucía para nosotros ha sido un poco el beta tester, tenemos que hacer algunas correcciones”.
Además, aclara que la última palabra corresponderá a los verificadores. “No tenemos ningún sesgo ideológico ni vamos a hacer nunca el trabajo de verificación y desmentido”, asegura Indra: “No es un ejercicio de ocultación, nuestro único objetivo es evitar que haya un efecto de manipulación de voto”.
