Un guardián virtual valenciano combatirá el futuro 'lado oscuro' del metaverso

El metaverso, entre otros entornos de realidades sociales híbridas, tendrá también riesgos de seguridad, como comportamientos maliciosos y prácticas manipuladoras, y para combatirlos, investigadores valencianos trabajan ya en crear un guardián personal virtual con técnicas de inteligencia artificial.

Un equipo de la Universitat Politècnica de València perteneciente al Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN) desarrolla ya ese guardián personal virtual dentro del proyecto guardIA, todo ello con una previsión de que todo eso pueda pasar en un plazo de diez o quince años.

El objetivo de este programa, que tiene a Vicent Botti como investigador principal, es el de garantizar una interacción social más segura y sofisticada en los futuros espacios sociales de realidad híbrida aprovechando las capacidades de la IA.

Detectar contenidos maliciosos

Según explican fuentes de la UPV, este guardián personal virtual surge en respuesta al aumento del uso de los medios sociales y la tecnología en los que las personas van a poder interaccionar en entornos virtuales inmersivos con una relación sin precedentes, así como para la detección de intenciones o contenidos poco fiables o maliciosos.

Aunque ya existen interacciones intencionadas con los sistemas de recomendación y publicidad, basados en el comportamiento en línea, los agentes que controlen las interacciones y los flujos de información en las futuras realidades sociales híbridas tendrán todavía mayores ventajas para explotar las debilidades de las personas que se encuentren en estos entornos.

Este guardián personal virtual interaccionará con el usuario final y lo sensibilizará y concienciará sobre posibles intentos maliciosos y prácticas manipuladoras que mitigarán sus efectos.

El proyecto guardIA consta, en una primera fase de desarrollo, de un ejemplo teórico y tecnológico que anticipa cómo las redes sociales híbridas van a redefinir las relaciones sociales y cuáles van a ser las nuevas formas de interacción social que surgirán en los entornos virtuales e identificar aquellas de mayor riesgo.

En segundo lugar, el desarrollo de un asistente personalizado de código abierto, basado en técnicas de IA, que participará en una sofisticada interacción con el usuario final, lo sensibilizará y ayudará a reconocer posibles intentos maliciosos y patrones de manipulación para que se reduzcan sus efectos.

Y, en tercer lugar, habrá un proceso de comprensión de esta herramienta a nivel público que también va a poder ser aplicable en diversos campos.

Riesgos tecnológicos en el metaverso

Tal y como destacan los expertos, en los próximos 10 o 15 años existirán nuevas herramientas en las redes sociales del futuro a disposición de quienes quieran manipular a los usuarios con fines políticos, comerciales o de cualquier otro tipo, que no solo se centrarán en la esencia de un mensaje sino en su forma.

Por ejemplo, señalan desde la UPV, los «bots» con IA configurados con edad, género y voz similar al de las personas para desencadenar emociones e influir en su estado de ánimo y su capacidad de decisión, o imágenes de personas en las que se confía para poder engañar.

El director de VRAIN e investigador principal de guardIA, Vicent Botti explica que “este proyecto pretende contribuir a una interacción social más segura en las redes sociales híbridas y facilitar el proceso de aceptación y adaptación de los usuarios a este nuevo entorno sociotecnológico”.

Así, añade, “se ha prestado una gran atención a las estrategias de diseño y la participación activa de los usuarios en el ecodiseño del mismo, mediante estudios de validación y actividades de prueba específicas para aumentar la confianza hacia este desarrollo”.

A su juicio, ese problema, “aunque todavía no exista, va a surgir en el futuro más cercano en un plazo de 10 a 15 años”.

El desarrollo de este guardián virtual ha sido diseñado teniendo en cuenta el incipiente despegue de campos como la realidad virtual, realidad aumentada y realidad extendida que van a permitir la interacción libre dentro de ellos. Además figura la tecnología multisensorial, que permite el reconocimiento de las emociones de los usuarios de una forma fácil, asequible y en tiempo real.