Investigadores valencianos desarrollan un sistema de inteligencia artificial que detecta sexismo oculto en vídeos de TikTok y memes

Investigadores de la UPV desarrollan un sistema de IA que ayuda a detectar sexismo en videos y memes de TikTok

El modelo combina el análisis de los vídeos y memes con datos sobre la actividad cerebral, el movimiento de los ojos y el ritmo cardíaco de las personas al ver estos contenidos

Ayuda a identificar mensajes sexistas, especialmente cuando aparecen disfrazados de humor o dependen del contexto

Un equipo de investigadores del grupo PRHLT de la Universitat Politècnica de València (UPV) ha desarrollado un nuevo sistema de inteligencia artificial que ayuda a detectar contenidos y mensajes sexistas en memes y videos de TikTok. El sistema combina el análisis del contenido de los vídeos con datos sobre la actividad cerebral, el movimiento de los ojos y el ritmo cardíaco de los espectadores.

“Muchas veces, tanto en los memes como en los videos de TikTok, existen contenidos en los que el sexismo aparece camuflado mediante el humor, la ironía, los estereotipos o comentarios aparentemente inofensivos. Además, para interpretar correctamente un vídeo es necesario tener en cuenta simultáneamente el lenguaje, los textos que aparecen en pantalla, las imágenes, los gestos y el contexto. Nuestro sistema ayuda a detectar y denunciar esos contenidos sexistas de forma más eficaz que los sistemas utilizados actualmente”, apunta Iván Arcos, investigador del PRHLT.

¿Qué ocurre cuando vemos contenido sexista?

Para desarrollar el sistema, los investigadores analizaron unos cuatro mil memes y unos dos mil quinientos vídeos de TikTok en español e inglés, procedentes de los conjuntos de datos de EXIST, una competición internacional sobre detección de sexismo en redes sociales. “Trabajamos con diez personas en el estudio con vídeos y con dieciséis en el de memes, que visualizaron estos contenidos mientras se registraban sus respuestas mediante seguimiento ocular, electroencefalografía (EEG) y medición del ritmo cardíaco”, explica Paolo Rosso, catedrático del Departamento de Sistemas Informáticos y Computación y miembro de ValgrAI (Valencian Graduate School and Research Network of Artificial Intelligence).

Y, según recoge el estudio, las reacciones ante contenidos sexistas y no sexistas fueron muy diferentes. Los vídeos sexistas generaron, entre otros efectos, mayores tiempos de reacción y un incremento de las fijaciones de la mirada, además de diferencias en determinados patrones de actividad cerebral. En concreto, el número medio de fijaciones de la mirada aumentó en los vídeos en los que muestran o juzgan situaciones sexistas.

Los movimientos rápidos de los ojos de un punto a otro (sacadas) y los parpadeos siguieron la misma tendencia, y el ritmo cardíaco mostró mayores fluctuaciones ante los vídeos sexistas. En el caso de los memes se observó un patrón similar. “La respuesta también variaba según el tipo de sexismo. El estudio distingue, por ejemplo, entre sexismo directo y contenidos que muestran o juzgan situaciones sexistas, cuya correcta interpretación exige comprender mejor la intención y el contexto del mensaje”, explica Iván Arcos.

Según los investigadores, estas diferencias en la mirada reflejan una mayor carga cognitiva: cuanto más difícil es interpretar un contenido, más se detiene y se desplaza la mirada, porque el espectador explora la pantalla en busca de pistas (el texto, los gestos, el contexto) antes de decidir qué significa. Por eso el efecto es máximo en los vídeos que muestran o juzgan situaciones sexistas, en los que no basta con reconocer lo que aparece en pantalla, sino que además hay que deducir cuál es la postura de quien lo publica.

“El EEG registra la actividad eléctrica del cerebro a través de 16 electrodos, o canales, colocados sobre la cabeza, y permite distinguir entre ondas cerebrales lentas y rápidas. Cuando los sujetos veían un vídeo sexista, las ondas lentas (delta, theta y alfa) perdían intensidad en los canales de la zona central y parietal, es decir, en la parte alta y trasera de la cabeza. Puede parecer contradictorio, pero es una señal de que el cerebro está prestando más atención: estas ondas, sobre todo las alfa, son más intensas cuando el cerebro está relajado y se reducen cuando se concentra”, explica Iván Arcos.

En cambio, en los vídeos que muestran o juzgan situaciones sexistas, frente a los de sexismo directo, aumentaron las ondas rápidas (beta y gamma) en los canales de la parte frontal y del lado derecho de la cabeza. “Estas ondas se asocian a un razonamiento más elaborado. El sexismo directo basta con reconocerlo, pero en estos vídeos el cerebro tiene que analizar el contexto para entender qué quiere decir quien los publica”, añade Arcos.

Por su parte, los vídeos de violencia sexual redujeron la intensidad de las ondas cerebrales en todos los canales en los que se detectaron diferencias, sobre todo en el lado derecho de la cabeza. Como ocurría con los vídeos sexistas en general, esta reducción indica una mayor implicación del cerebro, en este caso ante un contenido emocionalmente muy desagradable. Además, que se concentre en el lado derecho coincide con estudios previos que muestran que los dos hemisferios no procesan las emociones de la misma forma.

Identificar contenidos sexistas y actuar sobre ellos

A partir de estas diferencias, el equipo de la UPV desarrolló el modelo de inteligencia artificial, combinando las señales fisiológicas con la información textual y visual extraída de los vídeos. El trabajo se acaba de presentar en el XLII Congreso Internacional de la Sociedad Española de Procesamiento del Lenguaje Natural. “Frente al sistema basado únicamente en texto e imágenes, la incorporación de las respuestas fisiológicas mejoró de aproximadamente un 4% la detección de si un vídeo era sexista o no; y de más de un 6% la diferenciación entre sexismo directo y valorativo, así como la clasificación de las diferentes categorías de sexismo. Las mayores mejoras se dan precisamente en los casos más difíciles, cuando hay que interpretar la intención del mensaje o distinguir las categorías más ambiguas, como la cosificación o la desigualdad ideológica. En el caso de los memes, la mejora alcanzó el 26,3 % en la categoría más difícil de identificar, la misoginia y violencia no sexual. Así, al detectar mejor el sexismo, incluido el más implícito o camuflado, nuestra herramienta podría ayudar a las plataformas a identificar estos contenidos y actuar sobre ellos”, concluye Paolo Rosso.