Laura Bates: “La reacción contra el progreso feminista está alimentada con el poder inmenso de los algoritmos”

Es un libro de tecnología que, en realidad, va de otra cosa. Lo explica su autora, la periodista Laura Bates (Oxford, 1986): “Va de poder y de sexismo”. En La nueva era del machismo (Península), Bates, que en su anterior libro (Los hombres que odian a las mujeres, editado por Capitán Swing) trazaba el panorama de las subculturas misóginas online y alertaba sobre la manosfera, analiza cómo la inteligencia artificial y las nuevas tecnologías están reinventando el odio contra las mujeres.

En su libro habla de IA de 'deepfakes', de robots sexuales, de asistentes creados para ser parejas sentimentales... ¿Algunas tecnologías son un problema en sí mismas o el problema es la manera en la que se entrenan y configuran?

En general, la tecnología en sí no es realmente el problema, se trata más bien del sesgo en la información con la que se entrena o de la falta de ajustes de seguridad y medidas de protección. Pero en algunos casos la tecnología sí me parece en sí misma el problema, y me refiero a las aplicaciones de 'deepfakes': programas y herramientas diseñados para permitir el abuso, para permitir desnudar a otra persona sin su consentimiento. El otro ejemplo es quizá la 'novia virtual', porque están diseñadas para crear la ilusión de una forma muy específica de desequilibrio de poder de género en las relaciones y, si facilitan el abuso sexual virtual, creo que eso es directamente perjudicial en sí mismo.

Nos decían que no le diéramos tanta importancia al acoso callejero porque, al menos, no es una violación, así que no podíamos hablar de ello. Nadie está diciendo que las formas de violencia sexual en Internet sean iguales a las que se dan fuera de línea, pero eso no significa que no sean totalmente inaceptables por sí mismas. Es un tipo diferente de daño, pero es un daño muy real y sigue siendo inaceptable

Cuando hablamos de 'deepfakes' sexuales hay quien excusa su uso en que se trata de imágenes que no son reales, ¿cómo responder a esta justificación?

Podemos ver muy claramente que el daño es real: hay niños que abandonan la escuela, hay niñas de 10 y 11 años que se avergüenzan tanto cuando les sucede que no salen de casa, hay mujeres que son chantajeadas con estas imágenes. Hay políticas que son blanco de ataques con ellas; periodistas y mujeres de la vida pública contra las que se utiliza estas imágenes para amenazarlas, chantajearlas y obligarlas a callar, o para apartarlas de la vida pública. Podemos ver que el impacto psicológico es real: todo el mundo entiende que si llevas unas gafas de realidad virtual o estás viendo una película en 3D en el cine y un tiburón sale de la pantalla hacia ti, das un respingo, tu ritmo cardíaco se acelera y empiezas a sudar. Sabemos que hay una respuesta fisiológica real a los estímulos virtuales y, sin embargo, cuando se trata de mujeres y niñas simplemente no queremos aceptar que sabemos que estas imágenes están provocando que las mujeres pierdan sus trabajos y que, en algunos casos, algunas corran el riesgo de sufrir violencia a causa de ellas o de perder la custodia de sus hijos. El peligro es real porque la misoginia es real y nuestra respuesta a las imágenes es real. Diría que esa excusa es solo otra versión de las formas en las que la sociedad lleva años intentando silenciar las objeciones feministas.

Nos decían que no le diéramos tanta importancia al acoso callejero porque, al menos, no es una violación, así que no podíamos hablar de ello. Nadie está diciendo que las formas de violencia sexual en Internet sean iguales a las que se dan fuera de línea, pero eso no significa que no sean totalmente inaceptables por sí mismas. Es un tipo diferente de daño, pero es un daño muy real y sigue siendo inaceptable.

Los 'deepfakes' se generan con aplicaciones o incluso con bots, y hemos visto algunos casos, como el que sucedió en Almendralejo, que menciona en su libro, en el que los chavales lo usan casi como un juego. ¿Hay una sensación de que esas aplicaciones son eso, una especie de juego? ¿Hay un envoltorio que hace que haya una especie de gamificación de los 'deepfakes'?

Sí, y eso contribuye a la normalización, porque lo convierte en algo colaborativo y social que los hombres hacen juntos y, de nuevo, eso lo normaliza y hace que resulte más aceptable. Lo que estamos viendo en algunos colegios es el intercambio de estas imágenes 'deepfake', casi como si fuera un juego de cromos, es decir, además de normalizar, esa gamificación fomenta la difusión, el intercambio y el comercio de estas imágenes. Eso es muy malo para las mujeres y las niñas, se convierte en una forma de deshumanización.

Señala que la inmensa mayoría de 'deepfakes' que se generan están relacionados con contenido sexual de mujeres pero que, sin embargo, las iniciativas que están surgiendo para regularlos se centran en los 'deepfakes' que afectan a políticos, ¿por qué?

Es un ejemplo de un problema más amplio: cuando pensamos en los retos o riesgos de la IA, la gente piensa en los retos para los hombres, pensamos en quiénes verán afectados sus puestos de trabajo, nos preguntamos si los futuros políticos se verán amenazados y si los robots se harán con el control del mundo. Pero la gente no presta atención a las mujeres, que ya están sufriendo en este mismo momento. ¿Por qué? Porque no hay una legislación adecuada. No hay ninguna protección eficaz y, una vez más, las mujeres se quedan solas haciendo frente a un problema enorme que, en esencia, se ignora.

Pensamos que lo que ocurre en Internet no es real y no creemos que tenga consecuencias en el mundo real; y el otro es que no nos tomamos en serio los delitos de violencia y acoso contra las mujeres. Así que, cuando ambas cosas se unen, como sociedad nos mostramos muy desdeñosos con el problema. Despreciamos a las víctimas y no vemos que el debate público al respecto sea una emergencia, que lo es

¿Sigue siendo difícil de asumir socialmente que cuando hablamos de 'deepfakes' sexuales o de difusión de imágenes íntimas sin consentimiento estamos hablando de un delito?

Sí, creo que encaja en dos patrones. Uno es el patrón según el cual pensamos que lo que ocurre en Internet no es real y no creemos que tenga consecuencias en el mundo real; y el otro es que no nos tomamos en serio los delitos de violencia y acoso contra las mujeres. Así que, cuando ambas cosas se unen, como sociedad nos mostramos muy desdeñosos con el problema. Despreciamos a las víctimas y no vemos que el debate público al respecto sea una emergencia, que lo es, porque tantas mujeres políticas actualmente en el cargo están siendo blanco de esta forma de abuso que existe un riesgo real de socavar la democracia. Estamos viendo cómo mujeres políticas de todo el mundo dimiten antes de tiempo, y el abuso en línea es una de las principales razones por las que lo hacen, y eso esa es una amenaza para la política y para la democracia.

Con o sin IA, ¿en el fondo el problema sigue siendo el señalamiento y la culpabilización de la sexualidad femenina?

Sí, esto facilita que se ataque a las mujeres de esta manera porque la sociedad ya está cómoda con avergonzar y señalar la sexualidad de las mujeres, lo que agrava aún más el impacto de estos delitos. Y, por supuesto, eso significa que este es solo el último ejemplo de una larga tradición de ataques contra las mujeres basados en su sexualidad y en sus cuerpos. La gente poco sensata culpaba a las mujeres. Decían: “Bueno, tú hiciste estas fotos” o “tú compartiste estas imágenes, ¿qué pensabas que iba a pasar?”. Lo que sucede ahora con el abuso de los 'deepfakes' es la prueba definitiva de que ese planteamiento es un gran error, porque lo que vemos es que incluso las que no se hacen fotos desnudas pueden ser víctimas. Eso demuestra que nunca deberíamos haber pensado en si las mujeres se mantuvieran a salvo, deberíamos habernos centrado desde el principio en los agresores, en hacer que las empresas tecnológicas rindan cuentas por hacer posible esta tecnología y en la necesidad de que el gobierno la regule.

Estamos construyendo este mundo completamente nuevo que se supone que nos debe entusiasmar, pero si simplemente hacemos la vista gorda ante el hecho de que hay hombres que persiguen a las mujeres, fingen agredirlas, les gritan, las acosan y las acechan, haciendo que esos espacios sean inseguros para ellas, estamos construyendo un mundo nuevo, pero dejando completamente atrás a las mujeres

En el libro relata lo fácil que resulta que sucedan agresiones sexuales en el metaverso. ¿Una agresión sexual en el metaverso es una agresión sexual?

Creo que debería considerarse un delito sexual. Tenemos que tener en cuenta el impacto psicológico que esto tiene. En el Reino Unido en este momento la policía está investigando una violación colectiva virtual de una menor de 16 años en el metaverso. La policía ha hecho pública información indicando que esa chica ha sufrido un trauma psicológico muy similar al de una víctima real de un delito sexual real. Yo diría que los delitos no tienen por qué ser iguales para que reconozcamos que ambos son inaceptables y graves.

También es muy importante reconocer que el desarrollo de la tecnología wearable (vestible) avanza tan rápido que, en un periodo de tiempo muy breve, podremos llevar un traje que cubra todo el cuerpo y que esté equipado con sensores por todas partes, de modo que, cuando alguien te toque o te agreda en la realidad virtual, lo sentirás en todo el cuerpo. Así que nos estamos acercando aún más a una agresión sexual real y es muy importante que nos lo tomemos en serio. ¿Qué significa esto para la sociedad? Estamos construyendo este mundo completamente nuevo que se supone que nos debe entusiasmar, pero si simplemente hacemos la vista gorda ante el hecho de que hay hombres que persiguen a las mujeres, fingen agredirlas, les gritan, las acosan y las acechan, haciendo que esos espacios sean inseguros para ellas, estamos construyendo un mundo nuevo, pero dejando completamente atrás a las mujeres.

¿Cuál es la diferencia entre jugar a videojuegos en los que hay violencia explícita y participar en un metaverso en el que suceden comportamentos violentos?

En primer lugar, cuando jugamos a videojuegos violentos experimentamos una respuesta fisiológica. Por eso, nos sobresaltamos cuando alguien nos dispara en un videojuego. Pero la gran diferencia es que, cuando jugamos a un videojuego violento, estamos tomando la decisión de jugar a ese juego porque queremos participar en esa actividad, mientras que las mujeres están siendo acosadas y agredidas en el metaverso y eso no es lo que ellas han elegido, no es lo que quieren, no han dado su consentimiento para eso.

De alguna manera parece relacionar lo que sucede con el metaverso, los robots sexuales o los asistentes que la gente está usando como una especie de pareja creada por IA con que la violencia sexual y contra las mujeres se siga reproduciendo. ¿No es peligroso hacer una conexión directa entre una cosa y otra?, ¿la violencia de género y sexual no sucede independientemente de que todas esas tecnologías existan porque su origen es otro?

Yo no defiendo eso exactamente, sugiero que existe la posibilidad de que, si normalizamos por completo la violencia sexual en estos espacios online, esto anime a los agresores en la vida real, especialmente a los jóvenes que crecen en un mundo online que para ellos es tan real como el mundo exterior y ven cómo se acosa, se menosprecia y se maltrata constantemente a las mujeres en esos espacios online. Quizás esto aumente la probabilidad de que se insensibilicen ante ese tipo de comportamientos también fuera de Internet, pero no creo que necesitemos demostrar esa relación para afirmar que, en cualquier caso, es inaceptable que esos comportamientos se produzcan en los espacios virtuales por sí mismos.

Incluso en la ropa y en cualquier otro sector, aceptamos que, cuando los productos van a salir al mercado, primero deben cumplir unas normas que dejen claro que no van a ser peligrosos, inseguros o causantes de daños. Solo en el ámbito tecnológico no tenemos la percepción generalizada de que esa regulación deba existir

Usted se pregunta en el libro qué se está haciendo al respecto de todo esto y responde: casi nada. ¿Qué no se está haciendo que sí se debería estar haciendo?

Regulación. Regulación en los casos en que se lanzan al público productos que constituyen nuevas herramientas y tecnologías emergentes, o cuando los estados los adquieren y los integran en los sistemas sanitarios o judiciales, o cuando las empresas privadas los compran para utilizarlos en sus procesos de selección de personal. Por ejemplo, en el caso de los servicios financieros, debería haber un punto en el que, antes de que esos productos lleguen a afectar al público en general, deban cumplir una norma de seguridad.

Esto no es nada nuevo, es exactamente lo que ocurre con las normas alimentarias y de higiene. Cuando se lanzan al mercado los coches, primero deben cumplir las normas de seguridad y superar unas pruebas; lo mismo ocurre con los juguetes. Incluso en la ropa y en cualquier otro sector, aceptamos que, cuando los productos van a salir al mercado, primero deben cumplir unas normas que dejen claro que no van a ser peligrosos, inseguros o causantes de daños. Solo en el ámbito tecnológico no tenemos la percepción generalizada de que esa regulación deba existir.

Cambiando de tema y hablando de las comunidades misóginas que utilizan Internet para extender esa misoginia, usted rechaza el término 'incel' (que describe a quienes se han llamado célibes involuntarios) y propone que utilicemos los 'autodenominados incel', ¿por qué?

Porque, de lo contrario, estaríamos aceptando la premisa de que, que una mujer decida no tener relaciones sexuales con esos hombres es un acto de violencia o crueldad tal que impone toda una categoría de identificación y victimismo, cuando la realidad es que estos hombres eligen percibirse a sí mismos como víctimas. Y, por lo tanto, creo que es muy importante que no nos limitemos a aceptar acríticamente la premisa presentada por esos grupos misóginos y extremistas; ahí es donde creo que deberíamos describirlos como los llamados o autodenominados incels. También porque ese lenguaje crea la sensación de que no han hecho nada y de que no pueden evitar la situación en la que se encuentran, pero mi investigación sugiere claramente que su misoginia y sus actitudes extremas hacia las mujeres son probablemente la causa de su celibato. Así que en realidad no es involuntario, porque están tomando decisiones para comportarse de ciertas maneras que son extremadamente problemáticas.

Es realmente importante que luchemos contra la desinformación. Debemos apoyar y educar a los jóvenes de nuestro entorno para que identifiquen la desinformación en Internet, para que comprueben los hechos y reconozcan que lo que ven en la red no es necesariamente real. Y no debemos perder la esperanza

En este contexto político que vivimos en buena parte del mundo, en el que las derechas cuestionan conceptos clave como el de violencia de género y despliegan un doble rasero sobre la violencia sexual, ¿corremos el riesgo de dar un paso atrás respecto a concienciación y a políticas que aborden las violencias machistas?

Estamos viviendo un momento muy peligroso, ya estamos asistiendo a un retroceso de los derechos de las mujeres en países de todo el mundo, desde Estados Unidos hasta Irán y Afganistán. Vemos una reacción contra la idea de la justicia social y del progreso feminista que está siendo alimentada, con un poder inmenso, por algoritmos en todo el mundo. Eso significa que las actitudes también se están volviendo en contra de los movimientos e ideas progresistas. El momento se vuelve aún más peligroso por la proximidad política entre los magnates de las grandes tecnológicas y las administraciones políticas, lo que significa que la tecnología que está impulsando y facilitando gran parte de esta reacción es casi intocable. Es muy importante que sigamos reconociendo y poniendo de relieve la misoginia extrema. Existe el riesgo de que los políticos de extrema derecha estén normalizando ahora ese discurso hasta tal punto de que simplemente se acepte.

Tenemos que seguir dejando claro que es inaceptable, pero también debemos rechazar el secuestro de la narrativa sobre la violencia contra las mujeres y las niñas que hacen grupos racistas de extrema derecha, que afirman actuar como defensores de las mujeres y las niñas, cuando un análisis riguroso de sus políticas y posturas reales sugiere que planean socavar nuestros derechos de las mujeres de todas las formas posibles si llegan al poder. Por todo eso es realmente importante que luchemos contra la desinformación. Debemos apoyar y educar a los jóvenes de nuestro entorno para que identifiquen la desinformación en Internet, para que comprueben los hechos y reconozcan que lo que ven en la red no es necesariamente real. Y no debemos perder la esperanza.