eldiario.es

9

TECNOLOGÍA

No es un delito que violen a tu avatar en Internet, pero sí que usen tu cara en una película porno que nunca protagonizaste

Hace pocos días, una menor presenció cómo dos individuos violaban a su avatar en Roblox, un popular juego orientado a niños y adolescentes

Ni la madre que denunció el incidente ni la niña pueden hacer nada, ya que todo ocurrió dentro de una plataforma privada

Hablamos con una abogada y una experta en privacidad y seguridad sobre los deepfakes: montajes casi perfectos con la cara de un famoso y el cuerpo de otro

Imagen de la "violación" del avatar de la menor en Roblox

Imagen de la "violación" del avatar de la menor en Roblox

Aunque Roblox es anterior a Minecraft, el segundo ya hace varios años que pasó por la derecha al primero. Los dos son juegos de mundo abierto donde los jugadores pueden crear universos, construir cosas, celebrar reuniones multitudinarias y, sobre todo, crear otros juegos. Roblox tiene cerca de 40 millones de usuarios, es muy popular entre los niños y los adolescentes y su calificación de edad es a partir de siete años. Sus creadores se autodenominan "el lugar de juegos número uno para niños".

La hija de Amber Petersen tiene siete años y ha presenciado cómo violaban a su avatar en directo en Roblox. Ocurrió hace pocos días: según cuenta la madre en Facebook, "el dulce e inocente avatar de mi hija estaba siendo violado violentamente por dos hombres. Una observadora se aproximó a ellos y procedió a saltar sobre su cuerpo al final del acto. Luego, los tres personajes se fueron, dejando el avatar de mi hija tirado en el suelo delante de su cara, en mitad del patio". En junio se conoció el caso de otra niña que, también en Roblox, entró a una "habitación del sexo" en la que todos los avatares se encontraban desnudos y practicando posturas sexuales.

Tanto en aquella ocasión como en esta, el juego expulsó de forma permanente a los responsables por incumplir las reglas de conducta. "El acoso y otros comportamientos excluyentes no son aceptables", señala la compañía en su web. También prohíbe el cyberbullying, así como "cualquier acción que pueda poner a los niños en una situación inapropiada o peligrosa".

"No es un delito violar a un avatar", explica Paloma Llaneza, abogada y socia directora de Razona Legaltech, a eldiario.es. "Eso es un personaje de videojuego que no tiene personalidad jurídica independiente, así que esa niña no ha sido violada a través de la violación de su avatar", continúa. A pesar de que los tres personajes cometiesen un acto salvaje, solo eran un conjunto de píxeles. Llaneza recuerda que "un porcentaje muy importante de Internet sucede basado en relaciones contractuales", y pone como ejemplo a Instagram y su política de no permitir pezones: "Es un servicio privado con determinadas condiciones. Si no te gusta, pues te vas. Mientras las normas no vayan en contra del orden público y de alguna legislación específica...".

Una falsa Daisy Ridley creada por deepfakes

Un código para robar deliberadamente tu imagen

A finales del año pasado, un usuario de Reddit llamado deepfakes comenzó a subir vídeos de actrices y otras celebrities en las que se las veía protagonizando películas porno. Obviamente no eran ellas, sino el resultado de unos montajes que creaba para disfrute de sus 90.000 suscriptores. Combinando varias librerías de código abierto utilizadas en el ámbito del machine learning y un algoritmo de su creación, el tipo sentó un precedente: a partir de ese momento, a los montajes de esta índole (no solo los pornográficos) se les empezó a llamar "deepfakes" en todo Internet. El código aún está disponible en GitHub.

"Aquí, la responsabilidad legal esta clara porque los algoritmos suponen la automatización del delito, no es una anomalía inesperada o accidental", explica Marta Peirano, experta en privacidad y seguridad en Internet, a este diario. Deepfakes no hizo los montajes por casualidad, sino a propósito. Por eso, Peirano apunta que esto es el "resultado de un código diseñado para robar deliberada y específicamente la imagen de famosas para hacer pornografía sin su consentimiento". El código es la ley. Por eso, los algoritmos que crean el programa de suplantación "son la herramienta del delito y no su causa", según explica.

En febrero de este año, Reddit eliminó la cuenta de deepfakes y le prohibió el acceso al foro por violar sus reglas. Unas reglas que actualizó con motivo de los montajes en los que el usuario combinaba vídeos porno con clips de YouTube y otras plataformas y bancos de imágenes para sacar las caras de las famosas. Cualquier persona cuyo rostro aparezca en Internet es susceptible de ser suplantada a través de este algoritmo. Y estas son las implicaciones legales que eso tendría.

¿Gal Gadot? No, un montaje creado también por deepfakes

Dos materiales públicos crean vídeos privados

Se trataría de de delitos contra la imagen y la intimidad amparados dentro del Código Civil. En concreto, habría que mirar la Ley Orgánica 1/1982 de protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen y comprobar si la persona afectada dio permiso para ese montaje. Llaneza recuerda el porno de la venganza, "novios despechados, acosadores que utilizan fotos de perfiles públicos de mujeres y las unen con imágenes pornográficas". En este caso, habría una demanda de tipo civil y habría que demostrar "que esa alteración de la imagen se ha hecho para afectar a una persona: no sacas a alguien haciendo una película porno porque te cae bien", prosigue la abogada.

"Es complicado -explica Llaneza-. Por un lado tenemos una película porno y por otro, una foto o un vídeo de una actriz que no atenta contra su intimidad, que está perfectamente publicado". Ambas cosas están disponibles en la Red de manera voluntaria por sus protagonistas y son públicas, pero la combinación de estas da como resultado situaciones íntimas: "con lo cual, los delitos contra la intimidad serían todo un reto", continúa.

Pero los artículos 197 y 208 del Código Penal también podrían tener cabida aquí. En el 208 se hace referencia expresa a las injurias, la vía que prefiere la abogada. "Aun así, sería revolucionario y tendría que demostrar que hay una intención de injurias a través de estos montajes", continúa Llaneza, que rechaza en todo momento que los montajes, vistos desde la perspectiva de género, pudieran llegar a considerarse abuso: "Alguien tendría que abusar de esa persona. No lo veo por ningún lado".

Un deepfake en el que aparece Grace Kelly en vez de Nicole Kidman

En EEUU, los expertos tampoco se ponen de acuerdo: los montajes abren un nuevo paradigma legislativo en el que confluyen las imágenes y los vídeos públicos que circulan en Internet con las aspiraciones del que usa el software.

YouTube alberga cientos de ejemplos en los que se intercambian los cuerpos de numerosos políticos por las caras de otros famosos. En Reddit también hay un hilo kilométrico donde se listan algunos. Existen decenas de programas en Internet, como Face2Face, que sirven para el mismo propósito. Hay páginas web pornográficas dedicadas a ello. El problema vendrá cuando no sepamos distinguir lo que es real de lo que no. Hoy por hoy, según Llaneza, "nuestro sistema no está preparado para esto".

Muy Bien, has hecho Like

¿Qué tipo de error has visto?
¿La sugerencia que quieres realizar no está entre estas opciones? Puedes realizar otro tipo de consultas en eldiario.es responde.
Error ortográfico o gramatical Dato erróneo

¡Muchas gracias por tu ayuda!
El equipo de redacción de eldiario.es revisará el texto teniendo en cuenta tu reporte.

Comentar

Enviar comentario

Comentar

Comentarios

Ordenar por: Relevancia | Fecha