“Sé lo que necesitas y lo que necesitas es malo”, te dice el juego nada más empezar. “Serás capaz de disciplinar a la chica cuando alcances el 100%”, te explican entre píxeles. Cuando ganas varias partidas, la chica en cuestión aparece maniatada y te pide que te detengas, que la dejes ir. Sin embargo, la siguiente escena requiere, entre otras cosas, que la violes con un dildo de pinchos. Después animas a otros hombres a que también la violen, tras lo que aparece un panel tipo Candy Crash, y vuelta a empezar, hasta el punto de que algunos de estos personajes femeninos terminan ensangrentados y con la mirada perdida.

Este videojuego de violencia sexual extrema es el “mejor valorado” de la sección “solo para adultos” de Steam, la plataforma distribuidora de videojuegos para PC más popular del mundo. Alrededor de 8.600 resultados aparecen en esta categoría (representan una pequeña parte sobre el total). Más 400 de ellos son gratuitos. Es decir, fácilmente accesibles para cualquier menor.

En un momento en el que otras compañías del sector sí están avanzando hacia un mayor compromiso con la protección de la infancia —Roblox, otra plataforma especialmente polémica, ha implantado recientemente un nuevo verificador de edad, que pretende ser garantista—, Valve Corporation, empresa propietaria de Steam, se está quedando atrás. Y es que el muro de pago es prácticamente el único límite eficaz que la plataforma tiene a la hora de evitar que cualquier niño, niña, o adolescente acceda a este tipo de contenido, además de la opción del pin parental. 

elDiario.es ha analizado, además de esos títulos gratuitos, hasta qué punto un menor puede llegar fácilmente a ellos.

Una puerta relativamente fácil de abrir

Si te llamas “Juan”, tienes 11 años, y te quieres crear una cuenta de Steam, solo tienes que afirmarle a la plataforma que eres mayor de 13 poniendo un aspa en un cuadradito. A partir de ahí, a priori, todos estos títulos no te aparecen, pues los ajustes preestablecidos se encargan de censurarlos (tengas la edad que tengas, solo puedes ver contenido sexual explícito si modificas estos filtros). 

No obstante, si, por ejemplo, lo que te interesan son los juegos de simuladores de citas, o los de anime, y juegas a un par, rápidamente Steam te empieza a sugerir material en el que aparecen personajes femeninos sexualizados (con poca ropa o con poses sugerentes), ya que los juegos que incluyen desnudos o temas sexuales —siempre que no sean el foco principal— no están filtrados.

Uno de esos títulos que sí le pueden aparecer al usuario que se acaba de crear una cuenta es Your Mom (de pago), cuya descripción es la siguiente: “Tu madre está aquí. Ven rápido a jugar felizmente con tu madre”

Uno de esos títulos que sí le pueden aparecer al usuario que se acaba de crear una cuenta es Your Mom (de pago), cuya descripción es la siguiente: “Tu madre está aquí. Ven rápido a jugar felizmente con tu madre”. “Tu madre”, se ve en el tráiler, resulta ser una mujer con los pechos muy grandes a la que puedes dejar en ropa interior. Debajo de la descripción aparece la etiqueta “Contenido sexual”. Si clicas en ella, llegas al agujero negro de “Solo para adultos”, en el que sí hay material explícito.

Eso sí, si quieres jugar a algún videojuego de esta categoría, Steam te avisará: “Este producto incluye contenido que has solicitado no ver”, o te hará poner tu fecha de nacimiento, ante lo que tú podrás clicar en “ver página” o mentir y, simplemente, acceder igualmente. Y, si no quieres pasar por ello cada vez que quieras jugar a algo erótico, puedes simplemente cambiar los ajustes y decir que sí, que Steam te muestre siempre contenido sexual solo para adultos.

Esa pendiente hacia los juegos violentos y de contenido sexual se puede evitar con la intervención de los padres. Pueden iniciar sesión con la cuenta de sus hijos y establecer lo que Steam llama “modo familiar”, donde se pueden configurar los permisos de acceso a los diferentes contenidos, asignar un pin y un correo de confirmación. El sistema de esta plataforma permite crear un grupo donde se añaden o excluyen los juegos.

El Ministerio busca impedir el acceso a los menores

Una vez conoces la existencia de esta sección, puedes jugar de forma gratuita a exponer a una chica “desesperada por dinero” a distintos tipos de violencia sexual; puedes “espiar” a tu vecina, grabarla mientras está desnuda, o instalar cámaras en su casa —pero si quieres violarla, tendrás que pagar por la versión completa del juego—; también puedes ser productor porno, o proxeneta, o una streamer a la que violarán brutalmente en grupo y, a la que, en el fondo, le “gustará”; u observar cómo le causan hematomas en la vagina a un personaje maniatado; o azotar a tu novia-criada hasta que llore; o incluso “romper las barreras mentales” de varias chicas mediante hipnosis para desnudarlas. 

Un niño o adolescente, si no tiene esa ventana de tolerancia a la violencia muy abierta, accederá a un videojuego así, se asustará, y probablemente lo quitará

Aida Gallego-Márquez — Doctoranda en Sociología y Antropología especializada en videojuegos

En España, se calcula que más de la mitad de las personas que juegan a videojuegos en el PC tienen menos de 25 años, de los cuales alrededor del 20% tiene menos de 15. Pese a estos datos, Aida Gallego-Márquez, doctoranda en Sociología y Antropología especializada en analizar videojuegos desde una perspectiva de género, llama a la calma: “Creo que las personas que juegan a estos juegos están ya predispuestas a la violencia, la tienen normalizada. Un niño o adolescente, si no tiene esa ventana de tolerancia a la violencia muy abierta, accederá a un videojuego así, se asustará, y probablemente lo quitará”.

Por eso, prosigue, es tan importante controlar la violencia que “consume” la infancia, “para poder saber que nuestros hijos/as se van a asustar o que directamente no van a abrir esos juegos. Pero si Tiktok le está mostrando a un menor imágenes de muertos en no sé dónde, o si está viendo pornografía mainstream, esa ventana de tolerancia se está abriendo. No obstante, entre la pornografía y estos videojuegos hay un salto, una línea roja que cruzas, porque en la primera eres solo un espectador, pero en un videojuego eres tú ‘el que está violando’”. 

El Ministerio de Juventud e Infancia ha asegurado a este diario que “la Ley de Protección de Personas Menores de Edad en Entornos Digitales (en trámite en el Congreso) contempla la implementación de una herramienta de verificación de edad eficaz, cuyo incumplimiento puede suponer hasta multas de 2 millones de euros, que garantizará que los menores no puedan acceder a contenidos inapropiados como ultraviolencia o material pornográfico”. Esto, aseguran, aplicará a todas las plataformas online (también de videojuegos).

No es tanto el contenido, sino dónde se muestra

Pero lo alarmante de estos videojuegos no acaba con los menores de edad. La socióloga explica que lo que le parece especialmente preocupante es el hecho de que esta violencia sexual extrema se encuentre disponible en el “Netflix de los videojuegos”: “Para un adulto con una predisposición a este tipo de contenido violento, que sepa que hay ‘comunidad’ creo que es lo peor. Se puede interpretar que todo esto es algo ‘normal’”. No obstante, puntualiza que no hay que caer en tomar la parte por el todo y demonizar los videojuegos en general y los eróticos en particular ya que “no todos capitalizan esa violencia”.

Por otra parte, Steam sí tiene normas sobre lo que permite publicar y lo que no. Por ejemplo, no se pueden publicar narrativas que “promuevan el odio, la violencia o la discriminación contra grupos de personas por motivos de etnia, religión, género, edad, discapacidad u orientación sexual”. Tampoco está permitido que haya “imágenes de desnudos o sexualmente explícitas de personas reales”. 

La violencia contra las mujeres, en el mundo en el que vivimos, da dinero. El patriarcado y el capitalismo hacen un matrimonio perfecto

Aida Gallego-Márquez — Doctoranda en Sociología y Antropología especializada en videojuegos

Pero una de las que más llaman la atención es la siguiente, por su falta de concreción: “No está permitido publicar contenido claramente ofensivo o destinado a escandalizar, indignar o asquear al público”. Ante la pregunta de por qué cree que escenas de violaciones brutales no aplican a esta norma, Gallego-Márquez responde: “Porque la violencia contra las mujeres, en el mundo en el que vivimos, da dinero. El patriarcado y el capitalismo hacen un matrimonio perfecto”.

El lucrativo negocio de los videojuegos para adultos

Y es que los videojuegos para adultos no son algo exclusivo de Steam, sino que están por todo Internet (aunque, eso sí, el resto de las plataformas más conocidas no los distribuyen). Existen prácticamente desde que lo hace la industria de los videojuegos, pero fue a partir de 2018 cuando comenzaron a llegar a Steam.

Es imposible encontrar una cifra oficial acerca de cuánto dinero gana Steam con esta categoría de “solo para adultos”, pero sí que puede intuirse la demanda que hay al visitar el Top 50 de los creadores que más financiación recaudan de todo Patreon, una plataforma de crowdfunding (financiación colectiva). 

Según Petri Lankoski, doctor en Artes y uno de los académicos que más ha estudiado este nicho, el crowdfunding es la manera en la que una amplia parte de estos videojuegos se financian. En el momento en el que elDiario.es visitó la web, 7 de las 50 cuentas de Patreon más lucrativas se dedicaban a hacer videojuegos o animaciones “para adultos”, ganando decenas de miles de euros mensualmente. 

Los financiadores pueden influir en el desarrollo votando sobre qué misiones, tipos de escenas sexuales, fetiches o tipos de personajes aparecerán, o incluso llegando a diseñar una escena sexual para el juego

El modelo de financiación de Patreon ofrece a los desarrolladores una forma de monitorear de cerca los deseos de sus financiadores, que pueden influir en el desarrollo de diversas maneras: votando sobre qué misiones, tipos de escenas sexuales, fetiches o tipos de personajes aparecerán, o incluso llegando a diseñar una escena sexual para el juego, concluye uno de los estudios de Lankoski.

Un debate que está lejos de cerrarse

En 2025, una campaña impulsada por Collective Shout, un grupo activista australiano dedicado a combatir “la sexualización de niñas y mujeres” —vinculado con sectores cristianos conservadores— desembocó en la retirada de varios juegos pornográficos de Steam de violencia sexual extrema o incesto.

Pero no es la única polémica que ha tenido la plataforma. También el año pasado tuvo que retirar un videojuego que se vendía como un “simulador de sexo no consentido”. Ante las críticas, la firma creadora del mismo emitió un comunicado lamentando que “mucha gente confunda la realidad con la ficción” y pidiendo más apertura de mente hacia “los fetiches humanos que no hieren a nadie, aunque puedan resultar repugnantes”.

Todo sucedió a raíz de que las autoridades británicas exigieran que la plataforma lo retirase del catálogo disponible para usuarios del Reino Unido mediante presión política y mediática, alegando que dicho contenido era “ilegal en virtud de la legislación vigente”. Muchas personas han tachado a estos episodios de “censura” moral y/o religiosa. 

Sin duda, a mí esta idea de estos videojuegos me genera repulsión, pero que pudiera prohibirse o perseguirse penalmente me genera muchas dudas. Ello podría abrir la puerta a otros tipos de censura

Ana Valero — Jurista y autora de ‘La libertad de la pornografía’ (2022)

Ana Valero, jurista y autora de libros como La libertad de la pornografía (2022) o Una mirada cinematográfica hacia el consentimiento sexual (2025) comparte algunas reflexiones en este sentido: “Para mí, como jurista, sí, la línea roja para no caer en el puritanismo está en la censura moralizante. No existe un derecho a no sentirnos disgustados, ni alarmados, ni desconcertados. Sin duda, a mí esta idea de estos videojuegos me genera repulsión, pero que pudiera prohibirse o perseguirse penalmente me genera muchas dudas. Ello podría abrir la puerta a otros tipos de censura”. 

“Yo siempre he sido muy reacia a entender que hay conductas que producen un daño a la sociedad en su conjunto, porque es muy difícil demostrar un nexo de causalidad entre la conducta supuestamente dañosa y ese daño generalizado. Sobre todo cuando hablamos de ficción y siempre y cuando los usuarios sean personas adultas”, opina.

Este medio ha intentado contactar con Valve Corporation (Steam) para que dé su perspectiva sobre todo lo expuesto, pero no ha obtenido ninguna respuesta.

Cada vez que subimos una fotografía a la nube, enviamos un correo o consultamos una red social, activamos una infraestructura material de proporciones colosales. Los centros de datos, esos edificios herméticos que almacenan la información digital, produjeron 106 millones de toneladas métricas de CO2 en Estados Unidos durante 2023, acercándose peligrosamente a las 131 millones de toneladas que genera la aviación comercial doméstica, según un estudio de Harvard y UCLA publicado por MIT Technology Review, ocupan extensiones territoriales masivas y condicionan el desarrollo urbano de regiones enteras.

Marina Otero Verzier, arquitecta española galardonada con el Wheelwright Prize de Harvard y antigua directora de investigación en Het Nieuwe Instituut de Rotterdam, viene alertando desde hace años sobre la necesidad imperiosa de someter estas edificaciones a una revisión disciplinar. En una conversación reciente con la Casa de la Arquitectura, Otero cuestiona la inercia reactiva de la profesión: “La arquitectura muchas veces llega tarde y siempre vamos como cuando ha habido una transformación, pues luego ya nos intentamos adaptar y ver cómo intervenir ahí. ¿Por qué no lo vemos casi cuando está pasando y vemos desde la arquitectura cómo tenemos que trabajar en este contexto y adelantarnos incluso a ciertas innovaciones?”.

La tipología que la arquitectura dejó de pensar

Cuando Otero comenzó a trabajar con la Asociación Nacional de Centros de Datos de Holanda junto a Hipólito Pestellini, entonces socio en OMA (Office for Metropolitan Architecture), la respuesta de los técnicos fue reveladora: los arquitectos podían “diseñar la fachada, hacer una fachada bonita” o, como mucho, las oficinas. La disciplina había abdicado de pensar estas infraestructuras, dejándolas en manos de lógicas puramente funcionales y corporativas.

Esta ausencia disciplinaria no es exclusiva de los Países Bajos. Como señaló Chheng Lim, arquitecta asociada en Sheehan Nagle Hartray de Chicago, en la Conferencia de Arquitectura del American Institute of Architects (AIA) de 2022, fue la primera vez que la organización abordaba esta tipología emergente. Los arquitectos, advierte Lim, enfrentan un desafío único: están entrenados para pensar en términos de escala humana, pero los centros de datos priorizan radicalmente otros parámetros.

Tradicionalmente, estos edificios han sido grandes cajas rectangulares sin interés arquitectónico, almacenes sin ventanas que priorizan la funcionalidad sobre la forma. La firma de ingeniería Sener reconoce que los centros de datos “han evolucionado de instalaciones marginales, a menudo alojadas en edificios industriales reutilizados, a una tipología arquitectónica distinta”. Sin embargo, esta evolución no ha venido acompañada de un pensamiento arquitectónico riguroso sobre sus implicaciones territoriales y urbanas.

El resultado es una infraestructura crítica diseñada casi exclusivamente por ingenieros y técnicos, donde la arquitectura se limita a resolver la envolvente exterior. Mientras tanto, 64.000 millones de dólares en proyectos de centros de datos han sido bloqueados o retrasados en Estados Unidos por oposición local bipartidista, y las protestas ciudadanas se multiplican precisamente por la ausencia de una integración arquitectónica y urbana pensada desde el inicio.

Paisajes automatizados y extracción de recursos

El trabajo de Otero sobre centros de datos no surgió de la nada. Hace diez años, cuando dirigía la investigación en Het Nieuwe Instituut de Rotterdam, la institución que alberga tanto un museo de arquitectura como el archivo nacional holandés, se cuestionó sobre qué construcciones están transformando radicalmente nuestro territorio pero nadie las está documentando ni estudiando.

La respuesta estaba a la vista pero era invisible para la arquitectura: invernaderos industriales automatizados del tamaño de ciudades pequeñas, el puerto robotizado de Rotterdam donde apenas trabajan personas, granjas con vacas monitorizadas por inteligencia artificial. Otero cuenta que empezaron a mirar todo lo que hacía posible esos regímenes de automatización y así fue como llegaron a los cables de internet, a la minería de litio y a los centros de datos.

Sus investigaciones Automated Landscapes (Paisajes Automatizados), BURN-OUT: Exhaustion on Planetary Scale (Agotamiento a escala planetaria) y Future Storage (Almacenamiento del futuro), trazan un mapa inquietante: el mundo digital que creemos etéreo descansa sobre una cadena de extracción material brutal.

El litio que alimenta las baterías de nuestros móviles, ordenadores y los sistemas de respaldo de los centros de datos sale del desierto de Atacama, en Chile, donde “se evaporan millones de litros de agua diariamente para que nosotros podamos hacer en otros lugares del mundo la transición verde”, denuncia Otero. La paradoja es cruel: la digitalización que prometía desmaterializar el mundo requiere una extracción material sin precedentes.

La ilusión de la nube y sus consecuencias materiales

Los centros de datos nos hacen pensar que la información está “en la nube”, pero esa metáfora resulta engañosa. Cada dato que almacenamos descansa en edificios físicos que consumen cantidades ingentes de agua y electricidad, anclados a territorios concretos que soportan las consecuencias de nuestra actividad digital.

Otero insiste en la opacidad deliberada de estas infraestructuras. Son lugares prácticamente desconocidos para la ciudadanía, invisibles en el paisaje urbano y ausentes del debate público, pero resultan absolutamente indispensables para cada operación cotidiana: desde publicar en redes sociales hasta realizar una transferencia bancaria. Esta invisibilidad no es accidental sino estratégica, y sus consecuencias sólo emergen cuando ya es tarde, cuando por ejemplo un pueblo entero se queda sin suministro eléctrico porque un centro de datos corporativo ha monopolizado toda la energía disponible.

El crítico de arquitectura alemán Niklas Maak Server, sostiene en su libro Manifesto: Data Center Architecture and the Future of Democracy, que estos edificios funcionan como infraestructuras de control que determinan nuestras vidas sin hacerse visibles, con implicaciones geopolíticas que trascienden lo arquitectónico. Son, en su análisis, las nuevas catedrales del poder contemporáneo, que a diferencia de sus predecesoras medievales, permanecen ocultas.

La teórica estadounidense Keller Easterling profundiza en esta idea desde otra perspectiva. En Extrastatecraft: The Power of Infrastructure Space, documenta cómo estas construcciones operan como extensiones del poder blando, reconfigurando territorios enteros sin necesidad de legislación explícita ni consentimiento democrático. Para Easterling, el espacio de infraestructura contemporáneo constituye el arma más efectiva de quienes concentran el poder global, precisamente porque orquesta transformaciones profundas que permanecen no declaradas pero resultan absolutamente determinantes.

La pregunta que ambos pensadores plantean trasciende lo arquitectónico: ¿cómo hemos permitido que infraestructuras tan determinantes para nuestras sociedades se desarrollen completamente al margen del escrutinio público y la planificación democrática?

Imaginarios alternativos: descentralización y ciclos vitales

Frente a la lógica dominante de grandes instalaciones corporativas, Otero propone un modelo radicalmente distinto: descentralizar los centros de datos, distribuirlos por la ciudad en instalaciones más pequeñas y aprovechar el calor que generan. Ese calor que sentimos cuando se nos calienta el móvil o el ordenador, multiplicado por miles de servidores, podría reconvertirse en un recurso: calefacción urbana, agua caliente sanitaria, climatización de invernaderos. No se trata de una utopía tecnológica sino de experiencias ya en marcha en diversos lugares del mundo.

Esta visión conecta con movimientos emergentes como los servidores feministas, la permacomputación o el protocolo solar, que plantean infraestructuras digitales sincronizadas con ciclos ambientales en lugar de operar contra ellos. Realmente no necesitamos que el espacio digital esté disponible las veinticuatro horas del día, los siete días de la semana, cuando en las ciudades físicas aceptamos que ciertos espacios públicos y comerciales cierren en determinados horarios. Esa disponibilidad permanente tiene consecuencias materiales que pocas veces valoramos.

La propuesta resulta radical precisamente por su sentido común: si un centro de datos funciona con energía solar, puede haber momentos del día en los que no esté completamente operativo, y eso no tiene por qué ser catastrófico. Se trata de repensar estas infraestructuras para que estén más ajustadas a los ciclos del medio ambiente y de nuestras propias formas de vida, en lugar de someterlas a la lógica insaciable de la disponibilidad perpetua.

Significa cuestionar algo que damos por sentado: que la tecnología debe funcionar al margen de los ritmos naturales, consumiendo recursos sin límite para garantizar una accesibilidad que quizá no siempre necesitamos. Los centros de datos podrían ser infraestructuras que respiran con el territorio, en lugar de devorarlo.

Pensar el territorio antes de cederlo

El trabajo de Otero no se limita al diagnóstico, la arquitecta opera simultáneamente en tres escalas: legislación, prototipado arquitectónico y debate público. Colabora con gobiernos para diseñar marcos regulatorios que obliguen a pensar estratégicamente cómo y dónde se implantan estas infraestructuras digitales, en lugar de dejarlas al libre albedrío corporativo.

Su crítica a la situación actual pone de manifiesto que, demasiadas veces, la llegada de una gran tecnológica con una inversión millonaria basta para que las administraciones cedan terreno sin cuestionar las implicaciones a largo plazo. Se actúa sin planificación estratégica, aceptando inversiones sin preguntarse qué modelo de territorio estamos construyendo ni qué recursos comprometemos para las generaciones futuras.

Durante tres años en el Royal College of Art de Londres, Otero desarrolló junto a Hipólito Pestellini talleres donde estudiantes reimaginaron los centros de datos como arquitecturas radicalmente distintas: distribuidas por el territorio en lugar de concentradas, integradas en programas urbanos existentes, reutilizando el calor residual de los servidores para calentar viviendas o equipamientos públicos. No eran ejercicios académicos sino prototipos de futuros posibles.

Los centros de datos ya están aquí, condicionando territorios y economías locales, transformando paisajes enteros. Pero todavía estamos a tiempo de someterlos a escrutinio arquitectónico y ciudadano, de exigir que funcionen con responsabilidad ambiental, urbana y social. La cuestión, como insiste Otero, no es sólo técnica: es profundamente política. Se trata de decidir qué futuro queremos construir, qué modelo de ciudad y territorio, así como qué paisajes estamos dispuestos a sacrificar para mantener operativa la ilusión de una nube infinita y sin consecuencias materiales.

2026 no ha empezado bien para muchas mujeres que habitan el entorno digital. Durante los primeros días del año, X, la red social propiedad de Elon Musk, se llenó de hombres solicitando a la inteligencia artificial generativa de la plataforma, Grok, que desnudara a mujeres sin su consentimiento.

Un sencillo prompt —“Hey @grok, put her in a bikini”—, acompañado de una fotografía, era todo lo que hacía falta para que, en cuestión de segundos, la plataforma generara un deepfake de esa mujer con las características solicitadas por el usuario. Durante esos primeros días de enero, y a pesar de que X no proporciona cifras oficiales, la investigadora independiente Genevieve Oh estimó en declaraciones para Bloomberg que, en los días con mayor actividad, se llegaron a generar hasta 6.500 imágenes por hora. 

Tras varios días de denuncias públicas en redes sociales, y cuando la conversación ya había saltado a los medios de comunicación y había llamado la atención de las instituciones públicas, Elon Musk realizó un movimiento muy limitado: entre el 8 y el 9 de enero, la función gratuita de generación de imágenes con IA —en la que los usuarios etiquetan a Grok en una publicación de X con una solicitud— pasó a estar disponible únicamente a los suscriptores Premium. Sin embargo, esta restricción resultó fácilmente eludible accediendo desde el sitio web o desde la aplicación independiente de Grok. Es decir, en plena polémica, Musk aprovechó el momento para intentar captar más usuarios de pago. 

Finalmente, más de dos semanas después de que comenzara el auge de deepfakes, X ha emitido un comunicado a través de su cuenta @Safety en el que ha anunciado “la implementación de medidas tecnológicas para impedir que la cuenta de Grok permita la edición de imágenes de personas reales con vestimenta reveladora, como bikinis”. El texto también se compromete a la retirada de “los contenidos prioritarios que infringen nuestras normas, incluidos los materiales de abuso sexual infantil y la desnudez no consentida”. Además, el comunicado anuncia que “la creación y edición de imágenes (…) ahora solo está disponible para suscriptores de pago” y que “esto añade una capa adicional de protección (…) para que los responsables puedan ser rastreados y responsabilizados”. En resumen: todo ello sin admitir responsabilidades, sin abordar la problemática en el punto de origen —la propia herramienta— y manteniendo la lógica de mercantilización. 

Aunque no es la primera vez que ocurre una situación similar —en mayo del año pasado las mujeres ya experimentaron este mismo tipo de violencia en Grok—, no ha sido hasta que el fenómeno ha escalado a dimensiones que incluyen la generación de imágenes de niñas menores de edad —lo que en muchos casos encaja jurídicamente como pornografía infantil— que los gobiernos han comenzado a expresar una preocupación más explícita. En los últimos días, el Consejo de Ministros en España ha incluido el uso y difusión de deepfakes entre las conductas susceptibles de vulnerar el derecho al honor, con la aprobación del anteproyecto de ley de protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen. 

En Reino Unido, la Secretaria de Estado en Ciencia, Innovación y Tecnología, Liz Kendall, ha confirmado que “se presentará con carácter prioritario legislación para prohibir las herramientas de ‘nudificación’ con IA”. Además, no se descarta una prohibición total de X en el Reino Unido si Ofcom —el organismo regulador de las comunicaciones— concluye que se ha vulnerado la Ley de Seguridad Online británica.

En cualquier caso, la legislación no avanza al mismo ritmo que la creación de estas herramientas de inteligencia artificial generativa ni que su puesta a disposición masiva de los usuarios. Pero, mientras los organismos oficiales intentan ponerse al día, la pregunta es inevitable: ¿qué ocurre con todas las mujeres que ya están viviendo esta nueva forma de violencia digital? ¿Cuáles son las repercusiones para ellas y qué efectos tiene este fenómeno en el ecosistema digital en su conjunto?

El muro legal ante la violencia del deepfake

Durante años, la violencia digital ha sido tratada como una violencia de segundo orden. No solo desde el ámbito social, sino también desde las instituciones y los tribunales. El mensaje implícito era claro: si no querías exponerte, no debías subir fotos a internet. En los últimos años, se han producido algunos avances legislativos y judiciales, pero cuando se trata de violencias ejercidas mediante inteligencia artificial —especialmente en las grandes redes sociales comerciales—, el camino sigue estando lleno de vacíos, ambigüedades y obstáculos.

Ejercer violencia en internet —sobre todo en espacios como X o Instagram— genera una fuerte sensación de impunidad, alimentada por la opacidad con la que estas redes son gestionadas y por el anonimato que permiten a sus usuarios. “La situación de desprotección en la que nos encontramos frente a plataformas supranacionales absolutamente gigantescas y, además, absolutamente sectarias —normalmente en manos de hombres blancos con posiciones fascistas— es gigantesca”, explica Isaac Guijarro, cofundador de Olympe Abogados, un despacho con perspectiva feminista, LGTBIQ+ y antirracista. “Todo depende de que el perfil concreto que ha publicado ese contenido sea rastreable por la policía. Si no es rastreable y las propias redes sociales no facilitan la información —como ocurre en la gran mayoría de las ocasiones en las que se acude a ellas—, ni la víctima ni su abogado o abogada tienen herramientas reales para averiguar quién hay detrás”, continúa.

A esta opacidad estructural se suma la falta de un marco penal específico. A día de hoy —a falta de que se apruebe nueva legislación—, no existe en el Código Penal español un delito que recoja la generación de deepfakes como tal. Guijarro aclara que, en el caso de personas adultas, estas prácticas se están encajando de forma indirecta en el delito de injurias, algo que “solo es perseguible penalmente si se considera grave”. Esa gravedad depende, entre otros factores, de si el contenido se ha difundido de forma pública —hacerlo en una red social sí es perseguible frente a si se difunde en un grupo de WhatsApp, por ejemplo—, de la relación con la persona que lo ha difundido —como en el caso de una pareja o expareja—, de si la víctima es menor de edad o del propio contenido del deepfake. En la práctica, una imagen generada por IA que muestre a una mujer en bikini solo sería denunciable penalmente en determinados supuestos, lo que introduce barreras legales, económicas y materiales difíciles de sortear.

En cualquier caso, desde el despacho recomiendan que, si una persona descubre que se ha generado un deepfake sin su consentimiento, lo primero es “hacer capturas de todo: del perfil que lo haya publicado, de la propia imagen, de la fecha en la que se ha publicado y denunciarlo, ya sea ante la policía o el juzgado de guardia”. La rapidez resulta clave para intentar frenar la difusión y contener el daño. De hecho, en España, a raíz de la Ley “solo sí es sí”, se aprobó una modificación del artículo 13 de la Ley de Enjuiciamiento Criminal (LECrim), que establece que como primera diligencia lo que se debe hacer es el borrado de cualquier tipo de contenido delictivo en internet“, explica Guijarro. Una medida pensada para minimizar el daño, pero que, en la práctica, no siempre se está cumpliendo, entre otras razones, por la actual saturación de los juzgados.

Mientras no exista una mayor presión por parte de los Estados hacia estas empresas privadas por el incumplimiento de la normativa nacional, ni se doten de medios suficientes a la policía, el juzgado y la fiscalía para actuar con mayor proactividad en la persecución de la violencia digital, “lo que se genera es una sensación de impunidad gigantesca en los hombres y una sensación de vulnerabilidad y de frustración gigantesca en las mujeres”, concluye el abogado. Un clima que no afecta únicamente a las víctimas directas, sino que se extiende a todas las mujeres que habitan el ecosistema digital.

La ciberfísica sexista del poder

Publicar este tipo de deepfakes no es una cuestión sexual, sino de poder. Entender esto es fundamental para situar estos actos dentro de un marco más amplio en el que se busca someter y disciplinar los cuerpos de las mujeres. Esto es algo que tiene muy claro el colectivo Proyecto UNA, dedicado al activismo digital, que en su ensayo La viralidad del mal: Quién ha roto internet, a quién beneficia y cómo vamos a arreglarlo (Descontrol, 2024), acuñó el concepto ciberfísica sexista del poder. 

El término nace a partir del trabajo de la investigadora Nerea Barjola sobre el crimen de Alcàsser y el modo en que los medios construyeron un relato de terror sexual que acabó disciplinando a niñas y mujeres adultas de toda una generación sobre los peligros de habitar el espacio público. En el contexto actual, ese disciplinamiento se ejerce a través del entorno digital: “Con las fotopollas y los mensajes privados y públicos llamándote fea y gorda. Como consecuencia de las amenazas que recibe una mujer gamer, pero también con los titulares que presentan la violencia online como un fenómeno inherente al medio”, escriben en su ensayo. 

Si existe violencia contra las mujeres en internet es porque esa violencia existe también fuera de él. “Lo importante es darse cuenta de que las violencias que existen en las redes sociales no han nacido allí, sino que vienen de un contexto y una historia previa. En internet, simplemente, tienen su propio lenguaje, pero el mecanismo de la discriminación es el mismo”, explican desde Proyecto UNA. ¿Cómo se combate entonces este tipo de violencia? “Si dejamos de concebir la filtración de contenido íntimo —sea generado por IA o no— como algo humillante hacia la víctima, que debería avergonzarla, y lo entendemos como una acción repudiable por parte del perpetrador o perpetradores, que atenta contra la libertad sexual de las personas, tendremos la mitad del camino hecho”, continúan.

El colectivo señala también la falta de responsabilidad de las instituciones públicas frente a estas plataformas comerciales dirigidas y gestionadas por tecnomagnates. “Llevamos años viendo cómo las instituciones, en vez de cuestionar el poder de las grandes empresas del Big Tech o de apostar por infraestructura pública, las legitiman e incluso las financian de forma indirecta. Se ha alimentado este mito según el cual los estados y la legislación no pueden hacer nada ante un poder demasiado grande”, aseguran. Sin embargo, hay ejemplos que desmienten ese relato.

En 2025, el gobierno de Lula da Silva aprobó en Brasil una ley que amplía las obligaciones de las plataformas digitales como medida para proteger a los niños y adolescentes. La norma, que entra en vigor este año, impone mayores controles a las Big Tech, obliga a retirar los contenidos de aparente explotación y abuso sexual y a notificar a las autoridades. Un año antes, en 2024, la justicia brasileña llegó incluso a suspender temporalmente el uso de la red social X por ignorar decisiones judiciales relacionadas con la lucha contra la desinformación.

Todavía queda un largo camino por recorrer y mucho por exigir a las instituciones públicas, pero el horizonte no es únicamente defensivo. “Lo importante es ser capaces de imaginar y construir las comunidades digitales que queramos —algo en lo que se está trabajando desde el Fediverso, una red de plataformas descentralizadas y no comerciales—, porque el gran triunfo de los tecnomagnates ha sido hacernos creer que su internet comercial es el único posible”, concluyen desde Proyecto UNA.

Desde hace unos días, el caso de un joven de 16 años que se quitó la vida tras meses de interactuar con ChatGPT ha generado una gran polémica en redes sociales. Los padres de Adam Raine presentaron hace unos días una demanda contra OpenAI y su dueño, Sam Altman, por su responsabilidad en la muerte del adolescente, al supuestamente apresurarse a comercializar la versión GPT-4o a pesar de los problemas de seguridad.

Por su parte, OpenAI ha admitido fallos y ha anunciado el viernes que lanzará un control parental que permitirá a los padres supervisar el uso que sus hijos menores hacen del chatbot.

La empresa explicó en una publicación que el mes que viene ya estará disponible la posibilidad de establecer límites en el uso, desactivar la memoria del chat o recibir alertas en caso de que haya consultas o conversaciones consideradas de riesgo.

Este trágico caso de este adolescente ha puesto sobre la mesa una realidad que es necesario abordar: los límites y riesgos del acompañamiento emocional que puede ofrecer una Inteligencia Artificial, sobre todo en los más jóvenes.

“Cada vez es más frecuente ver a pacientes que acuden a consulta con un autodiagnóstico. Antes lo hacían a través de libros de autoayuda, ahora porque se lo han preguntado a ChatGPT”, explica Amaya Prado Piña, experta en Psicología Educativa.

Prado, también especializada en Psicología Clínica en Infancia y Adolescencia, pone el foco especialmente en los jóvenes y adolescentes, que son el grupo de edad más vulnerable: “No han desarrollado aún la capacidad crítica para saber y detectar que se trata de una máquina y que, por tanto, muchas respuestas están sesgadas y carecen del respaldo clínico necesario para poder ofrecer una ayuda psicológica adecuada ”, advierte.

La psicóloga señala que el principal peligro es que muchos jóvenes están acudiendo a la IA para como primera opción para pedir ayuda de cualquier tipo, sin medir que delante tienen una máquina y que no es igual resolver un problema matemático o resolver una duda con evaluar una situación anímica o afectiva.

“La palabra ‘inteligencia’ induce a pensar que las respuestas son cien por cien correctas, pero muchas veces las respuestas están bajo sesgos y no hay un profesional detrás”, añade.

Terapeuta 'inteligente'

Leyre López, científica de datos, coincide con Prado en que se trata de una herramienta cuyo funcionamiento se basa en “aprender de la información que el usuario da y que la propia IA lee”. “Por ejemplo, en función de en qué idioma le preguntes, las respuestas son diferentes. Es decir, aprende de la información a su alcance en ese idioma, por lo que en el caso de España las respuestas tienen el sesgo de lo que más se haya buscado publicado en español”, añade.

Ninguna de las expertas consultadas ve lejana la idea de que la inteligencia artificial pueda convivir de cierto modo con la terapia tradicional, aunque con límites. “Puede servir de ayuda siempre y cuando no dé un diagnóstico al paciente. Es decir, puede ser un añadido, pero nunca una sustitución del trabajo profesional”, opina Prado. Para López, la clave está en que se desarrolle “una regulación adecuada y que garantice la protección del usuario”.

La normalización del uso cotidiano de la inteligencia artificial se traduce en que esta se haya convertido en “un refugio cercano que da todas las respuestas que uno quiere oír”. Para la psicóloga, esto deriva en la generación de un falso refuerzo que puede traducirse en dependencia emocional. “Se ha convertido en un amigo virtual”, insiste.

La inmediatez es una de las ventajas que los usuarios achacan al uso de la herramienta. “Nos hemos acostumbrado tanto a usarla que la hemos incorporado en nuestra vida de forma automática. Recibir la información de manera inmediata es uno de los síntomas del uso cada vez más frecuente de estas tecnologías”, sentencia.

Estar en el sofá y pedir en voz alta: “hoy necesito una receta para cinco”. La televisión responde con tres opciones de platos, cocinables con lo que hay en el frigorífico. Tras elegir uno, el horno empieza a precalentarse con el tiempo y la temperatura adecuados. Después de comer, la lavadora selecciona sola el programa idóneo para el mantel o cualquier prenda que se haya manchado, según el tejido y los detalles de la comida. Lo mismo hace el lavavajillas con los platos.

Es la experiencia que han mostrado las grandes marcas presentes en IFA 2025, la mayor feria de electrodomésticos y tecnología para el hogar de Europa, que ha arrancado este fin de semana en Berlín. Especialmente las chinas y las coreanas, que han colmado el gran recinto ferial de la capital germana con eslóganes sobre el potencial de la inteligencia artificial en los aparatos domésticos.

Es una competición en la que las compañías europeas y japonesas han renunciado a participar, al menos por ahora. Sus lanzamientos en Berlín se centran en la eficiencia energética, el diseño o la personalización de sus aparatos, dejando a un lado la carrera por la inteligencia artificial.

El cerebro de la casa

Hace años que los electrodomésticos son “inteligentes”, con conexiones wifi y apps para el móvil. La novedad que proponen ahora los fabricantes asiáticos es sobreponer un agente de inteligencia artificial a todos los aparatos, con conciencia situacional y conocimiento del perfil y preferencias de los diferentes habitantes de la casa. Recuerda a la domótica de primera generación y a asistentes como Alexa. La diferencia, prometen ahora los fabricantes, es que esta vez la tecnología sí podrá cumplir el reto de “hacer la vida más fácil” al usuario.

“Va más allá de los dispositivos inteligentes. Ofrece hogares que realmente te comprenden, se adaptan a tus necesidades y se preocupan por lo que más importa”, ha asegurado el vicepresidente de electrodomésticos conectados de Samsung, Cheolgi Kim, durante su presentación en IFA: “Este es el comienzo de una nueva era: la tecnología te acompaña en segundo plano para que puedas vivirla con mayor plenitud”.

Ese agente de IA está potenciado por DeepSeek en el caso de marcas chinas como Hisense, Haier o TCL; y por sistemas propios, con el apoyo de Google, en las coreanas Samsung y LG. Integrado en el hogar y conectado con cada aparato, podrá calcular aspectos como el ambiente exterior para regular la temperatura de la casa, el momento más adecuado para poner en marcha la lavadora o el lavavajillas.

“Queremos permitir que el consumidor tome decisiones eficientes, pero no complicarle la vida. La sostenibilidad es muy importante, pero todos estamos muy ocupados. Queremos que sean la IA y la conectividad las que creen una red de productos y servicios que funcionen mejor, sin que el consumidor tenga que pensar en ello”, ha explicado Neil Tunstall, director ejecutivo de Haier en Europa, durante la conferencia de prensa de IFA.

Electrodomésticos que ven

La segunda pata de estos avances son los sistemas de reconocimiento de imágenes. Los modelos de IA pueden interpretar lo que aparece en un vídeo o una fotografía, así que los fabricantes han llenado su oferta de electrodomésticos con cámaras integradas. Gracias a ellas, los hornos identifican qué alimento se ha introducido, calculan el tiempo de cocción más adecuado o incluso se detienen si la comida empieza a quemarse. Las lavadoras reconocen los tipos de tejido para no estropearlos. Los lavavajillas, por su parte, miden el nivel de suciedad de los platos antes de decidir el programa.

Incluso la española Cecotec ha presentado un aspirador que reconoce qué tipo de suciedad tiene delante y adapta a ello su sistema de limpieza. Sin embargo, puede que el mayor salto se vea en los frigoríficos. La fusión entre la IA y el reconocimiento de imágenes les permite no solo reconocer qué alimentos hay en su interior y en qué estado están, sino también —en los modelos superiores— modificar la temperatura y humedad de cada balda en función de si hay carne, lácteos, pescado o huevos, ofreciendo información relativa a cada uno de ellos a través de la pantalla.

Pero las cámaras no solo apuntan hacia fuera. Los dispositivos de vigilancia y seguridad también aprovechan estas nuevas capacidades y dan un paso importante. “Por ejemplo, en lugar de tener que revisar manualmente la grabación, un usuario puede escribir 'Un coche negro en la puerta principal' y saltar directamente a ese clip, o preguntar '¿Qué ocurrió en las últimas 48 horas?', y obtener un resumen para una revisión rápida”, explica una portavoz de Reolink, una empresa china de cámaras de seguridad presente en la feria.

“Más allá de la seguridad, la IA ayudará a que los dispositivos trabajen juntos como un ecosistema unificado, permitiendo que los hogares se adapten automáticamente a las preferencias del usuario y a posibles riesgos de seguridad, pero sin requerir ajustes manuales constantes”, coincide.

Ciberseguridad y privacidad: la otra cara de la IA

Esta evolución también tiene un lado problemático, ya conocido de otros dispositivos conectados: cuanto más inteligentes y dependientes de la red sean los electrodomésticos, más riesgos implican en términos de privacidad, dependencia de un único ecosistema de marca u obsolescencia forzada cuando dejan de recibir actualizaciones.

El aspecto de la ciberseguridad también resulta crucial. Hasta ahora, atacar una freidora de aire resultaba poco lucrativo. Con los nuevos sistemas de IA que actúan como cerebro del hogar, la situación cambia. Esa misma freidora puede convertirse en puerta de entrada a información sensible, desde datos personales hasta detalles financieros derivados de las suscripciones que se gestionan a través del televisor, por ejemplo.

La feria de Berlín, en todo caso, no es el mejor lugar para resolver estas dudas. Las compañías insisten en que ya las han tenido en cuenta y trabajan para que no se conviertan en un problema. En el caso de Samsung, por ejemplo, los responsables de su stand subrayan que el nuevo sistema Knox, presentado este año, extiende el nivel de ciberseguridad de sus móviles y tabletas a frigoríficos, aspiradoras y lavadoras. Un reconocimiento de que a partir de ahora supondrán el mismo nivel de amenaza.

“Sí, desde el punto de vista tecnológico, las cámaras de seguridad mal protegidas pueden exponer datos sensibles”, responde por su parte la portavoz de Reolink. Esta empresa opta por la vía alternativa: impedir que los datos sensibles salgan a Internet. “Para mitigar los riesgos de privacidad y datos, nosotros adoptamos un enfoque de privacidad desde el diseño, ofreciendo almacenamiento local en el dispositivo, donde las grabaciones nunca salen de la cámara, y protegiendo el almacenamiento en la nube con cifrado de extremo a extremo”, detalla.

Por otro lado, los fabricantes ya están empezando a construir alianzas con terceras empresas para que sus sistemas de IA reconozcan mejor una serie de productos. El de Haier, por ejemplo, llamado “hOn”, tiene acuerdos con el canal de televisión Sky, con compañías de seguros, con compañías energéticas, con cadenas de supermercados y con marcas de detergentes y lavaplatos. “Queremos un sistema abierto que nos permita conectarnos con todo tipo de negocios diferentes para ayudarnos”, ha expuesto su responsable europeo.

Es pronto para saber si los fabricantes de electrodomésticos tendrán realmente en cuenta la lección que las empresas tecnológicas aprendieron por las malas. El lado positivo es que la regulación sí que está preparada, con leyes europeas que ya prevén expresamente este tipo de comportamientos.

La IFA se celebra en Berlín desde 1924. En esta edición de 2025 se han reunido más de 2.000 marcas de todo el mundo en los 26 pabellones del recinto, mostrando hacia dónde quiere empujar la industria: ahora un mejor electrodoméstico no solo es el que libera trabajo, sino también el que piense y toma determinadas decisiones por nosotros. El futuro dirá si las lavadoras son capaces de tomar mejores decisiones que sus propietarios.

La llegada de las vacaciones escolares veraniegas supone todo un reto para todos aquellos padres y madres que continúan con sus habituales horarios laborales. La imposibilidad de sufragar un campamento o dedicar tiempo de calidad a los más pequeños repercute duramente en su sociabilidad y salud. Ante esta realidad, muchos de ellos encuentran en las pantallas su más firme acompañante sin ser conscientes los peligros que entraña. La situación se agrava cuando ni los propios progenitores saben qué puede ocurrir cuando un menor encuentra refugio en el mundo digital.

Así lo expone el informe de la ONG Educo Niños de la llave III: La vida empantallada, que a través de una encuesta realizada a 2.316 familias de toda España con hijos e hijas de 6 a 13 años y la opinión de expertos, alerta del futuro en el que nos adentramos. Cada año, la exposición de los menores al mundo digital ha ido a más: “Mientras muchos padres no pueden estar compartiendo tiempo con sus hijos, estos encuentran en el ecosistema digital una escapatoria”, explica Macarena Céspedes, directora de Incidencia e Investigación de esta entidad.

Desde Educo resaltan dos rituales de paso sintomáticos: mientras la primera entrega de un móvil ocurre de media a los 9 años y 10 meses, la entrega de las llaves del hogar suele realizarse cumplidos los 11 años y un mes. “Igual que un niño de 9 años no está capacitado para hacer ciertas cosas y le acompañamos para que entienda cómo se tiene que relacionar o mover en ciertos espacios para estar seguro, tampoco lo está para tener un acceso ilimitado a internet, y es ahí donde encontramos la primera gran brecha”, desarrolla la experta.

La pobreza en los menores

La de los denominados “niños de la llave” es “una infancia y adolescencia cuyas familias pueden vivir en entornos de falta de recursos económicos, o falta de tiempo de madres, padres o cuidadores, o de falta de red de relaciones sociales”, recoge el informe.

Sin embargo, Céspedes recalca que no significa lo mismo la pobreza para los adultos que para los más pequeños: “Cuando llega el verano, para ellos lo más importante es poder pasar tiempo con sus amigos en los que desarrollar su personalidad, momentos en los que sentirse aceptados”. De esta forma, la pobreza en ellos y ellas se materializa en cuestiones como no poder contar a comienzo de curso qué tal lo han pasado en un campamento, porque sus familias no se lo pueden permitir y ellos no han salido de sus casas, en las que conviven incluso con otras familias. “Sus experiencias vitales como seres humanos se ven limitadas”, apunta.

Sesgos de género

Es así como los dispositivos electrónicos conectados a Internet se yerguen como una salida a la falta de recursos en las familias más humildes, que encuentran en ellos una forma de entretener a la prole. Según la encuesta, entre semana el promedio diario de horas de exposición a las pantallas lo lidera el smartphone, con 2 horas y 35 minutos; seguido por la televisión, 2 horas y 30 minutos; el ordenador, 2 horas y 10 minutos; la tablet, 2 horas; y la videoconsola, 1 hora con 45 minutos.

La diferencia entre géneros también es significativa en algunos aspectos. Según los resultados, los chicos juegan más en red y las chicas experimentan una mayor exposición a las redes sociales. Así pues, “la influencia de las redes sociales repercute en la baja autoestima de niñas y chicas adolescentes, ”al estar consumiendo contenidos de otras chicas de su edad maquillándose y aconsejando operaciones estéticas para estar perfectas“, tal y como comenta en el informe Eli Ballesteros, educadora de la Fundación Fútbol Más.

Por otro lado, en los chicos el uso de la videoconsola va a más a medida que aumenta su edad. Mientras que en la franja de edad de 6 y 7 años utilizan la videoconsola una media diaria de una hora y media entre semana y una hora y tres cuartos los fines de semana, al llegar a la franja de edad de 11 a 13 años el tiempo de uso aumenta a casi dos horas entre semana y a dos horas y tres cuartos los fines de semana.

La percepción de los padres, polarizada y enfrentada

El informe presentado por Educo dedica una gran parte de su análisis a la autopercepción que los adultos tienen de los impactos de esta “vida empantallada”, tal y como la definen. Céspedes señala que “es difícil para las familias entender los riesgos que entraña esta relación con el mundo digital cuando ven a sus hijos riéndose o jugando a videojuegos, pero hay muchas cosas que deberían saber”. De todas formas, los resultados arrojan percepciones divergentes entre las esgrimidas por las propias madres y padres, así como con las de los especialistas y profesionales que trabajan con la infancia. Para empezar, uno de cada tres progenitores (29%) declara no poner límites al uso de las pantallas en casa.

Asimismo, una mayoría de los mismos (51%) no percibe una relación directa entre el uso de las pantallas por parte de sus hijos y la aparición de problemas de peso. Sí lo hace el 25% de los encuestados. Casi el mismo porcentaje (51%) considera que el uso de las pantallas está relacionado con el aumento de problemas visuales, mientras que uno de cada cuatro no percibe una relación clara entre ambos factores.

Más de un 40% de madres y padres no percibe un efecto claro entre el uso de pantallas por parte de sus hijos e hijas y los problemas de sueño, en tanto un tercio (36%) sí lo considera. Ante este extremo, los expertos apuntan que no descansar bien puede provocar irritabilidad, falta de atención, bajo rendimiento escolar y pérdida del humor. En cuanto a la salud mental, más de un 40% de los tutores no considera relevante la relación entre el uso de pantallas y la aparición de ansiedad, estrés y síntomas depresivos, frente a un 33,2% que sí lo hace.

Pantalla versus socialización

Sin embargo, desde Educo recalcan que uno de los resultados más llamativos es que casi uno de cada tres encuestados (30,4%) no piensa que el uso de las pantallas afecte al contacto presencial con amistades y familiares, mientras que casi la mitad de los encuestados (46,7%) sí lo hace.

Por otra parte, más del 50% de las familias está de acuerdo en que el uso de pantallas reduce el tiempo de juego libre en plazas, parques y naturaleza. En este sentido, “el juego al aire libre sin supervisión enseña a los niños y niñas cómo gestionar los riesgos y las adversidades de muchos tipos”, tal como indican varios expertos en el informe.

Uno de los temas que genera una percepción polarizada es el que liga el uso de dispositivos digitales con la sensación de aislamiento social y soledad no deseada. Casi el 40% de los padres y madres piensa que no hay vínculo alguno entre ello, cuando casi otro 40% defiende que sí. Ante este punto, los expertos expresan que los niños y las niñas pueden desarrollar un sentimiento de soledad incluso estando conectados de forma permanente.

Activar la “acción colectiva”

Céspedes explica que la ecuación se compone de tres claves. Por un lado, los especialistas que avisan del impacto nocivo del uso de las pantallas durante la infancia. Por otro lado, los más pequeños, que viven todo lo bueno que les acarrea el mundo digital, porque posee muchas cosas positivas, pero también negativas. Por último, las familias, que ven a sus hijos más seguros jugando con el móvil en su habitación que en la plaza con sus amigos. “Ha llegado el momento de sentarnos todos y escucharnos, y tomar medidas”, opina la integrante de Educo.

Desde su punto de vista, la problemática se podría atajar con un mayor entendimiento de cómo los niños y niñas viven esa conexión al mundo digital. “Tenemos que aprender de ellos porque incluso a los adultos nos faltan muchas herramientas todavía”, puntualiza la directora de Incidencia e Investigación de Educo, quien señala la responsabilidad de gobiernos y grandes tecnológicas para poner barreras y límites.

“Si no tengo un móvil me excluirán del todo”. Hemos llegado a un momento en el que tener un móvil puede ser la diferencia entre que se burlen de un menor o que se sienta integrado. Desde Educo promueven como respuesta la acción colectiva, “porque un individuo que actúa solo se enfrenta a unos costes elevados para el cambio”, puntualizan. Y añaden: “Pero si las personas son capaces de coordinarse y actuar juntas pueden optar con mayor facilidad por acciones mejores para el colectivo en el largo plazo”.

Así, la acción colectiva se presenta como un recurso emancipador. “Queremos un cambio que no pase por prohibiciones, sino por entender este nuevo ecosistema en el que lo real y lo digital es todo uno para los más pequeños, y para acompañarles en ese momento de crecimiento y desarrollo de la personalidad de la forma más segura posible”, finaliza Céspedes.

No le gusta la fama. “Menos mal que nadie me reconoce”, afirma. No le gustan las entrevistas. “Son aburridas”, aclara nada más empezar la conversación. Y aun así, acepta someterse a casi una hora de preguntas, precisamente el día que visita Barcelona para dar una conferencia en Cosmocaixa. Se llama Pierre-Louis Lions, tiene 68 años, es francés y es una de las poco más de 40 personas en el mundo que puede alardear de haber recibido el sello oficial de mejor matemático del planeta: la medalla Fields.

Una medalla que otorga la Unión Matemática Internacional cada cuatro años –las últimas se entregaron en 2022– a los mejores matemáticos (solo dos mujeres la han recibido hasta la fecha) de menos de 40 años. Lions la recibió en 1994 por sus contribuciones en áreas como la teoría de la probabilidad y las ecuaciones diferenciales parciales. Aunque al principio se sentía más atraído hacia la física y la informática, acabó siguiendo los pasos de su padre, también matemático, y que según ha contado otras veces, intentó convencerlo de que estudiara otra cosa.

Hagamos un juego. Le voy a dar parejas de palabras y usted elige. ¿Las matemáticas son una exploración o una invención?

Es una pregunta muy ligada a la filosofía. Hay dos escuelas de pensamiento en este asunto: yo pertenezco firmemente a los que creen que nos inventamos las matemáticas. Luego hay los que creen que las matemáticas existen fuera de nosotros y las tenemos que descubrir. No estoy nada de acuerdo con ellos. Para mí, las matemáticas son la manera que tiene nuestro cerebro de hacer frente a la realidad. La geometría se inventó para medir la tierra para la agricultura. El análisis matemático en inglés se dice calculus, y en latín eso significa piedra: es decir, se inventó para contar. 

De hecho, también algunos animales pueden contar, como los pájaros.

Muchos animales pueden entender números pequeños. Y algunas comunidades del Pacífico tienen un sistema numérico basado en tres cantidades: uno, dos y “muchos”. Así que las matemáticas se inventan para ser más eficientes en la gestión de la realidad. Nuestro cerebro es muy bueno en inventar conceptos, que es lo que en matemáticas llamaríamos “clases de equivalencia”. Las matemáticas nos ayudan a operar con estos conceptos, y por eso las hemos inventado.

Por lo tanto, no cree que las matemáticas son un “lenguaje universal” que podríamos utilizar para comunicarnos con civilizaciones alienígenas, como cree alguien. 

Hay muchos si en esta afirmación. Primero, habría que ver si hay otras civilizaciones, y segundo, si son capaces de comunicar. Pero como mero ejercicio mental, si esto fuera el caso, no me sorprendería que otra civilización hubiese inventado una forma de matemáticas. No sería como la nuestra, quizás habría otra percepción del concepto de número. A lo mejor usarían colores o sonidos, y no piedras para contar.  

No me ha gustado la película Oppenheimer. Me parece que no representa bien la situación. Oppenheimer en realidad era solo un manager, no tuvo ningún papel científico

Otra pareja: dos películas. El indomable Will Hunting y Una mente maravillosa. ¿En cuál siente que salen mejor representados los matemáticos? 

La italiana Muerte de un matemático napolitano, sobre los últimos días de vida del gran Renato Caccioppoli, que se suicidó en 1959, es la que me viene a la cabeza. Me siento más cerca de Caccioppoli que de los que me ha mencionado. El conserje genio matemático Will Hunting me cae bien, la peli me gustó. Pero no es realista. En cuanto a la otra, tengo muchísima admiración hacia John Nash, el protagonista de la historia.

Lo conocí, era una persona peculiar, una historia muy triste. Era increíble, hizo al menos tres grandes contribuciones a las matemáticas. Y estuvo enfermo toda su vida. Incluso su muerte fue muy triste. [Nash, premio Nobel en economía en 1994, padecía esquizofrenia. Murió en un accidente de coche en un taxi volviendo a casa después de haber recibido en 2015 el premio Abel, uno de los más prestigiosos en matemáticas]. Le tengo mucho cariño a Nash, por su tragedia y por su brillante contribución en las matemáticas. Es incluso personal: hace 20 años, junto con un compañero, inventamos una nueva rama de las matemáticas, llamada “Teoría de Juegos de campo medio” que se inspira directamente en su obra. En fin, el filme es una muy buena película muy americana, aunque Russell Crowe es un poco demasiado atlético para representarle [ríe].

Desde el principio de mi carrera tengo un poder. Cada vez que veo un problema interesante puedo decir desde el principio si podré solucionarlo o no. Puede que tarde 10 años, pero ya sé si lo conseguiré

La que realmente no me ha gustado es Oppenheimer. Me parece que no representa bien la situación. Oppenheimer en realidad era solo un manager, no tuvo ningún papel científico. Los que sí lo tuvieron fueron Enrico Fermi, que aparece solo de pasada, algunos ingenieros y sobre todo muchísimos matemáticos, totalmente ignorados en la película. 

Última pareja. A Edison se le atribuye el dicho que el éxito es 1% inspiración y 99% transpiración. Sé que usted prefiere la palabra “intuición” a “inspiración”. ¿Cuánta parte de su trabajo es intuición y cuánta es sudor?

Con la edad, me hago cada vez más vago, lo tengo que admitir. Pero intento dejar volar mi imaginación. La gente dice que una de mis principales cualidades es mi intuición. De hecho, desde el principio de mi carrera tengo un poder. Cada vez que veo un problema interesante puedo decir desde el principio si podré solucionarlo o no. Puede que tarde 10 años, pero ya sé si lo conseguiré. Así que sí, creo que el dicho vale para mí también.

Una anécdota: a finales de los 90 me encontré con un problema llamado “ecuaciones incompresibles de Navier-Stokes” y estaba segurísimo que lo podría solucionar. Tardé 12 años. ¿Sabe por qué? Porque estaba intentando demostrar una parte que finalmente estaba equivocada. Lo que haces es tomar el problema, dejarlo allá de lado, que se cueza lentamente. Lo vuelves a tomar. Hasta que, más de 11 años después, encontré contraejemplos que me hicieron ver que lo que quería demostrar era incorrecto. Diez días después ya tenía la demostración del problema, y hasta la publiqué en un libro.

¿Y qué pasa cuando uno lo consigue? ¿Cómo se siente?

Te sientes feliz, un rato. No es que te sientas el rey del mundo. Estás satisfecho. Pero después ya te pones a otra cosa. Me gusta mucho una expresión, quizás un poco pesimista, pero que describe bien lo que hace un buen investigador: “fracasa mejor”. Y es lo que pasa: porque a menos que no tengas un ego ilimitado, no puedes decir que has tenido éxito. ¡Hay tantas preguntas aún por contestar! No has entendido aún todo el cuadro, pero sabes que la próxima vez fracasarás un poco mejor. 

Esto me sugiere otra pareja de ideas: ¿es más interesante buscar buenas preguntas o buenas respuestas?

En realidad, no lo sé. Primero, hay que recordar que las matemáticas no les pertenecen a los matemáticos. Es una ciencia que hacen los matemáticos, pero también es un lenguaje común en todos los estudios cuantitativos, en todas las ciencias cuando intentan ser más predictivas. Así que muchas preguntas matemáticas son planteadas por personas que no son matemáticas. Desde la física, desde la economía se plantean preguntas matemáticas muy interesantes. A mí me encantan las preguntas. Y me encantan las respuestas cuando abren nuevas puertas. Si es solo para una competición, para resolver un ejercicio, no me interesa tanto. 

¿Las matemáticas sirven para ayudar a predecir adónde va la sociedad?

Yo no tengo idea sobre cómo será el futuro. Lo que puedo hacer es mencionar tendencias. En los años 50, Von Neumann acuñó la expresión “punto de singularidad”. Según él, la tecnología y la ciencia iban cada vez más rápido y la singularidad ocurriría cuando esta aceleración fuera tan rápida que la humanidad sería destruida. En el caso de la inteligencia artificial, podría ser cuando se convirtiera en un ser consciente, algo que para mí es una sonora tontería.

Lo que llamamos inteligencia artificial es, en efecto, la capacidad de procesar enormes cantidades de datos con computación altamente eficiente, pero con un sistema antiguo

Pero si miramos a la tecnología, es cierto que estamos haciendo un trabajo fantástico en cargarnos el planeta. Somos muy eficientes en ello. Así como en aumentar la división entre quienes pueden utilizar los avances tecnológicos y los que no. Observamos los movimientos políticos populistas, diría fascistas, que nos indican que hay mucha gente en nuestra sociedad que está muy descontenta. Es muy preocupante. ¿Qué pasará en 30 años? ¿Una guerra civil? Asistimos a la destrucción de las especies, a las guerras para el acceso al agua, un punto de ruptura para el cambio climático. 

Un panorama complejo.

Yo no soy muy optimista. Pero sí creo que la adaptación será crucial para el desarrollo, y que la tecnología puede ayudar a resolver parcialmente el problema. Egoístamente, tengo 68 años, no debería importarme. Pero sí me importa. Tengo un hijo, nietos. En comparación con la magnitud de estos problemas, los peligros de la IA son nimios.

Ahora bien, debido a la creciente innovación y a los avances tecnológicos, todo se vuelve más “digital”, o como prefiero decir yo, “numérico”. Se podría decir que es una manera de ir hacia una abstracción cada vez mayor. El dinero, la información, los libros, que me encanta leer en formato físico, pero es más práctico un Kindle. Esta tendencia significa cada vez más matemáticas por todos lados. Lo que no significa que habrá cada vez más matemáticos, pero sí habrá cada vez más preguntas planteadas por todo tipo de personas relacionadas con las matemáticas.

¿Y qué papel tendrá la Inteligencia Artificial?

Todo el mundo habla de IA, pero lo que estamos usando hoy es realmente “aprendizaje automático” (machine learning), que utiliza una tecnología bastante antigua (de hace 50 años): las redes neuronales. Sin duda, hoy las unidades de procesamiento gráfico, GPU, y las MPU, son más potentes y más baratas. Y permiten la computación en la nube. Se pueden hacer cálculos enormes, que permiten trabajar con redes neuronales como las actuales, con millones o incluso miles de millones de parámetros. Se pueden analizar datos a una escala nunca antes experimentada.

ChatGPT es un desperdicio terrible. Todas esas enormes máquinas que consumen materiales, energía y requieren de muchas personas para entrenarlas... Ahora mismo el 90 % de los cálculos que se realizan no tienen ningún propósito

Lo que llamamos inteligencia artificial es, en efecto, la capacidad de procesar enormes cantidades de datos con computación altamente eficiente, pero con un sistema antiguo. Es un cambio técnico de escala, pero no es un grande paso científico, en realidad. Creo que la IA será cada vez más difusa, pero no veo el peligro inmediato que se convierta en “inteligente”. La destrucción del planeta me parece un problema más urgente.

Ahora bien, hay muchos ámbitos donde veo aplicaciones interesantes y útiles: la salud, por ejemplo. O en las traducciones. Incluso es un buen paradigma: en lugar de intentar comprender en detalle algo casi imposible de manejar, la IA puede ser más eficiente al usar los datos disponibles para poder hacer cosas sin comprender exactamente cómo funcionan, que es lo que pasa con las traducciones automáticas.

Entonces no le impresiona ChatGPT.

En realidad, es un desperdicio terrible. Todas esas enormes máquinas que consumen materiales, energía y requieren de muchas personas para entrenarlas. No me parece correcto. Yo creo que el futuro de la IA será mucho más frugal. Ahora mismo el 90 % de los cálculos que se realizan en todas esas grandes aplicaciones de IA no tienen ningún propósito. Son inútiles. A lo mejor bastan millones de parámetros, no miles de millones. Esto utilizaría menos recursos. El futuro es hacerlas más pequeñas y comprender mejor cómo funcionan. Y esto solo se puede hacer con las matemáticas. 

En un auditorio a rebosar en Oxford este miércoles, las sillas estaban colocadas rozando las paredes para apurar el espacio; todas estaban ocupadas. Tim Berners-Lee, el inventor de la web, explicaba cómo cambiarla. 

Cuando trabajaba en Ginebra en un laboratorio del CERN, la organización europea para la investigación nuclear, Berners-Lee desarrolló la arquitectura que permitió navegar la naciente Internet: era 1990 y la llamó World Wide Web. “Si Internet es la superautopista de información, la web es el equivalente a los camiones que llevan el correo. Llevan, en realidad, cada segundo el equivalente digital a todas las obras de Shakespeare”, explicaba el New York Times en 1995 cuando aquella red “salida de un laboratorio” estaba “dando la vuelta al mundo”. Berners-Lee, que después se fue a trabajar al Instituto de Tecnología de Massachusetts, construyó las herramientas en las que sigue basado lo que hacemos en Internet, el lenguaje HTML, el protocolo HTTP y esta URL que has pinchado hace un momento. 

Berners-Lee, que no quiso fichar por grandes compañías privadas para explotar su invento, alertó desde el principio del peligro de que unas pocas empresas se hicieran con el control de lo que pretendía ser un sistema descentralizado y abierto al servicio de los usuarios. No lo consiguió y ahora aboga por un cambio radical en la arquitectura del sistema. 

En Oxford, enseñó gráficos que muestran cómo ponerle a la web dos capas por encima para que sea el usuario quien tenga el control de su información personal y las empresas que dominan la web, sea Google, Amazon o Apple, no sean las que manden. La idea esencial es que el centro de la web sea “la intención de los individuos” en lugar de la explotación de la “atención” en la que se centra ahora el modelo de negocio. 

Hace ahora un año, escribió una carta abierta para pedir la intervención de instituciones y gobiernos en la construcción de una nueva web y más apoyo al protocolo Solid que intenta devolver el poder a los usuarios y ya se puede utilizar. De hecho, ya lo usan la BBC o el Gobierno de Flandes, en Bélgica. 

Berners-Lee también es muy crítico con las redes sociales, en especial X y Meta, y hace unas semanas apoyó el discurso de Pedro Sánchez en Davos pidiendo más regulación. Los peligros del oligopolio de unos pocos ya estaban claros desde hace años, pero ahora los vemos en su representación más grotesca tras la victoria de Donald Trump en alianza con los oligarcas de la tecnología. 

En la charla de Oxford de este miércoles, había estudiantes jóvenes, entre ellos ingenieros a los que Berners-Lee animó a desarrollar código para el bien común. En 1989, cuando hizo su primer intento para ordenar Internet, sus ideas sonaban utópicas. Pero entonces tuvo el apoyo de instituciones dedicadas al desarrollo y el progreso que convirtieron en realidad su experimento. Ahora cree que la buena gobernanza y la responsabilidad institucional son necesarias igual que el trabajo de científicos y desarrolladores. Pero hay algo más que también importa: la reacción popular contra lo que tenemos ahora, un factor que no existía cuando en sus inicios él insistía en una web abierta y descentralizada. 

Otra web es posible, nos dice Tim Berners-Lee. Y si lo dice su inventor cómo no creerle. Encerrados en la rutina y los problemas de ahora mismo, tal vez se nos olvida que nuestro mundo siempre puede ser de otra manera. 

Las redes sociales se han convertido en la principal fuente de información sobre cuestiones políticas y sociales para los jóvenes españoles de entre 16 y 30 años, por encima de la televisión o los medios digitales. Así lo revela el último Eurobarómetro de Juventud, publicado este lunes por el Parlamento Europeo.

Según la encuesta, el 49% de los jóvenes en España señalan las redes sociales como su principal canal informativo, mientras que el 44% menciona la televisión y solo el 20% opta por medios digitales. Esta tendencia se refleja también en el conjunto de la Unión Europea, aunque con algunas diferencias: en general los europeos son algo más propensos a informarse en medios digitales (26%) y menos en redes sociales (42%) o televisión (39%).

Dentro del universo de las redes sociales, Instagram se posiciona como la plataforma más utilizada por los jóvenes españoles para informarse, con un 51% de menciones, seguida de TikTok (43%) y X (36%). Esta última tiene una mayor popularidad en España que en el resto de la UE, donde solo un 20% de los encuestados la considera una fuente de información relevante.

El estudio también señala que el 76% de los jóvenes europeos considera haber estado expuesto a desinformación y noticias falsas. En nueve países de la UE, más de la mitad de los encuestados asegura haberlo vivido “a menudo” o “muy a menudo”, con Malta (59%) y Hungría (58%) en cabeza.

Sin embargo, el 70% de los participantes en la encuesta confía en su capacidad para reconocer la desinformación. En España, este porcentaje es del 67%, pero tan solo un 15% se declara “muy seguro” de ello.

La economía y el coste de vida, en primer plano

A la hora de definir las prioridades políticas de la UE para los próximos años, el aumento de los precios y el coste de vida preocupan al 40% de los jóvenes.

Un tercio de los encuestados considera que la Unión Europea debería centrar su atención en el medio ambiente y el cambio climático en los próximos cinco años, y el 31% cree que la situación económica y la creación de empleo deberían ser una prioridad. Para los jóvenes españoles es esta la mayor preocupación.

El 65% de los jóvenes españoles se declara a favor del proyecto europeo, aunque tres de cada cinco dentro de este grupo no están satisfechos con su funcionamiento actual. Entre los más escépticos, muchos afirman que podrían cambiar de opinión si la UE modificase su manera de actuar, mientras que solo un 5% rechaza el concepto de la Unión Europea por completo.

Además, para el 46% de los jóvenes españoles y el 39% de los europeos, el compromiso político se traduce principalmente en acudir a las urnas en elecciones europeas, nacionales y locales. Al mismo tiempo, la desconfianza en la clase política y la insatisfacción son las principales razones que llevan a muchos jóvenes españoles a no ir a votar en las jornadas electorales.

Entre otros datos relevantes, España destaca como el país de la UE donde más jóvenes han participado en manifestaciones, con un 24% de los encuestados.

Elisabeth Díaz es ciega, tiene 43 años y lleva una vida plena e independiente. Sin embargo, a veces necesita ayuda inmediata, unos ojos ajenos que le permitan ver lo que los suyos no pueden. Saber qué hay en un escaparate, realizarse la prueba del azúcar, seleccionar qué ropa ponerse, conocer la fecha de caducidad de los medicamentos... Todas estas acciones del día a día son algo más complicadas para las personas no videntes, aunque no imposibles.

“Recuerdo que un día tenía que arreglar la caldera siguiendo las indicaciones que aparecían en la pantalla, pero yo no las puedo ver. Llamé a un voluntario a través de la aplicación y me ayudó una persona totalmente desconocida para mí. Me fue diciendo a qué botones tenía que pulsar”, ilustra Elisabeth. Se refiere a la app 'Be my eyes' ['Sé mis ojos'], que conecta a más de 8.358.000 voluntarios en todo el mundo con las casi 764.000 personas con discapacidad visual inscritas. A través del móvil, cualquier persona que lo necesite puede contactar con un asistente para que le oriente y le guíe en tiempo real, aunque no vuelvan a coincidir a lo largo de sus vidas. Además, cuenta con una inteligencia artificial que describe casi al detalle cualquier imagen.

Elisabeth lleva unos 18 meses utilizándola. “No soy una persona muy tecnológica, pero al final me animé a descargarla, y lo tenía que haber hecho mucho antes”, reconoce esta trabajadora de la ONCE. En su caso, utiliza las dos funciones que permite la aplicación. Por un lado, la IA que describe lo que aparece en cualquier fotografía que el usuario desee leer. Por otro, la conexión con los voluntarios, que ven lo que rodea al usuario a través de la cámara del móvil.

“Mi sobrina pequeña me manda muchas fotos y ahora sé lo que aparece en ellas gracias a esta aplicación. También hago fotos, las subo, y me dice qué hay”, explica. Por ejemplo, le es útil para saber qué producto hay en el interior de los botes cuando se le juntan varios en su casa, ya que la inteligencia artificial es capaz de leer las etiquetas. “Es algo complicado porque tienes que enfocar bien, y a veces cuesta”, relata esta invidente total.

En otra ocasión, Díaz volvió a usar esta función cuando compró unos regalos que debían estar ilustrados de una determinada manera y que el lector de fotografías no era capaz de detallar. “La inteligencia artificial solo me decía que eran unos muñecos, pero no cuáles concretamente. Llamé a un voluntario y me confirmó que en mis manos tenía el regalo con la ilustración que quería”, ejemplifica.

Protección de datos y “censura”

Alberto Lorenzo utiliza la aplicación desde hace unos dos años. “Soy una persona muy inquieta y me gusta conocer las herramientas tecnológicas que mejoran mi calidad de vida”, cuenta sobre sí mismo este investigador predoctoral en torno a la accesibilidad para personas con discapacidad visual.

“La uso mucho. Por ejemplo, cuando estoy delante de un escaparate y no encuentro ninguna persona a mi alrededor, llamo a un voluntario para que me diga qué hay, qué características tienen las cosas o cuánto cuestan”, relata. También utiliza la aplicación cuando se siente perdido: “Para ir a los sitios me guío por Google Maps, pero hay zonas que no conozco, así que llamo a alguien para que me vaya avisando de los obstáculos que me encuentro y evitar que me salga del trayecto o termine en la carretera”, añade.

Lorenzo, de 42 años, es prácticamente un experto en la herramienta, de la que hace uso cada semana. Por eso, señala algunas precauciones que toma y sugiere mejoras. Según cuenta, una vez que ha solicitado que cualquier persona le asista, la aplicación no le indica si está esperando o ya le están atendiendo, algo que se repite una vez que cuelgas la llamada, “aunque tampoco sabemos si hemos colgado bien”, apuntilla. Por eso, Lorenzo y tantos otros como él no dejan de repetir un “hola” como saludo desde que empiezan la llamada hasta saber si hay una persona al otro lado.

Y reconoce cierta cautela a la hora de activar 'Be my eyes' dentro de casa. “Hay que tener en cuenta la protección de datos. No desconfío de los voluntarios, pero yo no sé quién hay detrás, así que no me gusta enseñar dónde vivo, qué ropa llevo puesta o algo de mi intimidad, aunque sea algo tan simple como una factura de la luz en la que aparecen todos mis datos”, desarrolla.

Mauro Ugedo tiene 14 años y admite que la utiliza mucho, sobre todo la función del reconocimiento de imágenes a través de la inteligencia artificial. Este joven creador de contenido, ciego de nacimiento, usa la herramienta para saber qué hay escrito en cualquier cartel, qué aparece en alguna foto que le envían o, incluso, para elegir las miniaturas que harán de portada en los vídeos que cuelga en YouTube y TikTok. En cambio, considera que antes de llamar a un desconocido intentaría contactar con algún amigo por videollamada.

La crítica que este usuario de 'Be my eyes' realiza está ligada con la censura, que considera una forma de coartar el conocimiento del mundo a las personas con discapacidad visual. “Si aparece alguien fumando, no te lo dice. O si se trata de una imagen de ámbito sexual, la propia aplicación te advierte de que contraviene sus políticas”, explica. Ugedo apuesta por hacer de la aplicación un espejo de la vida real, sin cortapisas: “No hace falta que sea demasiado explícito, pero no entiendo por qué no te puede decir que en una foto hay personas practicando sexo o aparece un cuerpo desnudo”, remacha.

La primera llamada, el Día de la Madre

Entre los más de ocho millones de personas voluntarias inscritas en la aplicación se encuentra Lucía Machota, conocida en Instagram como @lucialovesromeo dado su trabajo de divulgación en torno a la discapacidad visual. Madre de un niño ciego de nacimiento, se inscribió en abril de 2018. “Recuerdo que la primera vez que recibí una llamada fue el Día de la Madre. Lo sentí como un súper regalo”, rememora. En aquella ocasión, una persona invidente quería poner la lavadora y ella tuvo que decirle si toda la ropa que tenía preparada en el suelo era blanca o de color.

A lo largo de todos estos años ha recibido unas 15 llamadas. “He ayudado a realizar gestiones simples con el ordenador, leer cartas, seleccionar o contar dinero, incluso a elegir cómo se va a vestir una persona enseñándome la ropa que tenía en el armario”, destaca orgullosa. Ella misma agrega que muchas personas ciegas no encienden la luz en sus viviendas, por lo que la aplicación permite a los voluntarios activar la linterna del móvil de la persona ciega para poder ver mejor lo que se muestra a su alrededor.

“Yo estoy deseando siempre que me llamen, aunque hay tantos voluntarios para tan pocas personas invidentes que la probabilidad de que te toque es muy baja. Además, tienes que descolgar rápido, porque si no la llamada pasa a otro voluntario. Cuando eso ocurre, sale en la pantalla que otro asistente ya ha respondido”, se explaya. La llamada debe salir en varios móviles de voluntarios al mismo tiempo, a ver quién responde antes, detalla Machota.

'Be my eyes' permite seleccionar el idioma, pero también la franja horaria en la que un voluntario está dispuesto a ayudar. “Para mí es esencial el componente de la solidaridad que hay en ayudar a personas que no conoces de nada y con las que seguramente no volverás a coincidir nunca”, valora. Para ella, la satisfacción que siente después de haber respondido una de estas llamadas es lo mejor que le ha ocurrido en el día, comenta.

Por otro lado, Machota también recalca la necesidad de hacer un buen uso de la herramienta. “Sé de casos de asistentes que han descolgado la llamada y la otra persona, que tampoco hay forma de saber si es ciega o no, está desnuda. Intentemos utilizar la aplicación para lo que está diseñada”, se queja.

Lucía no es la única de su familia que está inscrita como voluntaria. Le siguen sus primos, Rubén y Paco Pérez. Rubén ha recibido tres llamadas desde que la utiliza. La primera vez se trataba de un señor al que tuvo que indicar qué tipo de medicación tenía delante y su fecha de caducidad. “A mí siempre que me han llamado ha sido para hablar expresamente sobre la ayuda que necesitaban en ese momento, no ha habido demasiada conversación, aunque la gente siempre ha sido muy agradable y agradecida”, señala.

La segunda vez que le sonó el teléfono desde la app fue porque un chico se había encontrado muchos mandos a distancia en un cajón, así que Rubén estuvo varios minutos con él intentando determinar cuál era de cada dispositivo. La tercera fue de una chica a la que no pudo ayudar: “Me preguntó si le podía indicar cómo llegar a un lugar concreto y me dijo que ella vivía en Castilla y León, pero yo soy de otra comunidad y no le pude decir apenas nada. Me daba miedo indicarle mal y preferí ser cauteloso”, aclara.

Una herramienta solidaria

Paco Pérez, su hermano, tiene la aplicación desde diciembre de 2018. En todos estos años solo ha recibido una llamada. “Era un matrimonio algo mayor, los dos ciegos, y él tenía que hacerse la prueba del azúcar. Les guie para indicarles cuándo salía la gota de sangre y cómo acercar la tira reactiva, y luego decirles el resultado. Me hizo mucha ilusión poder ayudarles”, rememora. Esto sucedió apenas hace dos semanas, antes de fin de año. “Fue gente súper agradecida, me preguntaron por la Navidad y a la hora de contarlo después me puse hasta nervioso, porque era una experiencia que quería disfrutar”, prosigue.

Su experiencia resume la del resto de las personas consultadas. Los voluntarios se sienten realizados haciéndoles la vida más sencilla a quienes lo necesitan de una manera simple, mientras que las personas con discapacidad consiguen ayuda inmediata y de forma gratuita. Todos destacan la importancia de dar a conocer este tipo de herramientas. “Ojalá la conocieran todas las personas ciegas que la necesitaran, y ojalá todo el mundo pusiera su granito de arena en ella”, concluye Paco.

Tras cinco años como director del Internet Freedom Festival, Pepe Borrás (València, 1988) decidió echar raíces en Estados Unidos y vincularse a otros proyectos relacionados con la libertad de expresión en internet. Como jefe de Estrategia de NetFreedom Pioneers, se ha convertido en el primer español premiado por la National Endowment for Democracy (NED), una fundación impulsada por el Congreso de Estados Unidos que galardona las iniciativas más originales en este campo. En esta entrevista con elDiario.es, realizada en el Museo de la Informática de la Universitat Politècnica de València, analiza la situación actual de las libertades en internet y ofrece una visión esperanzadora sobre cómo recuperar el control de nuestro futuro digital.

Internet llegó al mundo para poner todo el conocimiento al alcance de un click y ahora hay millones de personas que creen que la Tierra es plana. ¿Fue un sueño o aún hay esperanza?

Yo siempre mantengo la esperanza, pero si nos ceñimos a los datos, el panorama no es bueno. Freedom House, una influyente ONG americana, publica todos los años el Internet Freedom Index y, desde que empezó a hacerlo, el nivel de las libertades en la red ha ido en declive. El informe de 2024 no es una excepción. No solo no mejoramos, sino que cada vez más países van hacia atrás. Cada vez son más frecuentes modelos como el de Irán que tiene el internet hallal —es decir, que tiene un contacto limitado con el exterior—. 

¿La Inteligencia Artificial ayuda o perjudica?

Uno de los grandes retos al que nos enfrentamos en estos momentos como sociedades tecnológicas es la ‘infoxicación’. Es este marco concreto, el crecimiento salvaje de la IA tiene un gran potencial nocivo. El ecosistema informativo digital está muy contaminado y esto no es casualidad. Las estrategias de influencia política e ingeniería social están cambiando. Hemos pasado de la censura a la ‘infoxicación’, hacer que todo valga para que nada valga. Fomentar la desinformación genera descrédito generalizado, falta de confianza en los expertos y las instituciones (‘investígalo por tu cuenta’) y polarización (‘solo confío en mi círculo más cercano’). Vamos, 'pescar en río revuelto' edición guerra híbrida. Por ejemplo, Elon Musk ya no es un mero ‘troll’, es un potencial agente del caos dueño de una plataforma con casi 440 millones de usuarios en la que se han interrumpido prácticamente todos los mecanismos de control para evitar la expansión de bulos, muchos de los cuales él mismo origina y distribuye. De hecho, Musk mandó alterar el algoritmo de Twitter (llamémosle X) para asegurarse de que sus publicaciones fueran las más visibles en la plataforma. 

Elon Musk ya no es un mero ‘troll’, es un potencial agente del caos dueño de una plataforma con casi 440 milliones de usuarios en la que se han interrumpido prácticamente todos los mecanismos de control para evitar la expansión de bulos, muchos de los cuales él mismo origina y distribuye

¿Hay solución o nos tenemos que conformar con que todo internet acabe convertido en un estercolero como X?

Me gusta pensar en nuestro entorno digital del mismo modo que tratamos al medio ambiento desde la ecología. Lo primero es reconocer que no podemos seguir contribuyendo a contaminar los lugares de intercambio de ideas en internet y también que hay que preservar las plazas públicas digitales. Alternativas abiertas a X como Bluesky o Mastodon han visto un espectacular aumento de sus usuarios en los últimos meses. Ambas forman parte del llamado ‘fediverso’, que hace referencia a una concepción de internet basada en la federación de servicios y plataformas, en oposición a la concentración de los mismos por parte de grandes corporaciones tecnológicas.

Quizás mucha gente no sepa que existen los public interest technologists, o tecnólogos para el interés público, que se dedican a promover tecnologías para servir al bien común. La Fundación Ford es una de las pioneras en este campo y la Fundación Mozilla, por su parte, ha lanzado Mozilla AI para “construir, comercializar y componentes y herramientas de código abierto que faciliten a desarrolladores y usuarios implementar IA de manera confiable para resolver casos de uso del mundo real”. No podemos asumir una postura derrotista. Queda mucho por hacer y todos podemos contribuir, aunque sea simplemente eligiendo una plataforma sobre otra.

Hace años, alguien con un blog podía escribir artículos largos, muy trabajados, llenos de links, que la gente se tomaba su tiempo en leer. Ahora lo único que se comunican son mensajes cortos, poco elaborados y, si es posible, muy impactantes.

Sí, hay mucha competencia para atraer la atención y existe eso que los angloparlantes llaman el llamado FOMO (fear of missing out), es decir, el miedo a perderse algo, queremos estar en todo. Pensamos que ya hemos llegado al final del camino y que la comunicación en internet tiene que ser el modelo de X, Instagram o Tiktok, pero no tiene que ser necesariamente así.

Nos movemos de las redes sociales a las comunidades en red

Creo que empieza a haber algún tipo de reacción, por lo menos nos hemos dado cuenta del problema, y la última palabra sobre cómo hablar o cómo relacionarse en la red no está escrito, a lo mejor ahora alguien está creando una nueva red que cree otro paradigma menos tóxico. Plataformas como Reddit, más basadas en comunidades de interés que en la competencia por la atención, están viviendo un renacido interés. En esta línea, las generaciones Z y Alfa están más interesadas en plataformas de comunidad que en Facebook y X. Las comunidades en Discord y los servidores del juego Roblox son lugares populares de encuentro entre los más jóvenes. Nos movemos de las redes sociales a las comunidades en red.

Un dato curioso de por dónde van los tiros es que lo que más problemas crea a Amazon para enviar a otros países no es tecnología, son los libros.

Ceder a la censura por motivos económicos continúa siendo tendencia entre las grandes tecnológicas. Cuando Google trató de implantarse en China, aceptó censurar términos de búsqueda como ‘Tiananmén’, aunque finalmente decidió retirarse del país en 2010. Por su parte, Amazon prefiere etiquetar ciertos artículos como “temporalmente agotado” para evitar problemas en países donde libros de temáticas LGBTQ, ocultimo, o simplemente salud y bienestar son problemáticos, como refleja una reciente investigación de Citizen Lab. En esta línea, la gente de GreatFire lleva años monitoreando la censura desigual en las app stores de todo el mundo. El App Free Index es su proyecto más reciente para evaluar y comparar la libertad de acceso a aplicaciones en todo el mundo. Más allá de la censura, es interesante analizar los modelos económicos predominantes en internet. Vivimos unos tiempos que, como explica Yanis Varoufakis en su reciente libro Tecnofeudalismo, las grandes tecnológicas tienen la ambición de convertirse en nuevos señores feudales, privatizando los espacios digitales públicos para la expropiación de la renta económica generada por el trabajo de los siervos: nosotros, los usuarios. 

Eso se refleja muy bien en la evolución de Silicon Valley, cada vez más escorado hacia el Partido Republicano.

Sí, Silicon Valley ha sido un feudo del Partido Demócrata durante muchos años, pero en las últimas elecciones ha habido un claro acercamiento al Partido Republicano. Elon Musk es la cabeza más visible y activa de este movimiento, pero hay más como Jeff Bezos, también dueño del Washington Post, que por primera vez en cuarenta años no apoyaron a ningún candidato, lo que se interpretó como un apoyo a Trump. De hecho, ha sido de los que ha invertido un millón de euros para financiar su toma de posesión (junto a Meta), cuando en 2016 Amazon solo donó cerca de 56.000 dólares. Podemos añadir a la lista a Peter Thiel, fundador de PayPal y Palantir, que apoyó con mucho dinero la campaña de senador del hoy vicepresidente J.D. Vance. 

Silicon Valley ha pasado de abrazar ideas progresistas y tecnoutópicas a apoyar un mundo desregulado y anti-establishment, una especie de paraíso libertario donde reinen las criptomonedas y las corporaciones no tengan que rendir cuentas a ninguna administración

¿En la práctica, en qué se nota ese cambio?

Silicon Valley ha pasado de abrazar ideas progresistas y tecnoutópicas a apoyar un mundo desregulado y anti-establishment, una especie de paraíso libertario donde reinen las criptomonedas y las corporaciones no tengan que rendir cuentas a ninguna administración. Recordemos que la mayor parte de sus dueños ha pasado por audiencias en el Congreso, se les ha criticado mucho por el papel perjudicial de las redes sociales entre los jóvenes o se les quiere aplicar leyes antimonopolio. Musk, Bezos, Thiel, Zucekerberg se han convertido en lo que se ha bautizado como la ‘broligarquía’ y de ellos depende en gran parte el futuro de la red.

Hubo un tiempo en el que se temía que hubiera una internet de ‘dos velocidades’, el de las grandes empresas y el de los usuarios. ¿Sigue existiendo ese riesgo?

No creo que eso se vaya a convertir en un problema, el riesgo al que nos enfrentamos es esa privatización del espacio público que es la red. Internet nació financiada con dinero público y todo el mundo estaba invitado a unirse, las empresas también. Pero ahora el poder de controlar internet está cada vez más en manos privadas, y además cada vez en menos manos. Pienso, por ejemplo, en proyectos como Starlink, como hemos visto en la guerra de Ucrania, en la que Elon Musk tiene capacidad para decir quién se conecta y quién no. Creo que el peligro viene más por ahí, el de que pocas personas puedan tomar decisiones sobre la infraestructura de la red. 

Por cierto, ¿cómo te convertiste en el primer español en recibir el Democracy Award del National Endowment for Democracy? Es el galardón más alto al que se puede aspirar en tu campo y creo que eres el único español que lo tiene.

Sí, es posible que sea el único en recibirlo de manera directa. La verdad es que fue una sorpresa muy grande. El premio es compartido con el equipo de Netfreedom Pioneers, una empresa sin ánimo de lucro en la que nos dedicamos a buscar lugares en los que internet está en peligro y diseñar soluciones tecnológicas. Colaboramos con organizaciones de la sociedad civil de cada país para enviar noticias, contenido útil y hasta software, como VPNs, que puedan dar acceso al internet global. En una ocasión tuve una reunión con el máximo representante de NED, Damon Wilson, y pasó algo que no suele ocurrir entre los altos cargos ejecutivos en Estados Unidos: aunque la reunión se prolongó más de la cuenta, se quedó hasta el final y luego me felicitó. Meses después, nos escribieron para decirnos que nos daban el premio.

¿Y en qué consiste vuestro día a día?

Depende del país, no es lo mismo Corea del Norte que es un país totalmente aislado, que otros como Irán. En este, el problema suele ser que los ciudadanos utilizan un VPN para poder conectarse fuera del país, y cuando se hace muy popular, el Gobierno actúa contra él. Nuestra misión, y lo hemos conseguido en muchos de estos países, es encontrar maneras de que el flujo de información no pueda ser interrumpido y que los respectivos gobiernos antidemocráticos no tengan la habilidad de dejar incomunicados y aislados a los ciudadanos.

En Corea del Norte hay que emplear sistemas que no dependan de la infrastructura de internet, como las comunicaciones por satélite para enviar información a través de sistemas no convencionales

En Corea del Norte es más complicado, porque no hay acceso directo al internet global. Allí hay que emplear sistemas que no dependan de la infraestructura de internet, como las comunicaciones por satélite para enviar información a través de sistemas no convencionales. Otras veces se utilizan otros métodos menos tecnológicos, algo tan sencillo como esconder tarjetas SD con contenido del exterior escondido en el pliegue de una camisa. Como jefe de estrategia, yo me dedico a diseñar programas para responder a los retos de cada país. Requiere una mezcla de conocimientos en tecnología, geopolítica y derechos humanos. En este campo, la innovación tecnológica es fundamental, pero el componente humano siempre va por delante. En muchos de estos países, como puede ser Corea del Norte, hay vidas en juego.

Otro de los proyectos en los que trabajas, más personal, es una exposición de basura.

Así es [ríe]. Mucha de la basura que genera Corea del Norte acaba en unas islas de Corea del Sur y hay un catedrático de la Universidad de Busan, el profesor Kang Dong-wan, que lleva años jugándose la vida para recolectarla para estudiar la economía del llamado Reino Ermitaño. De ahí se puede sacar mucha información estudiando si las etiquetas están en inglés, el gramaje de las cajas de cereales, el tipo de residuos que llegan y la cantidad… En este caso, recuperando la visión tradicional de aquel que encuentra un mensaje en una botella varada en la playa, es que el mensaje sea la propia botella; me resulta muy poético. El objetivo es hacer una exposición itinerante, que me gustaría que comenzara en València, no solo para mostrar esa ‘basura’, sino para entender qué tipo de información ofrece y qué nos dice sobre la cultura y las costumbres de un país tan elusivo como Corea del Norte.

¿Volverá a celebrarse el Internet Freedom Festival?

Como tal, no, pero me alegra que de este proyecto pionero hayan surgido iniciativas posteriores por todo el mundo. Creo que fue un éxito, España —y sobre todo València— se convirtió durante cinco años en la capital mundial de los derechos de Internet. Pero lo más importante, creamos una comunidad que antes no sabía que lo era: era un foro en el que un ingeniero de Estados Unidos podía hablar con un activista de Zimbabue para intercambiar ideas y mejorar las herramientas para hacer un internet más libre.

Además, prácticamente la mitad de los asistentes eran mujeres, algo nunca visto en un encuentro tecnológico y más hace unos años. Lo importante no es tanto que vuelva el IFF, sino que su espíritu se mantenga, y en ese sentido me consta que hemos creado escuela.

Uno de cada cinco jóvenes españoles pasa más de dos horas al día en TikTok, lo que supera el umbral recomendado y aumenta el riesgo de problemas de salud mental. Así lo revela un estudio de la Universitat Pompeu Fabra (UPF) en colaboración con la Universitat Oberta de Catalunya (UOC), que analiza los efectos específicos de esta red social sobre el 'bienestar digital' de los adolescentes.

Este concepto se refiere al equilibrio entre el tiempo de conexión y el bienestar cognitivo y emocional, y se evalúa a través de tres variables: la capacidad de los jóvenes para establecer límites en su uso de la aplicación, su habilidad para generar conexiones sociales y su resiliencia emocional frente a los contenidos consumidos.

El estudio, que encuestó a 1.043 jóvenes españoles entre 12 y 18 años, revela que más de la mitad de los participantes (53,19%) dedica más de una hora diaria a TikTok, un 35,28% pasa más de una hora y media y un 20,22% supera las dos horas al día. Este uso intensivo es especialmente alto entre las chicas, donde el 24,37% supera las dos horas diarias, frente al 15,45% de los chicos. Un consumo tan elevado de la aplicación se asocia con un mayor riesgo de sufrir problemas de salud mental, como baja autoestima, estrés psicológico, una percepción negativa del bienestar emocional e incluso pensamientos suicidas.

Mientras los chicos se interesan principalmente por contenidos de videojuegos y deportes profesionales, las chicas prefieren contenidos relacionados con la belleza y la moda, lo que refleja la persistencia de los roles tradicionales de género

TikTok, la plataforma más popular entre los jóvenes a nivel mundial, se distingue por fomentar un consumo pasivo de vídeos, en el que los usuarios interactúan menos entre sí en comparación con otras redes sociales, lo que marca una diferencia significativa en la experiencia digital de los adolescentes. Este patrón de consumo podría estar contribuyendo a los efectos negativos que se observan en el bienestar digital de los jóvenes, pues en una escala del 1 al 5, puntúan su capacidad para fijar límites al tiempo de consumo con un 3,22 de media; su resiliencia emocional frente a los contenidos vistos con un 3,31 y la capacidad de generar conexiones sociales y comunidad, con un 3,64.

A mayor tiempo en TikTok, menor capacidad de poner límites

La investigadora principal, Mònika Jiménez, asegura que a medida que aumenta el tiempo dedicado a TikTok, los jóvenes muestran una menor capacidad para establecer límites en su consumo de la app. De hecho, aquellos que pasan más de dos horas al día en la plataforma puntúan su capacidad para fijar límites con un 2,93 sobre 5, mientras que los que dedican entre media hora y una hora la valoran con un 3,33. Los que pasan entre 11 y 30 minutos tienen una puntuación de 3,47, y los que la usan menos de 10 minutos, un 3,53.

Se plantea la necesidad de realizar auditorías periódicas a los algoritmos de las plataformas para prevenir sus efectos adictivos

La investigación también revela diferencias significativas en los tipos de contenido consumido en TikTok por chicos y chicas. Mientras que los chicos se interesan principalmente por contenidos de videojuegos y deportes profesionales, las chicas prefieren contenidos relacionados con la belleza y la moda, lo que refleja la persistencia de los roles tradicionales de género en el consumo digital.

Entre los contenidos más consumidos, los chicos puntúan más alto los vídeos de comedia, videojuegos, música, deportes y noticias de influencers, mientras que las chicas destacan los vídeos de comedia, música, moda, belleza y baile.

Hacia un uso saludable

Ante esta situación, el bienestar digital de los jóvenes no debe depender únicamente del control parental o de la desconexión digital. El estudio destaca la necesidad de implementar programas educativos que promuevan hábitos digitales saludables, así como de dotar a las familias de estrategias de acompañamiento, con un enfoque de género. Estas acciones son fundamentales para ayudar a los jóvenes a desarrollar un uso equilibrado y consciente de las redes sociales.

Además, el estudio advierte que las medidas restrictivas no son efectivas por sí solas. Es crucial fomentar que cada joven mantenga un nivel de consumo adecuado a sus intereses y necesidades. En este contexto, se plantea la necesidad de realizar auditorías periódicas a los algoritmos de plataformas como TikTok para prevenir sus efectos adictivos y proteger el bienestar digital de los usuarios.

Natalia Díaz, también conocida bajo el seudónimo Medianoche Tube, es una activista y divulgadora por los derechos de la infancia y la adolescencia. Hace casi una década comenzó a denunciar un fenómeno del que nadie hablaba: el sharenting, una palabra compuesta por los términos ingleses share (compartir) y parenting (crianza o ma/paternidad). El término hace referencia a la sobreexposición de menores en redes sociales a través de fotos, vídeos y datos personales que su entorno cuelga en Internet. 

Tras años de divulgación en Internet y en medios de comunicación, Díaz ha notado que cada vez más hay conciencia a nivel social y político. “Al principio a nadie parecía importarle, pero ahora ya se habla del tema. Aunque todavía queda mucho por hacer en cuanto a concienciación”, asegura. De ahí que se haya animado a recopilar todo su trabajo sobre #StopSharenting en un libro, Protege a tus hijos de la sobreexposición en la red (Harper Collins, 2024) que acaba de ponerse a la venta. 

El objetivo del libro es que madres y padres tomen conciencia sobre los riesgos que implica hacer pública la intimidad de menores en redes sociales. ¿Somos conscientes a día de hoy de lo que supone en términos de vulneración de derechos y de falta de privacidad?

Cada vez somos más conscientes, pero falta mucho camino por recorrer. Sabemos que el hecho de sobreexponer a menores en las redes conlleva peligros, pero creemos que a nosotros no nos va a pasar. Pero hay casos de pedofilia o falsos desnudos retocados con inteligencia artificial que suceden a diario. E incluso si no pasa nada grave, más allá de los riesgos, estamos sobreexponiendo a los menores sin su consentimiento.

Subir fotos y vídeos diarios, publicar datos personales suyos –como la escuela a la que van, su historial médico o su color favorito–, mostrarles en situaciones vulnerables –como una rabieta, la hora del baño o un hospital– y además enriquecerse con ello, eso es un abuso

Casi siempre al hablar de sharenting nos centramos en los peligros para los niños en Internet, cuando en realidad lo más importante es el respeto al menor. No son “personitas en construcción”, son ya personas y por lo tanto tienen derechos. Y la intimidad es un derecho fundamental contemplado en la Constitución que se debe respetar sí o sí, también con los menores. Incluso en un mundo idílico, donde no existieran la pedofilia o el acoso, estaría mal compartir imágenes y datos de menores sin su consentimiento. 

¿Hasta dónde llega la gravedad de esa vulneración de derechos? Hay quien ve exagerado pensar que por subir una foto un día puntual estamos dañando al menor.

Cuando publicamos toda la vida de la infancia en directo en redes sociales estamos vulnerando sin duda su derecho a la intimidad. Estamos creando una huella digital que en muchos casos no podrá borrarse, y lo hacemos sin contar con su opinión. Los niños y niñas no tienen la capacidad de comprender lo que son las redes sociales y a ellos no les aporta absolutamente ningún beneficio que se publiquen sus datos, entonces hay que preguntarse si es necesario subir esas fotos. ¿No puedes prescindir de ello, o enviarlas en privado?

¿Dónde se coloca la línea entre sobreexponer a la infancia y compartir una foto o un vídeo de vez en cuando? 

Nadie en su sano juicio va a decir que alguien por subir una foto de sus hijos a redes es un explotador infantil. Pero es muy difícil establecer un límite, porque es una cuestión muy personal. Muchas familias que viven de poner a sus hijos en redes sociales, que les sacan 24/7 y en directo, dicen que no creen que los sobrexpongan. Por eso se necesita una regulación, porque si no es muy difícil establecer el límite. ¿Dónde se coloca esa fina línea? En una foto, en dos, tres, en cinco vídeos al año… Yo no sabría decir dónde está. Pero teniendo en cuenta que a ellos no les beneficia en nada y solo les pone en riesgo, no sería necesario subir ni una sola foto. Lo que sí está claro es que subir fotos y vídeos diarios, publicar datos personales suyos –como la escuela a la que van, su historial médico o su color favorito–, mostrarles en situaciones vulnerables –como una rabieta, la hora del baño o un hospital– y además enriquecerse con ello, eso es un abuso y está mal.

Hace muy poco que algunos países están empezando a regular este tema. ¿Qué se está haciendo a nivel internacional que nos pueda servir de referencia?

Actualmente ningún gobierno de ningún país está abordando el tema del sharenting, a excepción de Francia e Italia y, muy recientemente, España. En 2023, Francia fue el primer país del mundo en buscar una solución a esta problemática, con una ley que se basa en conseguir los mismos derechos que tendrían los niños actores que trabajan en cine o en televisión. En 2024, Italia fue el segundo país que presentó una propuesta de ley imitando el modelo francés. La propuesta italiana contempla temas muy importantes como el derecho al olvido, y no deja lugar a dudas de que esos niños están trabajando para sus padres. 

¿En qué punto estamos en España?

En nuestro país este tema no se contemplaba hasta hace bien poco. Fue con la creación del Ministerio de Infancia y Juventud [en 2023] que se empezó a hablar de estos temas, que conciernen a menores y jóvenes. El Ministerio creó un comité de expertos para crear una nueva Ley Orgánica de protección al menor en el espacio digital, que incluye una perspectiva más amplia que los casos francés e italiano. Al principio no se planteaba el tema del sharenting, solamente se centraba en otros riesgos como la exposición de los menores a las pantallas.

Si un alumno no puede aparecer en esas fotos, porque sus padres no han firmado la cesión de derechos, los colegios apartan a los niños y niñas de esa actividad, que puede ser la función de Navidad, un baile o pintar un mural: priorizan subir fotos y vídeos por encima de la función educativa e inclusiva de la escuela

Mi sorpresa fue cuando se pusieron en contacto conmigo para poder plantear este problema, dándole la importancia que tiene. Tenemos un montón de trabajo por delante, la ley está en fase de redacción, no se ha presentado todavía a tramitación parlamentaria. Pero para mí existen una serie de temas que se tienen que abordar de manera prioritaria: el sharenting en las escuelas, la regulación del trabajo infantil y la protección de niños en situaciones vulnerables.

¿Qué pasa con los centros educativos que comparten fotos de menores en sus redes sociales con fines promocionales?

El tema de las escuelas a mí me tiene preocupadísima, se están cometiendo actos de discriminación en muchos centros. Cada vez más escuelas tienen redes sociales públicas donde publican cada día fotos de los alumnos. Si un alumno no puede aparecer en esas fotos, porque sus padres prefieren que no y no han firmado la cesión de derechos de imagen, para los centros es un problema. Entonces lo que hacen es apartar a los niños y niñas que no pueden salir en la foto de esa actividad, que puede ser la función de Navidad, un baile de fin de curso o una actividad cotidiana como pintar un mural. Priorizan el hecho de subir fotos y vídeos por encima de la función educativa e inclusiva de la escuela. Y no es un caso aislado, a diario padres y madres se ponen en contacto conmigo contándome casos de este tipo. 

¿Tienen responsabilidad también las empresas que pagan a las ‘Instamamis’ o ‘Instapapis’ por campañas en las que aparecen menores?

Sí, de hecho son las principales responsables, porque las marcas conocen perfectamente este tema. Las mismas empresas que se publicitan en redes sociales también lo hacen en la televisión u otros medios convencionales, por lo que conocen las normativas. Pero ahora prefieren las redes sociales porque no hay ningún tipo de regulación, se puede hacer prácticamente cualquier cosa. Y hay normativas, los derechos de los menores se recogen en la Ley Orgánica de Protección del Menor y en la Constitución española.

Tendemos a pensar que explotación infantil es la imagen mental que tenemos de países subdesarrollados, del niño pequeño trabajando en una fábrica; y no solo es eso, aquí también está pasando: tenemos a muchos niños y niñas que están trabajando en las redes sociales sin regulación, enriqueciendo a sus padres

También se aprobó una Ley influencer, que es insuficiente. E incluso hay normativas europeas de publicidad que se deberían cumplir en cualquier plataforma audiovisual, y las redes sociales lo son. Pero volvemos a lo mismo: no hay nadie que regule ni que haga cumplir las normativas existentes. En ese contexto, las marcas son responsables, porque son las que ofrecen el dinero. Sin dinero de por medio no habría tanta explotación infantil.

La Asociación Española de Protección de Datos obligó hace años a un abuelo a borrar datos que había publicado sobre su nieto. ¿Podría ser esta una vía de acción, a través de la protección de datos? 

En principio sí, cualquier familiar podría utilizar los derechos que ya tenemos reconocidos, y la protección de datos es uno de ellos. A mí me parece muy triste que dentro de una familia se produzcan distanciamientos con esos abuelos, suegros o tíos que no entienden que los padres pidan que no se compartan fotos de sus hijos. Me parece muy triste tener que llegar a la judicialización de este tipo de conflictos, pero es que muchos adultos no entienden el alcance ni la gravedad del problema. 

Una de las ideas de partida que se intentan desmontar en el libro es que niños y niñas “pertenecen a sus padres”. ¿Por qué la privacidad de la infancia es un tema que nos debería preocupar a todos, y que no solo incumbe a sus padres? 

Porque son los seres más vulnerables y más indefensos de todos. No podemos dejar su cuidado y protección únicamente a manos de sus padres. Si todos los padres protegiesen a sus hijos todo sería maravilloso, no existirían los servicios sociales y no habría retiradas de custodia. Tiene que haber leyes e instituciones que defiendan al menor, para protegerles cuando los tutores legales fallan.

Si ves a un hombre pegar a una mujer, debes hacer algo. Quizás no intervengas en el momento, pero llamas a la policía o pones una denuncia. Pero si ves a un padre darle una bofetada a su hijo, miras para otro lado. Esa idea tan dañina de 'son sus hijos, él sabrá cómo educarlos'

Todos como ciudadanos tenemos la obligación de velar por la infancia. Si vemos una situación en la que un menor está siendo explotado o hay algún tipo de abuso, no podemos mirar a otro lado. Tendemos a pensar que explotación infantil es la imagen mental que tenemos de países subdesarrollados, del niño pequeño trabajando en una fábrica; y no solo es eso, aquí también está pasando: tenemos a muchos niños y niñas que están trabajando en las redes sociales sin regulación, enriqueciendo a sus padres. Y tenemos que actuar. 

Más allá del entorno digital, ¿hace falta, en general, más perspectiva de infancia? 

Totalmente, como decía antes tendemos a pensar que los niños y niñas no son personas en pleno derecho. Y es curioso porque, aunque no todos los adultos sean padres, todos hemos sido niños, pero hemos perdido la empatía y la capacidad de ponernos en su lugar. Pasa con la sobreexposición en redes pero también con muchísimos otros temas, como la violencia machista. Si ves a un hombre pegar a una mujer, debes hacer algo. Quizás no intervengas en el momento, pero llamas a la policía o pones una denuncia. Pero si ves a un padre darle una bofetada a su hijo, miras para otro lado. Esa idea tan dañina de “son sus hijos, él sabrá cómo educarlos”. 

En Estados Unidos algunos niños y niñas influencers que hoy son adultos han denunciado a sus padres por exponer su infancia en Internet. ¿Pasará también en España? 

Yo creo que habrá alguna que otra denuncia, pero seguramente no demasiadas. Lo que seguro que sí habrá serán testimonios, niños y niñas explicarán cuando sean mayores lo que supuso para ellos ser hijos de una Instamami o Instapapi. Yo estoy deseando que llegue ese momento [Risas].

En un mundo donde la tecnología y las redes sociales ocupan un lugar central en nuestras vidas, los riesgos y desafíos para los menores son constantes. Las plataformas digitales, conscientes de las preocupaciones de las autoridades y las familias, han comenzado a adoptar medidas para mejorar la seguridad. Un ejemplo es Meta, que ha lanzado cuentas específicas para adolescentes en Instagram con el objetivo de proteger a los jóvenes en el entorno digital.

Silvestre del Río (Palma, 1980), policía de Menores con 20 años de experiencia y fundador de la Asociación Educando Proteges, ofrece una visión experta sobre cómo salvaguardar a los menores en el ámbito digital y analiza las implicaciones de la tecnología en su seguridad y bienestar. Durante dos décadas ha trabajado como Policía Tutor en Marratxí (Mallorca) y ha colaborado estrechamente con la Fiscalía de Menores, recibiendo la “Cruz Verde al Mérito Policial” por su destacada labor. Su carrera se ha centrado en la protección y educación de los más jóvenes frente a los peligros de Internet.

Meta ha anunciado su intención de implementar cuentas para menores que estarán activas en España a finales de año. ¿Qué riesgos y beneficios ve en que plataformas como Instagram permitan el acceso de manera oficial a los menores?

Las cuentas que Instagram lanza para adolescentes están dirigidas a menores de entre 14 y 16 años. En España, el uso de redes sociales está permitido a partir de los 14. No incumplen ninguna normativa, pero resulta curioso que se olviden del tramo de edad entre los 16 y los 18 años, ya que siguen siendo menores, y parece que la privacidad en esas edades deja de ser relevante. Tampoco se mencionan las cuentas falsas que muchos menores, especialmente los menores de 14 años, utilizan.

La legislación por sí sola no resolverá el problema, pero, en su opinión, ¿hasta qué punto es adecuada la legislación actual en Balears y en España para abordar los riesgos digitales? 

La legislación actual no es suficiente para resolver el problema, pero lo más preocupante es que ninguna ley será eficaz mientras no exista una identificación digital real en Internet. La capacidad de los menores para eludir las restricciones, ya sea mediante la creación de perfiles falsos, la falsificación de su edad o el uso de herramientas como las VPN para sortear bloqueos geográficos, hace que las normativas vigentes en Baleares y en España no tengan el impacto necesario. Un menor puede acceder fácilmente a contenidos inapropiados simplemente afirmando que tiene 18 años o más.

Aunque se promuevan iniciativas legislativas como la regulación del acceso a la pornografía, los menores suelen estar un paso por delante utilizando soluciones tecnológicas que eluden cualquier barrera que el gobierno implemente. Por ello, la legislación debe ir acompañada de una identificación digital sólida; necesitamos un sistema que garantice la correcta identificación de cada usuario en Internet. Solo así será posible un control eficaz del acceso de menores a ciertos contenidos.

La legislación debe ir acompañada de una identificación digital sólida; necesitamos un sistema que garantice la correcta identificación de cada usuario en Internet. Solo así será posible un control eficaz del acceso de menores a ciertos contenidos

El problema no radica únicamente en la falta de legislación o su ineficacia, sino también en la falsa sensación de seguridad que pueden generar herramientas como el control parental. Muchos padres creen que, al activar el control parental, pueden desentenderse de la supervisión directa y la comunicación con sus hijos. Sin embargo, la realidad es que la mayoría de los menores sabe cómo burlar esas restricciones, y si no lo saben, siempre existe la posibilidad de acceder a un dispositivo sin controles en el entorno de amigos o vecinos.

Por lo tanto, mientras no haya una regulación acompañada de una identificación digital real en Internet, ninguna ley funcionará eficazmente. El control de este problema no solo pasa por la legislación, sino también por la educación, la comunicación constante y el acompañamiento cercano de los padres en la vida digital de sus hijos. Solo de este modo se podrá abordar de manera efectiva este desafío creciente.

¿La responsabilidad de que los menores hagan un uso inadecuado de las redes recae en las empresas tecnológicas o en los adultos cercanos a ellos?

Los principales responsables de velar por los menores son los padres y es evidente que la mayor responsabilidad recae sobre ellos. Hoy en día, estamos olvidando algo fundamental: educar. Nos olvidamos de la educación digital, algo indispensable cuando damos a nuestros hijos un móvil a los nueve años o les permitimos tener redes sociales a los 11 o 12 años. Sin embargo, estamos dejando que aprendan por su cuenta, y ese es el gran error. Debemos acompañarlos en el proceso. También es cierto que las plataformas digitales deberían tomar mayores medidas de precaución para evitar el mal uso por parte de los menores.

Los principales responsables de velar por los menores son los padres. Sin embargo, estamos dejando que aprendan por su cuenta, y ese es el gran error. Debemos acompañarlos en el proceso. También es cierto que las plataformas digitales deberían tomar mayores medidas de precaución para evitar el mal uso por parte de los menores

Como padres, tenemos la obligación legal de proteger a nuestros hijos en todos los ámbitos de la vida, y eso incluye el ámbito digital. No podemos seguir evadiendo esta responsabilidad; necesitamos involucrarnos mucho más en la era en la que vivimos. Para poder proteger a nuestros hijos, debemos conocer su mundo, y eso incluye el digital. Si no comprendemos su realidad, no podremos ser su referente. Cuando se enfrenten a problemas o dudas, intentarán resolverlos por sus propios medios o buscarán ayuda en terceras personas, lo cual no es lo ideal.

Debemos convertirnos en la primera fuente a la que acudan nuestros hijos cuando tengan un problema.

Nos enfrentamos a diferentes problemáticas: por un lado, el ciberacoso; por otro, la exposición a contenido inapropiado; además está la adicción... ¿Cómo podemos gestionar esta acumulación de riesgos para los menores?

Es un proceso difícil, pero últimamente tengo la sensación, al hablar con profesionales y con padres y madres, de que todos están esperando a que el gobierno promulgue una ley que solucione el acceso al porno o que las plataformas logren regular sus cuentas para que los menores no las utilicen. Parece que todo el mundo espera una solución mágica, la cual no llegará, porque en Internet es imposible; por más medidas que se intenten tomar a nivel legislativo, es imposible poner puertas al campo.

Todos están esperando a que el gobierno promulgue una ley que solucione el acceso al porno o que las plataformas logren regular sus cuentas para que los menores no las utilicen. Parece que todo el mundo espera una solución mágica, la cual no llegará, porque en Internet es imposible; por más medidas que se intenten tomar a nivel legislativo, es imposible poner puertas al campo

Entonces, ¿dónde están las soluciones? 

Por ejemplo, retrasar la adquisición del primer smartphone a los menores. No es razonable que niños y niñas de siete, ocho o nueve años tengan un smartphone en propiedad, o que utilicen una tablet entre los tres y los ocho años, como ocurre con la mayoría de los niños y niñas en España.

Y, además, se lo damos sin manual de uso.

Evidentemente. Cuando les damos ese primer dispositivo, debemos establecer normas claras de uso y definir las consecuencias por el incumplimiento de esas reglas. Lo más importante es acompañarlos en ese aprendizaje, no entregarles el teléfono móvil y confiar en que el control parental o las medidas de privacidad de las plataformas los mantendrán seguros. Debemos hablar con ellos con frecuencia, conocer lo que hacen, qué youtubers siguen, qué plataformas utilizan, a qué aplicaciones juegan. Es fundamental dialogar, supervisar y asegurarnos de que estén haciendo un uso adecuado a su edad y madurez. Los padres no pueden desentenderse.

Lo más importante es acompañarlos en ese aprendizaje, no entregarles el teléfono móvil y confiar en que el control parental o las medidas de privacidad de las plataformas los mantendrán seguros. Debemos hablar con ellos con frecuencia, conocer lo que hacen, qué youtubers siguen, qué plataformas utilizan, a qué aplicaciones juegan

Para aquellos padres que no lo saben, ¿qué se supone que hace un menor de 12 años en Internet? ¿Cuáles son los riesgos más comunes que enfrentan estos niños y niñas?

Está claro que acceden a contenido inadecuado, tanto violento como sexualizado. Pero también están muy expuestos al grooming. Esa práctica en la que adultos se hacen pasar por menores para ganarse su confianza y conseguir material pornográfico explícito o incluso llegar a quedar para abusar de ellos. Los menores juegan a multitud de aplicaciones que tienen chats online, tanto a través de las videoconsolas como la Xbox o la PlayStation, aplicaciones móviles gratuitas, Fortnite, Among Us, Brawl Stars, todas tienen chat de voz o chats escritos en los cuales interactúan con desconocidos. Cualquier uso de estas aplicaciones, de estos juegos, les está poniendo en manos de gente que les puede hacer muchísimo daño. 

Y, por otro lado, están también los delitos que cometen los mismos menores, difundiendo imágenes de compañeros sin consentimiento, muchas veces imágenes sexualizadas. O el ciberbullying, que es acoso permanente. Hay un dato que es muy preocupante: casi el 50% de los delitos de odio cometidos en Internet son cometidos por menores de 21 años. Es decir, ese tramo que va desde el primer uso del móvil hasta la juventud. Son múltiples riesgos y muchas veces ellos pueden ser víctimas potenciales y, otras veces, los agresores.

¿Hay diferencias entre los riesgos que pueden padecer las niñas y los niños? 

Muchos papás y mamás piensan que por tener un niño varón ya no están expuestos a los groomers, y los pedófilos no hacen prácticamente diferenciación de sexo. Cuando son más mayores, en la adolescencia, las chicas sufren más violencia sexual y de acoso en Internet que los niños. Las chicas tienen más posibilidades de ser víctimas de intentos de conseguir fotos o vídeos eróticos, incluso llegando a temas más graves, como el proxenetismo que hay a través de las redes. Hay muchos intentos de captar a menores para la prostitución en aplicaciones como OnlyFans o las conocidas sugar babies. 

Ante la posibilidad de que los menores compartan fotos o vídeos sexuales ¿qué consejos les podemos dar para evitar estas situaciones y cómo actuar si ocurre?

Los menores deben entender que, una vez algo llega a Internet, pierden el control sobre ello. En el momento en que envían una foto, ya sea suya o de un compañero, esa imagen adquiere vida propia. Si a esto le sumamos lo fácil que es hacer montajes con inteligencia artificial, el riesgo se amplifica. Ahora está muy de moda entre ellos crear memes o gifs para burlarse de compañeros o compañeras. Cualquier imagen nuestra que circule por ahí, no sabemos el uso que le van a dar. Incluso pueden retocar una imagen normal para hacer un montaje y reírse de alguien, o convertirla en una foto sexualizada y subirla a páginas de contenido para adultos. Los menores tienen que tener muy en cuenta que si envían algo así, con contenido sexual, y lo distribuyen, están cometiendo un delito de distribución de pornografía infantil.

Los menores deben entender que, una vez algo llega a Internet, pierden el control sobre ello. En el momento en que envían una foto, ya sea suya o de un compañero, esa imagen adquiere vida propia. Si a esto le sumamos lo fácil que es hacer montajes con inteligencia artificial, el riesgo se amplifica. Ahora está muy de moda entre ellos crear memes o gifs para burlarse de compañeros o compañeras

No hay que olvidar que en España estar en posesión de imágenes o vídeos de connotación sexual explícita, habiendo menores de edad, se considera pornografía infantil. Por tanto, si la envío, estoy cometiendo un delito de distribución de pornografía infantil. Si la recibo y me la quedo simplemente por el hecho de tener la foto de una compañera o de un compañero desnudo o un vídeo en alguna práctica sexual, yo ya estoy cometiendo un delito de tenencia de pornografía infantil. Y esto nos está costando mucho entenderlo a los adultos y a los menores.

Ahora mismo las plataformas más utilizadas por los adolescentes y los menores son Instagram y TikTok. ¿Son espacios donde los delincuentes sexuales se mueven a sus anchas?

Sí, yo siempre digo que TikTok se ha convertido en el paraíso de los pedófilos por sus características. Es una red social que lo basa todo en bailes, muchas veces inadecuados para los menores, mucho baile de reggaetón y muchos retos de imitar lo que hacen otros chicos y chicas, sobre todo otras chicas más mayores. Hay millones de niñas que están imitando lo que hacen chicas más mayores muy sexualizadas.

Hay muchos papás y mamás que dicen: “Bueno, sí, mi hijo o mi hija usa TikTok, pero solo le dejo ver”. Claro, están viendo contenido de personas más mayores que están haciendo retos sexualizados, y la menor no entiende que eso tiene una sexualización y lo imitará por el simple hecho de conseguir visualizaciones o seguidores. 

Si esto se lo das a un pedófilo, le estás proporcionando el material prácticamente sin tener que moverse de casa. Va a encontrar a niñas de muy corta edad totalmente sexualizadas en su vestimenta, imitando bailes de personas mayores. Tenemos que entender que un pedófilo con una cuenta falsa está teniendo acceso a todo ese contenido sin moverse del sofá de su casa. TikTok se ha convertido en una red social que facilita mucho el conseguir imágenes para esta gente. 

TikTok está basado en bailes, muchas veces inadecuados para los menores. Hay muchos papás y mamás que dicen: 'Mi hijo o mi hija usa TikTok, pero solo le dejo ver'. Claro, están viendo contenido de personas más mayores que están haciendo retos sexualizados, y la menor no entiende que eso tiene una sexualización y lo imitará por el simple hecho de conseguir visualizaciones o seguidores

Instagram tiene otros riesgos, como los groomers o la derivación a otras páginas de contacto, como pueda ser OnlyFans o páginas pornográficas. Cada vez son más las personas que, como tienen censura en la red social, usan en su biografía un link para derivar a los usuarios, entre ellos menores, a páginas pornográficas. El riesgo de la sexualización está muy vigente, tanto en Instagram como en TikTok. El otro gran riesgo es todo lo relacionado con el contacto con desconocidos, que siempre lleva implícito un peligro para los menores.

¿Qué impacto tiene todo esto en el desarrollo social y emocional de los menores?

Actualmente, la mayoría de los menores experimenta dificultades para relacionarse entre ellos sin la mediación de una pantalla. Las interacciones cara a cara, que antes eran naturales, han sido sustituidas por el uso constante de dispositivos electrónicos, lo que les genera problemas para establecer relaciones directas. A esto se suma la creciente influencia de la sexualización y la violencia presentes en el contenido al que acceden sin restricciones: series, películas y videojuegos cargados de agresividad. Estos modelos distorsionan sus comportamientos y sus formas de comunicación, que giran cada vez más en torno a la violencia y el sexo, relegando otras maneras de interactuar. Este fenómeno afecta profundamente su vida cotidiana y aún no somos plenamente conscientes del impacto que esto tiene en su desarrollo social y emocional.

Actualmente, la mayoría de los menores experimenta dificultades para relacionarse entre ellos sin la mediación de una pantalla. Las interacciones cara a cara, que antes eran naturales, han sido sustituidas por el uso constante de dispositivos electrónicos, lo que les genera problemas para establecer relaciones directas

¿Cuál es el consumo medio de pantallas y cuál sería el adecuado en adolescentes de entre 12 y 16 años?

Actualmente, la mayoría de adolescentes supera las cuatro horas y media diarias de exposición a pantallas, cuando el límite adecuado debería ser un máximo de dos horas, incluyendo el tiempo frente a la televisión. Este exceso es particularmente notable en el grupo de edad de 12 a 16 años, que debería limitar su uso de dispositivos electrónicos a esas dos horas diarias. Sin embargo, la media en Baleares ya se aproxima a las cinco horas, lo que pone de relieve una preocupante tendencia de consumo desmedido de pantallas entre los jóvenes.

¿Qué estrategias son las más efectivas para poder reducir esta dependencia al móvil que tenemos todos, pero también los adolescentes?

Esa es una de las claves: la dependencia a las pantallas la tenemos todos. Convertirnos en un ejemplo positivo para ellos sería fundamental, ya que criticamos mucho a los menores, y especialmente a los adolescentes, por su adicción al móvil, pero los adultos estamos igual o peor. Conducimos con el teléfono en la mano, nuestros hijos nos hablan y estamos mirando el móvil. No somos un buen ejemplo, y ese debería ser un cambio importante, quizás el principal. 

Criticamos mucho a los menores, y especialmente a los adolescentes, por su adicción al móvil, pero los adultos estamos igual o peor. Conducimos con el teléfono en la mano, nuestros hijos nos hablan y estamos mirando el móvil. No somos un buen ejemplo, y ese debería ser un cambio importante, quizás el principal

El otro cambio, que es sencillo, es intentar seguir las recomendaciones de los expertos o de la Organización Mundial de la Salud sobre el tiempo de exposición a las pantallas, algo que estamos gestionando de manera desastrosa. Para empezar, de cero a tres años debería haber cero pantallas, lo que incluye la televisión. Sin embargo, cada vez es más común ver a bebés en el carrito con la tablet o el móvil, o comiendo con el móvil. El año pasado, uno de los carritos más vendidos en España fue el que tiene soporte para la tablet. Si de cero a tres años no deberían tener acceso a las pantallas y ya están todo el día “empantallados”, vamos por mal camino.

De tres a cinco años, un máximo de 30 minutos al día; de cinco a doce años, un máximo de 90 minutos. Es fácil de decir, pero si lo pensamos, una película ya son 2 horas. Los padres dicen: “No pasa nada, todos hemos visto cine”. Ya, pero si luego les damos el móvil para que estén en TikTok, o les dejamos la tablet o la consola sin control, imagínate el tiempo total de pantalla a lo largo del día.

La adicción debe gestionarse desde muy pequeños, y es tan sencillo como seguir las recomendaciones e intentar que se respeten los tiempos adecuados. Si no lo hacemos cuando son pequeños, y esperamos a limitar su uso cuando ya son adolescentes, te aseguro que tendrás una guerra en casa y lo más probable es que la pierdas, sin conseguir reducir el tiempo de exposición a las pantallas.

La recomendación es que hasta los 14 años mejor no tener en propiedad un móvil ni tener acceso a ningún tipo de red social, ¿verdad?

Exacto. A los 14 años creo que es una buena edad porque en España coincide con la responsabilidad penal. Por tanto, si yo le doy un smartphone a mi hijo y comparte una foto de una compañera que resulta que es un delito, pues seguramente mi hijo acabe detenido y en la Fiscalía de Menores. Considero que si un menor ya tiene capacidad jurídica de pasar por un proceso así, pues está muy bien: “Toma el móvil, pero sabes que si la haces ya la vas a pagar tú directamente”. Además, en España se permiten las redes sociales a partir de los 14 años.

Darles el móvil antes es un error, pero hay mil pretextos: “Mi hijo pasa del colegio, que era pequeñito, a un instituto enorme y quiero estar tranquilo o tranquila por si le pasa algo” o “Tiene que ir a casa en el autobús él solo y así me llama” o “Estamos separados y no quiero hablar con la otra parte y por eso le di un móvil a mi hijo”. Sin embargo, todos estos problemas se arreglan dándole un móvil sin conexión a Internet, que no tenga ni datos ni wifi, y que mi hijo o mi hija me pueda llamar en un momento determinado o yo puedo localizarlo a través de una llamada. 

Lo que no entendemos es que si yo le doy el móvil ante de tiempo, mi hijo consumirá antes de tiempo según qué contenido inadecuado. Cada vez que se aburra buscará contenido que le estimule otra vez. Y es fácil que lleguen a contenido violento y sexual. Además, si están mucho tiempo jugando a aplicaciones o videojuegos que tienen contactos con desconocidos, más expuestos están a los riesgos.

Los 14 años es una buena edad para tener en propiedad un teléfono móvil. En España coincide con la responsabilidad penal y el menor ya tiene capacidad jurídica de pasar por un proceso judicial

Todos los amigos tienen móvil y el nuestro no quiere ser el último en tenerlo ¿Qué consejos les das a los padres que están lidiando con esa batalla?

En esto soy un poco brusco y suelo explicarlo de una manera muy contundente: prefiero que mi hijo sea un excluido social por no tener móvil que un abusado sexual por tenerlo. Puede sonar impactante, pero es la verdad. Yo soy padre de un niño de 12 años que no tiene teléfono móvil, porque prefiero gestionar la frustración de mi hijo por no tener móvil o no tener WhatsApp, que tener que gestionar que mi hijo ha mandado una foto, que ha recibido una foto, que está hablando con un desconocido o que está viendo pornografía. Para mí, es mucho más fácil manejar esa supuesta exclusión social que lo que implicará darle un móvil a un niño de solo 11 años para tenerlo contento y tranquilo. Tenemos que invertir tiempo ahora, para que nuestro hijo o hija haga las cosas de manera correcta y en su debido momento, y así nos ahorraremos una infinidad de problemas cuando lleguen a la adolescencia.

¿Qué feedback recibe de los educadores, de los profesores, de los padres? ¿Dan la batalla por perdida? 

Hay mucha frustración, y al final, parece que todo el mundo espera que otros resuelvan el problema. Los adultos, en particular, parecemos confiar en que la legislación solucionará todos los problemas relacionados con la adicción, los contenidos inapropiados y los riesgos de Internet. Es cierto que los colegios están saturados, y los profesores asumen cada vez más responsabilidades. Por su parte, los padres, cuando el problema llega a casa, experimentan mucha frustración, ya que reconocen que, tal vez, si hubieran actuado de otra manera, las cosas podrían haber sido distintas. 

Al final, todos nos estamos pasando la “patata caliente”, pero nuestra obligación como padres, profesionales y adultos es proteger a los menores. Si esperamos que alguien más resuelva el problema, estamos abandonando, en cierta medida, esa responsabilidad fundamental.

Siempre ha habido conflictos entre padres e hijos, especialmente en la adolescencia, y la solución siempre ha pasado por la comunicación. ¿Cómo podemos recuperar esa comunicación efectiva en el contexto digital?

En la era digital, la comunicación sigue siendo clave para resolver conflictos, pero es precisamente cuando menos la estamos practicando. La comunicación entre padres y adolescentes parece haberse trasladado al ámbito digital, limitándose muchas veces a interacciones a través de WhatsApp, en lugar de conversaciones cara a cara. Esto ha generado un distanciamiento importante, ya que los padres de generaciones anteriores, nacidos cerca de los años 80, crecieron sin Internet y ahora están criando a niños que han nacido directamente en la era digital.

La brecha generacional en cuanto al conocimiento y manejo de las tecnologías es enorme. Muchos padres no comprenden realmente el impacto del uso constante de smartphones ni son conscientes de los riesgos que sus hijos enfrentan al interactuar con desconocidos en Internet. Aunque intentan mantener la comunicación, a menudo no lo hacen sobre temas digitales o de interés para sus hijos, lo que contribuye al aburrimiento y al aislamiento de los jóvenes en su propio mundo.

Por ello, es vital que los padres no solo hablen, sino que se comuniquen en los términos y contextos que sus hijos entienden. Esto implica abrirse a los temas del mundo digital y abordar las preocupaciones de los jóvenes desde una perspectiva más comprensiva y actualizada. Lamentablemente, muchos padres se centran en hablar sobre lo que a ellos les interesa, lo que genera una desconexión. La verdadera comunicación requiere esfuerzo para comprender y adaptarse a la realidad en la que están inmersos los jóvenes hoy en día.

Las artistas muralistas Julieta XLF, La nena wapa wapa y la ilustradora grafica Cristina Durán reflexionan desde su trabajo sobre la explotación laboral que hay tras la moda rápida. Este martes 24 de septiembre ha tenido lugar en el IVAM un encuentro organizado por ISCOD UGT PV con las tres artistas valencianas dentro del marco del proyecto '+ Conciencia en el consumo'. 

En este encuentro las artistas han reflexionado sobre sus procesos creativos personales ante el encargo de plasmar en arte la visualización del documental de ISCOD “Ropa Sucia”, medio-metraje que trata de concienciar sobre el ciclo de la vida de la ropa que usamos, su método de producción y nuestra responsabilidad final como consumidores. En el mismo se ven las condiciones de trabajo de las “maquilas” centroamericanas (centros de producción textil); como se conectan con nuestra realidad como consumidores y al mismo tiempo refleja también condiciones de trabajo similares a las que sufren aquí algunas trabajadoras de sectores precarizados.

En sus intervenciones cada una de las artistas ha explicado su proceso creativo particular, que en el caso de Cristina Durán se traduce en cartelería y en el caso de las otras dos artistas gráficas, Julieta XLF y La nena Wapa Wapa en murales, ubicados estos en el caso de Julieta en Elche (ya inaugurado) y en el caso del nena wapa próximamente en Vilafranca.

El proyecto dentro del cual se ha llevado a cabo esta actividad es '+ Conciencia en el consumo: Estrategia de educación y sensibilización para la ciudadanía solidaria frente a las inequidades que provoca la producción textil'; el cual está ejecutado por ISCOD-UGT-PV y financiado por la Generalitat Valenciana.

LAS ARTISTAS

Cristina Durán: Es una artista gráfica valenciana de amplio reconocimiento y cuyo trabajo tiene un marcado componente social, tratando temas como la diversidad funcional, la adopción, la cooperación, la prevención de la violencia de género o la denuncia social.

Trabajó para que la Asociación Profesional de Ilustradores de Valencia (APIV) de la que fue presidenta entre los años 2006 y 2009. También ha sido miembro de la Junta Directiva de la Federación de Asociaciones de Ilustradores Profesionales (FADIP) y de la junta fundadora del European Illustrators Forum (EIF). Entre otros premios ganadora, del Premio Nacional de Cómic por la novela gráfica 'El día 3' (2019)

La participación de Cristina Durán asegura un abordaje idóneo de las historias de las mujeres que serán representadas. Compartiendo lo que representa para una artista como ella, aportar a la sensibilización ciudadana sobre la situación de las maquilas en Centroamérica, región que la propia autora conoce y es sensible a esta problemática, y sobre qué significa vincular esta realidad con la historia textil de la Comunitat Valenciana.

Julieta XLF:  licenciada en Bellas Artes por la Universidad Politécnica de Valencia, es especialista en ilustración. Sus murales suelen estar protagonizados por niñas y mujeres, protagonistas de sus propias aventuras y reflexiones. Las obras de Julieta transmiten esperanza y conceptos como el crecimiento, el equilibrio vital, además de reivindicar aspectos esenciales como la creatividad y la naturaleza.

El trabajo de Julieta desde el 2004 se centra básicamente en intervenciones murales en el espacio público de cualquier parte del mundo.

La Nena Wapa Wapa: Licenciada también en Bellas Artes por la Universidad Politécnica de Valencia. En 2009 fundó un grupo femenino de arte urbano, Fatal Maris. Define su estilo como retro y victoriano, con pinceladas surrealistas, y suele hacer las composiciones en blanco y negro. Entre las temáticas, suele tratar el concepto de feminidad, e intenta que las obras sean abiertas para que quien las ve extraiga sus propias conclusiones.

DOCUMENTAL 'ROPA SUCIA'

Ropa Sucia está cofinanciado por la GVA, producido por la Red Centroamericana en Solidaridad con las Trabajadoras de la Maquila (REDCAM) y el Instituto Sindical de Cooperación al Desarrollo del País Valencia (ISCOD-PV) Y dirigido por ALBA FILMS y cuenta colaboración de FICA-UGT-PV. 

Ropa Sucia busca mostrar el impacto de la moda rápida en las vidas de las mujeres trabajadoras textiles en Centroamérica y en España. 

Para ello, recoge testimonios de trabajadoras de la industria manufacturera tanto en Guatemala, El Salvador y Nicaragua como en la Comunidad Valenciana. Testimonios que nos dan claves para entender, desde dentro, cómo funcionan las cadenas globales de producción y las consecuencias que tienen sobre los derechos laborales, el medioambiente, los roles de género, entre otros

La agencia de Salud Pública de Suecia recomienda que los niños menores de dos años no estén expuestos a ningún tipo de pantalla y que los adolescentes pasen como máximo tres horas al día frente a ellas. El organismo oficial pide a los padres y tutores que reflexionen sobre su propio uso de las pantallas y expliquen lo que hacen con sus teléfonos cuando los utilizan en presencia de menores.

Estas recomendaciones anunciadas el lunes son las primeras directrices de las autoridades suecas sobre cómo los padres deben regular el tiempo de pantalla.

La recomendación dice que el uso de pantallas entre los niños de dos a cinco años debe limitarse a un máximo de una hora diaria, mientras que los de entre seis y 12 años no deben utilizarlas más de dos horas al día. En cuanto a los adolescentes entre 13 y 18 años, el límite sugerido es de tres horas.

La propuesta contrasta con la media actual de tiempo de pantalla entre los niños y jóvenes suecos, estimada en cuatro horas al día para los niños de nueve a 12 años y más de siete horas al día -sin incluir las tareas escolares- para los jóvenes de 17 y 18 años.

Tiempo robado

“Durante demasiado tiempo hemos permitido que las pantallas y las aplicaciones nos roben tiempo y atención a costa de aquello que sabemos que es necesario para sentirnos bien. Sabemos que el uso de dispositivos digitales puede acarrear efectos negativos para la salud, como alteraciones en el sueño y síntomas de depresión”, dice el ministro de Sanidad, Jakob Forssmed.

“Con estas recomendaciones adecuadas para cada etapa de la infancia, ofrecemos ahora un apoyo importante para niños, jóvenes, padres y otros cuidadores, para un uso más sano, consciente y responsable de las pantallas y los dispositivos digitales”.

La agencia también recomienda que los niños no utilicen pantallas antes de acostarse y que no haya pantallas en los dormitorios por la noche.

“Los beneficios de las empresas tecnológicas se están pagando con la salud de los niños”, dice Forssmed.

Las directrices, dirigidas tanto a adultos como a niños, también incluyen consejos para reflexionar sobre el uso de las pantallas. El ministro asegura que se trata de dar “recomendaciones concretas y claras” para facilitar las conversaciones sobre el tema, incluido el tiempo que se pasa en Internet, lo que ocurre entonces y a qué pueden exponerse los niños. “Son conversaciones importantes y necesarias”, dice.

Dar ejemplo

Helena Frielingsdorf, investigadora académica de la autoridad sanitaria pública, dice que los padres deben dar ejemplo a los niños en lo referido al uso de pantallas: “Como progenitor, eres un ejemplo”.

A principios de este año en Francia, un estudio científico de tres meses de duración encargado por el presidente Emmanuel Macron concluyó que los niños menores de tres años no deberían estar expuestos a pantallas, incluida la televisión, y que ningún niño debería tener un teléfono móvil antes de los 11 años.

En Francia, algunas instituciones educativas están probando con la prohibición de los teléfonos móviles para los alumnos menores de 15 años. Si resulta exitosa, la medida, que forma parte de una “pausa digital”, podría extenderse a todo el país a partir de enero.

El Gobierno sueco ya ha dicho que está estudiando la posibilidad de prohibir los móviles en las escuelas primarias.

Traducción de Julián Cnochaert.

La fábrica de bulos de los fieles al exjuez Fernando Presencia (Lorca, 1964) no descansa ni en verano. Presencia, encarcelado desde hace poco más de un año en el módulo 9 de la prisión de Logroño, cuenta con un reducido grupo de seguidores que se moviliza semanalmente ante la penitenciaría para expresar su apoyo al polémico exjuez expulsado de la carrera judicial. Los videos de las movilizaciones, en las que participan apenas tres o cuatro personas, alimentan un canal de Telegram con más de 10.000 seguidores que recoge firmas para reclamar su liberación y recauda “fondos voluntarios” para financiar su defensa jurídica. Se trata del antiguo canal de la Asociación Contra la Corrupción y en Defensa de la Acción Pública (ACODAP), cuya página web fue cerrada por orden de la Audiencia Nacional.

En uno de los últimos mensajes, el canal de Telegram afirma que dos de los siete candidatos a presidir el Consejo General del Poder Judicial (CGPJ) “están denunciados por el juez Presencia y ACODAP por tener cuentas en paraísos fiscales”. Así, sostiene que dos conocidos magistrados del Tribunal Supremo (TS) tendrían un total de 4,2 millones de euros en bancos de Irlanda y Luxemburgo. Uno de los aludidos fue el ponente de la sentencia que confirmó una sanción por una falta muy grave impuesta hace más de una década al exjuez, entonces titular del Juzgado de lo Mercantil número 2 de València.

Los fieles a Presencia, que siguen refiriéndose al preso como “juez” (como si estuviera en activo, a pesar de que fue expulsado de la carrera judicial en una decisión avalada por el TS), incluyen denuncias ante la Agencia Estatal de la Administración Tributaria con supuestos documentos bancarios que ni siquiera cuentan con el logotipo de la entidad. También están escritos en castellano, a pesar de tratarse de entidades bancarias extranjeras.

La Unidad Central Operativa (UCO) de la Guardia Civil ya desmontó los documentos. Se trataba de una simple “plantilla” de Word creada para “fabricar los documentos bancarios que acompañan a las denuncias donde se imputa a diferentes personas la titularidad de depósitos en entidades bancarias situadas en paraísos fiscales”, según un auto del juez de la Audiencia Nacional Joaquín Gadea. La plantilla fue hallada en los registros de los domicilios del ultraderechista Alberto Royuela y de Juan Martínez Grasa, colaborador de la asociación que presidía Fernando Presencia.

Martínez Grasa fue liberado el pasado mes de diciembre. Poco antes salieron en libertad Alberto Royuela y su hijo Santiago tras cinco meses en prisión provisional. Presencia y los Royuela fueron los primeros conspiranoicos de España enviados a prisión por hacer negocio con las 'fake news'.

El exjuez cumple actualmente una condena de dos años y 10 meses de prisión por denuncia falsa y calumnias con publicidad contra el fiscal decano de Talavera de la Reina, su último destino. A la localidad toledana fue trasladado forzosamente desde València, ciudad de origen de la familia de Presencia, tras la sanción impuesta en 2012 por el CGPJ por una falta muy grave consistente en realizar actividades incompatibles con su función. El exjuez siempre ha sostenido que se trató de un “destierro”.

El magistrado organizaba cursos sobre derecho concursal sin solicitar permiso para ello y llegó a nombrar como administradores concursales en asuntos pendientes de su juzgado a algunos de sus alumnos. El TS confirmó al año siguiente la sanción, en una sentencia que desestimó su recurso y cuyo ponente fue precisamente uno de los magistrados del alto tribunal al que Presencia atribuye una (falsa) cuenta en Luxemburgo con tres millones de euros.

Inhabilitado por el Tribunal Supremo

Una vez apartado del juzgado de lo Mercantil de València, Presencia recaló en Talavera de la Reina y fue condenado por un delito de prevaricación por haber sobreseído una querella por estafa contra una persona con la que, según los hechos probados de la sentencia firme de 2018, mantenía una relación de amistad.

Tras su expulsión de la carrera judicial, Fernando Presencia presidió ACODAP, en alianza con los Royuela (creadores de otra disparatada trama complotista) y con Alberto Portabella Fernández, encargado de las redes sociales de la entidad y titular de la cuenta y de dos números de teléfono móvil asociados a Bizum a los que se vehiculan los fondos recaudados, según la UCO.

El exjuez figura como investigado por los presuntos delitos de estafa agravada o apropiación indebida, organización criminal, asociación ilícita, falsedad, blanqueo de capitales, contra las altas instituciones del Estado, injurias y calumnias y frustración de ejecución.

Un informe del departamento contra el Cibercrimen de UCO de la Guardia Civil concluyó que la asociación era un “artificio, un ardid o engaño, creado para ganar dinero mediante aportaciones de personas que creen estar luchando contra la corrupción”. Así, los investigadores del instituto armado detectaron unos ingresos de 188.722 euros en una cuenta cuyo único autorizado era el polémico exjuez.

De esos fondos, Presencia habría abonado gastos “aparentemente de índole privado” de 22.500 euros en pagos con tarjeta y obtenido 11.730 euros en retiradas en cajeros, según la UCO. Alberto Royuela habría dispuesto de 27.200 euros de la misma cuenta bancaria. 

Meta sabe que en las entrañas de Facebook se organizan miles de pederastas, como antes sabía que los cárteles del narco mexicano usaban sus grupos para reclutar a sicarios, que sus usuarios adolescentes denuncian problemas de salud tras interactuar en sus redes, que mujeres de Nepal o Filipinas fueron vendidas a través de Instagram como esclavas sexuales y cómo la explosión de los grupos de seguidores de Donald Trump derivó en el asalto del Capitolio. Meta también sabe que, tal y como están diseñados sus algoritmos, los usuarios no van a poder acabar con la desinformación ellos solos. 

“Instagram conecta a una amplia red de pedófilos” es el último titular de ‘The Wall Street Journal’ que ha forzado a Mark Zuckerberg, presidente de Meta, a abrir una investigación interna. Como la serie anterior de los ‘Papeles de Facebook’, también está firmado por el periodista estadounidense Jeff Horwitz, el mismo que reveló que los responsables de Meta conocían que el diseño de la plataforma ha agravado estos problemas mientras defienden públicamente que, por encima de todo, Facebook sirve para crear conexiones positivas entre millones de personas de todo el mundo.

En este último escándalo, esa conexión es la que la red social ha creado entre usuarios interesados en contenidos de sexo con menores. Horwitz relata que hay cuentas que anuncian “menús” de contenidos pedófilos a la venta y que la búsqueda de Instagram recomienda activamente “términos relacionados con explotación sexual infantil”. En esta entrevista con elDiario.es, el autor reconoce que su cuenta “es un infierno” por todo el contenido que ha investigado: “Una ojeada fugaz a cuentas con nombres como ‘incesto con bebés’ bastaba para que Instagram empezase a incitar a los usuarios a conectar con ellas”. 

Su última exclusiva coincide con la publicación del libro ‘Código roto’ (Editorial Ariel, 2024), en el que Horwitz repasa los últimos escándalos de Facebook y el profundo contraste entre su imagen pública y los debates internos, que enfrentaron muchas veces a los ejecutivos de Meta con sus propios empleados. Aunque de manera desorganizada —los capítulos no siguen un orden cronológico y el autor regresa sobre los diferentes casos en varios puntos de la lectura—, la obra cuestiona si a Facebook le preocupa realmente la seguridad de los adolescentes acosados en la plataforma, las víctimas de porno vengativo o las mujeres esclavizadas tras ser captadas en perfiles de Instagram.

Y el resultado es que ninguno de los antecedentes descritos deja espacio para la esperanza de que esta crisis sea distinta a las demás y derive en cambios reales en la plataforma. Horwitz desveló el año pasado la existencia de un grupo de Facebook llamado, en español, ‘Secretos Oscuros de la Familia’. Servía a más de 200.000 pedófilos para compartir imágenes de menores, grabaciones de abusos sexuales o quedar para hablar de manera privada en WhatsApp, que pertenece a la misma empresa. “Los fallos de Meta en materia de seguridad infantil se parecían mucho al resto de sus problemas en otros ámbitos”, escribe el autor. “Como siempre, los empleados de Meta lo sabían”, pero según los ex trabajadores entrevistados por el autor, sus soluciones “habían sido descartadas alegando que eran demasiado severas”. 

El grupo que no hubiera existido sin la intervención de los algoritmos

Horwitz añade que grupos como éste “nunca hubieran existido sin las recomendaciones de los algoritmos” de Facebook, por cómo están configurados. “Una cosa es que aceptemos que está bien que una plataforma recomiende pornografía a una persona que busca exactamente esto, aunque sea terrible, pero la escala de lo que hemos descubierto es verdaderamente terrible”, dice el autor. El contenido ha sido recomendado a usuarios que no lo buscaban deliberadamente. “Necesitamos decidir qué recomendaciones automáticas son aceptables y cuáles no”, añade. 

Las más de 25.000 páginas de documentos internos que una ex empleada de la compañía filtró a Horwitz en 2021 demuestran que así es exactamente como funciona Facebook. La ingeniera Frances Hagen entregó registros de conversaciones y comunicados en los que los responsables de la compañía defienden que es mejor responder a un desastre antes que prevenirlo, incluso cuando saben que los incentiva la plataforma.

Hace ya cinco años que la BBC reveló que Instagram y otras aplicaciones servían para captar a mujeres de Nepal o Filipinas y llevarlas a Kuwait y Arabia Saudí con falsas promesas de empleo. Horwitz detalla en ‘Código roto’ el mecanismo con el que eran vendidas como esclavas. Apple y Google se comprometieron a eliminar de sus tiendas las aplicaciones utilizadas en la trama, e incluso enviaron documentación a Facebook con “numerosos ejemplos de ventas de empleadas domésticas”. Si Facebook no rectificaba, Apple estaba dispuesta a eliminar la aplicación de sus dispositivos. Entonces, “la compañía eliminó la friolera de 133.000 publicaciones, grupos y cuentas en pocos días”, escribe Horwitz. 

Preguntado por la razón que lleva a Facebook a esperar a que salten estos escándalos para tomar medidas, el periodista dice que la empresa prefiere “equivocarse por dejar publicado el contenido de una persona importante antes que borrar por error lo que ha dicho alguien importante”. En este caso la persona importante eran los “socios” de los estados del Golfo: “La compañía había permitido anunciar y vender trabajadoras domésticas a empresas con una sede física”. 

“Parece imposible que una empresa valorada en un billón de dólares siga comportándose así, pero ocurre”, dice Horwitz. Y sucede porque, tal y como cuenta el periodista en ‘Código roto’, los responsables han justificado en reiteradas ocasiones que su prioridad es conseguir más usuarios que pasen cada día más minutos en la plataforma, y que esto no es compatible con más medidas de seguridad.

Meta se excusa además en otro factor. Según Horwitz, “uno de los conceptos equivocados sobre las redes sociales es que las tratamos como si fueran independientes, pero interactúan con tantos aspectos de nuestra vida, como la política, que es difícil determinar cuál sería esa responsabilidad exclusiva de la plataforma”.

Menos puntos por un emoji que por comentar

A pesar de que es difícil responsabilizar a Facebook por lo que ocurre fuera de la red, Meta se encuentra bajo una presión cada vez mayor por la gravedad de las crisis que se siguen cultivando en su interior. De la crisis en Filipinas al genocidio en Birmania, y desde el asalto al Capitolio o los grupos de pedófilos, cada una de ellas se ha gestado con el impulso de sus algoritmos, configurados tal y como quieren los responsables de la compañía.  

En ‘Código roto’, Horwitz describe cómo Facebook decide qué contenido mostrar a cada usuario. El algoritmo da puntos a cada tipo de reacción que sucede en la plataforma. En un determinado momento, compartir contenido tenía 30 veces más valor que un ‘me gusta’, los comentarios valían 15 veces más y las reacciones con emoji, cinco. “Lo que importaba no era el contenido del mensaje, sino el hecho de que hubiera un comentario”, escribe el autor. “El resultado fue que las publicaciones que obtenían más clics eran las que provocaban sentimientos negativos en los usuarios”.

Facebook también recompensa la creación de grupos y el envío de invitaciones a esos foros donde después se comparten y comentan contenidos. Esa es la fórmula que permitió que en 2020, en las semanas previas al asalto al Capitolio, la creación del grupo denominado “Stop The Steal” con el que Trump agitó las acusaciones de robo electoral, creciera a un ritmo de 10.000 usuarios por hora. En un día alcanzó los 360.000 miembros. Cuando Facebook lo eliminó aplicando “medidas extraordinarias”, cuenta el periodista, “tenía otros 2.1 millones de usuarios pendientes de admisión”.

Una auditoría posterior demostró que había ocurrido lo que ya habían advertido algunos ingenieros: la falta de límites a las invitaciones hizo que apenas el 0,3% de los participantes hubiera invitado al 30% de los miembros de “Stop the Steal”. “Facebook no quería que la gente consumiese discursos de odio en su plataforma, pero no estaba dispuesto a eliminar o revisar manualmente cualquier publicación”, escribe Horwitz. “La compañía había diseñado su plataforma de un modo que la hacía intrínsecamente escandalosa, inestable y proclive a la manipulación”.

Seis millones de usuarios VIP pueden saltarse las reglas

Esa manipulación o simplemente el incumplimiento de las normas de uso ha sido cometida a veces por personajes públicos. ‘Código roto’ documenta que la empresa no sólo es consciente, sino que creó deliberadamente una lista de más de seis millones de usuarios VIP que tienen un margen de tiempo extra antes de que Meta borre sus publicaciones. “Eso no es lo que la empresa ha dicho públicamente. Dijeron que no iban a tener favoritismos y esto claramente lo es”, explica el periodista.

Entre esos usuarios privilegiados están desde Donald Trump hasta todos los legisladores estadounidenses, además de futbolistas como Neymar Jr. En 2019, cuando fue acusado de violación, Neymar Jr. publicó vídeos en Facebook e Instagram en los que la denunciante salía desnuda. También incluyó su nombre y los mensajes que intercambiaron en WhatsApp. Horwitz revela que durante más de 24 horas, el sistema de ‘blindaje’ a las cuentas VIP de Facebook impidieron borrar el vídeo. Para entonces, 56 millones de usuarios habían visto un contenido que la empresa calificó internamente como “porno vengativo” y que sometió a la mujer a “un abuso continuado por parte de otros usuarios”.

Uno de los ejecutivos entrevistados por Horwitz admite en ‘Código roto’ que “construir cosas es más divertido que hacer que sean seguras. Hasta que no hay un ‘incendio’ —el término usado por los empleados para las crisis de relaciones públicas— por cuestiones de prensa o regulación, no lidias con ello”. Esos ‘incendios’, como la crisis de Cambridge Analítica que derivó en nuevas normas de privacidad o las normas contra la desinformación inspiradas por la pandemia, son los únicos que han motivado a Facebook a tomar medidas, según los documentos recopilados en ‘Código roto’.

Ese mismo desequilibrio en las reglas del juego también permitió que la campaña de Rodrigo Duterte, en Filipinas, pudiera crear en 2016 cuentas falsas masivas desde las que publicar “mentiras descaradas en páginas controladas por la campaña y amenazas de violencia coordinadas” contra los críticos del candidato. Pocos meses después, Facebook también supo que “las tácticas insurgentes parecían prosperar” en la plataforma para impulsar la campaña del Brexit en Reino Unido. Ambas campañas “habían recurrido en gran medida a Facebook para sembrar cizaña y difundir mentiras”, escribe Horwitz. 

Cuando el problema llegó a EEUU con la apuesta electoral de Trump, “Facebook estaba suministrando a sus usuarios información manifiestamente falsa a un ritmo mayor que cualquier otro medio de comunicación”, escribe Horwitz. Zuckerberg defendió aquel año que las ‘fake news’ era una parte “muy pequeña” de la plataforma y que la posibilidad de que hubieran condicionado el resultado era “una idea descabellada”. 

Ése era el relato de puertas afuera. Pero las conversaciones en los foros internos de Facebook revelan que sus empleados no estaban de acuerdo. Mientras los ingenieros descubrían que “interactuar con contenidos maliciosos provocaba que la plataforma difundiera el material reprobable a una audiencia más alta”, el consejero Andrew Bosworth justificó que “todo lo que hacemos en aras del crecimiento está justificado”. 

Facebook quiere que sea así

“Una de las cosas que menos entendemos es el nivel de control que tienen sobre su propia plataforma”, dice Horwitz. “Se han pasado muchos años diciendo que son escrupulosamente neutrales y que los comportamientos de las personas en la red son simplemente esas personas siendo ellas mismas”, añade. Pero los hábitos de los comportamientos son los que ha incentivado la plataforma por cómo está diseñada. “Una de las razones por las que la gente está tan enfadada como parece y por la que los contenidos que despiertan ira se viralizan tan rápido es porque funcionan muy bien”, añade.

Horwitz menciona en su libro declaraciones “inquietantes” de los trabajadores con los que habló del sistema de recomendaciones automáticas. Ellos sabían que “los intentos de impulsar el crecimiento habían favorecido de forma involuntaria el fanatismo político. Y la compañía sabía mucho más de lo que decía sobre las consecuencias negativas del uso de las redes sociales”.

En uno de esos documentos, políticos españoles reconocen que “se han dado cuenta de que atacar duramente a sus adversarios genera la máxima participación” y que “se encuentran atrapados en un ciclo inexorable de campañas negativas debido a las estructuras de incentivos de la plataforma”. El informe al que hace referencia Horwitz fue elaborado en abril de 2019 y se titula “Respuesta de partidos políticos a los cambios del algoritmo de 2018”. 

La respuesta que dio Facebook a todas estas crisis es muy parecida a la que ha dado ahora a la polémica por los grupos de pederastas que operan en la plataforma. Meta abre una investigación interna, promete mejorar la seguridad de sus usuarios y espera a que pase la tormenta. Meta no ha respondido a las preguntas de elDiario.es sobre las medidas de seguridad adoptadas por la compañía, por lo que se desconoce qué métodos van a emplear, más allá del cierre de grupos polémicos, para impedir que vuelva a ocurrir. Horwitz reconoce que ha elegido centrar su investigación en los casos de pedofilia para intentar “poner a prueba el límite de lo que está bien que nos recomiende Facebook automáticamente”. 

Para el periodista, la “difícil” respuesta a esa pregunta implica en gran parte a los usuarios, a la sociedad. “Apenas llevamos 20 años usando este producto”, dice el autor. Según su experiencia, los legisladores todavía tratan con las redes como si fueran una publicación impresa que no les gusta, “como si pudieran amenazarla por publicar mentiras”. Pero las redes sociales son un animal distinto. Además, dice Horwitz, “a Zuckerberg le da exactamente igual si cambia la opinión sobre la plataforma”. El dueño de Meta, asegura, “solo quiere construir el producto de mayor éxito”.

Carissa Véliz, profesora del Departamento de Filosofía y el Instituto para la Ética en la Inteligencia Artificial de la Universidad de Oxford, está hoy especializada en los dilemas éticos en el uso de la tecnología. Habla de la falta de seguridad de los protocolos con los que se construyó Internet, las redes sociales que nos empujan a la exposición pública constante y los algoritmos que indican a los bancos quién merece un préstamo o a la policía quién puede ser un terrorista. Pero su interés en la privacidad y la vigilancia empezó con unos legajos. 

Cuando todavía era estudiante universitaria, se puso a consultar documentos en papel a través de un archivo que encontró en Salamanca para investigar la historia de su abuelo y su tío abuelo españoles, que tras la guerra civil española se exiliaron en México, donde se instaló casi toda la familia. Ni Carissa ni su madre conocían muchos de los detalles que la joven descubrió consultando archivos y vecinos y que la hicieron sentirse más cerca de sus parientes, con los que compartía sin saberlo el gusto por la escritura y la filosofía. Descubrió tesoros, pero también se empezó a preguntar por la ética de la privacidad interpersonal, y así empezó un camino académico inesperado.

Véliz lleva más de una década publicando investigación académica, artículos y libros sobre la privacidad en el contexto digital. Después del ensayo Privacidad es poder (Debate, 2021), su último libro, recién publicado en inglés, es The Ethics of Privacy and Surveillance (la ética de la privacidad y la vigilancia). 

En este ensayo académico, la filósofa se centra en la definición moral de la privacidad, un instinto animal que compartimos con casi todas las especies (los insectos son la excepción) y del que se encuentran ejemplos en las sociedades humanas desde el principio de los tiempos. Como explica Véliz, la palabra “privacidad” viene del latín “privatio” (privación) y parece tener una connotación negativa; Aristóteles decía que vivir una vida en privado es no ser “plenamente humano”. Los escépticos sobre el principio universal de privacidad recuerdan que los romanos concebían los baños como un lugar para “la evacuación y la conversación” y juntaban hasta 20 letrinas públicas para este fin. Pero Véliz también subraya cómo los romanos querían privacidad para confesarse en sus templos y valoraban el secreto de sus cartas. 

Desgranando las implicaciones personales y sociales, Véliz reivindica la importancia de la privacidad, bajo la presión de la digitalización que hace más fácil rastrear, clasificar y almacenar información y, por ello, abre la puerta al abuso de gobiernos, empresas y personas malintencionadas. 

Hablamos sobre algunas de estas cuestiones por Signal, la plataforma de mensajería considerada como más segura que otras porque no recopila ni almacena datos y tiene algunas funciones de borrado automático. La conversación, a través de mensajes de audio, está editada por claridad.

¿Ha perdido la privacidad peso como valor social?

Depende de cómo se entienda un valor. Creo que se nos ha olvidado lo importante que es la privacidad, pero no por ello deja de serlo. Antes teníamos más fresca la historia de por qué es importante la privacidad: por ejemplo, por cómo se utilizaron los datos personales en la Segunda Guerra Mundial. Teníamos más recientes los recordatorios de por qué hay que proteger la privacidad. Y ahora las grandes tecnológicas nos han intentado convencer de que la privacidad es algo del pasado, de que ya no es relevante, de que ya no importa. Pero poco a poco, por desgracia a través de malas experiencias, estamos volviendo a aprender su importancia.

Cuando te roban la identidad on line, cuando alguien es expuesto públicamente, cuando hay un caso de extorsión -por ejemplo, ha habido varios casos de extorsión a pacientes de clínicas que pierden información y luego delincuentes extorsionan a esos pacientes- vamos aprendiendo que la privacidad siempre va a ser relevante, porque la privacidad nos protege de potenciales abusos de poder. Y siempre que haya instituciones y las personas sean personas, va a haber esa tentación de abusar del poder. Con lo cual, no importa cuál sea la tecnología o cómo reorganizamos la sociedad. La privacidad siempre va a ser importante y, de hecho, en mi nuevo libro académico argumento que la privacidad es una necesidad animal que compartimos con muchos otros animales. Por ejemplo, la privacidad es necesaria para el sueño, la relajación, tener espacio libre: es tan necesaria como tener comunidad. Son dos lados de la misma moneda que necesitan un equilibrio y un complemento. 

Las grandes tecnológicas nos han intentado convencer de que la privacidad es algo del pasado, de que ya no importa. Pero poco a poco, por desgracia a través de malas experiencias, volvemos a aprender su importancia

En su libro cuenta cómo a lo largo de la historia la privacidad no siempre ha sido un valor positivo, ¿lo es ahora? 

Siempre ha habido una batalla por interpretar la privacidad, y hay grupos que la interpretan como algo positivo y otros como algo negativo. En diferentes momentos de la historia una interpretación domina sobre la otra. Ahora venimos de unas décadas en las que la interpretación de la privacidad ha sido más negativa. Y no quiero sonar como si esto fuera algo neutral. La interpretación de la privacidad como algo negativo siempre tiene intereses detrás, intereses a veces económicos, a veces de género: ha sido un arma, por ejemplo, para controlar a las mujeres; también ha sido un arma usada por la religión para controlar a los creyentes. Y las tecnológicas lo han usado como un arma para hacer lo que quieren con los datos personales y controlar a los usuarios y a los ciudadanos. Y ahora hemos aprendido de esa experiencia un poco y es más común que la gente sea más consciente de que la privacidad es importante… de que, aunque no seas un delincuente, aunque no estés escondiendo nada incorrecto, la privacidad es importante: no es que tú estés escondiendo algo incorrecto, es que otras personas están dispuestas a hacer algo incorrecto, como robarte la identidad, aprovechándose de que no tengas privacidad.

Ahora también vemos servicios que están poniendo la privacidad como una opción por defecto cuando antes no lo hacían, por ejemplo con la encriptación en los mensajes. Antes no era lo común y ahora se asume cada vez más que algo no tiene los estándares correctos si los mensajes no están encriptados.

¿Debemos distinguir entre sociedades democráticas abiertas y sociedades autoritarias en estas preguntas? 

Debemos distinguir entre tendencias autoritarias y tendencias democráticas, porque el distinguir entre países democráticos y autoritarios parece sugerir que hay una línea bien marcada, que es fácil distinguir y es algo binario. Como sugiriendo que si estás en una sociedad democrática abierta, entonces estás seguro y ya no hay de qué preocuparse. Pero, en realidad, la democracia es algo que se construye cada día, que siempre hay que defender, que se pierde o se gana en el terreno todos los días.

Hay una conexión muy cercana entre las tendencias autoritarias y una mayor digitalización. Esto se debe a dos razones. Por una parte, traducir algo de lo analógico a lo digital es una forma de vigilancia porque estamos traduciendo en datos algo que no eran datos. Estamos traduciendo el mundo de las cosas al mundo de los unos y los ceros, que hace que todo sea registrable y buscable, tangible y rastreable. Y, por otra parte, el código tiene tendencias muy autoritarias.

Cuando tú tienes un código que, por ejemplo, no te permite subir cierta velocidad en tu coche, no hay manera de pedir una excepción o de negociar. No puedes negociar los términos y condiciones de las plataformas o los algoritmos. El código hace lo que está programado para hacer y se impone. En cambio, cuando tienes una ley, la puedes romper: lo que pasa es que puedes pagar las consecuencias, ir a la cárcel o pagar una multa o lo que fuere. Pero con el código no hay manera de romper esas reglas que se han impuesto sobre ti.

La democracia es algo que se construye cada día, que siempre hay que defender, que se pierde o se gana en el terreno todos los días. Hay una conexión muy cercana entre las tendencias autoritarias y una mayor digitalización

¿En la definición de la vigilancia y el derecho a la privacidad hasta qué punto es central la intención? 

Cuando juzgamos a alguien que ha recolectado datos de manera ilegítima, si quería recolectarlos para robar, evidentemente, es más grave que si quería recolectarlos para ayudar a alguien. Pero al mismo tiempo, desde un punto de vista de las relaciones de poder y desde un punto de vista legislativo, no debe importar demasiado, porque justamente uno de los problemas con la privacidad es que los datos que se pueden haber recopilado para buenos usos se acaban utilizando mal. 

¿Se puede identificar la intención a priori? Es decir, los mismos datos sobre la demografía de un barrio pueden servir para decidir si hay que invertir más dinero en escuelas o para movilizar a votantes a favor de un partido. Las mismas cámaras pueden ayudar a disuadir el crimen o a localizar a un disidente político…

Precisamente una de las razones para proteger la privacidad es que el riesgo de tener datos personales recolectados por ahí es muy alto porque siempre se pueden utilizar mal. Los datos personales son muy sensibles, son muy difíciles de mantener seguros y es muy fácil abusar de ellos. Cuando tienes una arquitectura de vigilancia, si te basas en la intención y tienes un buen gobierno, puedes dejar que llenemos las calles de cámaras y las habitaciones de micrófonos. Pero el problema es que esa estructura de la vigilancia luego la va a heredar otro gobierno. Y si ese gobierno tiene peores intenciones, ya dan igual las intenciones originales.

Ese problema lo vemos mucho a lo largo de la historia, por ejemplo en Hong Kong. Es un ejemplo de una sociedad bastante puntera en tecnología y que tenía a China continental más o menos a distancia. Cuando China continental aprieta ya es muy tarde, porque la estructura de la vigilancia ya está ahí. Entonces ves a la gente tratando de tirar las cámaras en la calle o de comprar billetes para el metro con efectivo cuando prácticamente todas las transacciones son digitales. Por eso es un error concentrarse en la intención.

Los datos personales son muy sensibles, son muy difíciles de mantener seguros y es muy fáciles abusar de ellos

En su libro escribe que la vigilancia es un arma de dominio político, habitualmente una de las primeras utilizadas en regímenes autoritarios. ¿Qué ejemplos actuales son los más preocupantes?

El ejemplo más preocupante de la relación entre autoritarismo y vigilancia en este momento evidentemente es China. En parte porque está más avanzado en tecnología que otros países y es un sitio donde se ve muy claramente cómo la vigilancia se utiliza para el control. Primero con excusas, con cuestiones como la delincuencia o la pandemia, pero al final termina con un sistema de crédito social en el que se vigila no solamente que cumplas la ley, sino que además seas buen vecino... y no se trata sólo de que cumplas la ley en las cuestiones más importantes como pagar impuestos o no agredir a nadie: por una pequeña infracción, por ejemplo, fumar dentro de un tren, te pueden poner en la lista negra y ya no puedes viajar en tren, no puedes viajar en avión, no puedes quedarte en hoteles de cinco estrellas. Una de las características de las sociedades totalitarias es que cualquier infracción te afecta al resto de la vida.

Las sociedades liberales intentamos formar compartimentos: si tienes un problema en el trabajo, eso obviamente va a afectar tu trabajo, pero intentamos que no afecte otras cuestiones como, por ejemplo, tu relación con el Estado. En una sociedad autoritaria, el no pagar impuestos o pagar unos impuestos tarde puede afectar a tu vida amorosa porque ya no vas a aparecer en las aplicaciones de citas. 

El ejemplo más preocupante de la relación entre autoritarismo y vigilancia en este momento es China. Está más avanzado en tecnología que otros países y es un sitio donde se ve muy claramente cómo la vigilancia se utiliza para el control

Pero China no es la única. Otro ejemplo también ha sido claramente Rusia, donde la vigilancia también se utiliza para intimidar a los ciudadanos y para controlarlos. 

Y, en general, también vemos esas tendencias en otras sociedades. No hay una línea clara de distinción. En sociedades democráticas hay tendencias autoritarias, aunque sigan siendo sociedades democráticas.

¿Puede ser la vigilancia también un arma contra los regímenes autoritarios y la desinformación? Por ejemplo, el trabajo que hace el medio de investigación Bellingcat con datos abiertos ha permitido descubrir crímenes de guerra rusos en Ucrania o en Siria y contrarrestar mentiras. 

Sí, por supuesto. El periodismo de investigación se basa en eso. En usar la investigación y la información para desvelar cuestiones de interés público y, sobre todo, injusticias. Pero la cualidad del periodismo de investigación es que no es vigilancia masiva, es vigilancia muy dirigida. Y para que sea ético tiene que cumplir con unos mínimos de interés público.

¿La vigilancia digital ha permitido democratizar el acceso fuera de los gobiernos? Antes del acceso a datos masivos y la inteligencia artificial, el trabajo que hizo el New York Times con el seguimiento del globo espía chino probablemente sólo lo podía hacer la CIA. Otro ejemplo son los crímenes en Gaza, donde los reporteros apenas tienen acceso al terreno. 

Sí, la vigilancia digital ha democratizado el acceso a la vigilancia. Pero la palabra “democratizar”, en realidad, me genera bastante conflicto, porque es una palabra que sugiere que es algo positivo. Pero no hay que democratizar lo que no se debería democratizar. Es decir, ¿quiero democratizar el acceso a las armas nucleares? Pues no.

Y que le haya dado más poderes al periodismo probablemente es algo bueno, sobre todo dado el grandísimo poder que le ha dado a gobiernos y a corporaciones. Pero el que cualquiera pueda vigilar a alguien más no es algo positivo y suele usarse en contra de las personas más vulnerables, sobre todo las mujeres y las minorías. No por el periodismo, sino por el público en general.

Y el que las compañías puedan tener información que de haberla recopilado una agencia de inteligencia sería considerada como alto secreto, información súper sensible, no es algo positivo.

Cuando un representante de la industria de la publicidad le presenta por primera vez a la CIA el tipo de datos que tiene hay un momento en el que un tío de la CIA dice “no, no, espera, para esta presentación necesitamos irnos al búnker”. Y el representante de esta industria le contesta: “No te preocupes. Esta información no la robamos, no la hackeamos, la compramos”. Eso nos debería dar escalofríos.

Es muy fácil utilizar la excusa de la seguridad para desarrollar y usar tecnología que, en realidad, al final erosiona más nuestra seguridad

¿Qué opina de la nueva ley de la UE para regular la inteligencia artificial?

Regular la inteligencia artificial es evidentemente una prioridad y nada sorprendente. Las generaciones anteriores han tenido que regular sus industrias, ya fueran los trenes, los aviones o las farmacéuticas, y la tarea de nuestra generación es regular a nuestras industrias. La nueva ley en Europa es, sin duda, un avance. De nuevo, Europa se posiciona a la cabeza en pensar en cómo diseñar buenas reglas para mejorar estos productos. Veremos cómo se desenvuelve en los próximos años. La nueva ley tiene cosas muy positivas, como por ejemplo mucha más transparencia, que los modelos tengan que pasar por evaluaciones y mitigación, y mejor protección de ciberseguridad. Pero también surgen dudas.

Una duda sobre la nueva ley de la UE para regular la inteligencia artificial es qué tan adecuado es pensar en la inteligencia artificial como una cuestión de riesgo en vez de poner el énfasis más en los derechos

Una duda es qué tan adecuado es pensar en la inteligencia artificial como una cuestión de riesgo en vez de poner el énfasis más en los derechos, porque puede haber inteligencia artificial que parece que no es muy riesgosa y termina siendo más riesgosa de lo que pensábamos. El riesgo, al final, siempre tiene un elemento subjetivo y de predicción que no siempre es fácil analizar. Y otra cosa que me preocupa son las excepciones que se hacen por cuestiones de seguridad, por ejemplo para utilizar reconocimiento facial. Uno de los problemas es que es muy fácil utilizar la excusa de la seguridad para desarrollar y usar tecnología que, en realidad, al final erosiona más nuestra seguridad, pero no es evidente: parece que la incrementa cuando que en realidad la erosiona.

Sin demasiadas sorpresas, la nueva ola de la llamada inteligencia artificial “generativa” ha demostrado que estos algoritmos de vanguardia no escapan a los prejuicios de género. Contenidos que hipersexualizan a las mujeres, reproducción de estereotipos o discriminación de género: estos resultados dicen mucho sobre los límites y los problemas de estas herramientas presentadas como revolucionarias. Sin embargo, para Estelle Pannatier, responsable de política y promoción de AlgorithmWatch CH, ya existen recursos legales para controlar estos abusos. Aun así, la creación y el uso de la IA carecen de transparencia para evidenciar la discriminación que causan.

¿Qué entendemos por sesgo sexista en el campo de la IA?

El término sesgo algorítmico se utiliza generalmente para describir los errores sistemáticos de un sistema informático que crean resultados injustos, favoreciendo una categoría sobre otra de forma injustificada. En este contexto, un sesgo sexista sería, por ejemplo, el hecho de que un algoritmo asigne diferentes puntuaciones de riesgo en función del género de la persona en un contexto donde esta diferencia no está justificada. La noción de sesgo es, sin embargo, un poco reduccionista. Su uso se limita generalmente a la calidad de los datos de los sistemas bajo la siguiente idea: son los datos los que causan sesgos y llevan a las IA a hacer distinciones basadas, por ejemplo, en el género. No obstante, las desigualdades de género provocadas por el uso de la IA tienen varias causas.

Entonces, ¿estas discriminaciones sexistas no son simplemente el resultado de los sesgos presentes en las bases de datos utilizadas?

Obviamente, la calidad de los datos influye. La fecha en la que fueron recogidos, la forma en que fueron procesados, etc., pero existen muchas decisiones humanas detrás de este trabajo. Más allá de la problemática de los datos, también está la cuestión de los modelos de IA utilizados por estos algoritmos, es decir, los parámetros que se eligen y, en última instancia, el uso de estos sistemas. Incluso un sistema tecnológicamente perfecto puede tener consecuencias discriminatorias si se utiliza incorrectamente.

¿Cómo afectan exactamente estos sesgos al funcionamiento de la IA?

Tomemos el ejemplo de un algoritmo basado en el autoaprendizaje diseñado para el proceso de contratación de una empresa. Si históricamente en esta compañía las mujeres ocupan menos puestos de responsabilidad que los hombres y el algoritmo se entrena con estos datos sin ninguna corrección, reproducirá este desequilibrio. En cuanto a los modelos, para un algoritmo que clasifique currículos, por ejemplo, los humanos tendrán que establecer criterios de exclusión para aquellos que no sean seleccionados. Pero esos criterios pueden estar sesgados.

¿Qué efecto pueden tener estos sesgos sobre las mujeres?

Para las personas afectadas las consecuencias pueden ser importantes. La situación puede conducir a un acceso desigual al empleo. Llevamos a cabo una investigación que reveló que, en Facebook, las ofertas de trabajo se mostraban según el género del usuario. Un anuncio para la conducción de camiones se mostraba más a hombres, mientras que otro sobre el cuidado de niños se mostraba más a mujeres. También hay un ejemplo muy mediático en Austria, donde el servicio nacional de empleo utilizó un algoritmo para evaluar las posibilidades de que los desempleados encontraran trabajo. El sistema restaba puntos a las mujeres que tenían personas a su cargo, pero no así a los hombres en la misma situación, lo que podía privarlas injustamente del acceso a ciertas prestaciones sociales.

La falta de mujeres, tantas veces señalada en los distintos campos de la tecnología, ¿influye también en el desarrollo de la IA?

Las personas que conciben estas tecnologías les infunden sus propias ideas durante su diseño. Existe una tendencia a subestimar el componente humano de estas herramientas. Contar con una mayor diversidad en la fase de creación de la inteligencia artificial solo puede ser positivo, independientemente del tipo de discriminación. Pero también hay que implementar procesos, como evaluaciones de impacto en los derechos fundamentales, para garantizar que estos sistemas no conduzcan a una discriminación.

Hace apenas un año empezábamos a hablar de la IA generativa. En el ámbito de la tecnología, da la impresión de que a menudo la legislación se queda anticuada. ¿No está sucediendo todo esto demasiado rápido como para poder regularlo eficazmente?

Es un campo que está evolucionando muy rápido, pero debemos recordar que no estamos en un desierto legal. Las leyes y normas vigentes también se aplican a la IA. Se están poniendo en marcha varias iniciativas para subsanar los vacíos legales, como el Reglamento sobre IA de la Unión Europea o la Convención sobre IA, que se está debatiendo actualmente en el Consejo de Europa. En Suiza, el Consejo Federal va a analizar las necesidades regulatorias de la IA hasta finales de 2024.

¿Cómo podemos controlar algo en continuo movimiento para evitar que reproduzca sesgos sexistas?

En primer lugar, se debe garantizar la transparencia para las personas implicadas y para la sociedad en general, especialmente cuando estos sistemas se utilizan para tomar decisiones sobre los humanos. El diseño y el uso de los sistemas también debe estar sujeto a análisis de impacto para identificar y mitigar los riesgos en materia de derechos fundamentales. Por último, debe aumentarse la protección contra la discriminación algorítmica, especialmente reforzando las vías de recurso para los afectados.

Más allá de la discriminación, también hemos observado que estas herramientas llamadas generativas se han utilizado para crear deepfakes pornográficos o contenido que hipersexualizar a las mujeres.

En algunas de estas situaciones pueden aplicarse medidas legales, concretamente las relacionadas con el derecho al honor. Pero aún queda mucho trabajo por hacer en cuanto a la aplicación del marco legal: se necesita mucho tiempo y esfuerzo para lograr que se elimine cierto contenido. También debemos aclarar las responsabilidades, por ejemplo, definir quién es el responsable cuando se genera un contenido ilegal.

¿Cuáles son los principales retos que surgen actualmente para evitar la deriva de la IA?

Existe una verdadera dificultad para identificar los casos de discriminación relacionados con el uso de sistemas algorítmicos, tanto para las personas afectadas por la discriminación como para las personas que intentan denunciarla, porque a menudo es necesario poder “entrar en la máquina”. Sin embargo, estas cuestiones son fundamentales, especialmente en el caso de algoritmos que intervienen en la toma de decisiones y que pueden tener un impacto significativo en la vida de una persona, por ejemplo, en el contexto de la migración o el procesamiento penal.