La UE resucita su plan de escanear todos los chats en busca de abuso infantil: “Es una amenaza enorme”
La Unión Europea ha resucitado una controvertida propuesta para obligar a los servicios digitales a escanear todas las comunicaciones de sus usuarios en busca de material de abuso sexual infantil. El plan, que ya fue rechazado por el Parlamento Europeo durante la anterior legislatura comunitaria, vuelve a estar sobre la mesa de las instituciones a través de una nueva propuesta de la Comisión Europea que está ganando apoyos entre varios estados miembros y será debatida este viernes en una reunión de los Veintisiete.
La propuesta busca establecer normas para prevenir y combatir el abuso sexual infantil y la distribución de material pedófilo. Su objetivo es impedir que las aplicaciones de mensajería, correo electrónico, las redes sociales o los chats de videojuegos se utilicen para estos delitos. Bruselas argumenta que deben ser los proveedores de estos servicios sobre los que se regule, ya que “son a menudo los únicos en posición de prevenir y combatir tal abuso”.
El plan es que estas plataformas instalen un algoritmo que revise todos los chats de los usuarios en busca de patrones de alerta que indiquen que en una conversación determinada se podrían estar generando o compartiendo imágenes que encajan con la pornografía infantil. Al detectarlas, el algoritmo daría aviso a la compañía, que lo reportaría a las fuerzas de seguridad. Apps como WhatsApp, Telegram, Signal, Instagram, Gmail y cientos más se verían afectadas.
“Las medidas adoptadas deben ser específicas, cuidadosamente equilibradas y proporcionadas, a fin de evitar consecuencias negativas indebidas para quienes utilizan estos servicios con fines lícitos”, afirma la propuesta, que ha introducido algunas modificaciones respecto al texto que fue rechazado por la Eurocámara en 2023. El principal es la reducción del alcance del escaneo a las imágenes y enlaces que compartan los usuarios —el plan anterior abarcaba todos los mensajes, incluido texto o audio— y el hecho de que este se realice en el mismo dispositivo del usuario.
El nuevo texto también hace especial hincapié en la importancia del cifrado de extremo a extremo. Se trata tecnología más robusta actualmente para proteger la confidencialidad de las comunicaciones digitales, ya que los convierte en un código ilegible para cualquiera excepto el emisor y el destinatario. El temor a que el escaneo de los mensajes abriera una agujero en esta protección fue una de las principales causas de la caída de la propuesta anterior.
“El cifrado de extremo a extremo es un medio necesario para proteger los derechos fundamentales y la seguridad digital de los gobiernos, la industria y la sociedad”, asegura ahora el texto de la Comisión. “Este Reglamento no prohibirá, hará imposible, debilitará, eludirá o socavará de otro modo las medidas de ciberseguridad, en particular el cifrado, incluido el cifrado de extremo a extremo”, recalca.
Sin embargo, no cede en su intención de establecer un mecanismo de vigilancia masiva que pueda detectar este tipo de imágenes en cualquier situación. El abuso infantil “debe seguir siendo detectable en todos los servicios de comunicaciones interpersonales mediante la aplicación de tecnologías verificadas”, señala el texto, que impone que “el mecanismo de detección pueda acceder a los datos en su forma no cifrada para un análisis y una acción eficaces”.
“Vigilancia sin precedentes”
La propuesta tumbada por el Parlamento Europeo en 2023 suscitó un enorme rechazo entre los tecnólogos y la comunidad de organizaciones de defensa de los derechos digitales. La nueva proposición ha arrancado con la misma controversia.
Este martes, 467 especialistas de 36 países han enviado una carta a las instituciones comunitarias para alertar de que su plan para escanear todos los chats “socava por completo las protecciones de seguridad y privacidad que son esenciales para salvaguardar la sociedad digital”. “La nueva propuesta, al igual que sus predecesoras, creará capacidades sin precedentes de vigilancia, control y censura, y conlleva un riesgo inherente de desvío de funciones y de abuso por parte de regímenes menos democráticos”, denuncian en la misiva, a la que ha tenido acceso elDiario.es.
La mayoría de los firmantes son profesores universitarios e investigadores especializados en cifrado digital de las comunicaciones, ciberseguridad y tecnologías de privacidad. Muchos de ellos de reconocido prestigio internacional, como la española Carmela Troncoso, directora científica del Instituto Max Planck para la Seguridad y la Privacidad, una de las instituciones de referencia en Alemania. “La propuesta sigue sin garantizar ninguna mejora en la protección para menores, pero sigue siendo una amenaza enorme para la privacidad y libertad online”, explica a este medio.
“La nueva propuesta dice que solo mirarán URLs e imágenes —aunque en una nota se dice que puede volver el análisis de texto a través de una enmienda en el futuro— pero esto no cambia el hecho de que sigue siendo fácil evadir el detector con cambios pequeños”, avisa la especialista.
Imposible técnicamente y fácil de burlar
El principal argumento técnico de los especialistas respecto al plan de escaneo de chats de Bruselas sigue siendo el mismo: no existe la tecnología para llevarlo a cabo. “Simplemente, no es viable realizar detecciones de material de abuso sexual infantil conocido y nuevo entre cientos de millones de usuarios con un nivel aceptable de precisión, independientemente del filtro concreto”, explican en la carta.
“Los expertos han demostrado en repetidas ocasiones que los métodos de detección de material de abuso infantil conocido son fáciles de eludir: basta con modificar unos pocos bits en una imagen para que esta no active los detectores más avanzados”, detallan. Para los abusadores y pedófilos, sería fácil adoptar métodos como este para escapar del algoritmo, alegan los expertos, lo que les permitiría “burlarlo por completo”.
Los detectores de última generación arrojarían tasas inaceptablemente altas de falsos positivos y falsos negativos, lo que los hace inadecuados para campañas de detección a gran escala, como las que plantea la regulación
Un filtro ineficaz que, por contra, sí podría causar disgustos al resto de la población. “La investigación existente confirma que los detectores de última generación arrojarían tasas inaceptablemente altas de falsos positivos y falsos negativos, lo que los hace inadecuados para campañas de detección a gran escala, como las que plantea la regulación, con cientos de millones de usuarios afectados”, destaca la carta.
Los tecnólogos hacen un amplio desglose técnico de los agujeros de la propuesta de la UE. Además, rebajan el potencial beneficioso de los cambios introducidos al plan de 2023. “No existe base científica para sostener que la tecnología de detección funcionaría mejor con imágenes que con texto”, dicen sobre la decisión de que el algoritmo analice solo fotografías y archivos. “Es imposible realizar detección de material y enviar los correspondientes reportes sin afectar al cifrado”, explican sobre la posibilidad de que ese análisis se realice en el dispositivo del usuario.
Actualmente, el documento que resucita el plan de la UE de escanear es una propuesta de compromiso de la Presidencia del Consejo de la Unión Europea, que actualmente ocupa Dinamarca. Esto significa que es un texto que se está revisando y negociando entre los países de la UE. El próximo paso será la reunión del Grupo de Trabajo este 12 de septiembre, para su discusión y posibles enmiendas. De ser aprobada por el Consejo, el texto tendría que volver a pasar por el examen del Parlamento Europeo.
4