Barcelona prende la revolución contra los “tiranos” digitales: “No hay que dejar que creen desconfianza entre nosotros”

Cualquiera que haya utilizado YouTube entiende cómo funciona su algoritmo de recomendación. Ves un vídeo, termina, y el sistema ofrece otros “relacionados”. En 2018 varias investigaciones revelaron que un comportamiento totalmente neutral por parte del usuario le llevaba en cuestión de unos pocos vídeos hacia contenidos extremos. Después llegó la pandemia, con YouTube volviendo a quedar señalado como uno de los grandes focos de desinformación sobre el virus, las vacunas o los intereses oscuros que promovían los confinamientos.

Investigaciones posteriores han intentado profundizar mucho más en las consecuencias de esta una espiral de radicalización, que terminó conociéndose como “el agujero de conejo” algorítmico. El problema es que no han podido.

“Lo que es realmente interesante es que demostramos que YouTube no recomendó contenido más extremo a nuestros perfiles de prueba. Sabemos que anteriormente era uno de los peores en cuanto a sus motores de recomendación. Aunque no podemos probarlo de forma absoluta, otros estudios muestran lo mismo, lo que sugiere que empezaron a ajustar sus algoritmos cuando quedó expuesto que estaban conduciendo al extremismo”, explica Yaël Eisenstat.

Eisenstat es ex jefa de integridad electoral de Facebook, ex analista de la CIA y coautora de uno de esos estudios sobre YouTube. Actualmente, es una de las voces más reconocidas contra los incentivos algorítmicos perversos de las redes sociales. Este miércoles fue la primera en tomar la palabra en el I Encuentro por los Derechos Digitales que se ha celebrado en Barcelona.

La elección del ejemplo de YouTube no fue casual. Eisenstat intentaba mandar un mensaje que han compartido el más de un centenar de expertos que han subido al escenario tras ella. Sí, las redes y los gigantes digitales están rompiendo la democracia. Pero no todo está perdido: se las puede obligar a cambiar y lo harán si reciben la presión adecuada.

Todas las recetas de la esperanza

Las principales voces que han acudido a Barcelona para hablar de los derechos digitales llevan años diagnosticando los problemas de las redes. Quizá por ello, todas se han esforzado en que las soluciones sean una parte muy importante de su discurso en este evento. Ha habido propuestas técnicas, políticas, sociales, geopolíticas y filosóficas para defender la revolución contra el statu quo digital.

La ponente que ha arrancado más aplausos entre los 3.000 asistentes es la que ha atacado el problema desde el este último campo, la filósofa Carissa Véliz. “El ingrediente fundamental del tirano es crear desconfianza entre los ciudadanos. No hay que dejar que eso pase”, ha expresado sobre la creciente polarización: “Para tener confianza hay que cultivar nuestras relaciones personales, nuestras relaciones de comunidad de amistad ciudadana”. En la era de las pantallas, la conversación cara a cara es revolucionaria, ha defendido.

La autora mexicana acaba de publicar su segundo libro, Profecía. Lecciones sobre el uso y abuso de la predicción, desde los antiguos oráculos hasta la IA (Debate), en el que explica las amplias conexiones conceptuales entre los adivinos de la corte que susurraban al oído de caciques, monarcas y emperadores, con los actuales sistemas de predicción de la inteligencia artificial.

“Es muy revelador volver al pasado y preguntarnos cómo se ha utilizado antes la predicción”, ha explicado Véliz, profesora en la Universidad de Oxford. “Te darás cuenta de que, por más diferente que sea la tecnología, el rol político que está jugando la IA es el mismo que el oráculo de Delfos o que el astrólogo medieval. Un rol que se está oscureciendo con esta tecnología, disfrazándose de conversación tecnológica cuando en realidad es una conversación política y social”.

Por más diferente que sea la tecnología, el rol político que está jugando la IA es el mismo que el oráculo de Delfos o que el astrólogo medieval

Por eso para la autora es tan importante analizar críticamente esas predicciones. “Parte del desafío cuando preguntamos cuál es el futuro de la democracia no es tratar de predecirlo como si hubiera ya un guion escrito que hay que descubrir. No, la pregunta es qué guion vamos a escribir nosotros, porque la democracia está en la mano de la ciudadanía, en parte”.

“La tecnología es poder”

“La tecnología es poder” ha sido una de las ideas fuerza repetidas por muchos de los ponentes, incluido el ministro para la Transformación Digital, Óscar López, que ha compartido una charla con Véliz. Su Ministerio y la organización Mobile World Capital Barcelona han sido los organizadores principales del Encuentro.

Para hacer valer los derechos digitales no vale presionar a las multinacionales tecnologías. Es necesario poder en todos los sentidos, incluido el más clásico de todos: el poder geopolítico, la capacidad de obligar a otras naciones a tomar determinados caminos. “Si nos fijamos en los tres imperios digitales, Estados Unidos, China y la Unión Europea, vemos grandes diferencias”, explica Anu Bradford, profesora de Derecho en la Universidad de Columbia (EEUU). “Por eso los llamo imperios, porque ninguno de sus modelos regulatorios se limita a sus propias jurisdicciones, sino que todos exploran proactivamente extenderlo a otras zonas”.

Sí, también la UE lo ostenta. Bradford, finlandesa, es la autora del término “efecto Bruselas”, que explica cómo muchas de las leyes de los 27 terminan aplicándose a nivel global porque las multinacionales prefieren adoptar un mismo estándar normativo en todo el mundo, aunque sea el más estricto, antes que cambiar su operativa en función de múltiples contextos diferentes.

Economías de escala y eficacia juegan aquí en favor de muchos países que consiguen la protección legal europea sin la capacidad de presión de su potente mercado interior, de 450 millones de personas. Por ello, la profesora ha recalcado en Barcelona que la UE no debe dejarse llevar por los discursos que aseguran que su modelo basado en derechos la lleva al desastre en la carrera de la IA con EEUU y China.

“Los europeos deberían tomar el camino [...] de cómo hacer que la IA mejore nuestras vidas. Que aumente nuestra riqueza, nuestra productividad, las oportunidades para nuestros individuos, sociedades y empresas”, ha defendido Bradford: “Aprovechar el potencial en la vida diaria para muchas de nuestras industrias: atención médica, educación, etc. Y ahí es donde realmente no hay una desventaja inherente”.

Pero, para que eso funcione “no basta con multar”, sino que hacen falta “reguladores que estén dispuestos a desplegar los poderes que tienen”. Tanto para “exigir cambios en los modelos de negocio” de los gigantes tecnológicos extranjeros como para potenciar la capacidad de innovación europea.

Sobre esto último, la profesora también ofrece una hoja de ruta: desplegar un mercado único digital real, que permita a las empresas competir en toda Europa desde un único país; facilitarles el acceso a capital y desestigmatizar el fracaso con una ley de quiebras europea que no hunda a los que lo intentan y no lo consiguen.

Lo que realmente diferencia a EEUU de Europa es que los estadounidenses han tenido un éxito espectacular al aprovechar el talento global. Ahora se están alejando de eso y es una oportunidad tremenda para los europeos

Todo esto tendría como consecuencia otro de los puntos que la experta menciona como claves: la atracción de talento extranjero que quiera emprender en Europa. “Pensemos solo en los nombres tan conocidos de los fundadores de empresas tecnológicas... Elon Musk, el fundador de Tesla, nació en Sudáfrica. Sergey Brin, el cofundador de Google, en Rusia. Eduardo Saverin, cofundador de Facebook, es brasileño. Jensen Huang, el cofundador de Nvidia, nació en Taiwán”, ha enumerado.

“Lo que realmente diferencia a EEUU de Europa es que los estadounidenses han tenido un éxito espectacular al aprovechar el talento global”, ha recordado, “pero ahora se están alejando de esos rasgos tradicionales del país. Esto es una oportunidad tremenda para los europeos”.

Mientras, ¿qué hacemos con este Internet roto?

Hubo un tiempo en que Internet era “un directorio de cosas maravillosas”, ha recordado la periodista y escritora Marta Peirano, una de las expertas de referencia en el contexto español sobre tecnología y poder. Ese era también el lema de Boing Boing, pionero de la blogosfera digital.

Su director era Cory Doctorow, el activista que mejor ha mapeado cómo y por qué la red se ha estropeado desde entonces, a través de su concepto de “mierdificación”. “En veinte años todos nuestros problemas estarán relacionados con Internet”, decía en 2015 en una entrevista con elDiario.es. La velocidad a la que ha ocurrido todo ha terminado sorprendiendo hasta a los más críticos.

Como entonces, Doctorow ha exculpado a los usuarios en su conversación con Peirano en Barcelona. Si Internet se ha convertido en “un enorme montón de mierda” es porque se transformó “en un entorno político donde las peores decisiones de las peores personas generan la mayor cantidad de dinero”. “Entonces llegamos a la pregunta más importante: ¿qué les permitió empeorarlo? Y la respuesta es la política”, ha acusado.

¿Qué les permitió empeorarlo? Y la respuesta es la política

La tesis de Doctorow es que “todos estos productos digitales que todos usamos son obviamente defectuosos. Nos espían, se quedan con nuestro dinero, nos manipulan”. “Lo último que cualquiera de nosotros debería hacer es permitir que nuestra vida social sea controlada por un multimillonario, y mucho menos por alguien que nos está espiando”, ha enfatizado durante el evento.

Para arreglarlo, el autor pide un nuevo Internet, pero rechaza la utopía de una red perfecta. “Lo que queremos es un sistema nervioso digital que nos ayude a adaptarnos al cambio. Un sistema nervioso que nos ayudará a sobrevivir al genocidio, la emergencia climática y el creciente fascismo. Tendrá que ser dinámico, porque tendrá que ser receptivo a las necesidades de los usuarios”. Es lo que el autor denomina “el Internet post-americano”, una red que pueda escapar de las lógicas mercantilistas que este ha impuesto.

Tocándoles la cartera

Frances Haugen, casi cogiendo el testigo de Doctorow, ha puesto encima de la mesa un método para forzar a los gigantes digitales a adoptar prácticas más éticas. Se basa en tocarles la cartera. Sin boicots, solo con una fórmula que apunte a su punto débil.

La ingeniera sabe cómo diseñarlo. Haugen expuso en 2021 las prácticas internas de Facebook ante el Senado de Estados Unidos, filtrando documentos de la compañía que probaron que está priorizaba sus propios beneficios a la seguridad de sus usuarios, incluidos niños y adolescentes. Sus revelaciones han terminado desembocando en las recientes sentencias que condenan a las redes sociales de Meta a pagar los daños que han causado a sus usuarios.

La ingeniera propone obligar a las grandes marcas que se anuncian en plataformas como Facebook e Instagram a destinar el 10% de su gasto en publicidad digital a plataformas dispuestas a publicar cinco métricas concretas sobre su impacto en los menores: cuántos niños reciben mensajes sexuales no deseados; la calidad de su sueño; el rendimiento escolar; la capacidad del usuario para detener el uso de la aplicación a voluntad y si la herramienta fomenta realmente las conexiones en el mundo físico.

¿Qué pasaría si, en lugar de simplemente retirar los ingresos, los redirigimos y decimos: oye, vamos a impulsar el cambio no reteniendo el dinero, sino fertilizándolo?

“¿Qué pasaría si, en lugar de simplemente retirar los ingresos, los redirigimos y decimos: oye, vamos a impulsar el cambio no reteniendo el dinero, sino fertilizándolo?”, se ha preguntado Haugen en Barcelona.

Es una más de las múltiples propuestas que el centenar de voces internacionales han arrojado a la política y la sociedad civil en el I Encuentro por los Derechos Digitales, que nace con la voluntad de que haya muchos más. El diagnóstico lleva años sobre la mesa. Lo que Barcelona ha demostrado esta semana es que las recetas también existen: ¿habrá voluntad para aplicarlas?