Imagina un mundo en el que te detengan por lo peligroso de tus sueños: “Os animo a mentir al algoritmo una vez al día”
En 1956, el escritor por excelencia del ciberpunk Philip K. Dick publicaba Minority Report, un relato distópico sobre unos cíborgs que calculan las probabilidades de que un individuo cometa un delito antes de que suceda. No fue hasta la película de 2002, protagonizada por Tom Cruise y dirigida por Steven Spielberg, que esta historia no se popularizó. Doce años más tarde, Dick escribiría ¿Sueñan con androides las ovejas eléctricas?, novela en la que se basó Blade Runner. El autor murió en 1982 con una ingente obra literaria a sus espaldas en la que, sin embargo, jamás imaginó que la infiltración de androides en la sociedad no sería lo más aterrador medio siglo más tarde. Hoy, lo más perturbador de la ciencia ficción, es precisamente la manipulación humana que está detrás de los algoritmos que alimentan una inteligencia artificial que condiciona cada vez más nuestras vidas.
Laila Lalami (Rabat, 1968) no se parece en nada a Philip K. Dick, salvo en su facilidad para imaginar futuros y tecnologías perversas. Vive en un mundo en el que unos magnates tecnológicos han fulminado el espejismo del poder democratizador de la tecnología. Cada día regalamos infinidad de datos sobre nuestras vidas que consideramos insignificantes, pero que alimentan al algoritmo para predecir nuestro comportamiento. ¿Qué pasaría si estas predicciones, un día, se usaran para amedrentar al disidente? En realidad, la amenaza para la sociedad civil es tan real como la impunidad actual de estos oligarcas, y la escritora advierte: “Sabemos perfectamente lo que están intentando hacer: influir políticamente”.
Para Lalami, periodista marroquí-estadounidense, la ciudadanía debe actuar ya. “Ya tenemos las leyes, pero no se están aplicando”, sentencia en conversación con elDiario.es, a lo que añade: “Los ciudadanos nos tenemos que asegurar de que las empresas tecnológicas se hagan responsables de sus errores”.
El futuro en el que te detienen si sueñas algo sospechoso
Lalami publica El hotel de los sueños (Sexto Piso, 2026), una novela distópica que no necesita los escenarios oscuros ni las ciudades decadentes del ciberpunk porque la mera factibilidad de lo que cuenta es suficientemente espeluznante. Su protagonista, Sara Husseyn, es una mujer que descubre que todos los derechos que había creído conquistados nunca lo fueron tanto. Hija de padres inmigrantes marroquíes en Estados Unidos, es detenida en un control de pasaportes debido a los datos que un algoritmo extrae de sus sueños a través de un implante que adquirió para dormir mejor. Este algoritmo alimenta una IA que predice el riesgo de que alguien cometa un delito. Y la clasifica como 'peligrosa'. Pero, ¿cómo castigar a alguien basándonos en su subconsciente?
En el futuro que imagina Lalami en su Minority Report del siglo XXI, los datos personales que recopilan las tecnológicas ya no son solo patrones de comportamiento o información personal del usuario, sino que almacenan lo que sueñan cada noche los clientes que compran un producto neurológico implantado para mejorar el sueño.
A la protagonista la detienen en un control de pasaportes por su origen diferente. A lo largo de la historia, a través de las personas que conoce Sara en el centro de detención, se hace evidente que la vigilancia digital se ceba con aquellos que están desde el principio bajo el punto de mira de una sociedad xenófoba que alimenta algoritmos xenófobos.
Lalami relata como la automatización de procesos como el control fronterizo parece siempre un paso adelante hacia el trato igualitario, pero que olvidamos que los sistemas los diseñan otras personas. “Nuestros cuerpos son colecciones de señales que hablan de nosotros. Señalan hacia nuestra edad, hablan de nuestro género, de nuestra raza, de nuestra clase social, incluso nuestras creencias religiosas. Y todas estas señales se interpretan de manera cultural por parte de la gente y, por tanto, se interpretan así también por los algoritmos, porque los algoritmos son escritos por la gente”, detalla.
Lo que nuestros cuerpos cuentan
La reflexión acerca del cuerpo en un mundo atravesado por la hipervigilancia es clave en su obra. Violencia, humillación o racismo son algunas de las consecuencias que sufre la protagonista por ser inmigrante y por ser mujer.
Además de la efectiva aplicación de las leyes que ya existen, otra de las propuestas de Lalami para proteger nuestra “autonomía corporal” ante las grandes empresas tecnológicas es impulsar desde los estados una Carta de los Derechos Digitales (“Bill of Digital Rights”). “Tú eres la dueña de tu cuerpo y, por tanto, los datos que produce tu cuerpo deberían ser tuyos para decidir qué hacer con ellos. Y creo que es muy desafortunado el hecho de que yo, simplemente por coger un teléfono, reniego de los datos que produce mi cuerpo. Creo que eso no debería ser así”, explica.
Sin embargo, uno de los papeles clave en el engranaje de la vigilancia lo acaba jugando siempre un funcionario menor. Estos personajes, minuciosamente dibujados en la novela, cumplen una función para la que tienen un momentáneo gran poder sobre vidas ajenas. En el caso de la protagonista, aunque el algoritmo la clasifique como alguien peligroso, es un agente el que tiene la palabra final sobre su reclusión o liberación, algo que Lalami describe como “increíblemente fascinante”: “En los controles de seguridad cuando viajo a menudo observo cómo tratan a la gente, como algunos se emborrachan de poder. Entonces, el libro es verdad que tiene que ver con los algoritmos, pero muchas de las interacciones pequeñas personales tienen que ver con estos funcionarios”.
¿Aceptas los términos y condiciones?
En un punto de la historia, el algoritmo puede acceder legítimamente a los datos oníricos de Sara porque aceptó unos términos y condiciones sin pararse a pensar. En conversación con este periódico, la autora bromea sobre la imposibilidad de leer cada texto de ‘Términos y condiciones’ que aceptamos con cada compra, registro en apps o web que visitamos. “Esa es otra cosa que tiene que cambiar: la simplificación”, enuncia sobre la cantidad de páginas de texto burócrata y aséptico que te pide Facebook al crear una cuenta.
Además de las soluciones políticas, la periodista lanza un consejo llamativo en una época en la que existen apps que recogen nuestra localización diaria, nuestra opinión sobre cine y libros o nuestras reflexiones más profundas. “Una mentira al día mantiene al Estado de vigilancia alejado”, recomienda la periodista, provocando la risa de quienes la escuchan durante la entrevista. “Os animo a meter en Letterboxd o cualquier otra plataforma parecida una información diaria completamente errónea, para provocar el caos”, añade.
Una experiencia personal de Lalami hizo que se le encendiese la bombilla con el germen de esta trepidante historia distópica: “Una mañana de 2014 me desperté y cogí mi teléfono para ver la hora. Y vi una notificación de Google debajo de la pantalla que decía ‘Si sales de casa ahora mismo, llegarás a [el nombre de su estudio de yoga] a las 07:28 horas’. Y me sorprendió muchísimo porque la clase de yoga no la tenía agendada en mi teléfono, pero obviamente, como es Google, conoce tu domicilio y sabe que cada martes y cada jueves vas a la misma localización y que llegas a las 07:30. Ese día yo llegaba tarde, así que me mandó esta notificación que nadie había pedido. Obviamente, sabía que Google nos seguía el movimiento. Pero lo que estaba haciendo era utilizar esos datos para hacer una predicción de lo que yo iba a hacer ese martes por la mañana. Así que fui a mi marido y le dije: ‘dentro de poco la única privacidad que nos quede va a ser la que tenemos en nuestros sueños’. Y a lo mejor algún día, si estas empresas tecnológicas siguen buscando datos que recolectar, en algún momento van a interesarse en nuestros datos internos, como nuestros pensamientos, nuestros sueños”.
0