Esta filósofa ha estudiado a los “profetas” de la IA: “Silicon Valley se parece cada vez más a una secta”

La hispano-mexicana Carissa Véliz es la autora de una de las obras de referencia de la democracia digital. Privacidad es Poder (editorial Debate, 2019) estableció por qué este derecho había trascendido a un nuevo nivel con Internet: quien acumula datos acumula poder. Si lo hacen las empresas, crece el riesgo de manipulación y desigualdad. Si lo intentan los gobiernos, el de autoritarismo. La privacidad había dejado de ser una cuestión personal para ser una libertad colectiva.

Su enfoque no llega desde la ingeniería, las matemáticas, ni el desarrollo de software. Véliz es profesora de Filosofía y Ética en la Universidad de Oxford, un campo desde el que se pregunta qué significa la implantación de cada tecnología, a quién sirve y bajo qué relatos se legitima. En su nuevo libro, Profecía: Lecciones sobre el uso y abuso de la predicción, desde los antiguos oráculos hasta la IA (Debate), hace ese mismo examen a la revolución que está propiciando esta tecnología y su capacidad de hacer predicciones basadas en datos. Lo que ha encontrado es que, a pesar de que las técnicas son nuevas, los mitos que estamos construyendo alrededor de este fenómeno histórico no lo son tanto.

En esta entrevista con elDiario.es, la profesora explica cómo Silicon Valley está generando profetas, liturgia religiosa e incluso una fe en la llegada de un ser superior (una inteligencia artificial autoconsciente, capaz de mejorarse a sí misma y de superar a los humanos) con el mismo objetivo de antaño, porque “las predicciones son maniobras de poder”. También deja una idea para neutralizarlas: “Cada vez que hacemos algo tan simple como leer un libro de papel, cuidar el mundo analógico, la gente que te rodea, tu bar favorito... estamos resistiendo”.

En un momento en el que buscamos símiles y metáforas para describir el poder de las grandes tecnológicas y sus líderes, usted propone una nueva: son los adivinos de la corte e intentan “marcar la agenda del futuro a través de unas predicciones claramente interesadas”. ¿Están utilizando los magnates de Silicon Valley nuestra fe en la ciencia, el método empírico y la realidad basada en datos como una herramienta de manipulación?

Lo interesante es eso, que parece que los nuevos líderes y los ejecutivos tecnológicos se basan en la ciencia para hacer esas predicciones. Pero el hecho es que están utilizando inteligencia artificial, no necesariamente ciencia. Y un ejemplo muy claro es cómo el uso de IA está insertando más y más errores en los artículos científicos. Eso es parte de la pregunta fundamental del libro: ¿Qué es ciencia y qué no? Porque cuando hacemos predicciones sobre los seres humanos, solemos influir en su comportamiento. Eso no es ciencia, porque no eres un observador imparcial, sino que estás influyendo en aquello que aseguras predecir.

Cuando hacemos predicciones sobre los seres humanos, solemos influir en su comportamiento. Eso no es ciencia, porque no eres un observador imparcial: estás influyendo en aquello que aseguras predecir

A pesar de que la tecnología es muy diferente y hay muchos aspectos que son novedosos, la realidad es que el rol político que está jugando tanto la tecnología de la inteligencia artificial como las personas que la desarrollan, la defienden y la venden, es incómodamente similar al rol que jugó en su momento el Oráculo de Delfos, y luego los astrólogos, y luego los expertos en ciencias sociales, y luego brevemente los economistas. Ahora es esta tendencia la que ha tomado el testigo.

Defiende que, en cuestiones sociales, analizarnos empleando solo los datos que puedan ser interpretados por una máquina es una estrategia equivocada. Una manera incorrecta de hacer ciencia que nosotros compramos por nuestra creencia en el progreso.

Exactamente. Y hay tanto que decir sobre esto. En primer lugar, es muy interesante porque Silicon Valley se parece cada vez más a una secta religiosa. Desde los rituales en torno a los líderes, sobre los que establecen una devoción dogmática, hasta cómo hablan sobre el anticristo o de la superinteligencia, o tantos líderes como Mark Zuckerberg que están construyéndose literalmente búnkeres para sobrevivir a un posible apocalipsis. El mundo que están construyendo es como el de una secta y es interesante porque hay veces que estas personas dicen cosas que no sabes si ellos creen o no. Y no sabes qué es más preocupante, si que lo crean, o que no lo crean y lo digan.

Por otra parte, yendo de nuevo hacia la historia y la filosofía, desde mi punto de vista, el filósofo más interesante que ha estudiado este tema es Karl Popper. Es muy relevante porque es un filósofo de la ciencia, pero también porque vivió la Segunda Guerra Mundial, cómo se usó el poder en ese momento y las consecuencias de aquel mal uso. Una de sus observaciones es que, por definición, la historia no se puede predecir porque depende mucho de los avances tecnológicos y científicos, y nunca podemos estar seguros de qué vamos a descubrir, porque si lo pudiéramos predecir ya lo habríamos descubierto.

Cuando nos volvemos más precisos en la predicción del comportamiento humano, no es un síntoma de avance científico, sino de avance autoritario

Entonces, una manera de expresarlo es que cuando nos volvemos más precisos en la predicción del comportamiento humano, no es un síntoma de avance científico, sino un síntoma de avance autoritario. Porque la manera más precisa de predecir el comportamiento de alguien es determinarlo. Si tú quieres saber exactamente dónde va a estar alguien mañana, encarcélalo, así no tendrás duda.

Usted utiliza el concepto de “golpe de Estado tecnológico” para definir la creciente influencia de las grandes tecnológicas en los poderes públicos. ¿Ha llegado demasiado lejos esa colaboración?

Hay tanta colaboración entre las grandes tecnológicas y los estados que hay momentos en donde no se sabe muy bien si las primeras están ayudando a los países a cumplir sus objetivos, o es al revés. ¿Y quién es el dominante? Hay momentos en los que parece claramente que son las grandes tecnológicas las que lo hacen, que tienen más poder y que pueden decidir cuáles son las reglas que siguen. Entre otras razones, porque las agencias que deben vigilarlas tienen menos dinero y capacidades que ellas. Pero también es una cuestión cultural, como un mal hábito en el que hemos caído.

Además, vemos ironías como la de Palantir, que acumula cada vez más contratos con los gobiernos y acceso a muchísimos datos sensibles, a pesar de que es una compañía fundada por libertarios que no creen que debiera existir el gobierno. Nunca han escondido su ideología. Pero otro punto muy importante para Europa, expresado recientemente por Bruno Giussani en una TEDx Talk, es que necesitamos asegurarnos de tener soberanía digital, de que no dependamos de compañías que en cierto momento pueden bloquear el acceso a servicios digitales. Esto ya no es hipotético. Acabamos de ver cómo Estados Unidos le ha pedido a Anthropic que limite el acceso a ciertos modelos por parte de extranjeros. Es una oportunidad, porque lo que me gustaría ver es a Europa innovando y creando productos que puedan ayudar a la democracia, y no erosionarla. Que no sean productos hechos a medida para un sistema autoritario.

En su libro, señala que esta tecnología tiene “pecados originales” derivados del capitalismo de la vigilancia, como el entrenamiento con datos personales o contenidos protegidos con derechos de autor sin autorización. ¿Cree que es posible diseñar una inteligencia artificial respetuosa?

Yo creo que sí. Y hay varias razones. Una es que “inteligencia artificial” en realidad no significa nada. Es una etiqueta que le ponemos a tecnología digital avanzada. Pero las tecnologías como el machine learning no tienen por qué aplicarse solo de esa forma. Innovar significa precisamente encontrar maneras de hacer las cosas de manera diferente, de conseguir lo que queremos conseguir sin pagar con la democracia.

Innovar significa encontrar maneras de hacerlo diferente, de conseguir lo que queremos conseguir sin pagar con la democracia

En segundo lugar, hay maneras de hacer grandes modelos de inteligencia artificial más económicos. China, por ejemplo, ya la ha encontrado. Se basan en el modelo de OpenAI, pero por lo menos es ecológicamente mucho mejor. Y por último, aunque sea una manera de pensar muy común, es muy importante de desafiar la creencia de que intentar hacer productos más éticos es como ponerle un freno a la tecnología. Eso no es así. Históricamente se ve clarísimamente que no es así. Cuando intentamos hacer los coches más seguros, a pesar de la reticencia de las compañías automovilísticas, nos llevó a lo contrario, a innovar. En materiales, en aerodinámica, en los airbags, en los cinturones de seguridad.

En realidad, parte de la crítica a la inteligencia artificial actual es que es un mal producto. Es un producto muy poco fiable, que todo el tiempo está confabulando, que usa muchísima energía, que no está claro que esté mejorando la productividad, que está insertando errores en ámbitos tan importantes como la ciencia o la justicia, que se basa en predicciones y, por lo tanto, no está basada en hechos ni diseñada para ceñirse a la verdad. Un muy mal producto, en muchos sentidos.

Es muy importante desafiar la creencia de que si intentamos hacer un producto más ético es como ponerle un freno a la tecnología. Eso no es así. Históricamente se ve clarísimamente que no es así

Usted traza una relación entre los profetas religiosos y los avisos por parte de los magnates de la IA sobre cómo ésta puede representar un peligro existencial para la humanidad. La comparan, por ejemplo, con la bomba atómica. ¿Es una estrategia para disimular que, como afirma, es un “mal producto”?

Una de las características de los profetas es que suelen tratar de asustar a la población, porque mientras más asustados estemos, más vamos a querer que alguien nos diga cuál es el futuro. Es una reacción natural en nosotros. Paradójicamente, al hacer estas predicciones tan oscuras del producto que ellos mismos están desarrollando, consiguen que la gente les conceda mucho más poder. La reacción es 'Ok, sálvame de este futuro tan terrible', sin reflexionar suficiente acerca de que son ellos los que están construyendo este futuro. Lo importante es no permitir que lo hagan, porque el futuro no está escrito.

Algo sobre lo que he estado reflexionando últimamente es que es interesante que este tema de la superinteligencia sea la obsesión de varias... personas notables, notorias, famosas, pero casi todas ellas son hombres. No me parece una coincidencia. Este no es solamente un debate intelectual, también es estético. Estas personas suelen ser hombres blancos que crecieron leyendo cómics de Marvel y que sienten atracción, en un sentido bastante literal de la palabra, por estos relatos apocalípticos. Que, por otra parte, son muy antiguos, ya que vienen de los mitos griegos que luego se han repetido en fábulas una y otra vez. Eso nos vuelve a traer esta observación de que la profecía, como patrón, es algo que ya hemos visto antes. Que no es tan nuevo.

¿Cree que el choque entre el Papa y estas compañías es una derivada de este afán de ocupar espacios religiosos y lanzar discursos apocalípticos?

La interacción entre el Papa y estas compañías es muy interesante. Por una parte, creo que es positivo que haya un contrapeso y... que haya cierta valentía en decir ciertas cosas. Al mismo tiempo, también me preocupa que todos los poderes involucrados no sean especialmente... No sé cómo decirlo. Son poderes que hemos visto antes, que han estado con nosotros durante mucho tiempo y que han cometido errores muy graves. En algunos sentidos, los siguen cometiendo.

La interacción entre el Papa y estas compañías es muy interesante. Por una parte, creo que es positivo que haya un contrapeso

Anthropic, la empresa que está liderando el sector tras superar a OpenAI, es una de las que defiende más abiertamente que la IA es un peligro existencial para la humanidad. Su estrategia es recordar la importancia de desarrollarla de manera segura, como ellos dicen hacer. ¿Qué le parece su papel en todo esto?

Es complicado, porque por supuesto que hay aspectos importantes con los cuales hay que tener mucho cuidado con la inteligencia artificial, que sin duda tienen que ver con la seguridad. A la vez, hemos visto muchas veces en gobiernos y corporaciones cómo se abusa del discurso de la seguridad para conseguir otros propósitos, porque nadie quiere un mundo más inseguro. ¿Hasta qué punto Anthropic está utilizando eso como herramienta marketing para hacer parecer a sus sistemas más poderosos de lo que son? ¿O para, una vez más, frenar la transparencia y la rendición de cuentas? Me parece que es probable que ambas perspectivas tengan algo de cierto, que haya motivos para tener cuidado y que exploten esos motivos para su propio beneficio.

La revolución de la inteligencia artificial es un evento histórico que involucra a grandes potencias, a las mayores corporaciones del mundo, a los gobiernos. Las tendencias que se están generando son estructurales. ¿Ve margen individual para actuar?

Claro que hay margen para la actuación individual. En primer lugar, porque la sociedad está hecha de individuos. Muchas veces, cuando escribo, estoy pensando en el ministro o en el CEO que puedan leerlo. Pero también porque hay partes importantes de la resistencia que no son sofisticadas, ni grandiosas, ni hollywoodenses. Creo que las personas menospreciamos qué tan importante es la cultura. Cuando lees un libro de papel, estás ejerciendo un acto de resistencia. Estás informándote, ejerciendo tu autonomía y haciéndola más fuerte. Estás puliendo tu capacidad de atención en vez de dejando que las redes sociales te la hagan cada vez más corta. No hay notificaciones en un libro. Nadie te está vigilando. Al leer un libro en papel estás teniendo una conversación larga y sofisticada con un autor, de ser humano a ser humano. Eso es parte de ser buen ciudadano y de construir la cultura. Porque los libros son nuestra mejor manera de transmitir experiencias y argumentos complejos. Y los libros necesitan ayuda. Necesitan lectores que no solamente los lean, sino que los recomienden, que hablen de ellos, que creen comunidades de conocimiento. Así que cada vez que hacemos algo tan, tan simple como leer un libro, cuidar el mundo analógico, el mundo natural, la gente que te rodea, tu bar favorito, tu cine... también estamos resistiendo.

Cuando lees un libro de papel, estás ejerciendo un acto de resistencia. Estás informándote, ejerciendo tu autonomía y haciéndola más fuerte. Estás puliendo tu capacidad de atención en vez de dejando que las redes sociales te la hagan cada vez más corta. Eso es parte de ser buen ciudadano