Helen Margetts, politóloga y experta en tecnología: “La nueva generación de IA mejorará todo tipo de procesos democráticos”

Helen Margetts es profesora de Internet y Sociedad del Instituto de Internet de la Universidad de Oxford, que dirigió entre 2011 y 2018. Ahora también es directora de política pública del Instituto Alan Turing, el centro nacional del Reino Unido dedicado a la inteligencia artificial (IA). Estudió Matemáticas y empezó su carrera como programadora de computadoras en Xerox antes de pasarse al estudio de las políticas públicas. Es experta en cómo Internet afecta a la relación entre ciudadanos y gobiernos, y ha escrito libros sobre las redes sociales, los retos para la democracia y la digitalización de los servicios públicos.

En su despacho, en una de las casitas de piedra gris y puerta azul que ocupa el Instituto de Internet, tiene cuadros del Támesis y está rodeada de libros sobre tecnología y democracia, también los suyos, como Political Turbulence: How Social Media Shape Collective Action (“Turbulencia política: cómo las redes sociales moldean la acción colectiva”). Ahora está escribiendo otro sobre cómo la democracia puede funcionar mejor. 

Esta es la transcripción de nuestra conversación, editada por claridad y extensión.

Es optimista sobre la influencia de las redes sociales e Internet en la democracia. ¿Por qué?

No debemos olvidar que las redes sociales han hecho posible “pequeños actos” o “micro-actos” de política, lo que antes simplemente no era posible. La política siempre fue una actividad que parece que sólo puedes hacer en las calles o asistiendo a una reunión larga y aburrida. Era algo bastante costoso en tiempo, dinero u otros recursos. Pero con las redes sociales, por primera vez, fue posible hacer actos políticos realmente pequeños incluso mientras estabas sentado en casa. 

Si te gusta algo, compartes algo o sigues a alguna figura política, estás enviando una pequeña señal a otras personas de que eso, sea lo que sea, es popular. Por décadas de investigación en ciencias sociales, sabemos que esa señal influye en que otras personas piensen que eso es interesante. Es posible que sólo cambie sus actitudes en formas muy pequeñas, pero se va ampliando y puede escalar hasta algo grande. Lo hemos visto una y otra vez. Desde el movimiento #MeToo hasta manifestaciones de millones, desafíos a los regímenes autoritarios o niños en edad escolar que hacen campaña por el control de armas en Estados Unidos. Hemos visto todo lo que puede suceder con la ampliación de esos pequeños actos de democracia. Las redes extienden la escala de participación en el extremo inferior y de alguna manera “democratizan” la democracia, permiten que entre más gente. La política solía ser algo de una élite activista, y hay teorías de ciencias políticas que indican que esa élite tiene visiones más extremas y diferentes de los ciudadanos de a pie. Las redes nos sacan de eso y nos lleva a algo donde cualquiera puede involucrarse en los procesos democráticos. Y ese hecho es interesante y positivo. No quiero perder eso.

Las redes extienden la escala de participación en el extremo inferior y de alguna manera “democratizan” la democracia, permiten que entre más gente

Publicó el libro donde cuenta esto en 2015 y justo al año siguiente ganaron el Brexit y Trump. ¿Esos pequeños actos también ayudaron a ambos eventos? 

No creo que la elección de Trump o el Brexit fueran culpa de las redes sociales. Tendemos a culpar a las redes sociales de todo. Igual que ahora culpamos a la inteligencia artificial.

Debemos tener mucho cuidado con eso, porque en realidad no hay nada nuevo bajo el sol en términos de cuán mal pueden comportarse las personas. En el Brexit, había una campaña muy bien organizada a la que no le importaba usar publicidad engañosa, como los eslóganes en el lateral del autobús y las imágenes de los que vienen de Turquía al Reino Unido. Muy a menudo eran carteles en la calle. No sucedía necesariamente en las redes sociales. Podría haber tenido efectos, pero no tantos como el hecho de que la campaña contra el Brexit estuviera mal organizada. 

¿Y en el caso de Trump?

Algunas personas han usado el escándalo de Cambridge Analytica para culpar a las redes sociales de la victoria de Trump. En realidad, no tenemos evidencia de que el tipo de estrategia de Cambridge Analytica funcionara. No hay evidencia de que eso haya cambiado la opinión de las personas. Estaban usando datos bastante antiguos. Y es muy difícil de observar el efecto de este tipo de campañas dirigidas. Así que en realidad no tenemos ninguna evidencia en una dirección o en otra. Cambridge Analytica era una empresa horrible. Incluso el denunciante de la historia no era una figura del todo positiva, había estado tratando de vender esos datos durante años y acudió a la prensa sólo cuando no pudo venderlos. 

No digo que las redes sociales no estén implicadas en absoluto, pero debemos tener mucho cuidado al decir que las redes sociales fueron la causa de un resultado.

Pero, ¿es más fácil explotar las herramientas del activismo para actores como Rusia, quizás en las campañas de 2016 y 2020, y sobre todo lo que vemos ahora en Ucrania? 

Sí, por supuesto, porque todo está online. Igual que aumentan los pequeños actos buenos de participación también lo hacen los pequeños actos de odio y desinformación. No lo niego, aunque sigo pensando que es importante no exagerar demasiado el efecto. 

El número de personas que realizan pequeños actos de odio es mucho menor que aquellos que participan porque quieren algún tipo de cambio social. Pero tenemos que estar alerta y estoy totalmente a favor de las estrategias para evitar estas cosas.

Es difícil cuando se trata de actores externos como Rusia porque lo que tienden a hacer es, en lugar de empujar el resultado hacia un lado o hacia el otro, apuntar al caos, que era claramente lo que traía Trump y el Brexit. Se trata más de causar interrupciones y caos que de lograr algún cambio estratégico. Aún así tenemos que protegernos. Y eso implica regulación, campañas de sensibilización pública, educación y cambios en nuestro sistema político. 

Al principio, en una democracia hay mucha emoción. La democracia, después de todo, es una idea muy radical. Se basa en la idea de una redistribución del poder radical. Diseñas instituciones democráticas y normalmente permanecen así durante mucho tiempo. No las cambias fácilmente y, en cierto sentido, ese es el punto de las instituciones. Pero el problema con el entorno digital es que cambia con el desarrollo tecnológico. Las instituciones tienen que desarrollar algún tipo de forma de constitucionalizar el cambio para poder hacer frente constantemente a un entorno cambiante de información y de participación. Incluso la disponibilidad de pequeños actos es un cambio en el que tienes que pensar.

Las instituciones no se están ajustando al enorme cambio social y tecnológico de las democracias

Ahora es mucho más fácil formar un grupo. Una de las cosas que condujo al Brexit fue la formación del Partido Brexit. Antes de que se convirtiera en un partido político hacía campaña sin ninguna de las regulaciones que se aplicaban a los partidos políticos. Así que tenía un terreno completamente libre para intentar cambiar la opinión pública sin que se le aplicara ninguna de las normas de los partidos políticos. Y nuestros sistemas políticos no están equipados para ese tipo de cosas. Toda la regulación electoral se aplica a los partidos. Y el problema general es que las instituciones democráticas no se están ajustando al cambio social y tecnológico enorme que hemos visto en las democracias. Tenemos que encontrar formas en que estas instituciones puedan adaptarse al entorno de información en constante cambio. 

¿Qué es lo más urgente que tienen que hacer los gobiernos? 

El advenimiento de las redes sociales, que comenzó a mediados de la década de 2000, fue un gran impacto para los sistemas democráticos. Cambiaron la naturaleza del juego para bien y para mal. Ahora hemos tenido otro impacto en el sistema, que es el advenimiento de los grandes modelos de lenguaje popularizados por chatGPT. Es bastante urgente pensar en eso porque esa es una herramienta que va a ser utilizada por los partidos. 

Tendrá efectos para los ciudadanos. Si eres alguien que acaba de llegar a un país y no hablas muy bien el idioma, será mucho más fácil hacerte un CV, solicitar puestos de trabajo y realizar todo tipo de tareas basadas en texto que habrían sido difíciles en el pasado. O si quieres hacer una página web será muy fácil.

Pero el problema es que estas tecnologías serán aún más útiles para los consultores políticos, los estrategas políticos, los directores de campaña y, por supuesto, los malos actores. Pueden actuar como motores de desinformación. Por supuesto, hay muchas formas de generar información errónea, pero lo que estas tecnologías te permiten hacer es dirigirla a las personas muy fácilmente y parecer realista como si viniera de una especie de ser humano. Estamos muy acostumbrados en nuestro mundo digital actual a ver cosas publicadas por partidos políticos que se dirigen a ti en plan “querida Helen”. Pero ahora el mensaje dirá “querida Helen” e incluirá cosas sobre mí para parecer algo personal. Y eso podría hacerse a escala industrial. 

¿Cómo se puede regular? Parece una tarea enorme.

Si hubiéramos hecho esta entrevista hace un año, me habría dicho eso sobre las redes sociales, que ahora están desarrollando estrategias. Las empresas han mejorado mucho. Pero sus estrategias son anteriores a chatGPT. Por ejemplo, habrá que decir si las imágenes se han producido con modelos de lenguaje. Debemos empezar a hacer cosas en lugar de decir que es el fin del mundo. Tengo que decir que la prensa no ha sido de ayuda aquí en absoluto. ¿Cuántos artículos se han publicado sobre la IA asesina?

Las empresas que han producido grandes modelos lingüísticos están diciendo que quieren regulación. Y esto en sí mismo es bastante preocupante. 

¿Por qué?

Los gobiernos tienen que insistir en que las empresas hagan algo de esto por sí mismas, pero vigilándolas de cerca con regulación sobre cómo lo hacen.

También las empresas de redes sociales tendrán que pensar en estas cosas. Twitter ha tenido un cambio completo de liderazgo y es muy probable que los sistemas de moderación hayan perdido calidad justo en un momento en que necesitaban aumentarla. Facebook elimina alrededor de 500 millones de cuentas cada trimestre. Pero ahora, ¿qué pasa si el mensaje de cada bot es diferente? ¿Serán capaces de detenerlos? Probablemente ahora no. 

Por dar una nota positiva, ¿qué pensábamos cuando empezamos a usar el correo electrónico y recibíamos tanto correo basura? Que era todo inútil porque se estaba produciendo a escala industrial. Las empresas lo hicieron de manera imperfecta, pero hubo estrategias. 

Las instituciones democráticas, particularmente las comisiones electorales y los reguladores de la publicidad, tienen que actuar con sabiduría para el cambio tecnológico continuo en su tarea. 

¿Son una distracción las cartas de desarrolladores que dicen que estamos ante una amenaza existencial? 

Sí, y creo que tenemos que intentar alejarnos un poco de eso. Una posibilidad, y esto es lo que preocupa a algunos desarrolladores, es que los propios modelos de lenguaje caigan en malas manos. Rusia puede generar un gran modelo de lenguaje para generar niveles de desinformación que casi destruyan el entorno de información, por ejemplo para que la gente ni siquiera pueda averiguar dónde tiene que votar. Casi toda nuestra información está online ahora. Si quieres saber dónde está tu colegio electoral o quiénes los candidatos en tu zona lo más probable es que te conectes a Internet. Sería un momento crítico si eso sucediera: si no pudieras participar en unas elecciones, entonces dejarías de estar en una democracia. Tenemos que preocuparnos, pero sobre todo pensar en qué hacer al respecto.

Algunos desarrolladores están impulsando la idea de que la inteligencia artificial se convertirá en humana y destruirá a la humanidad.

Rusia puede generar un gran modelo de lenguaje para generar niveles de desinformación que casi destruyan el entorno de información

¿Y por qué hacen eso? Se supone que saben de lo que hablan.

Esa es una muy buena pregunta. Hay algo un poco mesiánico. Algunos en Silicon Valley se han metido en la idea de crear una especie de inteligencia artificial humana. Para mí, es un concepto hipotético. No sé lo que significa, la verdad. 

Parte del problema es la forma en que pensamos sobre la inteligencia artificial, pensamos que de alguna manera vamos a reemplazar a los humanos con esto. La IA es mucho más interesante cuando pensamos en hacer cosas que los humanos no pueden hacer y que nos gustaría hacer, como reunir grandes fuentes de datos heterogéneas y obtener información de ellas. Podríamos tener una democracia conversacional donde los gobiernos estén constantemente preguntando a los ciudadanos cómo experimentan las cosas y los ciudadanos puedan decir lo que está mal, con algún tipo de back-end con una conversación democrática en estado de mejora continua. 

Sé que esto suena muy utópico. Pero estoy tratando de ilustrar las cosas geniales que la IA puede hacer. Si te centras en la idea de que la IA va a reemplazar a los humanos, llegas a un callejón sin salida.

¿Los gobiernos están entendiendo los desafíos? 

La UE es el verdadero líder aquí en términos de regulación. Introdujo la ley de protección de datos, por ejemplo, que muchos dijeron que no sucedería y ahora es la ley de la UE. Uno de los problemas es que a Estados Unidos le resulta muy difícil regular. 

¿Puede la inteligencia artificial ayudar a la inclusión cuando muchas personas están desconectadas?

Sí, eso espero. Pero las formas en que lo hará probablemente sean bastante indirectas. Estamos trabajando en esto en el Instituto Turing. Mucho de lo que se llama IA es solo ciencia de datos que se puede usar para identificar desigualdades en el camino: desigualdades financieras, digitales o de otro tipo que no sabíamos que existían antes. Y eso hace que sea mucho más fácil hacer algo al respecto. Pero tienes que querer abordar la desigualdad de verdad. Algunas ideologías no están promoviendo la lucha contra la desigualdad. Pero si quieres, estas tecnologías pueden ayudar. 

¿Hay algo relevante a lo que tal vez deberíamos prestar más atención? 

Con Peter John, del King's College, estoy escribiendo un libro titulado Cómo puede funcionar la democracia. El punto clave es ser capaz de constitucionalizar el cambio, de tomar un sistema democrático y adaptarlo a un entorno social y tecnológico cambiante… qué tendría que pasar para que pudiéramos ser un poco más optimistas sobre la democracia. Precisamente porque la democracia es una idea radical, la gente tiende a tener ideas bastante utópicas al respecto.

Una parte del libro trata sobre cómo tener un tipo de democracia suficientemente buena. Es una frase de psicología, es decir, la existencia de ciertas cosas básicas para un desarrollo social y emocional saludable. Tenemos que pensar en eso para la democracia: ¿Qué es una democracia suficientemente buena?

Entonces, ¿tenemos una democracia suficientemente buena? 

No, pero podríamos tenerla. Con la nueva generación de IA, todo tipo de procesos democráticos mejorarán. Y hablaremos de la idea de una especie de democracia conversacional. Pero al mismo tiempo, no debemos perder de vista lo mínimo que se necesita para ser una democracia suficientemente buena. Y tenemos que proteger eso. Hay que ser capaz de innovar, de institucionalizar la innovación, para aprovechar las ventajas, pero al mismo tiempo, poner sujeciones en los cimientos de la democracia y protegerla.

¿Ve algún país que esté haciendo un buen trabajo? 

Hay todo tipo de indicadores de democracia. No es una cosa binaria, no se mide en una sola escala. Es muy difícil decir que un país es más democrático que otro porque hay todo tipo de indicadores, por ejemplo las formas en que se organizan las elecciones o protegen los derechos humanos. Pero podríamos pensar en cuáles son los mejores indicadores de si la democracia está funcionando bien. ¿Cuánto confía la gente en las instituciones? ¿Qué eficacia política tienen? ¿Cuál es su capacidad para marcar la diferencia? 

Un país que ha sido bastante innovador es Irlanda porque utiliza asambleas de ciudadanos. Es precisamente el tipo de cosas que la última generación de tecnologías hará mucho más fáciles y mucho mejores. Así que Irlanda está en un buen lugar para innovar en ese sentido. No hablo en general, sino de esa dimensión en particular, que argumentamos en el libro que es importante.

Se trata de involucrar a más ciudadanos, en definitiva. Una de las formas en que la democracia se atrofia un poco y pierde el rumbo es simplemente enfocándose en las elecciones y no pensando en lo que significa la democracia entre elecciones. Así que mi idea de democracia “suficientemente buena” prestará mucha más atención a las relaciones entre el gobierno y los ciudadanos entre elecciones.

La democracia se atrofia y pierde el rumbo si no se piensa en lo que significa entre elecciones

En Reino Unido por lo menos hay reuniones abiertas de representados con sus diputados, ¿no? 

Yo diría que Gran Bretaña tiene un sistema electoral terrible, lo que genera mucho debate democrático. No es un sistema proporcional. Ahora hay una mayoría en este país a favor de la proporcionalidad.

Pero luego necesitarán coaliciones para gobernar, como en España…

¿Cómo diría usted que va lo de gobernar por aquí en comparación con España?

-----------------------------------------

También queremos que pienses en esto 

elDiario.es se financia con las cuotas de 60.000 socios y socias que nos apoyan. Gracias a ellos, podemos escribir artículos como este y que todos los lectores –también quienes no pueden pagar– accedan a nuestra información. Pero te pedimos que pienses por un momento en nuestra situación. A diferencia de otros medios, nosotros no cerramos nuestro periodismo. Y eso hace que nos cueste mucho más que a otros medios convencer a los lectores de la necesidad de pagar. 

Si te informas por elDiario.es y crees que nuestro periodismo es importante, y que merece la pena que exista y llegue al mayor número posible de personas, apóyanos. Porque nuestro trabajo es necesario, y porque elDiario.es lo necesita. Hazte socio, hazte socia, de elDiario.es.