El mito del Sistema de Crédito Social: por qué los chinos aplauden el avance de la IA que Occidente teme

En 2012, una adolescente de Minnesota empezó a recibir cupones de descuento para ropa de bebé y cunas. Su padre, furioso, acusó al supermercado Target, que se los estaba enviando, de incitar a su hija a quedarse embarazada. Al final tuvo que disculparse: la chica estaba embarazada. A pesar de que ella no se lo había contado a nadie, Target lo sabía. ¿Cómo? Un algoritmo había detectado cambios en sus compras de cremas hidratantes y suplementos vitamínicos, un patrón que suele verse en mujeres que se han quedado embarazadas.

La inteligencia artificial generativa no nace del vacío. Es la descendiente del modelo anterior, uno que ha convertido la vida, el comportamiento humano y el entorno en una mina de datos, explotada por un enorme sistema industrial que se lucra comerciando con esa información sin apenas límites legales. A nivel estructural, la IA no supone una ruptura con esas lógicas. Al contrario, representa una evolución, gracias a nuevas técnicas de análisis como las redes neuronales y el músculo computacional de los centros de datos hiperescalares.

Poco importa que los fines políticos y los marcos regulatorios de cada país difieran; la IA se ha desarrollado en esta dirección incluso en sistemas opuestos. Tanto en las democracias liberales como en la autocracia china, el avance de esta tecnología ha traído consigo una mayor capacidad de observación y predicción del comportamiento del individuo y de la sociedad. Más que un plan maligno, es una consecuencia técnica: la IA mejora cuanto mayor es su acceso a los datos, por lo que existen incentivos económicos y políticos para derribar las barreras de privacidad que le puedan cortar el paso.

En comparación el capitalismo de la vigilancia de Occidente, ¿en qué consiste el «Sistema de Crédito Social» chino?

La arquitectura de control en Occidente es soterrada: se defiende la libertad individual, pero se pone a prueba cientos de veces al día con constantes notificaciones e impactos publicitarios afilados con precisión neurocientífica. En China, en cambio, la fusión militar-civil hace que la vigilancia sea explícita. Los ciudadanos saben que todo lo que escriban en conversaciones «privadas» de WeChat, lo que busquen en Baidu o lo que compren en AliPay puede llegar al Partido Comunista. La misma tecnología que más allá del «Gran Cortafuegos» chino se usa para personalizar anuncios por miles de empresas, en China se usa de manera centralizada para asegurar la «armonía social», como lo denomina el régimen.

A diferencia de las democracias liberales occidentales, el sistema político chino ha priorizado históricamente la gestión preventiva del conflicto frente a su resolución pública y la confrontación abierta: neutralizar la semilla de la disidencia antes siquiera de que brote. En el gigante asiático, la capacidad de control y predicción que ofrece la inteligencia artificial pasa de ser un producto comercial a una herramienta de gobernanza. El reconocimiento facial, el seguimiento de la movilidad, la censura automática y el análisis del comportamiento colectivo son facultades de la administración social, no castigos coercitivos.

Con todo, conviene huir de la caricatura. El famoso «Sistema de Crédito Social» chino no es, según el consenso académico más reciente, el ojo orwelliano y centralizado que a menudo se describe fuera de sus fronteras. Se parece más a un conjunto de listas negras burocráticas sin conexión real entre sí. La acumulación de impagos, por ejemplo, puede provocar una prohibición para la compra de billetes de avión o trenes de alta velocidad, artículos de lujo o acceso a otros préstamos. En algunos lugares, el castigo alcanza la imagen pública, exponiendo la cara y el nombre del infractor en pantallas por las calles.

Este sistema nació antes de la inteligencia artificial y, aunque se ha visto potenciado por ella, no tiene una base de datos única en todo el país ni cruza datos entre diferentes agencias estatales. De nuevo, es necesario contextualizarlo como parte de una cultura que penaliza la desviación individual de manera mucho más severa que la occidental, más allá de la tecnología de control que utiliza.

Este es el motivo por el que la inteligencia artificial no es vista por la gran mayoría de los ciudadanos chinos como una red opresiva, sino como el precio de la estabilidad, la eficiencia y la «armonía social» en un país de 1.414 millones de habitantes. Así lo recogen informes como el Artificial Intelligence Index Report elaborado por la Universidad de Stanford, basado en las encuestas internacionales de Ipsos, que señalan que el 85 por ciento de los chinos afirma que esta tecnología tiene «más ventajas que desventajas». Es la cifra más alta del mundo, casi 50 puntos por encima de los estadounidenses y más de 30 respecto a los españoles.

Si bien es cierto que, en la China actual, mostrarse contrario a la IA puede interpretarse como una forma de disidencia al contradecir la estrategia nacional del Partido Comunista, también lo es que esta ya forma parte intrínseca de la legitimidad política del régimen. Su aceptación también refleja los beneficios que percibe la población china: seguridad, sociedad controlada, eficiencia en servicios públicos digitales o una infraestructura de pagos móviles que funciona mejor que en Occidente. Una arquitectura única y eficiente, pero incompatible con los estándares internacionales de derechos humanos.

¿Qué pasa cuando le preguntas a una IA china sobre Tiananmén?

China obliga por ley a que toda IA desarrollada en su territorio «defienda los valores socialistas centrales». En la práctica, esto implica que DeepSeek, Ernie, Qwen y cualquier chatbot chino no pueda responder sobre Tiananmén, el Tíbet o Hong Kong. Ellos intentan hacerlo y el usuario ve cómo empiezan a escribir, pero antes de que puedan completar la respuesta, una IA censora entra en acción y los bloquea, invitando al usuario a que pregunte otra cosa. Las tácticas del siglo xviii pueden sobrevivir en la era algorítmica.

El Partido Comunista tiene otras bazas a su favor. Durante años ha inundado las redes occidentales de propaganda estatal, dirigida a influir sobre los chinos en el extranjero. Esa masiva campaña de desinformación ha contaminado la base de datos de entrenamiento de los modelos que usamos en Europa y América. Según una investigación del American Security Project, es muy habitual que ChatGPT, Gemini (de Google) y especialmente Copilot (de Microsoft) reproduzcan propaganda del Partido cuando se les hacen preguntas en chino. Mientras que en inglés estos sistemas suelen ofrecer respuestas que se alinean con las de los organismos internacionales, en chino pivotan para alinearse con la narrativa de Pekín, afirmando que hay sospechas de que el COVID-19 pudo surgir en EE. UU. u omitir la masacre de Tiananmén o la represión de Hong Kong en sus repasos históricos.

***

Inteligencia Artificial. Cartografía de una revolución (editorial Península) se presenta este jueves 18 de junio a las 18.30 horas en la librería Marcial Pons (Plaza del Conde de Súchil 8, Madrid). Está compuesto de 50 preguntas y respuestas, acompañadas de mapas, infografías, biografías de los principales protagonistas y documentos clave sobre cómo esta tecnología está sacudiendo los cimientos políticos, económicos y militares de nuestras sociedades.