El Papa advierte sobre el riesgo de “control social” con la IA: “Puede condicionar los procesos democráticos”

“No existe ningún algoritmo que pueda hacer que la guerra sea moralmente aceptable”. Rotundo, el papa León XIV hace un llamamiento a acabar con la lógica de la “guerra inevitable”, y condena expresamente a aquellos líderes que, como Donald Trump en Irán (o Netanyahu en Gaza), abogan por la “cultura del más fuerte”. “Cualquier intento o proyecto de eliminar o someter a una nación es gravemente inmoral y, por lo tanto, inaceptable”, señala el Papa en ‘Magnifica Humanitas’, su primera encíclica, que él mismo presenta este mediodía y que ya puede leerse.

En el texto, de 110 páginas, el Papa ofrece una denuncia de los males (y los retos) de la IA, propone un nuevo paradigma social, basado en el diálogo y en la extrema dignidad de toda persona humana frente al “control social” y las “nuevas esclavitudes” del algoritmo y los poderosos, ante los que “no se puede mantener neutrales”, con cinco claves: “Desarmar las palabras, construir la paz en la justicia, asumir la mirada de las víctimas, cultivas un sano realismo y relanzar el diálogo y el multilateralismo”.

“El anuncio del Evangelio no puede olvidar la vida concreta de los pueblos”, sostiene el pontífice quien tarda apenas cuatro párrafos en señalar cómo “la digitalización, la inteligencia artificial y la robótica están transformando nuestro mundo”. Tras defender el derecho a la propiedad universal de los bienes, el Papa avanza la crítica a las “nuevas formas de propiedad: patentes, algoritmos, plataformas digitales, infraestructuras tecnológicas, datos”, que pueden crear “un nuevo desequilibrio (que) alimenta la brecha entre incluidos y excluidos, entre quienes pueden participar en la revolución digital y quienes quedan al margen”.

Sobre la migración, León XIV reclama “salvaguardar el derecho a la esperanza de quienes se ven obligados a partir, garantizando vías seguras y legales, condiciones de acogida digna y vías reales de integración” y, al mismo tiempo, “promover también el derecho a permanecer en la propia tierra en paz y seguridad, abordando las causas profundas que obligan a migrar”, apostando por un desarrollo humano integral que reconozca “los derechos sociales y de los pueblos”.

Y hacerlo desde “un estilo sinodal” en la toma de decisiones, también en la Iglesia, donde el Papa aboga por asumir “la participación de los bautizados en los procesos decisorios y la corresponsabilidad en la misión pasan por organismos de participación reales, no nominales”, y por emprender “un camino de justicia” con “las víctimas de abusos espirituales, económicos, institucionales, sexuales, de poder y de conciencia”, basado en “el reconocimiento del daño, la justa reparación y la prevención”.

La IA genera “nuevas dependencias, exclusiones y desigualdades”

En el tercer capítulo, el Papa entra de lleno en los riesgos y oportunidades de la Inteligencia Artificial. Así, advierte del riesgo de que “un poder de tal envergadura se concentra en unas pocas manos, tiende a volverse opaco y a escapar al control público, y crece el riesgo de un desarrollo distorsionado que genera nuevas dependencias, exclusiones, manipulaciones y desigualdades”.

Sin querer juzgar a la IA, “cualquier afirmación corre el riesgo de quedar obsoleta en poco tiempo”, el Papa sí invita a “evitar el equívoco” de equipararla a la inteligencia humana, pues la IA “no tiene conciencia moral” ni “comprende lo que produce”. “La IA puede ser una ayuda valiosa y, al mismo tiempo, requiere un enfoque sobrio y vigilante” para que no “generar nuevas formas de exclusión”.

“No podemos considerar que la IA sea moralmente neutra”, constata León, quien invita a la transparencia, y a la prudencia, para “debatir el código ético que se va a utilizar”. “No sirve de nada una IA más moral, si esa moral la deciden unos pocos”, afirma, advirtiendo de que “pequeños grupos muy influentes pueden orientar la información y el consumo, condicionar los procesos democráticos e influir en las dinámicas económicas en su propio beneficio, contradiciendo la justicia social y la solidaridad de entre los pueblos”.

Cuidar lo humano es el leit motiv del cuarto capítulo, en el que Prevost aborda cuestiones como la verdad y la democracia, denunciando cómo la tecnología puede usarse “para construir narrativas sesgadas y difuminar los límites entre lo verdadero y lo falso”. “La desinformación no surge con la IA, pero hoy encuentra en ella un potente multiplicador”, glosa León XIV, quien echa mano de Hannah Arendt para advertir que “el desinterés por la verdad lleva, lenta pero inexorablemente, a deslizarse hacia el totalitarismo”.

Una verdad que debe ser comunicada, aunque duela. También, de nuevo, poniendo como ejemplo a la Iglesia. “Hemos asistido con vergüenza al laborioso descubrimiento de verdades dolorosas, incluso sobre miembros de la Iglesia y sobre realidades eclesiales. En particular, algunos periodistas apasionados por la verdad han desempeñado un papel fundamental a la hora de sacar a la luz injusticias y abusos”, explica Prevost.

En el ámbito educativo, el Papa propone “ayunar de la IA” para “proteger a nuestros jóvenes de la promesa de la máquina perfecta”, y pide “una alianza” entre la política, las instituciones educativas y las familias, además de las “fuertes desigualdades en el acceso a la educación” que aún persisten en el planeta.

“En nombre de la Iglesia, pido sinceramente perdón”

Uno de los principales ejes de su encíclica es el valor del trabajo y su dignidad en tiempos de la IA, abogando por la dignidad del trabajo y alertando contra el desempleo que trae la excesiva automatización. “En la era de la IA ya no es posible confiar únicamente en la ‘mano invisible’ del mercado”, sino que “es necesaria una cooperación internacional capaz de definir estrategias comunes”. ¿Cuáles? Prevost define tres: transparencia y responsabilidad, inclusión y acceso, y medidas de equidad. Un camino en el que se deriva “una responsabilidad pública específica”, especialmente en el caso de los estados, que eviten “las dependencias y el control social”.

En este punto, el Papa aboga por “romper las cadenas de las nuevas esclavitudes” en la que se encuentran “millones de seres humanos” en su mayor parte jóvenes y mujeres que “trabajan duramente a cambio de remuneraciones mínimas”. Así, añade, “la Iglesia renueva su firme condena de toda forma de esclavitud” y recuerda que “no reaccionar con firmeza o tolerar estas prácticas significa, en cierta medida, hacerse cómplice hoy de las culpas cometidas ayer, cuando la esclavitud se justificaba o se silenciaba”.

De nuevo, en este punto, Prevost entona el mea culpa. “Es inevitable sentir un profundo dolor al considerar el enorme sufrimiento y la humillación que la esclavitud ha significado para tantas personas (…). Por eso, en nombre de la Iglesia, pido sinceramente perdón”. Una esclavitud que, a veces, toma el rostro del colonialismo, “que no solo domina los cuerpos, sino que se apropia de los datos”. Y, de nuevo, una advertencia: “Si la técnica se convierte en criterio absoluto, la persona corre el riesgo de ser tratada como un dato, un engranaje o una mercancía”.

En el quinto capítulo de la encíclica, ‘La cultura del poder y la civilización del amor’, Prevost entre de lleno en las “graves repercusiones” que un mal uso de la tecnología puede tener en la guerra, transformada por formas híbridas, como “los ataques cibernéticos, la manipulación de la información, campañas de influencia o automatización de decisiones estratégicas”, además de la potenciación de la propia industria de la guerra.

La normalización de la guerra

Hoy, reconoce el Papa, asistimos a “la expansión de una cultura del poder, hecha de polarizaciones y violencias”. “Se está consolidando una cultura del poder, en la que la disponibilidad de medios y la capacidad de dominar tienden a dictar la agenda y los criterios de decisión, relegando el bien común de la humanidad a un segundo plano y reduciendo el drama concreto de los pueblos en guerra a una variable secundaria respecto a los intereses estratégicos”, subraya Prevost, quien lamenta “la normalización de la guerra”.

“Hoy asistimos a un verdadero cambio de paradigma en el discurso público y en las decisiones de rearme, con una preocupante rehabilitación de la guerra como instrumento de política internacional, mientras se erosionan precisamente aquellos criterios éticos que habían limitado su uso”, añade el pontífice, quien alerta de “una preocupante pérdida de memoria histórica”, en “un clima en el que las noticias falsas y las manipulaciones narrativas empañan las lecciones aprendidas”. “Sin una memoria viva de los horrores de la guerra –apunta Prevost– las decisiones políticas corren el riesgo de tomarse basándose en cálculos de fuerza, carentes de una visión de las consecuencias a largo plazo”.

Es en dicho clima donde “la humanidad está cayendo en una cultura violenta del poder, donde la paz ya no aparece como una tarea que asumir, sino como un intervalo precario entre conflictos”. De ahí la condena a la “guerra justa”, “invocada con demasiada frecuencia para justificar cualquier guerra”, con “consecuencias desastrosas para las poblaciones civiles”.

A ello se suma el crecimiento de la industria bélica. “No podemos ignorar los enormes intereses económicos que se esconden tras la guerra”, apunta el pontífice, quien señala la “disuasión nuclear” y la “difícilmente controlable carrera armamentística”, en una carrera sin fin. “Es mucho más sencillo iniciar una guerra que detenerla y, sin embargo, la reflexión sobre la prevención de conflictos sigue siendo dramáticamente marginal”.

“No existe ningún algoritmo que pueda hacer que la guerra sea moralmente aceptable”, replica León XIV, quien admite del riesgo de que nos acostumbremos “a la idea de que la violencia es inevitable y solo debe optimizarse”.

Toda la información en www.religiondigital.org