Cómo aprendimos a dejar de preocuparnos y amar la IA

“Preferimos seguir confiando en el criterio humano”. Yo también. Quisiera recapitular una de las polémicas literarias de estas últimas semanas: la novela Donde el agua trabaja, del peruano David Silva Rojas, galardonada con un premio de la editorial Almadía y la Sociedad Ventosa Arrufat, con Cristina Rivera Garza, Selva Almada y Mónica Ojeda como jurado, levantó la sospecha de haber sido escrita parcialmente con inteligencia artificial, sobre todo tras un reportaje publicado en El País, firmado por Jordi Pérez Colomé y Kiko Llaneras, según el cual el detector de IA Pangram atribuía una redacción maquínica al 99% del texto. 

La editorial anunció una investigación interna. En su último comunicado, “comunicado final”, renovaba su confianza en el autor, mantenía el fallo y denunciaba dinámicas persecutorias. Invocaba a unos “tecnólogos, abogados y peritos lingüísticos” sin nombre y unos “materiales aportados por el autor” que no enseñaba, pero no contaba cuál había sido la metodología de la investigación ni quién la había auditado. A la duda sobre el criterio humano del jurado se respondía con el criterio humano del jurado: en retórica, es una petitio principii, forma de razonamiento circular. Tampoco negaba en ninguna frase el uso de la inteligencia artificial, por más que las bases prohibieran cualquier uso, extenso, parcial, mayor o menor.

Con este tema he pasado de la rabia a la pena a la tristeza al enfado, fundamentalmente por la conclusión que de él extraigo: en el mundo literario se prefiere no saber, o al menos no saber en público y plantear otra cosa en privado, pues se aspira a prohibir el uso de la IA al tiempo que se rechaza cualquier intento de demostrar si un texto está redactado con IA o no. Seguimos, en realidad, sin saber cómo se escribió el libro de David Silva Rojas, más allá de la palabra del autor y de su editorial. Confiar en la palabra de un autor, como confiar en la palabra de cualquier persona, me parece un criterio tan válido como criticable. Yo sigo pensando que la novela se escribió con inteligencia artificial, en vulneración de las bases del premio, pero me encantaría que algo me lo desmintiera.

Pangram puede fallar de dos maneras: con un falso positivo, tomando por máquina un texto humano, o con un falso negativo, tomando por humano un texto generado. Sucede mucho más lo segundo, porque el detector está calibrado para ser cauteloso y presuponer humanidad; así lo exhiben estudios como el de Brian Jabarian y Alex Imas en la Universidad de Chicago, donde el detector dijo que eran humanos entre un 2% y un 4% de los textos generados con IA y no acusó en falso a prácticamente ninguno. 

No es nada fácil que un texto humano dé un 99% en Pangram. Lo fácil es lo contrario y basta con cambiar muy poco de lo que entrega la máquina tras el prompt. Por probar con ficción literaria en español, he pasado por Pangram una columna de Cristina Rivera Garza en La Jornada, así como los fragmentos públicamente disponibles de las novelas de las otras dos juradas, los manuscritos de mis libros Reina, Después de lo trans y Melancolía, o mis últimas tres columnas en este periódico. Todo dio un 100% humano, según Pangram. Extraño, si realmente fuera escritura humana, que la biografía de David Silva Rojas, en su propia página web, arroje porcentajes positivos de IA, como lo hacen también sus publicaciones en redes sociales, el propio comunicado con el que él salió a desmentir la acusación de uso de IA, o un paper universitario que lleva su firma y que está colgado en esa misma página web. Las capturas de supuestos falsos positivos que circulan sin cesar vienen de TextGuard, otra herramienta, que la agencia AFP ha señalado como fraudulenta, pues marca como IA textos humanos y después cobra por “humanizarlos”. Nada de esto vuelve a los detectores infalibles; sí implica que, si David Silva Rojas no ha utilizado IA, estaríamos ante un caso verdaderamente excepcional y muy difícil de replicar.

¿Cómo puede alguien ser capaz de apreciar el estilo, prosodia, elementos sintácticos y léxicos de la IA dentro de un texto? En el mundo de los humanos o de la confianza humana, la mejor vara de medir es la de quienes usan con frecuencia modelos de inteligencia artificial: según los estudios, quienes no los usan distinguen entre un texto de la IA y un texto humano en el 50% de los casos, como quien tira una moneda; quienes los usan se equivocan raramente. Si a mí, como lectora, me chirriaba el texto de Donde el agua trabaja, igual que me chirrían muchísimos pies de foto en publicaciones de Instagram hasta de gente que sigo, o algunos artículos que leo en línea, es porque soy usuaria de la IA, porque la uso para burocracia, para montar scripts que ordenen documentos, para revisar, pelotear ideas o buscar información. Donde jamás la usaría sería para sustituirme; o, en el peor de los casos, para mentir.

Me aterra, porque otros estudios dicen que ya está pasando, que el lenguaje de la IA se infiltre tanto en los textos, imágenes y vídeos que consumimos de forma cotidiana que empiece yo, sin darme cuenta, a hablar también como la IA. Me aterran todas las imágenes y vídeos cada vez más indistinguibles que pululan en las redes. Comprendo perfectamente que el jurado no detectara ningún uso de la IA al leer el libro: quien no la utiliza simplemente no lo ve, en la mayoría de los casos, y no se inquieta ante el sonido de las uñas en la pizarra que oímos quienes sí. Nadie tiene la obligación de buscar ese sonido.

Sabemos que en los grandes grupos editoriales existen premios dados de antemano, que sirven como instrumento de negociación, para robarse autores entre sí o aumentar la cuantía de los adelantos. Son las reglas del juego y aceptamos las sombras que se proyectan en la pared. De las editoriales independientes y sus premios, en cambio, presuponemos otra cosa, otro tipo de promesa, promesa sostenida con los otros 2.200 participantes; de ahí parte de la tristeza que en mí engendra esta situación. He leído de todo en las reacciones de esta semana. 

Es muy difícil confrontar la narrativa que enfrentaría a la gran prensa española contra una editorial independiente mexicana, un clásico David contra Goliat por intereses espurios desconocidos, una pelea entre el Norte y el Sur global; he leído especulaciones que dicen que yo me presenté al premio, no lo gané, me enfadé mucho y entonces monté la investigación; como es obvio, no me he presentado a nada. En el juego de la política de la identidad, yo podría hacerme la ofendida ante cada crítica y categorizarla de misoginia o transfobia, y no lo hago porque, si lo hiciera, no quedaría nada que discutir, ¡y encima arruinaríamos el poco espacio de discusión pública que nos queda, convirtiéndolo siempre en conversaciones sobre los quiénes, arruinando toda posibilidad de discutir los qués, o el cómo! Por fortuna, el mejor texto que he leído sobre todo este asunto lo ha escrito una periodista peruana, Brunella, cuya familia es de Ayacucho e Ica, escenarios de la novela, que además critica los recursos del libro y señala “el prejuicio condescendiente de las bajas expectativas, racismo benevolente”. Dice: “Se supone que el rol de los intelectuales es arrojar luz sobre estas encrucijadas, ‘comprender su importancia moral y política para el presente con singular originalidad y fuerza’. Y, sin embargo, confrontados con un fenómeno genuinamente nuevo, nuestros intelectuales han elegido cerrar los ojos. Han elegido, felices, la ignorancia”.

El libro me parece un síntoma. Repite los tics de la IA que recogen los manuales y que conoce cualquiera que se enfrente a ella; estructuras como “No cura. Sostiene.”, “No alivia. Ordena.” se repiten más de treinta veces. No soporto que la simpleza sea lo que se espera de un escritor de extracción social proletaria o que escribe sobre los pobres, porque yo también provengo de esa extracción social. Aunque la novela no hubiera sido escrita con IA, me preocuparía que esa literatura fuera la que premiamos. Dice el comunicado que, en 1984, Syme, filólogo, advierte de que “cada año habrá menos palabras”, y lo esgrime contra el miedo a que se modifique la escritura por temor a los detectores; lo más parecido a que haya menos palabras me parece una novela donde “cuerpo” aparece 86 veces, como recuerda la propia Brunella, más de cincuenta de ellas seguido de un verbo como “espera”, “aprende”, “pide” o “sabe”, o donde se repite la estructura de “No es duda. Es cálculo.” en “No es idea. Es cálculo.” con apenas unas pocas páginas de separación.

Estos casos solo se van a multiplicar. Un amigo me contaba esta semana que en la organización de un premio ya han tenido varios textos que sospechaban redactados con IA. Otro, que estuvo hace poco en un jurado, sospechó de IA en algunos candidatos; el resto del jurado no le creyó y tuvo que recurrir a Pangram para ofrecer algo más que su impresión subjetiva. Pero el mundo literario parece estar escogiendo el negacionismo: opta por sabotear las herramientas que podrían ayudarnos a detectar la IA antes de que hayamos aprendido o consensuado cómo usarlas. Yo no soy quién para dictar el camino que sigue ni la postura que hemos de tomar; sí puedo señalar que hay una incoherencia enorme entre prohibir totalmente el uso de la IA en unas bases de concurso y llamar “vigilancia permanente” a que cualquiera se tome esa prohibición en serio. El precedente es peligroso, pues transmite a la siguiente editorial que el silencio sale más barato y que lo mejor ante la redacción con IA es meter la cabeza bajo tierra, como los avestruces. 

Estamos eligiendo no saber. Estamos aprendiendo a dejar de preocuparnos y amar la IA. Dicen las bases del premio: “Ante cualquier indicio o sospecha de incumplimiento de esta disposición, la obra será descalificada, independientemente de la fase del proceso en la que se encuentre”. El mundo que viene es este y con él tendremos que decidir qué es lo que hacemos. Qué triste cuando un premio va en contra de sus propias bases: ante cualquier indicio o sospecha de incumplimiento, los indicios y sospechas serán negados.