Detectar un libro escrito con IA, el desafío que los expertos consideran “imposible” con la tecnología
El uso de la IA en la literatura está cada vez más en el punto de mira, con la duda ya sembrada en todas las partes implicadas: autores, editores, traductores, distribuidores y lectores. La semana pasada saltaron las alarmas en España, después de que El País publicara que Donde el agua trabaja, la novela de David Silva Rojas ganadora del premio Almadía Ventosa-Arrufat, había sido escrita al 99% con IA, según el detector Pangram.
El sello editorial informó de que iba a llevar a cabo una “revisión detallada” del libro, además de suspender todas las actividades relacionadas con su presentación en España. El autor negó en sus redes haber usado herramientas de IA para crear, redactar y revisar su texto; y señaló que su “prioridad” iba a ser colaborar con la editorial para demostrarlo.
Existía un referente. A finales de septiembre, el jurado del premio Goncourt, el más prestigioso de las letras en francés, excluyó la obra C'était ça ou mourir (Era eso o morir) de Thélyson Orélien, alegando que había sido “muy probablemente” generada con IA.
En mitad de todo el debate, precisamente en Francia, ha nacido un galardón literario, el Premio Pascal, para obras coescritas con IA, en el que los candidatos deberán presentar un manuscrito y un dosier técnico explicando cómo han la han usado. Se desconoce todavía quién compondrá el jurado, pero sí que será humano.
El Premio Pascal nace a la contra de la norma que imperaba hasta ahora, en bases como las del Premio Planeta en España, donde piden una “manifestación expresa” de que la creación de la obra presentada “no es resultado de la utilización de sistemas, herramientas o técnicas derivadas o vinculadas con la IA”. Lo mismo repiten otras editoriales como Libros del Asteroide para su Premio de No Ficción o el Grupo SM con su Premio de Literatura Infantil Gran Angular.
Ahora bien, ¿de qué manera pueden las editoriales protegerse del posible engaño por parte de los autores?
Una misión “imposible” a día de hoy
“A día de hoy, no hay ningún detector que tenga una fiabilidad del 100% para detectar que un libro ha sido creado por IA. Es imposible”, asegura Sheila Queralt, lingüista forense y profesora de la Universitat de Lleida a elDiario.es, “todavía hay un vacío que no se puede probar desde el punto de vista científico”.
La experta critica en primer lugar las acusaciones vertidas sobre Donde el agua trabaja de David Silva Rojas, por considerar que las comprobaciones no han sido suficientes. “Se han lanzado únicamente en base a un detector. Jamás podremos decir una cosa así usando uno solo y sin sumar un análisis cualitativo de un experto y lingüista, ni su testimonio”.
En lo que se refiere a la posible detección del uso de IA, la forense lingüista considera que “con las herramientas que existen a día de hoy, no se puede generar un libro desde cero. Tiene que haber un prompt, con la idea que un autor va revisando”.
La experta comparte que los programas que se usan para detectar el uso de IA no funcionan igual dependiendo del género de los textos, ya sean científicos, formales, literarios, judiciales, etc. “Algunos están entrenados en inglés, y solo con ciertos tipos de texto. También hay que pensar que lo que les hace entender que ha sido escrito por un ser humano es que tenga errores. Y lo normal cuando tú entregas un texto académico es que no los tenga, porque ya los hayas corregido”.
En el debate sobre el uso de la IA, la experta insiste en que no podemos referirnos a ella como una “única entidad”, ya que el modelo de lenguaje detrás de cada IA tiene sus propias características: “No podemos agrupar y decir: la IA escribe así. Hay tendencias generales, pero cada una usa su modelo. Tiene una serie de preferencias, un tipo de vocabulario de repetición y de formulaciones. Es más abstracto o más concreto, pero también dependerá del prompt que hagas”. Un conjunto de derivadas que complican el uso, y también su control.
Compromiso y ética con el autor
A falta de una herramienta infalible que ayude a las editoriales a evitar que pasen como humanos textos que no lo son, el vínculo y lealtad entre editores y escritores se mantendría como la vía para seguir trabajando. “Publicar un libro supone una relación de confianza entre quien escribe, quien edita y quien lee”, explicó Almadía en su comunicado. En él detalló los términos que acordaron con David Silva Rojas: “Además de firmar y declarar en el contrato que no utilizó herramientas de IA, el autor también nos lo aseguró en persona y no tenemos elementos para desconfiar de su palabra”. Este periódico se ha puesto en contacto con el sello editorial, que ha preferido no dar ninguna declaración más allá de su comunicado.
La experta en lingüística Sheila Queralt apuesta también por el papel fundamental del “compromiso ético” de todas las partes. Fuentes del grupo editorial Penguin Random House señalan a elDiario.es que este es precisamente el punto de partida de su confianza en los autores y las obras que deciden publicar. “Nuestro principio es que la voz del autor, el criterio humano y la conversación entre el autor y editor deben permanecer en el centro del proceso editorial”, explican a este periódico asegurando que las decisiones editoriales no las delegan a herramientas con detección de IA, salvo en “una situación concreta que genere dudas, pero siempre como apoyo y nunca en sustitución del criterio editorial”.
“Nuestra labor editorial se basa en la lectura, la experiencia y el criterio de nuestros editores, y las decisiones sobre qué obras publicar siempre corresponden a personas”, argumentan.
Fuentes del Grupo Planeta comparten con este periódico que actúan de forma similar, empezando por la cláusula que incluyen en los contratos firmados por los autores, en los que declaran directamente que su manuscrito no ha sido creado por IA, al igual que en las bases de sus premios literarios. Sí que indican que están desarrollando software para detectar hasta qué punto la IA puede haber intervenido en la creación de las obras. “Estos programas, que hoy por hoy no son infalibles, los estamos aplicando a los manuscritos de manera progresiva en la medida que las últimas versiones de estos programas están cada vez más perfeccionadas”, añaden.
Los avances en el desarrollo de IA que permitan tanto escribir como detectar si se ha hecho uso de ella para hacerlo, son continuos, también desde el punto de la lingüística forense, pero apunta que no se dan con la misma velocidad ni probabilidad de éxito. La experta considera que la IA “sí podrá llegar a escribir libros completos con mucha coherencia y en algunos casos con una calidad difícil de distinguir de la humana”; pero que en el caso de los detectores, “es bastante más complicado. Podrán mejorar y aportar indicios, pero no necesariamente demostrar por sí solas quién o qué escribió un texto. Veremos escritos por IA cada vez más convincentes, pero no una herramienta universal e infalible que resuelva la autoría”.
El mundo editorial se enfrenta, por lo tanto, a un escenario en el que no existen respuestas definitivas. Mientras los modelos de IA avanzan en su capacidad para generar textos cada vez más difíciles de distinguir de los formulados por humanos, las herramientas destinadas a identificarlos siguen sin ofrecer garantías suficientes. A la espera de una tecnología infalible, si es que algún día llega, los sellos solo pueden confiar en sus autores, las cláusulas que firman y el criterio de sus equipos. Todo ello en un contexto en el que, de momento, detectar el engaño parece más difícil que cometerlo.