¿De quién es la huella que lleva esta frase?

La impresora no decía quién eras. Solo dejaba unas cuantas pistas. A veces basta.

En 2005, la Electronic Frontier Foundation (EFF) descubrió algo extraño en algunas impresoras láser en color. Cada página llevaba una trama de diminutos puntos amarillos, invisibles a simple vista. En los modelos DocuColor de Xerox, la EFF consiguió descifrar el patrón: contenía el número de serie de la impresora, la fecha y la hora en que se había impreso la página. Quien sostenía la hoja veía un texto, una fotografía o una factura. La máquina había añadido algo más.

La historia tuvo una segunda vida doce años después. En 2017, Reality Winner, empleada de una contratista de la Agencia de Seguridad Nacional estadounidense (NSA), imprimió un informe clasificado que terminó en la redacción de The Intercept. Publicado el documento escaneado, un investigador de seguridad abrió el PDF, amplió un trozo de margen en blanco, invirtió los colores y leyó la trama con la herramienta de la EFF: impresora con número de serie 29535218, 9 de mayo de 2017, 18:20. La fecha coincidía con la del sumario. Es importante precisar: nadie ha demostrado que fueran los puntos los que llevaron al FBI hasta Winner; la agencia tenía otras pistas. De las seis personas que imprimieron el informe, solo ella había escrito a The Intercept desde el trabajo. Pero el episodio demostró en público que una hoja aparentemente anónima transporta datos forenses invisibles capaces de estrechar el círculo. Winner se declaró culpable y fue condenada a cinco años y tres meses de prisión.

Eso es lo interesante de aquella historia. Los puntos no decían «Reality Winner». Decían máquina, fecha, hora. La identidad apareció cuando esa información se encontró con otras.

Me acordé de ellos leyendo el artículo 50 del Reglamento europeo de Inteligencia Artificial. Desde el 2 de agosto, los proveedores de sistemas que generan contenido sintético, sea texto, imagen, audio o vídeo, deben hacer que sus resultados se puedan detectar como artificiales mediante marcas legibles por máquinas; a los sistemas que ya estaban en el mercado se les ha dado de plazo hasta el 2 de diciembre. La norma excluye las herramientas que se limitan a funciones de edición estándar o que no alteran sustancialmente lo que el usuario escribió ni su significado. Y quien publique textos generados con IA para informar sobre asuntos de interés general debe decirlo, salvo que haya habido una revisión humana sustantiva y alguien asuma la responsabilidad editorial de lo publicado. La propia Comisión aclara, en sus preguntas frecuentes, que pasar un corrector ortográfico no cuenta como revisión humana.

Una sociedad en la que las imágenes, las voces y los textos sintéticos resultan cada vez más convincentes necesita mejores maneras de saber de dónde vienen las cosas. El problema empieza cuando la palabra «procedencia» parece más sencilla de lo que es.

Google utiliza SynthID para marcar también el texto que genera Gemini. No esconde una secuencia secreta de caracteres entre las palabras. Durante la generación inclina ligeramente las probabilidades con las que el modelo elige unas palabras frente a otras, y deja un patrón estadístico que después se puede detectar. La propia documentación de Google reconoce que la confianza del detector se reduce mucho si el texto se reescribe a fondo o se traduce, y que la marca es menos eficaz en las respuestas factuales.

Pregunté a Google si aquella marca podía identificar a la persona que había generado el texto. La respuesta fue inequívoca: no. Según una portavoz de la compañía, las marcas de SynthID «no se pueden utilizar para identificar al usuario que realizó una consulta o creó el contenido» y solo indican si el contenido procede de un determinado modelo generativo.

Es una acotación fundamental. Una marca de procedencia no es, por sí misma, una marca personal.

Pero tampoco lo era el número de serie de una impresora.

Lo digo también por mí. Empleo estas herramientas a diario, y lo declaro cuando toca. Lo que no he aceptado es que un texto que termino firmando pueda llevar algo que no sé leer, que no sé cómo se puso y que nadie me ha explicado. Entiendo que una prótesis dental lleve número de serie: es control sanitario y el paciente lo sabe. Un texto no es una prótesis. Y en una democracia, los rastros que un ciudadano deja en lo que publica no deberían imponerse sin una base jurídica clara, información suficiente y garantías proporcionales.

La cuestión viene después: qué puede saberse cuando una señal técnica se combina con registros de cuentas, sesiones, dispositivos, direcciones IP u horarios. No afirmo que Google haga esa correlación; la empresa asegura que no. Lo que digo es que la capacidad identificativa de un dato no siempre reside dentro del dato.

Jacobo Castellanos, responsable de IA y confianza en WITNESS y copresidente del grupo de amenazas y daños del propio C2PA, el principal estándar de procedencia que se está desplegando, me dio una fórmula mejor para trazar la frontera: how, not whom. Cómo, no quién. La procedencia debería explicar la «receta» de un contenido: qué herramientas intervinieron, qué transformaciones sufrió, si salió de una cámara o se modificó después. Todo eso puede hacerse sin identificar a la persona que estaba detrás, y el estándar, dice, intenta preservar precisamente esa separación.

La diferencia deja de ser técnica cuando pensamos en un periodista bajo un régimen autoritario: le interesa demostrar que una fotografía salió de una cámara, no dejar un hilo que lleve hasta quien pulsó el disparador. WITNESS contempla incluso que un Gobierno obligue a los periodistas a registrarse y vincule cada publicación a su identidad como condición para ejercer. Y añade una advertencia que conviene guardar: que un contenido no lleve credencial no lo convierte en falso; hay razones legítimas para no llevarla, de la seguridad a la falta de acceso a las herramientas.

Rory Mir, que dirige el área de acceso abierto y de relación con la comunidad tecnológica de la EFF, apunta en la misma dirección. Me dijo que el usuario debería saber cuándo se le aplica una marca de agua y que los legisladores no deberían hacerla obligatoria: será siempre imperfecta y burlable, pero puede crear nuevas piezas de información potencialmente identificables. Y que hay que preservar la expresión anónima, también la de quien usa la inteligencia artificial solo para traducir su mensaje.

Y luego está la vieja ley según la cual toda cerradura termina conociendo su ganzúa.

Sabrina Ramonov no es una hacker escondida en un sótano. Es una emprendedora formada en informática y física en Berkeley, ha fundado varias compañías tecnológicas y vendió una de ellas, dedicada a inteligencia artificial, y vive dentro del ecosistema que desarrolla estas tecnologías. También ha publicado una herramienta llamada, sin rodeos, Watermark Remover. Promete limpiar caracteres invisibles y metadatos de los archivos, C2PA incluido, y, para el texto, reescribirlo con el fin de reducir las señales estadísticas escondidas en la elección de palabras. No promete invisibilidad: su propia página advierte de que ninguna herramienta puede garantizar lo que dirá cada detector.

Su mera existencia plantea una paradoja. Quien quiere ocultar una huella con malas intenciones tiene incentivos para aprender a borrarla. Un periodista, un denunciante o un disidente pueden tener razones legítimas para hacer exactamente lo mismo. Y el usuario corriente la conservará porque ni siquiera sabe que está ahí. La misma tecnología trata, de entrada, tres situaciones morales distintas. Eso debería pesar cuando se habla de proporcionalidad.

También intenté que Europa explicara las reglas que acaba de poner en marcha. La Oficina Europea de Inteligencia Artificial me remitió al Servicio de Portavoces. El Servicio de Portavoces me envió enlaces y me derivó a Europe Direct. El correo terminaba advirtiendo de que su contenido no podía atribuirse a quien lo había escrito. El Consejo de Europa, pese a los amables esfuerzos de un miembro de su gabinete de prensa —a quien incluso adelanté por escrito mis preguntas— por conseguir que «un experto respondiera», terminó disculpándose: «Lo lamento, pero el servicio responsable no me ha proporcionado las respuestas». La Agencia Española de Protección de Datos, a pesar de mostrar interés en abordar mis preguntas inicialmente, finalmente no respondió.

Llevo suficientes años en esto para reconocer la escena: quienes menos obligación tienen de explicarse lo hacen con más facilidad; quienes administran las reglas ofrecen procedimientos y derivaciones. La Comisión me dio abundante información sobre transparencia a través de enlaces. Lo que no conseguí fue una persona dispuesta a explicarla en público.

La ironía viene al caso porque procedencia, atribución y responsabilidad no son la misma cosa. La primera explica cómo llegó algo hasta nosotros; la segunda, quién estaba detrás; la tercera, quién responde cuando aquello tiene consecuencias. Hay gente intentando evitar que autenticidad acabe significando vigilancia.

Pero los puntos amarillos dejaron una enseñanza que ha envejecido demasiado bien: la información técnica aparentemente inocua cambia de significado cuando se combina con el resto del mundo. Hace dos décadas eran un número de serie, una fecha y una hora impresos en amarillo. Ahora pueden ser probabilidades ligeramente inclinadas entre una palabra y la siguiente.

WITNESS ha encontrado la frontera correcta con tres palabras: how, not whom. Saber cómo se hizo algo nos ayuda a decidir cuánto confiar en ello. Saber quién estaba detrás es otra pregunta.

Y hay ocasiones en las que no tenemos ningún derecho a hacerla.