La IA también puede confundir a la ciencia: los expertos alertan que las fotos alteradas son un riesgo para los estudios sobre biodiversidad
Mejorar la calidad de una fotografía, retocar alguna parte de la imagen e incluso incorporar un elemento que antes no aparecía. El auge de plataformas de IA generativa como ChatGPT y Google Gemini ha provocado un aumento considerable de imágenes falsas y retocadas, algo que no solo está generando debates desde el punto de vista ético, sino también científico, por todas las implicaciones que esto puede tener en la investigación.
Así lo revela un artículo reciente publicado en la revista Nature, en el que un grupo de investigadores alerta de los riesgos que supone el uso de este tipo de imágenes manipuladas en proyectos de ciencia ciudadana. Los autores señalan que ya se han descubierto cientos de imágenes falsas en bases de datos populares para el registro de especies.
“Las plataformas de ciencia ciudadana dedicadas al registro biológico reciben millones de imágenes, sonidos y vídeos. Estos datos sustentan cada vez más nuestro conocimiento sobre dónde se encuentran las especies en el espacio y el tiempo y cómo se comportan”, explican en el artículo. El problema está en que muchos de los archivos multimedia recientes están alterados, lo que “podría dar lugar a inferencias ecológicas erróneas”.
No se trata de un problema nuevo. Los registros fraudulentos llevan años siendo un motivo de preocupación entre los científicos, pero la IA ha agravado la situación. “La capacidad de sintetizar desde cero registros multimedia convincentes y con suficiente calidad como para engañar incluso a expertos constituye un desafío completamente nuevo”, comparten.
Los datos recopilados hasta ahora demuestran un problema con mayor alcance del que uno puede imaginar. Se han encontrado cientos de ejemplos recientes de este tipo de envíos en bases de datos como la Biblioteca Macaulay (que contiene alrededor de 93,9 millones de imágenes), iNaturalist (unos 500 millones de imágenes) o la plataforma WikiAves (6,2 millones de imágenes).
Un ejemplo concreto
El peligro está especialmente en la mejora de imágenes pues, durante la edición, estas herramientas generativas pueden eliminar rasgos característicos de las especies fotografiadas, lo que puede provocar errores a la hora de identificar un organismo. No es solo teoría: el artículo recoge el ejemplo de un supuesto primer registro en Brasil de un tordo sargento (Agelaius phoeniceus), una especie migratoria que fue publicado en iNaturalist.
“Resultó ser una imagen de un turpial boyerito (Icterus cayanensis), una especie común en la región”, comparten los investigadores. La imagen había sido editada con IA, generando una apariencia que no era la que la cámara había captado en primera instancia. Aunque los expertos señalan que “la imagen fue publicada sin intención de engañar” y que su colaborador “simplemente quería mejorar su calidad”, el caso pone en evidencia los problemas que este tipo de manipulación puede causar al registro científico.