Un biólogo español también sospecha que la IA le ha robado sus ideas: “Dejaré Claude y recomiendo buscar alternativas”
La compañía tecnológica Anthropic anunció la semana pasada que su modelo de inteligencia artificial (Claude) había servido para encontrar “un novedoso sistema enzimático con propiedades que recuerdan a CRISPR” al que bautizaron como ART. Unas horas después, un artículo en The New York Times reveló que el hallazgo de estas “transcriptasas inversas asociadas a matrices” como potencial herramienta de edición genética no era tan novedoso como se anunciaba ni genuino de la IA: el biólogo computacional Mario Rodríguez Mestre, de la Universidad de Copenhague, ya lo había descubierto en 2022.
“El descubrimiento que ellos hacen no es nada nuevo, era algo que ya se sabía”, explica el investigador español a elDiario.es. “Y eso de que es una herramienta de edición genética parecida a CRISPR no es cierto. No se parece a CRISPR en nada”. Rodríguez Mestre asegura que él y su equipo utilizaron extensamente Claude para su investigación y que esta IA tenía acceso a su manuscrito de tesis, a todas las carpetas compartidas del laboratorio y a los correos con colaboradores. “Es decir, prácticamente a todo”, resume. “Sobre si la inteligencia lo ha sacado de ahí, no tengo ninguna prueba para demostrarlo, pero es una posibilidad y una sospecha”.
Rodríguez Mestre aclara que estas moléculas son en realidad retrones: transcriptasas inversas que sintetizan ADN a partir de una plantilla de ARN no codificante en virus gigantes (jumbófagos), una arquitectura que permite generar grandes cantidades de ADN y que abre la puerta a la edición genética múltiple. El equipo del científico ya había identificado y caracterizado exactamente estas mismas secuencias y sus conjuntos de ARN en 2022 —a las que bautizaron como «jumbotrones»—, pero estos resultados no estaban publicados en ninguna revista científica ni repositorio de preprints. La única vía para que el modelo dispusiera de esa información era a través de los borradores y materiales privados que él mismo había compartido con Claude durante sus investigaciones.
Una polémica con antecedentes
La polémica se produce unas semanas después de que otra tecnológica, OpenAI, anunciara una solución al problema de Navier-Stokes, uno de los seis problemas del milenio, entre sospechas de que se basaron en las ideas de los dos matemáticos españoles que trabajaban en ello. El biólogo español, que se enteró del anuncio de Anthropic por el aviso de otros expertos que conocen su trabajo, cree que en su caso hay dos posibles explicaciones. La primera, que considera menos probable, que usaran sus datos para el hallazgo. La segunda, que los propios científicos de la tecnológica ya conocieran la existencia de estas secuencias de moléculas y guiaran deliberadamente a la IA con datos preprocesados para forzar el resultado y venderlo como un logro autónomo.
Llamo a toda la comunidad científica a que se lo piense dos veces antes de utilizar LLM propietarios y empiece a buscar alternativas
“Cualquiera de las dos me parece que entraña una serie de problemáticas que afectan a cualquier tipo de investigador que esté utilizando estas herramientas”, asegura. “Lo que parece muy claro es que no ha sido un descubrimiento autónomo de la inteligencia artificial”. Por este motivo, Rodríguez Mestre anuncia que dejará de usar la herramienta y recomienda a los otros científicos seguir su ejemplo.
“Yo voy a dejar de usar Claude y ahora mismo estoy intentando migrar todo lo que yo ya tenía a modelos open source”, asegura el científico. “Creo que la posibilidad de que la IA se hubiera utilizado para entrenar con mis datos es real y merece la pena ponerlo de relieve. Por eso llamo a toda la comunidad científica a que se lo piense dos veces antes de utilizar LLM propietarios y empiece a buscar alternativas y no depender de empresas cuyas políticas de recopilación de datos y de ética no están muy claras”.
Viendo las orejas al lobo
Tras el anuncio de OpenAI de la solución de unos de los problemas del milenio, los matemáticos más destacados del mundo firmaron un manifiesto para pedir trasparencia en el uso de estas herramientas. Si se extiende la sospecha sobre la forma en que trabajan las empresas desarrolladoras de la IA, advertían, los matemáticos dejarán de compartir sus resultados para evitar que el algoritmo se los apropie. Rodríguez Mestre también quiere poner encima de la mesa esta preocupación en su campo. “Empezaron con los artistas, luego los escritores, los diseñadores de código y ahora nos ha tocado a nosotros los científicos”, asegura. “Quizás creíamos que no nos íbamos a ver afectados, pero bueno, aquí le estamos viendo las orejas al lobo”.
Quizás creíamos que no nos íbamos a ver afectados, pero bueno, aquí le estamos viendo las orejas al lobo
Toni Gabaldón, jefe del grupo de Genómica Comparada del IRB Barcelona, cree que el caso de los matemáticos ya daba a entender que es muy posible que esta apropiación de los datos en investigación estuviera ocurriendo. “Es un peligro que hay que tener en cuenta”, explica. “Partir de la idea de que las empresas tecnológicas van a mantener una ética rigurosa es un poco naíf, porque no hay manera de comprobarlo. Tú escribes en tu ordenador en Barcelona y esos datos van a un centro de cómputo que está en Arizona, en China o en otro sitio; por ahí pasan tus datos y un modelo puede estar aprendiendo de eso. ¿Quién te dice a ti que no ha pasado eso?”.
En su caso, decidió hace tiempo no usar la IA para procesos creativos y solo para procesos mecánicos y aburridos. “Pero incluso ahí tienes el peligro”, advierte. “Porque cuando envías un artículo, puede que algún colaborador o revisor lo meta en ChatGPT o Claude, y esa información puede estar llegando por otro lado. Al final tampoco eres dueño de eso”. A su juicio, Anthropic le dio demasiado bombo al anuncio sobre su nueva herramienta molecular, porque una se conocen estas y otras parecidas. “Uno de los efectos de la IA es que mucha gente creerá haber encontrado cosas que ya existen: vamos a reinventar la rueda muchas veces”, predice.
Un “toque de atención” para todos
Para el genetista Lluis Montoliu, del CNB-CSIC, el caso es preocupante, porque se suponía los modelos de pago de estas herramientas de IA garantizaban que los textos no se compartían con la nube. “Todo parece indicar lo contrario y me temo que deberemos ser mucho más cuidadosos y deberemos evitar introducir aquellos experimentos que todavía no estén publicados y que puedan representar una novedad en un determinado campo”, señala. “Incluso cuando subimos un texto para corregir la gramática del inglés eso puede pasar a ser del acervo del universo de la IA”. En su opinión, este último caso, junto con lo que sucedió en el problema del milenio de OpenAI, es un “toque de atención” a los científicos para que revisen cómo usan estas inteligencias.
Me temo que deberemos ser mucho más cuidadosos y evitar introducir aquellos experimentos que todavía no estén publicados o sean novedosos en un determinado campo
“Yo uso estas herramientas diariamente”, explica Ana Rojas, bióloga computacional del CSIC y directora del grupo de Biología Computacional y Bioinformática (CBBiO). El problema, asegura, es que los científicos cada vez son más dependientes de estas herramientas y tienen que confiar en lo que las compañías dicen. “Ellas dicen: no, nosotros no entrenamos los modelos. Pero está claro que lo hacen, porque este tipo de información no podrían obtenerla de otro modo”, señala.
Para la especialista, la situación es muy complicada para los científicos, porque los científicos están indefensos. “Tienes que confiar en que las tecnológicas que mantengan esa privacidad, pero claramente ellas van a querer sacar beneficio a costa de la privacidad de los usuarios”, señala. Es una situación similar a la que vivieron los pequeños fabricantes que denunciaron que Amazon copiaba su producto cuando ve que tiene éxito, admite. “Por otro lado, las tecnológicas deberían compartir el crédito con los autores humanos, pero si lo hacen tienen que reconocer que han sacado esa información de informaciones confidenciales”.
Las tecnológicas deberían compartir el crédito con los autores humanos, pero si lo hacen tienen que reconocer que han sacado esa información de informaciones confidenciales
César de la Fuente, investigador y director del Machine Biology Group de la Universidad de Pennsylvania, lleva años trabajando con IA para encontrar nuevas moléculas con interés biomédico y cree que la investigación está experimentando una sacudida sin precedentes. “Las reglas del juego están cambiando muchísimo, por eso se está causando tanto revuelo y estrés”, asegura. “En biología y ciencias de la vida parecía que estábamos más lejos de este escenario que los matemáticos, porque hace falta hacer experimentos, pero todo va muy deprisa”. En su laboratorio, han tomado la precaución de no introducir sus resultados en los sistemas de IA y trabajar localmente.
“En teoría, estas compañías te garantizan que no lo usan como parte del entrenamiento de sus modelos si usas los modelos de pago, pero siempre que usas un software o herramientas de compañías privadas hay la posibilidad de que haya filtraciones de lo que estés haciendo”, explica De la Fuente. “En cualquier caso, para aquellas personas preocupadas o que estén trabajando en algo altamente confidencial, existe la opción de descargarse un modelo preentrenado de IA de open source y hacer el entrenamiento de manera local, sin estar conectado a ningún lado”
Para De la Fuente, las tecnológicas corren el riesgo de ganarse tan mala fama que los científicos se nieguen a colaborar o a usar sus herramientas. “Tener malas relaciones públicas les puede pasar factura”, señala. “Si al final nadie quiere trabajar con ellos va a ser un problema, se están moviendo tan rápidamente que tienen que tener cuidado”. “La mayor parte de los científicos ha adoptado la IA de manera ciega y acrítica porque les facilita el trabajo, pero este tipo de cuestiones empiezan a generar un sentimiento de incomodidad y a pensar que esto también tiene sus peligros”, resume Toni Gabaldón. “Estamos despertando un poco ahora”.
Ana Rojas también recomienda a los otros investigadores que tengan mucho cuidado y descarguen los modelos de IA en equipos locales cuando sea posible. “Y la información confidencial, las discusiones, que se hagan de la manera tradicional, hablando por teleconferencia y cosas de ese tipo”, afirma. “Tenemos que pensar entre nosotros cómo defender nuestro trabajo ante el reto que viene”, concluye. “Es un gran reto que toda una comunidad tenemos que abordar, no solamente la gente que trabaja en IA, sino todo el mundo que trabaja en ciencia en general o en humanidades, porque llegará un momento en que ellos van a ser los propietarios de todos los modelos y entonces no podemos competir. Tenemos que hacerlo de otra manera”.
5