El ingeniero de Anthropic que dimitió por los riesgos de la IA: “Es potencialmente mortal”

“El escenario suena un poco a ciencia ficción, parece algo que no puede ser real, pero es aterradoramente real”. Con estas palabras, Jacob Coxon, investigador británico especializado en el entrenamiento de IA avanzada, ha explicado en una entrevista en CNN su decisión de dimitir de su puesto en Anthropic y abandonar la industria de la inteligencia artificial. “La gente empieza a darse cuenta de que esto es tecnología real. No es simplemente humo o una moda pasajera. Esto no va a desaparecer en un futuro próximo. Al contrario, todo va a ponerse cada vez más loco”, ha afirmado este ingeniero, de 27 años y que también había dimitido previamente de OpenAI.

Coxon denunció en su cuenta de X que ambas empresas, tanto Anthropic como Open AI, han relajado sus protocolos de seguridad ante la presión por seguir avanzando al tiempo que alertó que el avance de esta tecnología supone un peligro existencial para la humanidad y que los ejecutivos de los laboratorios que lideran la carrera están escondiendo estos riesgos a la ciudadanía. Cabe destacar que este investigador no ha aportado ninguna prueba más allá de su trabajo dentro de ambas tecnológicas.

“La forma más fácil de entenderlo es pensar en cosas que realmente han ocurrido. Hace dos meses, agentes de IA de OpenAI hackearon infraestructuras de terceros por iniciativa propia. Fue, básicamente, una campaña concentrada de ciberataques que llevaron a cabo por voluntad propia”, ha asegurado Coxon a preguntas de Anderson Cooper. Según ha afirmado, si se proyectan estas capacidades “manteniendo la misma autonomía” hacia el futuro, la IA podría provocar “un caos enorme” ya que, por ejemplo, “podrían hackear infraestructuras críticas o desarrollar armas biológicas capaces de provocar una extinción”. “Hay muchísimas formas en las que una IA podría actuar por sí sola en el mundo”, ha añadido.

Para Coxon, la IA está “cerca de reemplazar” a los seres humanos. “Es muy importante fijarse simplemente en la velocidad a la que está avanzando todo. Por ejemplo, en áreas como la programación o las matemáticas, hace un par de años estas IA servían básicamente para ayudar un poco a los humanos, podían darte sugerencias. Ahora están cerca de reemplazarlos. De momento todavía necesitamos a los humanos, pero es perfectamente plausible que, dentro de un año, ya no necesitemos personas para hacer investigación en muchas áreas”, ha explicado.

Según este ingeniero, lo “más aterrador” sería usar la IA para hacer que “ella misma sea más inteligente”. “Puedes coger una IA y darle el problema de investigar sobre IA, igual que ahora le estamos dando problemas de investigación matemática. Y así podrías hacer que realizara el mismo trabajo que estamos haciendo nosotros ahora mismo, y entonces tendrías lo que se conoce como una explosión de inteligencia”, ha explicado Coxon que ha advertido que esta tecnología empezaría así a “hacerse cada vez más inteligente sin necesidad de intervención humana, hasta llegar a un punto en el que tendrías algo muchísimo más inteligente que los seres humanos”. “Y eso podría estar muy cerca”, ha detallado.

Sobre las peticiones de muchos directivos de las empresas de IA sobre una mayor regulación, Coxon ha afirmado que cree que es una preocupación real. “Se encuentran en una situación en la que sienten que están obligados a competir a toda velocidad para desarrollar una tecnología potencialmente mortal, y les encantaría que algún tipo de organismo internacional les permitiera avanzar a un ritmo razonable. El problema es que no confían en que los demás vayan a llegar hasta ahí de forma segura, así que sienten que ellos también tienen que correr”, ha reconocido.

Por el momento, ni Anthropic ni OpenAI han hecho ninguna declaración oficial respecto a sus denuncias tanto a través de redes sociales como ahora en la televisión. La única respuesta ha llegado por parte de uno de los directivos de Anthropic, encargado de las pruebas de seguridad de sus modelos. “Jacob tiene razón aquí: ¡realmente creemos con sinceridad que la IA podría matar a todos los humanos! Personalmente, creo que la probabilidad es mayor al 10% durante la próxima década. Creo que Anthropic lo está haciendo lo mejor que puede, pero todavía no tenemos un plan para resolver el alineamiento para la superinteligencia y claramente no estamos en camino de lograrlo”, ha afirmado Evan Hubinger en su cuenta de X.

En las últimas fechas reputadas voces de la industria tecnológica han elevado la misma alerta que Coxon: los laboratorios de IA no están siendo transparentes sobre los riesgos reales que entrañan sus investigaciones actuales. Una de ellas ha sido la del propio Bill Gates, que recientemente ha publicado un extenso ensayo y dando entrevistas en las que profundiza en esta cuestión.

En este sentido, este mismo miércoles el Financial Times ha informado de que Anthropic se negó a remitir su último y más avanzado desarrollo, Claude Mythos 5.1, al Instituto de Seguridad de la IA de Reino Unido (AISI) para ser auditado antes de su salida al mercado. El medio británico lo relaciona con la doctrina proteccionista impuesta por Donald Trump, ya que Anthropic sí ha compartido el modelo con sus socios estadounidenses.