EEUU retira el veto a la exportación de los modelos más potentes de Anthropic en medio de la guerra fría de la IA
La Casa Blanca ha eliminado las restricciones de exportación aplicadas sobre Fable 5 y Mythos 5, los modelos de inteligencia artificial más potentes de la empresa Anthropic. La decisión llega tres semanas después de que el Gobierno de Donald Trump ordenara a la startup impedir su uso por parte de extranjeros o fuera del territorio de EEUU, lo que, en la práctica, fue el primer veto de este tipo a un sistema de IA.
Para asegurarse de cumplir con las órdenes de Trump, Anthropic se vio obligada a desactivar el acceso completo a estos modelos. Mythos es un sistema especializado en la detección de vulnerabilidades informáticas que desató la alarma en el sector de la ciberseguridad internacional por su capacidad de encontrar agujeros que habían pasado por alto para los mejores especialistas humanos.
Por este motivo, la startup nunca lo puso en circulación, haciéndolo accesible solo a gobiernos y empresas. Fable es un modelo recortado de Mythos, adaptado para no representar un peligro para los sistemas informáticos en caso de ser utilizado por los ciberdelincuentes.
Tras semanas de negociaciones, el Gobierno de EEUU y Anthropic han pactado que la startup quedará eximida de la necesidad de contar con una licencia de exportación como las requeridas a los sistemas de armamento y otros elementos considerados críticos para la seguridad nacional. A cambio, Anthropic se ha comprometido a mejorar sus sistemas de seguridad en torno a Fable. La Casa Blanca temía que este modelo pudiera ser hackeado para acceder a las capacidades completas de Mythos, lo que dio origen al bloqueo del 12 de junio.
El origen de las sospechas estuvo en una investigación interna de Amazon. Un informe de los servicios de ciberseguridad de la multinacional alertó de que era posible eludir las barreras de protección establecidas por Anthropic, liberando sus capacidades para realizar ataques informáticos y robar información confidencial.
No estamos de acuerdo en que el descubrimiento de una posible vulnerabilidad limitada deba ser motivo para retirar un modelo comercial implementado para cientos de millones de personas
En un comunicado publicado este martes, la startup asegura que ha establecido nuevos mecanismos de seguridad, pero que en ningún momento ha tenido pruebas fehacientes de que el anterior pudiera ser hackeado. “Hasta la fecha, el gobierno solo nos ha proporcionado información verbal sobre una posible vulnerabilidad limitada y no universal, que consiste básicamente en solicitar al modelo que lea un código fuente específico y corrija cualquier fallo de software”, asegura Anthropic.
“No estamos de acuerdo en que el descubrimiento de una posible vulnerabilidad limitada deba ser motivo para retirar un modelo comercial implementado para cientos de millones de personas. Si este criterio se aplicara a toda la industria, creemos que paralizaría prácticamente todos los nuevos lanzamientos de modelos para todos los proveedores de modelos de vanguardia”, protesta.
Para evitar que esto vuelva a ocurrir, Anthropic planea la necesidad diseñar un marco común de evaluación de riesgos junto a socios de la industria como Google, Microsoft y la propia Amazon. Lo sucedido se enmarca en una situación en la que la Casa Blanca ha aumentado sus controles sobre la IA. Presionado por el sector bancario y el Secretario del Tesoro, Trump estuvo a punto de firmar una orden ejecutiva para obligar a los nuevos modelos a contar con una autorización gubernamental para poder salir al mercado. Finalmente, sus asesores tecnológicos, como David Sacks y Elon Muck, le convencieron de que no lo hiciera.