El líder de Anthropic propone que los gobiernos puedan vetar modelos de IA que no superen pruebas de seguridad
El consejero delegado de Anthropic, Dario Amodei, ha reclamado una regulación más estricta para la inteligencia artificial avanzada, que incluya la capacidad de los gobiernos para bloquear o retirar del mercado modelos que no superen pruebas de seguridad independientes, al considerar que los riesgos asociados a esta tecnología ya son “claramente” una realidad.
En un extenso ensayo, el cofundador de la startup que ha conseguido superar a OpenAI —que recientemente alertó sobre los riesgos de su propio sistema Mythos, capaz de detectar y atacar de manera autónoma brechas de seguridad informática—, sostiene que el rápido avance de la inteligencia artificial ha dejado obsoleta la estrategia regulatoria basada únicamente en la transparencia, la que defendía la industria hace apenas unos años.
El directivo plantea que los modelos de IA más potentes sean sometidos a auditorías obligatorias para evaluar riesgos en cuatro ámbitos concretos: ciberseguridad, armas biológicas, pérdida de control sobre sistemas de IA e investigación y desarrollo automatizados capaces de acelerar esos riesgos. Como elemento central de su propuesta, defiende que las autoridades dispongan de capacidad legal para impedir el despliegue de un modelo o revertir su lanzamiento si las evaluaciones concluyen que presenta riesgos inaceptables para la seguridad pública.
El Gobierno debería tener el poder de bloquear o disuadir el despliegue del modelo si se determina, a la luz de una evaluación independiente, que presenta riesgos inaceptables
“El Gobierno debería tener el poder de bloquear o disuadir el despliegue del modelo si se determina, a la luz de una evaluación independiente, que presenta riesgos inaceptables”, señala el directivo en su ensayo, en el que puntualiza que esa facultad debería limitarse a los riesgos definidos previamente y contar con salvaguardas frente a decisiones arbitrarias o motivadas por favoritismos políticos.
El ejecutivo compara la situación actual de la IA con sectores como la aviación, la automoción o la industria farmacéutica, donde los productos deben superar controles técnicos antes de llegar al mercado. En este sentido, propone un esquema similar al de la agencia estadounidense de aviación civil, bajo el que los modelos más avanzados tendrían que acreditar estándares elevados de seguridad antes de su lanzamiento.
Amodei argumenta que la evidencia acumulada en los últimos meses demuestra que los sistemas más potentes ya tienen relevancia estratégica nacional e internacional. En particular, alerta del potencial de estas herramientas para afectar a infraestructuras críticas, al sistema financiero o a la seguridad nacional mediante capacidades avanzadas de ciberataque.
Políticas para proteger el empleo humano
El ensayo forma parte de una reflexión más amplia sobre el impacto económico, político y geopolítico de la inteligencia artificial. Entre otras cuestiones, el responsable de Anthropic plantea varias propuestas para establecer incentivos que ayuden a proteger el empleo.
Advierte de que la IA podría provocar “desplazamientos laborales” disruptivos y plantea estudiar mecanismos de apoyo a la renta si se produjera una sustitución masiva de empleo, así como la creación de una alianza internacional de democracias para coordinar normas, cadenas de suministro y medidas de seguridad relacionadas con la IA.
La gente está preocupada por la IA porque percibe correctamente que sus riesgos son reales
“Una amplia gama de incentivos a favor del empleo puede ayudar a frenar o reducir el desplazamiento laboral” como “seguros salariales” que compensen a las personas cuando tengan que aceptar un empleo peor remunerado o incentivos fiscales a la retención para animar a los empleadores a no realizar despidos.
También propone subvenciones para la formación de la fuerza laboral, o infraestructuras para facilitar el emparejamiento entre empleadores y empleados con el fin de acelerar el ritmo de adaptación del mercado laboral. “Deberíamos aceptar de buen grado los costes y las ineficiencias de mercado que estas políticas podrían implicar, especialmente porque es probable que se vean compensados por las ganancias de productividad impulsadas por la IA”, argumenta.
Pese a los riesgos identificados, Amodei sostiene que la tecnología puede generar beneficios económicos y científicos de gran alcance si se acompaña de marcos regulatorios adecuados. “La gente está preocupada por la IA porque percibe correctamente que sus riesgos son reales”, afirma en el texto, donde pide convertir esa preocupación en medidas concretas y no en una oposición generalizada al desarrollo de la tecnología.
0