Se busca experto en el fin del mundo

Hay ofertas de empleo que uno lee pensando en cambiar de vida, y otras que conviene leer para saber qué clase de mundo nos están preparando. La de Anthropic pertenece a la segunda categoría.

Se busca Safeguards Enforcement Analyst, Radiological & Nuclear Harms. Conviene saber de física nuclear, radioquímica, no proliferación de armas de destrucción masiva, materiales nucleares especiales, rutas de enriquecimiento y salvaguardias del Organismo Internacional de Energía Atómica. También hay que ser capaz de leer conversaciones reales con Claude y decidir, deprisa y bajo presión, si quien pregunta investiga de buena fe o se está acercando demasiado a un daño creíble.

El puesto es híbrido: hay que pasar por la oficina al menos el 25% del tiempo. La empresa patrocina visados. El salario oscila entre 245.000 y 285.000 dólares al año. El apocalipsis, por lo visto, también admite modalidad híbrida.

Anthropic no busca a alguien que construya una bomba. Busca a alguien que reconozca el momento exacto en que una pregunta deja de ser académica. Una persona capaz de separar la curiosidad científica de la intención hostil, investigar posibles infracciones, diseñar sistemas automáticos de detección y decidir cuándo una conversación debe convertirse en alerta, en escalado o en cierre de cuenta.

No es una vacante excéntrica perdida en el sótano de recursos humanos. La página de empleo de Anthropic despliega una pequeña administración del desastre: analistas de daños biológicos, químicos y explosivos; ciberdelito; estafas; extremismo; apropiación de cuentas; evasión de bloqueos; amenazas radiológicas y nucleares. Hay investigadores técnicos de amenazas, especialistas en inteligencia y equipos enteros dedicados a construir las herramientas que vigilarán a las herramientas.

OpenAI juega en la misma liga. Busca un investigador de riesgos biológicos y químicos de frontera que diseñe evaluaciones basadas en amenazas reales, defina conjuntos de datos, rúbricas y umbrales, y produzca informes sobre los que la dirección pueda apoyar decisiones delicadas de lanzamiento. La horquilla anunciada: de 295.000 a 445.000 dólares.

Silicon Valley está formando su propio funcionariado de la catástrofe.

La frase suena teatral, pero las empresas insisten en que el riesgo no lo es. Dario Amodei, consejero delegado de Anthropic, ha escrito que ciertos agentes biológicos podrían causar millones de muertes si alguien con la determinación suficiente lograra liberarlos para maximizar su propagación. Lo que le preocupa no es que un modelo entregue una receta prodigiosa al primer adolescente aburrido, sino que vaya rebajando, paso a paso, las barreras de conocimiento que aún separan la intención criminal de la capacidad real.

Hasta aquí, la parte razonable. Si una empresa construye modelos capaces de analizar código, asistir en investigación científica y transitar por conocimiento de doble uso, lo irresponsable sería no contratar a quien entienda el daño posible. No bastan ingenieros que ajusten clasificadores. Hace falta alguien que distinga una consulta legítima sobre enriquecimiento de uranio de un recorrido cada vez menos inocente hacia el material, el dispositivo y la evasión de controles.

Es un trabajo difícil porque la frontera no está en las palabras, sino en la intención. Un epidemiólogo, un estudiante, un equipo de defensa y un aspirante a terrorista pueden usar un vocabulario casi idéntico. Un modelo puede negarse demasiado pronto y bloquear investigación útil, o entender demasiado tarde lo que tiene delante. Entre ambos errores se abre una zona gris que no se resuelve con una lista de términos prohibidos ni con un gran botón rojo que diga «seguridad».

Por eso Anthropic combina clasificadores automáticos con revisión humana, análisis de patrones, inteligencia de amenazas y el estudio de conductas que solo parecen peligrosas cuando se miran en conjunto. Para los dominios químicos, biológicos, radiológicos, nucleares y explosivos, la compañía asegura trabajar además con gobiernos y empresas privadas para definir escenarios de amenaza y poner a prueba sus defensas. Nada de eso parece superfluo. La pregunta llega después.

Durante décadas, los perfiles capaces de pensar en proliferación nuclear, biodefensa, armas químicas o amenazas estratégicas trabajaban, sobre todo, alrededor del Estado: laboratorios nacionales, servicios de inteligencia, fuerzas armadas, organismos internacionales, universidades, agencias reguladoras. El conocimiento no era del todo público, desde luego, pero la autoridad última para decidir qué constituía una amenaza para la seguridad nacional pertenecía, al menos sobre el papel, a instituciones sometidas a leyes, presupuestos, tribunales y alguna forma de control democrático.

Ahora una parte creciente de esa capacidad operativa se está mudando a empresas privadas que ofrecen salarios extraordinarios, acceso a los modelos de IA más avanzados y la posibilidad de intervenir directamente sobre sistemas que usan millones de personas. No solo fabrican la tecnología: definen sus categorías de riesgo, diseñan las pruebas, fijan los umbrales, contratan a los vigilantes e investigan las infracciones. Suyo es también el mecanismo que decide cuándo una respuesta puede continuar y cuándo debe detenerse.

Anthropic ha publicado una política de escalado responsable que establece niveles de protección para capacidades químicas, biológicas, radiológicas y nucleares. Su arquitectura prevé controles de acceso, clasificadores en tiempo real, vigilancia asíncrona, detección posterior de intentos de evasión y protocolos para trasladar a revisores humanos los casos que exigen juicio.

OpenAI mantiene su propio Preparedness Framework: clasifica capacidades, define umbrales de riesgo y dispone de un grupo interno de responsables de seguridad que recomienda si un sistema puede desplegarse, necesita más evaluación o exige protecciones adicionales. La decisión final recae en la dirección de la propia OpenAI.

No actúan, por tanto, en secreto. Publican marcos, informes, evaluaciones. Consultan a expertos externos y colaboran con instituciones públicas. Anthropic es, además, una public benefit corporation, una figura que incorpora formalmente una misión de beneficio público a sus estatutos.

Pero transparencia no es legitimidad. Publicar una política corporativa no la convierte en ley. Tener un comité competente no equivale a un regulador independiente. Y explicar con detalle cómo se ha diseñado un sistema de contención no responde a la pregunta de fondo: quién decide cuánto riesgo puede asumir una empresa en nombre de todos los demás.

La paradoja no obliga a dudar de la sinceridad de Anthropic ni de OpenAI. Puede que crean exactamente lo que dicen. Puede que estén haciendo más por reducir estos riesgos que muchas administraciones. Puede, incluso, que por velocidad, presupuesto y cercanía técnica sean hoy quienes mejor situados están para detectar un peligro antes de que cruce la frontera de lo irreversible. La buena intención, sin embargo, no es un contrapeso institucional; la competencia técnica, tampoco.

El asunto se vuelve aún más interesante cuando el Estado entra en escena, porque tampoco llega como solución impecable. Anthropic ha trabajado extensamente con la comunidad de seguridad nacional estadounidense y ha desplegado sus modelos en redes clasificadas, análisis de inteligencia, planificación operativa y operaciones cibernéticas. Su reciente desencuentro con el Pentágono no fue una rebelión pacifista contra el uso militar en general: la empresa aceptaba casi todos, pero mantenía dos líneas rojas, la vigilancia doméstica masiva y las armas plenamente autónomas sin una persona en el circuito. El Estado quería usar la herramienta para cualquier fin legal; la empresa quería conservar sus salvaguardas.

Aquí el reparto de papeles deja de ser cómodo. ¿Debe una compañía privada decidir qué puede hacer un ejército? Probablemente no. ¿Debe un Gobierno poder exigir que se retiren los controles de una tecnología que su propio fabricante considera aún poco fiable para seleccionar y atacar objetivos sin intervención humana? Tampoco suena tranquilizador.

Estamos ante una separación cada vez más difícil entre capacidad técnica, autoridad política y responsabilidad pública

No estamos ante el cuento sencillo del Estado responsable y la empresa codiciosa, ni ante el relato contrario, tan querido en Silicon Valley, del funcionario torpe que frena a empresarios iluminados. Estamos ante una separación cada vez más difícil entre capacidad técnica, autoridad política y responsabilidad pública. Los laboratorios saben de sus modelos más que cualquier ministerio. Los Estados poseen una legitimidad y unos instrumentos coercitivos que ningún laboratorio debería reclamar. Y entre ambos crece una clase de especialistas privados que leen conversaciones, interpretan intenciones, clasifican amenazas y deciden si una interacción es investigación legítima o la antesala de una catástrofe.

Es difícil no preguntarse qué ocurre cuando los mejores perfiles de bioseguridad, no proliferación o inteligencia de amenazas descubren que una tecnológica puede pagarles hasta medio millón de dólares al año, darles mejores herramientas y sentarlos en el centro de la acción. No hace falta imaginar conspiración alguna. Basta con entender los incentivos: el talento va donde encuentra dinero, medios y relevancia, y con el talento viaja una parte del poder.

En otra época, alguien familiarizado con el Tratado de No Proliferación, las rutas de enriquecimiento y la lógica de un adversario hostil habría acabado, quizá, en una agencia de inteligencia, un laboratorio nacional o un organismo internacional. Hoy puede tener una tarjeta de Anthropic, acciones de la empresa, turnos de guardia y la obligación de pasar por la oficina una semana de cada cuatro.

No hay nada necesariamente siniestro en ello. Puede que sea exactamente la persona que necesitamos. Pero estas ofertas anuncian algo más que una nueva especialidad profesional. Revelan que la infraestructura destinada a contener los riesgos de la inteligencia artificial está creciendo dentro de las mismas organizaciones que producen esos riesgos, los describen y deciden cómo administrarlos. La IA todavía no se contrata a sí misma, pero a su alrededor ya levanta instituciones propias: un ministerio privado sin ministro, un servicio de inteligencia sin estatuto público, un cuerpo de inspectores cuyo mandato nace de una política de empresa y cuya autoridad termina, en buena medida, donde esa misma empresa decide.

Puede que sea la solución provisional más sensata a mano. Lo provisional, sin embargo, tiene la mala costumbre de traer muebles.

Por eso conviene leer estas ofertas con algo más que curiosidad laboral. No preguntan solo quién sabe pensar como un adversario químico, biológico o nuclear. Nos obligan a preguntarnos quién decide qué riesgos merecen vigilancia, qué umbral es aceptable y ante quién responde el que se equivoca.

El anuncio de Anthropic busca a alguien capaz de pensar como el enemigo. A nosotros quizá nos toque empezar a pensar como ciudadanos.