El safety car y la IA

En Fórmula 1, cuando se produce una situación que puede poner en riesgo a los pilotos durante la carrera suele salir a pista el conocido como safety car, lo que obliga a los coches a reducir la velocidad, aunque manteniendo un ritmo suficiente para que los neumáticos no se enfríen demasiado. En esa situación los coches circulan en fila, manteniendo sus posiciones y sin poder, en general, adelantarse. Esta circunstancia puede alterar significativamente el discurrir y el resultado de la carrera, pero la seguridad ha de primar sin discusión.

¿A quién beneficia la salida del safety car? Depende. Por una parte, los coches se aprietan, reduciéndose al máximo las distancias que pudiese haber entre ellos. Esto, a priori, es una penalización para los que van en cabeza, pero también es cierto que las vueltas van transcurriendo sin que se alteren posiciones, y estos, por tener un mejor tándem piloto-coche, es previsible que vuelvan a aumentar distancias cuando el safety car abandone el circuito. No será así si los neumáticos de quienes van en cabeza están muy degradados, mientras que algunos de los rezagados, que ahora irían casi pegados a ellos, acaban de cambiarlos. Eso sí, los de cabeza podrían aprovechar la ocasión para cambiar neumáticos en una parada que iba a ser necesaria, antes o después, y que en estas circunstancias tiene una menor penalización en tiempo relativo para ellos. Dos efectos distintos, por tanto: el pelotón se comprime y da aire a los perseguidores, pero el que va primero puede hacer menos costosa una parada que de otro modo le habría hecho perder posiciones.

No soy experto en Fórmula 1 -quizás haya quedado evidente en lo dicho-. Ni siquiera me gusta especialmente, aunque he asistido a algún entrenamiento y me ha impresionado todo lo que vi allí, así que ni me imagino cómo será una carrera completa. Pero este es el ejemplo que hace unos días acudió a mi cabeza al intentar explicarle a un periodista quién podría beneficiarse de una ralentización de la IA de vanguardia si llegara a producirse, tal como piden algunos de los directores ejecutivos de las principales compañías del sector: Dario Amodei, de Anthropic, propuso a mediados de septiembre «marcar el ritmo de la frontera» y Sam Altman, de OpenAI, se adhirió de inmediato a su propuesta.

Durante años, las principales empresas de IA han competido por acelerar en todo. Modelos más grandes, más capacidad de cómputo, ventanas de contexto mayores, métodos de razonamiento más sofisticados, agentes más capaces y autónomos... Cada nuevo modelo es presentado, explícita o implícitamente, como un adelantamiento al competidor. Pero parece que algo está cambiando. OpenAI ya anunció en agosto que había pausado temporalmente parte del entrenamiento de sus modelos más avanzados ante nuevos riesgos de ciberseguridad detectados durante su desarrollo. Su explicación suena más que razonable: las capacidades de los modelos aumentan y los mecanismos de evaluación, monitorización, alineamiento y contención tienen que avanzar al menos a la misma velocidad. Entonces, ¿por qué no se lo han tomado en serio hasta ahora? ¿Van a hacerlo por fin? Lo pongo en duda, salvo que lo exija un marco regulatorio, a ser posible internacional. Europa ya tiene el suyo, aunque su desarrollo sea a trompicones.

No es, sin embargo, una regulación externa y vinculante lo que piden ni lo que quieren estas compañías, sino un safety car. ¿Por qué? De entrada, sorprende que quienes lo piden sean sobre todo quienes van en cabeza de lo que insisten en llamar la carrera de la IA y que yo califico como una estampida. Caben, al menos, tres explicaciones. La primera, que perciban riesgos que quienes estamos fuera de sus laboratorios apenas conocemos. Aunque muchos pensemos que puede ser una estrategia para seguir en cabeza de carrera, sería insensato ignorar sin más sus advertencias. Eso sí, no debemos ser tan ingenuos como para creer que solo piensan en el bien común. La segunda explicación es, precisamente, esa estrategia. Si en este momento se exigiese para entrenar y desplegar un modelo de vanguardia superar complejos y costosos procesos de evaluación, auditoría, certificación, ciberseguridad..., ¿quién estaría en condiciones de hacerlo? Solo las empresas que disponen de muchísimo dinero, departamentos jurídicos y técnicos especializados e infraestructuras de cómputo y sistemas maduros de evaluación. ¿Adivinan cuáles son? Por eso importa tanto quién fija las reglas: si las dictan quienes van en cabeza, el safety car se convierte en una trampa. La tercera explicación es la de la gasolina: quemando a lo loco el dinero en centros de datos y en modelos cada vez más caros de entrenar, y con unos ingresos que están muy lejos de compensar la inversión, puede que se les estén vaciando los depósitos y convenga dosificarla. Como el líder que aprovecha el safety car para pasar por boxes, ralentizar ahora les permitiría recapitalizarse y consolidar sus infraestructuras sin perder la posición.

También es cierto que una deceleración en el desarrollo de nuevos modelos de vanguardia podría incentivar, en el resto del ecosistema, la investigación en arquitecturas más eficientes, modelos abiertos y especializados, aplicaciones, integración empresarial y mejoras algorítmicas. En ese caso, la pausa podría permitir que los perseguidores recuperasen algo de aire. China podría ser la gran beneficiaria de esta situación, más aún si una pausa voluntaria de las compañías estadounidenses no la obliga a ella. Y también Europa, si espabila de una vez. A menor escala, las organizaciones, en particular las empresas, podrían concentrarse en incorporar a su propia actividad la tecnología ya existente o desarrollar mejores servicios y productos para el mercado, en vez de intentar estar siempre a la última y acabar no estando en nada.

Pero volvamos al safety car. Cuando sale a pista este coche, ralentizar la carrera no es el fin, sino el medio para resolver una situación que podría poner en riesgo a los pilotos. Se toma esa medida para restablecer las condiciones de seguridad en el circuito. Y conviene recordar, además, que ningún coche sale a pista sin haber pasado antes las verificaciones técnicas que exige el reglamento; el safety car es solo la respuesta a lo imprevisto. Así debería ser también en el diseño y despliegue de la IA. Debería garantizarse, antes y durante su despliegue, que cualquier nuevo modelo de vanguardia sea sometido a controles muy rigurosos en los que se demuestren su fiabilidad y precisión, robustez, seguridad frente al daño y ante ataques, equidad, privacidad, transparencia, trazabilidad y un largo etcétera de requisitos necesarios o, al menos, pertinentes. Controles proporcionales al potencial riesgo, para que no se conviertan en una barrera de entrada para quienes no corren tanto, y verificados por quien no compite en la carrera. Así se hace con los vehículos, las aeronaves o los medicamentos, por ejemplo, y por eso nos ofrecen la confianza necesaria para poder usarlos o consumirlos. Es cierto que incluso con regulaciones y controles exigentes a veces se producen errores o situaciones imprevistas que deben corregirse -por ejemplo, retirando un medicamento del mercado o revisando vehículos en los que se ha detectado algún defecto de fabricación-, y por eso debe existir una supervisión constante durante su comercialización y uso que no ha de ser voluntaria, sino obligatoria por ley.

¿Aceptaríamos que las farmacéuticas se autorregulasen para decidir cuándo y cómo sacar al mercado sus medicamentos? ¿Y si lo hiciesen así los fabricantes de vehículos o aeronaves? Pues algo así es lo que acaban de firmar en la Casa Blanca las compañías que lideran la IA en EE. UU. y un Trump exultante, que calificó el acuerdo de «moralmente vinculante» y afirmó que estas compañías «se vigilarán unas a otras» porque «entienden que tienen que autorregularse». El acuerdo habla de auditorías externas y comités de supervisión, sí, pero voluntarios y sin sanción alguna si se incumplen. Quien se vigila a sí mismo rara vez se saca tarjeta roja. Sobre el empeño de Trump en cambiarle el nombre a la inteligencia artificial por superinteligencia ya escribiré en otro momento, que ahora esto no es lo más importante, ciertamente.

Como hemos aprendido a hacer en otros casos, tenemos que seguir aplicando la ética, la prudencia y el sentido común proyectados en la regulación. En la Fórmula 1 no son las escuderías las que deciden si ha de salir, y cuándo, el safety car, sino la dirección de carrera. Tampoco debería ser así en la IA.