Un daño significativo al mundo
Si sale mal, puede salir muy mal
Una de las ventajas de la energía atómica es que, desde el principio, el mundo pudo conocer sus dos caras y la peor, la horrible, acarreando su potencial de destrucción total impelió a controlar y regular su desarrollo sin que por ello haya dejado de constituir una amenaza. Aun así, mientras su peor cara se encuentra contenida, durante décadas nos hemos beneficiado de otros de sus potenciales médicos o energéticos con tiento y no sin riesgo. El potencial de la tecnología de la Inteligencia Artificial es muy similar: puede llevarnos a otra dimensión y también destruir la civilización tal y como la conocemos. Esta cuestión absolutamente prioritaria y decisiva fue tratada en comisión en el Capitolio y en su comparecencia, el propio cocreador de ChatGPT, Sam Altman, dijo: “mi peor miedo es que esta tecnología salga mal. Y si sale mal, puede salir muy mal”. Fue él quien solicitó una regulación norteamericana pero también universal. En esas comparecencias se hizo la comparación entre el riesgo de daño global al mundo de su creación con el potencial destructivo del arsenal nuclear.
Se trata de la esperanza y la amenaza global de mayor magnitud a la que nunca se ha enfrentado la humanidad y, sin embargo, este debate apenas ocupa espacio en nuestro país. Nunca ETA amenazó a la democracia como puede hacerlo la IA. Nunca los dictadores tuvieron un arma más sutil y demoledora para destruir la sociedad tal y como la conocemos. Y, sin embargo, aunque el peor fascismo puede venir de su mano, seguimos luchando contra molinos del pasado. “Puede intervenir en las elecciones y esa es un área significativa de nuestra preocupación”, dijeron sus desarrolladores al pedir ayuda, a través de cartas abiertas y de sus declaraciones, porque son conscientes de que han despertado una fuerza que ni siquiera ellos están seguros de poder controlar. Con sarcasmo, el senador que preside la comisión norteamericana afirmó haber perdido la cuenta “de la cantidad de personas y de entidades que se presentaron aquí a decirnos que la economía prosperaría si los legisladores nos quitábamos de en medio” y, sin embargo ahora, los legisladores a nivel mundial parecen ser la única esperanza para contener una tecnología que puede destruir el mundo tal y como lo conocemos. Sólo una regulación global, permitirá a la humanidad obtener los enormes beneficios que se pueden derivar de ella y no perecer en el intento. Y es que la cara B es que la IA caiga en manos de los malvados porque poco podrá hacerse al respecto después.
Mientras, en las redes y los seminarios abundan los que se apuntan a cualquier avance tecnológico como verdaderos creyentes y los que sólo reparan en los efectos más inmediatos de la cuestión. Por ser sinceros, lo de que los estudiantes copien los trabajos del ChatGPT o la pérdida de puestos de trabajo es lo de menos. ¡Ojalá eso fuera lo peor! La muerte de la verdad, el control de poder y de la sociedad por parte de las empresas tecnológicas e, incluso, de estas por la propia IA es un horizonte propio de Terminator pero bien real. En sus comparecencias descubrimos que son los que trabajan en ello, los que se han asustado al comprobar hasta qué punto se les puede escapar a unos u otros de las manos la nueva tecnología si no le ponen coto. Están pidiendo socorro para ellos y para la humanidad.
La regulación global que solicitan, en su primera propuesta, pasa por crear una agencia estatal o mundial que examine los modelos y conceda las licencias -como sucede con los medicamentos-, el establecimiento de estándares de seguridad y, sobre todo, que se establezcan protocolos para decidir cuando un modelo de IA es capaz de replicarse a sí mismo porque, evidentemente, en ese momento estará fuera del control humano. Entenderán que esto me preocupe más que las cortas diatribas electorales de estos días porque si la IA se descontrola, las elecciones tal y como las conocemos resultarán imposibles y con ellas morirá la democracia y la sociedad actual. Piden ayuda para intentar que, por una vez, vayamos por delante de los propios desastres que nosotros podemos provocamos pero puede llevar años y mientras tanto los modelos avanzan y crecen y compiten y no se detienen.
La Unión Europea planea una legislación propia que puede tardar una década. En ella se pretende vetar el uso de la IA para establecer sistemas de “puntuación social”, la distribución de juguetes interactivos con capacidad de manipulación y el uso de herramientas policiales predictivas; además de exigir transparencia en las inteligencias no humanas que determinen nuestra vida laboral o académica y que se protejan los derechos de autor que están siendo violados por todas las empresas de IA para entrenar a sus modelos. La UE pretende parar la amenaza de seguridad y proteger los derechos y libertades, pero puede llegar muy tarde. En España, Unidas Podemos acaba de presentar una iniciativa de regulación que es pionera pero que se queda corta ya que pretende utilizar el Código Penal como barrera para evitar la replicación de voces e imágenes de personas reales con IA y la generación de contenidos audiovisuales falsos. Todo ello es importante pero constituye sólo la punta del iceberg.
Lo que va a pasar, me temo, es que esa concordia mundial para preservar nuestra civilización no va a llegar. Estaremos y estarán las generaciones que nos siguen expuestas a lo peor de la pérdida de control sobre sus vidas y sobre la realidad, si bien se beneficiarán de los avances médicos y de todo tipo que se deriven de ella. ¿Vivir y vivir más en un mundo de mentes no humanas? Si algo puede salir mal, saldrá mal pero al menos deberíamos intentarlo.
Desde la perspectiva de esta amenaza -que tiene aparejado su componente de esperanza- me reconocerán que todo suena pequeño y hasta absurdo: las listas con convictos, las macetas en el balcón, los bonos para el cine y si la campaña revienta o no. Si no somos capaces de ponerle coto a la IA van a reventar todas.
Un daño significativo al mundo es lo que temen provocar quienes la crearon.
Es lo que reconocen, imaginen lo que hay detrás.
34