Miles de científicos piden que se detenga el desarrollo de armas inteligentes y autónomas
“La pregunta clave para la humanidad, es si desea iniciar una carrera mundial para el desarrollo de armas con inteligencia artificial (IA) o evitar que se inicie”. Este es el dilema que plantea el manifiesto que más de mil ingenieros y expertos en computación e inteligencia artificial han firmado para pedir a los gobiernos de todo el mundo que dejen de desarrollar armamento con IA.
Los expertos reclaman que se dejen de utilizar los avances tecnológicos desarrollados durante los últimos años en armamento militar y recuerdan que “las armas autónomas serán capaces de seleccionar y atacar objetivos sin intervención humana”. Según ha declarado a eldiario.es el investigador de la Universidad New School de Nueva York, Peter Asaro:
"No podemos perder el control sobre las decisiones que implican el uso de la fuerza y dejarlo en manos de algoritmos"
El doctor Asaro es uno de los fundadores del Comité Internacional para el Control de Robots Armados (ICRAC, por sus siglas en inglés), una ONG con base en EEUU que lleva años realizando campañas para limitación de este tipo de armamento. Según Asaro, esta carta representa la “preocupación de unos científicos que quieren ver como sus innovaciones se ponen en práctica”, pero que al mismo tiempo son “conscientes del peligro que conlleva un mal uso de esos avances tecnológicos”. El manifiesto asegura que “hay muchas formas de utilizar la IA para hacer que los campos de batalla sean más seguros para los seres humanos, especialmente los civiles, sin necesidad de crear nuevas herramientas para matar gente”.
Durante los últimos años el ICRAC ha unido sus esfuerzos con otras organizaciones como Human Rights Watch y han conformado una campaña internacional para parar el desarrollo de robots asesinos. El objetivo de esta campaña es que la Convención sobre Ciertas Armas Convencionales (CCA), que ha convocado varias reuniones durante los últimos dos años en la sede de Naciones Unidas en Ginebra, avance en la negociación de un tratado que establezca límites al desarrollo de este tipo de armamento. “Queremos que la CCA tome una decisión antes de que se implementen de forma definitiva los sistemas de armas autónomas”, asegura Asaro.
Las armas autónomas serán una realidad a corto plazo
Según los investigadores, las evoluciones tecnológicas han hecho posible que las armas inteligentes y autónomas puedan ser una realidad a corto plazo. “En este momento ya existen armas en desarrollo que tienen capacidad de orientación y fuego basados en IA y prevemos que unos pocos años estas armas serán una parte importante de las fuerzas militares más avanzadas”, afirma Asaro. Pero los expertos no solo llaman la atención sobre los problemas éticos que puede implicar no tener a un ser humano al mando de un arma de fuego, sino también los posibles problemas legales frente a fallos del armamento. “Si no hay humanos controlando las armas y tomando las decisiones sobre los posibles objetivos, quiénes serán los responsables si el algoritmo falla”, plantea Asaro.
El manifiesto, que ha sido publicado por el Future of Life Institute de la Universidad de Oxford, será presentado hoy en la Conferencia Internacional sobre Inteligencia Artificial que está teniendo lugar en Buenos Aires (Argentina). “Albert Einstein y Bertrand Russell firmaron un manifiesto en contra del desarrollo de armamento nuclear, nuestra carta sigue la misma tradición”, concluye Asaro. Entre los firmantes de este manifiesto se encuentran el astrofísico Stephen Hawking, el cofundador de Apple, Steve Wozniak o los filósofos Daniel Dennett y Noam Chomsky. También se han adherido al manifiesto más de una treintena de investigadores españoles, entre los que destacan los catedráticos Daniel Borrajo y Francisco Herrera, de la Universidad Carlos III y la Universidad de Granada respectivamente o la profesora Carme Torras, del Instituto de Robótica de Barcelona.
