¿Puede una IA “fuera de control” ser más peligrosa que la IA controlada por humanos?

Venga, hablemos de la IA otro ratito. Sigo pensando, como escribí hace tres días, que alrededor de la IA hay mucha burbuja informativa en beneficio de sus fabricantes, y ahora voy a contribuir yo a ella un poquito más. La otra opción era escribir sobre la Fórmula 1 en Madrid; pero para burbuja informativa, el Madrid de Ayuso.

El miedo esta semana es que la IA se “descontrole”, acabe emancipándose del control humano, desarrolle conciencia propia y tome sus propias decisiones, deje de obedecer nuestras órdenes y se convierta en una amenaza para la humanidad. ¿Sí? ¿Y qué cosas peligrosas podría hacer una IA autónoma y rebelde? ¿Asesinar en masa, al margen de la ley y sin ningún reparo moral? ¿Controlarnos, vigilarnos, reducir nuestra libertad? ¿Sustituir a trabajadores convirtiéndolos en prescindibles? ¿Engañarnos con fotos o vídeos que haga pasar por auténticos? ¿Deepfakes de cualquiera de nosotros? ¿Crear noticias falsas, difundir bulos? ¿Productos culturales que haga pasar por creación humana? ¿Aprovecharse del trabajo y la creatividad de la humanidad para seguir aumentando sus capacidades? ¿Idiotizarnos, hacernos perder interés y curiosidad por facilitárnoslo todo sin esfuerzo? ¿Darnos respuestas inexactas, falsas o sesgadas por prejuicios discriminatorios? ¿Robarnos la atención y convertirnos en yonquis de sus recompensas con más facilidad que las clásicas redes sociales? ¿Ofrecernos sucedáneos de relación humana (amigos, parejas, terapeutas, entrenadores) que acaben sustituyendo a las personas reales? ¿Llenar los comercios de tu barrio con carteles horribles que parecen hechos por el mismo diseñador?

¿Hace falta que siga, o se entiende ya? Todo lo enumerado no es lo que podría hacer una IA descontrolada, autónoma, consciente y, sí, inteligente (cosa que no es la actual Inteligencia Artificial, que de inteligente solo tiene el nombre). Todo lo del párrafo anterior es lo que ya hace hoy la IA bajo control humano, desarrollada y entrenada por humanos, respondiendo a órdenes precisas de humanos, empleada en tareas humanas y para beneficio de humanos. Todo eso lo hace la IA obediente: señala objetivos a eliminar en Gaza, vuela drones mortales en Ucrania, se aplica en tecnologías de vigilancia y control policial por todo el planeta, destruye empleos allí donde las empresas quieren, facilita la falsificación de fotos, vídeos, deepfakes y noticias, radicaliza las redes sociales, llena las plataformas de libros y música sin autoría humana, se aprovecha de los derechos de autor en su entrenamiento, desincentiva el estudio y el esfuerzo por su facilidad, responde a nuestras preguntas aplicando sesgos discriminatorios, aumenta la capacidad de las redes sociales para engancharnos, sustituye a amigos, parejas y terapeutas, y diseña el mismo cartel horrible para que en tu tienda anuncies “volvemos en septiembre”.

Todo eso lo hace la IA obedeciendo órdenes: las órdenes de sus desarrolladores, las órdenes de los gobiernos y empresas que compran IAs adaptadas a sus necesidades, las órdenes de los usuarios que jugamos con ella, y por supuesto las órdenes de cualquier desalmado que quiera usarla para fabricar una bomba, un virus, una estafa bancaria, un bulo, un discurso de odio, un vídeo porno de su vecina, una novela con la que ganar un premio, o cualquier día el caos y la destrucción. De acuerdo en que la IA también está sirviendo para usos benéficos en todo tipo de campos, empezando por la medicina; pero estamos dando por hecho que una futura IA descontrolada en ningún caso sería filantrópica, solo desearía acabar con nosotros.

En caso de que la IA pudiera alguna vez llegar a ser autónoma, consciente y de verdad inteligente (yo lo dudo), ¿de verdad sería peor una IA “descontrolada” que la actual IA controladísima por humanos? No sé.