eldiario.es

Menú

Hoja de Router Hoja de Router

Lo que decían los pioneros de los robots ya daba tanto miedo como 'Westworld'

No es solo cosa de Elon Musk o de la serie Westworld: algunos padres de la informática y la inteligencia artificial ya vaticinaban un futuro inquietante para las máquinas. Hace medio siglo, Turing ideó un test para comprobar si pensaban, John von Neumann se mostró preocupado, Claude Shannon predijo que seríamos "como mascotas" para los robots y Marvin Minsky anticipó la llegada de la singularidad. 

- PUBLICIDAD -
Los pioneros de la inteligencia artificial pensaron en desarrollar máquinas tan inteligentes como nosotros

Los pioneros de la inteligencia artificial pensaron en desarrollar máquinas tan inteligentes como nosotros

Máquinas con un aspecto indistinguible del nuestro, inteligentes y con sed de venganza hacia sus opresores humanos. En la segunda temporada de Westworld, los anfitriones robóticos han comenzado su sangrienta rebelión contra los responsables del parque y los huéspedes de carne y hueso que les sometieron.

La serie de HBO plantea algunas de las preocupaciones sobre el futuro de la inteligencia artificial que parecen inquietar a Jonathan Nolan, uno de sus creadores. “Hemos abierto la caja de Pandora, hemos desatado fuerzas que no podemos controlar, no podemos detener… Vamos camino de crear básicamente una nueva forma de vida en la Tierra”, afirma el cineasta en el documental Do you trust this computer? (¿ Confías en tu ordenador?). También aparece su amigo Elon Musk, otro de los apocalípticos: dice que la inteligencia artificial podría convertirse “en un dictador inmortal del que nunca podríamos escapar”.

Aunque las ideas sobre el mañana que plantean puedan resultar exageradas, pues los robots actuales son mucho más limitados que los de Westworld, lo cierto es que algunos pensamientos de los pioneros de la informática y la inteligencia artificial sobre el futuro de las máquinas ya resultaban inquietantes hace un buen puñado de años.

Turing y las máquinas inteligentes 

“Creo que a finales de siglo el discurso y la opinión general habrán cambiado tanto que uno podrá hablar sobre las máquinas pensantes sin que le contradigan”. En 1950, Alan Turing, planteaba la pregunta "¿pueden las máquinas pensar?" en su famoso artículo Computing machinery and intelligence.

El padre de la informática propuso un método para comprobar si una máquina era inteligente: un juego de imitación. En él, un juez está en una habitación, mientras una máquina y un humano permanecen en la otra. Los dos intentan engañarle, pero el juez ha de descubrir quién es quién.

Según el matemático, en el siguiente medio siglo sería posible programar los ordenadores de manera tan sofisticada que un interrogador medio no tendría más del 70 % de las posibilidades de acertar cinco minutos después de que empezara el interrogatorio, que pasaría a conocerse como 'test de Turing'.

El propio genio británico parecía saber que su idea no sería bien recibida, e incluyó en el propio texto una serie de posibles objeciones a sus argumentos. “Las consecuencias de que las máquinas piensen serían demasiado terribles. Esperemos y confiemos en que no puedan hacerlo”, escribía el propio Turing haciendo de abogado del diablo. A su juicio, esa opinión se debía únicamente a que “nos gusta creer que el hombre es superior al resto de la creación”.

Alan Turing ideó un juego de la imitación para comprobar si las máquinas pensaban

Alan Turing ideó un juego de la imitación para comprobar si las máquinas pensaban

Por aquellos años, Jack Good, uno de los criptógrafos que trabajaría con Turing en el descifrado de códigos nazis en Bletchley Park durante la II Guerra Mundial, le preguntó en qué circunstancias le diría que una máquina es consciente. “Me respondió que, si la máquina podía castigarle por afirmar lo contrario, entonces diría que es consciente”, relató Good, según recoge La catedral de Turing.

Ese mismo libro, que recorre los inicios de la informática, también apunta que Lyn Newman, la mujer del mentor de Turing Max Newman, recordaba largas discusiones entre su marido y el pionero sobre cómo crear máquinas que modificaran su propia programación y sus errores. “Lo que ocurrirá en esa etapa es que no entenderemos cómo lo hace, habremos perdido la pista”, señalaba Turing, una perspectiva que a Lyn le pareció “de lo más inquietante”.

Precisamente en  Westworld, donde a las máquinas conscientes se les da muy bien castigar, también se menciona el juego de la imitación. En la primera temporada, Ford comenta a Bernard que los robots pasaron el test de Turing poco después de la creación del parque, si bien su conciencia no emerge por ese motivo.

Sin embargo,  son muchos los expertos que ya no consideran que el test de Turing sea una prueba válida para medir la inteligencia de un robot. “El test de Turing no tiene ninguna utilidad para saber si una máquina es inteligente o no”, asegura a HojadeRouter.com Ramón López de Mántaras, director del Instituto de Investigación en Inteligencia Artificial (IIIA) del CSIC. “Es un método observacional solo por texto escrito, pero una inteligencia es mucho más que eso”.

Aunque algunas de sus ideas se hayan quedado anticuadas y Turing fuera demasiado optimista con los plazos para desarrollar máquinas con una inteligencia indistinguible de la nuestra, lo cierto es que propuso numerosas teorías de inteligencia artificial que se estudiaron posteriormente. De hecho, predijo la importancia que jugaría el aprendizaje automático en el futuro al señalar que, en lugar de desarrollar máquinas que emularan las mentes de adultos, debían inspirarse en las de niños para que las máquinas aprendieran a partir de ahí. 

El miedo al porvenir de von Neumann 

El genio británico había propuesto ya en 1936 la que después pasaría a llamar máquina universal de Turing, un mecanismo teórico capaz de calcular cualquier función computable, en un trabajo donde aparecían ya los conceptos de ordenador moderno.

El matemático húngaro John von Neumann fue uno de los que valoró entonces la importancia de ese trabajo. Científico en el proyecto Manhattan que llevaría a la construcción de la bomba atómica, escribió un documento en 1945 ( Primer borrador de informe del EDVAC) que le acabaría convirtiendo en uno de los padres del ordenador moderno. De hecho, hoy se sigue hablando de la arquitectura de Von Neumann.  “Estoy pensando en algo mucho más importante que las bombas. Estoy pensando en computadoras”, diría él mismo en 1946. No obstante, y a diferencia de Turing, el futuro de las máquinas sí parecía preocuparle.

John von Neumann era pesimista con el futuro de las máquinas

John von Neumann era pesimista con el futuro de las máquinas

Su mujer, Klara, una programadora pionera que quedó a la sombra de su marido, recordaba cómo por aquellas fechas John se despertó un buen día y comenzó a hablarle a gran velocidad. “Lo que estamos creando en este momento es un monstruo cuya influencia va a cambiar la historia, si es que queda historia alguna [...] pero sería imposible no llevarlo a cabo, no solo por razones militares, sino porque también sería poco ético desde el punto de vista de los científicos no hacer lo que ellos saben que es factible, por muy terribles que puedan ser las consecuencias”. 

Según recoge La catedral de Turing, las preocupaciones de Von Neumann aquella noche no tenían tanto que ver con las armas nucleares como con los crecientes poderes de las máquinas. Cayó en “tal estado estado nerviosismo” que su mujer le aconsejó tomarse pastillas para dormir para “conseguir que se relajara un poco en lo tocante a sus propias predicciones de una fatalidad inevitable”.

Años más tarde, tras la muerte del pionero, el polaco Stanislaw Ulam, un matemático con el que Neumann había coincidido en el proyecto Manhattan, recordó otra sentencia inquietante: “Una conversación se centró en el progreso acelerado de la tecnología y los cambios en la forma de vida, que dan la sensación de estar aproximándose a alguna singularidad esencial en la historia de la humanidad en la que los asuntos humanos, tal y como los conocemos, no podrían continuar”.

Aunque von Neumann pareciera estar refiriéndose a un momento en el que el ritmo del progreso científico fuera tan fuerte que los humanos no pudiéramos estar al día, lo cierto es que precisamente "singularidad" es el término con el que, años más tarde, se ha pasado a denominar al posible momento en que las superinteligencias artificiales basadas en réplicas del cerebro lleguen a superar a la humana. Una idea que, por cierto, también recuerda mucho a Westworld.

Mascotas para los robots (o eso decía Shannon) 

En 1956, un par de años después de que Turing se suicidara y el año antes de que Von Neumann falleciera, John McCarthy, otro pionero, organizó un encuentro en el Dartmouth College (New Hampshire) que acabó suponiendo el nacimiento de la inteligencia artificial, a la que él mismo puso nombre.

Convenció a Claude Shannon, el conocido como padre de la teoría de la información (y que también quedó asombrado cuando Turing le enseñó la documentación de su máquina universal), o a Marvin Minsky, posterior pionero del campo, para organizar ese evento que partía de una optimista propuesta: en tan solo unos meses, podrían conseguir grandes avances en la comprensión del lenguaje, la abstracción de conceptos o la resolución de problemas.

Estaban subestimando la dificultad”, comenta López de Mántaras, que conoció al propio Minsky. Él mismo le contó años después, entre risas, que le dio a un estudiante un proyecto para que en un verano “resolviera el problema de la visión artificial”, un ejemplo de las predicciones exageradamente entusiastas de los pioneros.

Claude Shannon imaginó un futuro en el que "seremos para los robots como los perros son para los humanos"

Claude Shannon imaginó un futuro en el que "seremos para los robots como los perros son para los humanos"

Shannon, que estaba interesado por entonces en la posible aplicación de su teoría de la información para crear un modelo del cerebro, se preocupó por el  desarrollo de máquinas que jugaran al ajedrez. En una entrevista posterior, señalaba que “ algo emergería de los laboratorios que no estaría muy lejos de los robots de las películas de ciencia ficción”.

Dos décadas después, desde la revista Omni , le preguntaron si algún día los robots serían suficientemente complejos como para ser amigos de la gente. “No veo límites a las capacidades de las máquinas. A medida que los microchips se hagan más pequeños y más rápidos, puedo imaginarlos haciéndose mejores de lo que somos nosotros. Puedo imaginar un futuro en el que seremos para los robots como los perros son para los humanos”.

El entrevistador fue más allá, preguntándole si podría llegar a imaginar un robot presidente de los Estados Unidos. “Podría ser, pero pienso que entonces no volverás a hablar de los Estados Unidos. El mundo tendrá una organización totalmente diferente”, vaticinaba el difunto genio.

El padre de la teoría de la información y Marvin Minsky se conocían antes del evento en el Dartmouth College, ya que el segundo pasó un verano en los Laboratorios Bell donde Shannon trabajaba y desarrollaron unas cuantas máquinas juntos. De hecho, Minsky también se había codeado con Von Neumann en la Universidad de Princeton, donde obtuvo el doctorado. Más tarde, en 1959, Minsky se convertiría en uno de los fundadores del laboratorio de inteligencia artificial del Instituto Tecnológico de Massachusetts (el famoso MIT).

Por aquel entonces defendía que la mente humana no era en realidad distinta a la de un ordenador. "Las ideas llevarán a su vez a nuevas máquinas, y aquellas nos darán a su vez nuevas ideas. Nadie puede decir dónde nos llevará esto y solo una cosa es segura: hay algo mal en toda afirmación, a día de hoy, sobre cualquier diferencia básica entre las mentes de los hombres y aquellas de las máquinas posibles”, afirmaba en un artículo publicado en los 80. 

El padre de la inteligencia artificial también abordó el tema de la conciencia de los robots. “La mayoría de la gente asume que los ordenadores no pueden ser conscientes o autoconscientes, que  en el mejor de los casos pueden simular que lo son”, señalaba en ese mismo artículo. “Por supuesto esto asume que nosotros, como humanos, somos autoconscientes. ¿Pero lo somos? Creo que no”.

A su juicio, sabemos muy poco de lo que ocurre en nuestro cerebro, por lo que en realidad las personas somos muy poco conscientes de nosotras mismas. Es más, él mismo llegó a afirmar después que “algunas máquinas ya son potencialmente más conscientes que los hombres”. Precisamente, este es uno de los grandes temas que se tratan en Westworld,  y el propio Jonathan Nolan ha reconocido haber leído lo que Minsky decía al respecto, entre  otras teorías que se mencionan en la serie.

Sin duda, algunos pensamientos de Minsky pueden resultar inquietantes: en una entrevista con Ray Kurzweil pocos años antes de fallecer, afirmó que la singularidad podía llegar a lo largo de nuestra propia vida. Es más, en otra entrevista realizada por esas mismas fechas afirmó que la idea de que los robots nos trataran como mascotas “era solo una posibilidad” pero “no era la peor”.

Sin embargo, en lugar de estar alarmado por el futuro, este pionero creía que la inteligencia artificial podría ayudar a resolver algunos de los grandes retos de la humanidad y confiaba en que alcanzaríamos la inmortalidad haciendo copias de nuestro cerebro. “Creo que lo importante para nosotros es crecer, no permanecer en nuestro estúpido estado presente”, defendió en una ocasión. Los humanos somos “chimpancés disfrazados”, por lo que nuestra misión debería ser crear seres más inteligentes que nosotros.

Tras el fallecimiento de Minsky, López de Mántaras explicó que el pionero era muy crítico con que la investigación se hubiera centrado en resolver problemas concretos en lugar de crear esa inteligencia artificial general que él no llegó a ver en vida. De hecho, crear máquinas indistinguibles de nosotros “ es el objetivo principal de la inteligencia artificial”, señala el investigador del CSIC. “Es como responder a las grandes  preguntas de la vida, como el origen de la vida o el origen del universo, la estructura de la materia...”

De un modo u otro, lo cierto es que algunos pioneros de la informática y la inteligencia artificial ya soltaron perlas sobre un futuro en que las máquinas podrían ser indistinguibles de los seres humanos. Algunos parecían inquietos y otros mostraban menos miedo que Elon Musk o su amigo Jonathan Nolan, que nos muestra en Westworld un auténtico apocalipsis protagonizado por esos robots terriblemente similares a nosotros. 

----------------------------

Las fotografías son propiedad de  Wikimedia Commons (2 y 3) y  thierry ehrman (4)

- PUBLICIDAD -

Comentar

Enviar comentario

Enviar Comentario

Comentarios

Ordenar por: Relevancia | Fecha