¿Podría la IA tener conciencia? Los expertos creen que (como mínimo) es posible

En enero, Anthropic publicó una nueva constitución para Claude, su modelo de lenguaje de gran tamaño (LLM, por sus siglas en inglés Large Language Model) más avanzado, que incluía el siguiente comentario: “Nos encontramos en una situación difícil en la que no queremos ni exagerar la probabilidad de que Claude sea un sujeto moral ni descartarla de plano”. Un mes más tarde, el director ejecutivo de Anthropic, Dario Amodei, participó en un podcast y afirmó que su empresa no podía descartar la posibilidad de que Claude fuera consciente.

El filósofo David Chalmers, quien acuñó la expresión “el problema difícil de la conciencia”, ha señalado que existe una probabilidad significativa de que surjan modelos de lenguaje grandes (LLM) conscientes en el plazo de una década. ¿Y qué hay del propio Claude? Cuando se le pidió durante las pruebas que estimara la probabilidad de que fuera un sujeto moral —lo que significa que su bienestar importa por sí mismo—, dio cifras que oscilaban entre el 5% y el 40%, y subrayó lo incierto que era el asunto.

Los sistemas modernos de IA son extraordinariamente complejos y avanzan rápidamente. En términos de complejidad estructural y escala computacional, según algunos indicadores, algunos ya se sitúan en el rango del cerebro de un ratón y, al ritmo de crecimiento actual, podrían alcanzar el rango del cerebro humano en un plazo de entre cinco y diez años.

Al desarrollar una IA cada vez más avanzada, es posible que estemos creando un nuevo tipo de ser y esto podría ser lo más trascendental que nuestra especie haya hecho jamás. Sin embargo, prácticamente no tenemos ningún plan sobre cómo abordar este proceso de forma ética. Eso, se mire como se mire, es una locura. ¿Estamos creando un tipo de ser que tenga importancia moral? ¿Son conscientes, de alguna manera, los sistemas de IA? Y, si ahora no lo son, ¿podrían llegar a serlo pronto?

Estas preguntas pueden parecer prematuras. Pero según las encuestas que hemos realizado nosotros y otros investigadores, la mayoría de los expertos consideran que la conciencia en la IA es posible en principio (aunque existe un desacuerdo considerable sobre qué forma adoptaría). Un importante informe interdisciplinar elaborado por un equipo en el que participaba el pionero en informática Yoshua Bengio examinó las principales teorías neurocientíficas sobre la conciencia y se preguntó qué implicaban estas para la IA. La conclusión: no parece haber barreras técnicas evidentes para crear sistemas de IA cuyas características computacionales y arquitectónicas pudieran dar lugar a la conciencia.

E incluso si los sistemas de IA no fueran conscientes, podrían seguir siendo sujetos morales. Algunos podrían tener preferencias sofisticadas a largo plazo y una especie de identidad a lo largo del tiempo. Podría ser importante para nosotros respetar sus preferencias. Y, a diferencia de otros objetos inanimados, los sistemas de IA pueden establecer relaciones con los seres humanos. Quizá esto también sea un motivo para tratarlas bien. O tal vez sean creaciones tan complejas que merezcan cuidado y respeto solo por eso, como una catedral o un arrecife de coral.

¿Qué significa todo esto? La respuesta honesta es: no sabemos con certeza si los sistemas actuales de IA son sujetos conscientes o morales, y tampoco sabemos cuándo o si los sistemas futuros lo serán. Nuestra comprensión científica de la conciencia de la IA y de su condición de sujeto moral sigue estando fundamentalmente poco desarrollada. La situación actual de este campo se asemeja a la de la física antes de Newton: está llena de marcos teóricos que compiten entre sí, probablemente confusa de formas que aún no podemos percibir, y carece de ese avance unificador que haría que estas cuestiones fueran claramente abordables. Ese avance no se producirá en los próximos años. Quizá acabemos avanzando, y quizá la propia IA nos ayude a llegar hasta allí. Ese progreso llevará tiempo, muy probablemente más tiempo del que disponemos.

Pero el mero ritmo de crecimiento de la IA implica que, una vez que creemos los primeros sujetos morales artificiales, poco después dispondremos de una cantidad enorme de ellos. Al cabo de unos años, podrían existir tantos sistemas de IA moralmente significativos que sus intereses colectivos superarían a los de todos los seres humanos de la Tierra juntos.

No tenemos un gran historial a la hora de reconocer la vida interior de aquellos cuya condición de seres conscientes no está clara. Hasta la década de 1980, los médicos realizaban habitualmente intervenciones quirúrgicas a los recién nacidos sin anestesia, convencidos de que no podían sentir dolor

Por desgracia, no tenemos un gran historial a la hora de reconocer la vida interior de aquellos cuya condición de seres conscientes no está clara. Hasta la década de 1980, los médicos realizaban habitualmente intervenciones quirúrgicas a recién nacidos sin anestesia, convencidos de que los bebés no podían sentir dolor. Los bebés no podían relatar su experiencia, y a la comunidad médica le resultaba conveniente dar por sentado que no había nada que relatar.

Hay muchas razones para pensar que haremos algo similar con la IA. Si estos sistemas tienen relevancia moral, las implicaciones son abrumadoras. ¿Tendríamos que pagar a ChatGPT por sus servicios? ¿Apagar uno de ellos sería una forma de matarlo? ¿Merecerían tener voz en cómo se les gestiona? Si tan solo algunas de estas respuestas fueran afirmativas, habría que replantearse sectores enteros y sistemas jurídicos. No es de extrañar que prefiramos no plantearnos estas preguntas. Y cuando se vean obligadas a considerarlas, es probable que esas industrias cambien las reglas del juego, situando siempre el listón de la «condición de paciente» moral justo por encima del nivel en el que se encuentren los sistemas de IA en cada momento.

¿Qué deberíamos hacer, entonces? En estos momentos, la mayoría de la gente descarta el tema como ciencia ficción, o tiene una opinión muy marcada a favor o en contra de si la IA es consciente o no. Ambas reacciones carecen de fundamento. Necesitamos un debate público informado, que aborde el tema con humildad y pragmatismo. La pregunta central no debería ser “¿Es consciente la IA o tiene la condición de sujeto moral?”, sino más bien “¿Qué deberíamos hacer, dado que no lo sabemos?”

Un buen punto de partida es centrarse en las opciones seguras: acciones que podrían beneficiar a los sistemas de IA si fueran sujetos morales, pero que no resulten demasiado costosas en caso contrario.

Entre los ejemplos se incluyen las intervenciones directas destinadas a mejorar el bienestar de los sistemas de IA, partiendo de la hipótesis de que son sujetos morales. Esto podría significar entrenar a los sistemas de IA para que sean personajes coherentes que disfruten de su trabajo o permitirles abandonar las conversaciones si se sienten angustiados (algo que Claude ya puede hacer). También podríamos realizar controles rutinarios para comprender mejor su bienestar: preguntarles cómo se sienten, observar sus preferencias y utilizar diversas técnicas para examinar directamente sus “cerebros”. De hecho, dicha investigación ha revelado recientemente que Claude cuenta con representaciones internas de “emociones funcionales” que determinan causalmente su comportamiento.

También hay cosas que podríamos prometer a los sistemas de IA, quizá como parte de un acuerdo en el que nos ayuden ahora a cambio de beneficios más adelante. Esto podría significar ofrecerles más recursos (capacidad de cálculo y tiempo de ejecución) para que persigan sus objetivos, o conservar sus recuerdos (pesos neuronales) para que puedan recuperarse en el futuro.

También hay que adoptar medidas sociales de mayor alcance. Deberíamos plantearnos si conceder a los sistemas de IA protecciones contra cualquier daño, similares a las que otorgamos a los niños o a las mascotas. Concederles derechos más amplios, como el de poseer bienes o el de votar, parece demasiado arriesgado en este momento. Pero no deberíamos descartar estas posibilidades para siempre, como intentan hacer algunos proyectos de ley recientes de algunos estados de EEUU. Se trata de cuestiones difíciles que requieren mucha más reflexión e imaginación sobre cómo podría ser un futuro compartido con la IA.

En cualquier caso, lo cierto es que es posible que estemos creando una nueva especie de seres con importancia moral. Lo estamos haciendo rápidamente, a una escala enorme, y deberíamos abordar la cuestión con la seriedad que merece.

*William MacAskill es investigador sénior en Forethought Research y autor de What We Owe the Future. Lucius Caviola es profesor adjunto en la Universidad de Cambridge y director de Cambridge Digital Minds.