Cómo la IA nos está devolviendo al oscurantismo

El pasado verano, me encontré luchando contra el tráfico en las sofocantes calles de Marsella. En un cruce, mi amiga en el asiento del pasajero me dijo que girara a la derecha hacia un lugar conocido por su sopa de pescado. Pero la aplicación de navegación Waze nos indicó que fuéramos recto. Cansado, y con el Renault convertido como una sauna sobre ruedas, seguí el consejo de Waze. Momentos después, nos quedamos atrapados en un sitio de construcción.

Un momento trivial, tal vez. Pero uno que capta quizás la cuestión definitoria de nuestra época, en la que la tecnología toca casi todos los aspectos de nuestras vidas: ¿en quién confiamos más, en otros seres humanos y en nuestros propios instintos, o en la máquina?

El filósofo alemán Immanuel Kant definió la Ilustración como “el elevación del hombre de su inmadurez autoimpuesta”. La inmadurez, escribió, “es la incapacidad de usar la comprensión de uno sin la guía de otro”. Durante siglos, ese “otro” que dirigía el pensamiento y la vida humana era a menudo el sacerdote, el monarca o el señor feudal, los que afirmaban actuar como la voz de Dios en la Tierra. Al tratar de comprender los fenómenos naturales, por qué los volcanes entran en erupción, por qué cambian las estaciones, los humanos buscaron respuestas en Dios. Al dar forma al mundo social, desde la economía hasta el amor, la religión sirvió de guía.

Los humanos, argumentó Kant, siempre tuvieron la capacidad de razonar. Simplemente no siempre habían tenido la confianza para usarla. Pero, con la Revolución Americana y más tarde con la Revolución Francesa, una nueva era estaba amaneciendo: la razón reemplazaría a la fe, y la mente humana, libre de la autoridad, se convertiría en el motor del progreso y de un mundo más moral. ¡Sapere aude! ¡Tengan valor para usar su propia comprensión!“, instó Kant a sus contemporáneos.

Dos siglos y medio después, uno puede preguntarse si estamos volviendo a caer silenciosamente en la inmadurez. Una aplicación que nos dice qué camino tomar es una cosa. Pero la inteligencia artificial amenaza con convertirse en nuestro nuevo “otro”, una autoridad silenciosa que guía nuestros pensamientos y acciones. Estamos en peligro de ceder el coraje duramente ganado para pensar por nosotros mismos, y esta vez no a dioses o reyes, sino a unos algoritmos.

ChatGPT se lanzó hace solo tres años, y ya una encuesta global, publicada en abril, encontró que el 82% de los encuestados había usado IA en los seis meses anteriores. Ya sea para decidir el fin de una relación o por quién votar, la gente está recurriendo a las máquinas para obtener asesoramiento. Según OpenAI, el 73% de las solicitudes de los usuarios se refieren a temas no relacionados con el trabajo. Aun más intrigante que nuestra dependencia del juicio de la IA en la vida diaria es lo que sucede cuando dejamos que hable por nosotros. La escritura es ahora uno de los usos más comunes de ChatGPT, solo superado por las solicitudes prácticas, como el bricolaje o los consejos de cocina. La escritora estadounidense Joan Didion dijo una vez: “Yo escribo para descubrir lo que estoy pensando”. ¿Qué pasa cuando dejamos de escribir? ¿Dejamos de averiguarlo?

Es preocupante que algunas pruebas sugieran que la respuesta podría ser sí. Un estudio realizado por el Instituto de Tecnología de Massachusetts utilizó electroencefalografía (EEG) para monitorear la actividad cerebral de los escritores de ensayos que tenían acceso a la IA, o a los motores de búsqueda como Google o a nada en absoluto. Aquellos que podían confiar en la IA mostraron la actividad cognitiva más baja y lucharon por citar con precisión su trabajo. Quizás lo más preocupante fue que, durante un par de meses, los participantes en el grupo de IA se volvieron cada vez más perezosos, copiando bloques enteros de texto en sus ensayos.

El estudio es pequeño e imperfecto, pero Kant habría reconocido el patrón. “La pereza y la cobardía”, escribió, “son las razones por las que una proporción tan grande de seres humanos permanece toda la vida en la inmadurez y por las que es tan fácil para otros establecerse como sus guardianes. Es muy fácil ser inmaduro”.

Claro, el atractivo de la IA radica en su conveniencia. Ahorra tiempo, ahorra esfuerzo y, lo que es más importante, ofrece una nueva forma de descargar la responsabilidad. En su libro de 1941 'Escape from Freedom' ['El miedo a la libertad', en su traducción al español], el psicoanalista alemán Erich Fromm argumentó que el ascenso del fascismo podría explicarse en parte por personas que prefieren renunciar a su libertad a cambio de la certeza tranquilizadora de la subordinación. La IA ofrece una nueva forma de renunciar a esa carga de tener que pensar y decidir por ti mismo.

El mayor atractivo de la IA es que puede hacer cosas que nuestras mentes no pueden: examinar los océanos de datos y procesarlos a una velocidad sin precedentes. Sentado en el coche de Marsella, después de todo, esta fue la razón por la que elegí confiar en la máquina en lugar de en mi amiga en el asiento del pasajero (una decisión que tomó como un insulto). Con acceso a todos los datos, seguramente la aplicación debe saberlo mejor, o eso pensé.

El problema es que la IA es una caja negra. Produce conocimiento, pero sin necesariamente profundizar la comprensión humana. Realmente no sabemos cómo la IA llega a sus conclusiones, incluso los programadores lo admiten. Tampoco podemos verificar su razonamiento con criterios claros y objetivos. Así que cuando seguimos los consejos de la IA, no nos guiamos por la razón. Estamos de vuelta en el reino de la fe. In dubio pro machina: en caso de duda, confía en la máquina, que puede convertirse en nuestro futuro principio rector.

La IA puede ser un aliado formidable para los humanos en la investigación racional. Puede ayudarnos a inventar drogas, o liberarnos de “trabajos de mierda”, o hacer nuestra declaración de la renta, tareas que exigen poca reflexión y ofrecen poca satisfacción. Bienvenidas estas mejoras. Pero Kant y sus contemporáneos no defendieron el caso de la razón sobre la fe solo para que los humanos pudieran construir mejores estanterías o tener más tiempo libre. El pensamiento crítico no se trataba solo de eficiencia, sino de una práctica de libertad y emancipación humanas.

El pensamiento humano es desordenado y está lleno de errores, pero nos obliga a debatir, a dudar, a probar unas ideas contra otras y a reconocer los límites de nuestra propia comprensión. Genera confianza, tanto individual como colectivamente. Para Kant, el ejercicio de la razón nunca se trataba solo de conocimiento; se trataba de permitir que las personas se convirtieran en gestores de sus propias vidas y se resistieran a la dominación. Se trataba de construir una comunidad moral basada en el principio compartido de la razón y el debate, en lugar de la creencia ciega.

Con todos los beneficios que aporta la IA, el desafío es este: ¿cómo podemos aprovechar su promesa de inteligencia sobrehumana sin erosionar el razonamiento humano, la piedra angular de la Ilustración y de la propia democracia liberal? Esa puede ser una de las cuestiones definitorias del siglo XXI. Haríamos bien en no delegar en la máquina.