El título de este artículo es parte del estribillo de la canción “Vacaciones” de Aerolíneas Federales. Es de los años 80, sepan los jóvenes. No se me ha ocurrido nada mejor para encabezar el tema de este artículo, aunque dudé si cambiar vacaciones por tecnologías. Durante décadas se nos ha vendido que las TIC nos liberarían del trabajo menos grato, en particular del ingrato, ya que automatizando lo rutinario, lo menos creativo, lo más pautado, nos permitirían, supuestamente, dedicarnos a cosas más productivas y satisfactorias y nos devolverían tiempo para vivir. Ahora la cantinela se repite con la IA, y con mucha mayor insistencia. Este relato ha funcionado como incentivo para la incorporación de estas tecnologías en las organizaciones y también en nuestro propio trabajo. Pero la realidad demuestra que se trató y se trata de un pensamiento ilusorio, al menos para la mayor parte de nosotros. Bien al contrario, experimentamos una intensificación del trabajo y una invasión de la esfera personal por la laboral. 

En 1964 el memorándum “The Triple Revolution”, dirigido al presidente estadounidense Lyndon B. Johnson por un grupo de académicos, activistas y científicos sociales, reflexionaba sobre los cambios estructurales que vivía Estados Unidos. En concreto, consideraban que el país se enfrentaba a tres “revoluciones”: la cibernética, que provocaría una automatización que conllevaría una drástica reducción del trabajo humano; la nuclear, con un poder destructivo sin igual; y la de los derechos humanos, que exigía igualdad real entre las personas y transformaciones profundas en la estructura social. Hace más de seis décadas ya se hablaba de la necesidad de reorganizar el empleo y garantizar una renta básica que garantizase unos recursos suficientes a toda la ciudadanía cuando no fuese posible garantizar el trabajo para todos debido a la automatización del mismo. 

El tema de la reducción significativa del trabajo humano ha sido recurrente desde entonces. Recordemos la publicación de 1995 de Jeremy Rifkin titulada “The End of Work, donde vaticinaba un desempleo estructural permanente en el contexto de la tercera revolución industrial. Hasta ahora estas y otras predicciones sobre la destrucción masiva de empleo se han visto incumplidas, aunque ha habido impactos significativos en algunos sectores, en períodos concretos o en ciertos lugares. Aun así, a escala global ha habido una creación neta muy importante de empleo. Podría ocurrir lo mismo ahora con las tecnologías inteligentes, pero nadie se pone de acuerdo al respecto. En todo caso, no es el desempleo tecnológico en lo que quiero incidir, sino en la promesa constante de que las tecnologías nos permitirían, y ahora más, hacer menos trabajo, más productivo y más creativo, disponiendo así de más tiempo para nosotros. Lo de hacer más parece incuestionable, pero del resto hay mucho de lo que hablar. 

A finales del siglo XX y comienzos del XXI, economistas como Erik Brynjolfsson señalaron que las TIC producían aumentos de productividad, pero también comenzaron a surgir debates sobre por qué esos aumentos no se traducían automáticamente en reducciones de horas trabajadas o en una mayor calidad de vida. A menudo, las ganancias de eficiencia se reinvierten en producir más -y a un ritmo más alto-, o se convierten en presión competitiva para hacer más, en menos tiempo y con menos recursos. 

El extenso uso de ordenadores, internet y herramientas colaborativas desde los años 1990 no ha reducido de forma generalizada la duración de las jornadas laborales en la mayoría de las economías avanzadas; más bien ha incrementado las expectativas de disponibilidad constante y de respuesta inmediata. Esto ha contribuido a la extensión del trabajo fuera de los horarios oficiales. Se dice, de hecho, que la oficina se ha prolongado hasta nuestros hogares, y no hablo del teletrabajo sino del trabajo a destajo. 

Numerosos estudios sociológicos y económicos han mostrado que la conectividad permanente ha difuminado las fronteras entre trabajo y vida personal, extendiendo las demandas laborales a espacios de descanso y ocio que antes eran respetados. De hecho, casi todos hemos caído en el sutil autoengaño de pensar que las tecnologías nos permitirían hacer nuestro trabajo con más flexibilidad, mejor y con menos esfuerzo, ganando tiempo y calidad de vida. Pero la realidad es que dedicamos más tiempo a trabajar, ya que las tecnologías permiten romper las barreras del espacio y del tiempo, de modo que trabajamos desde cualquier lugar y en cualquier momento. 

La IA generativa ha roto además la última barrera, la del acceso a las máquinas, al poder comunicarnos con ellas en lenguaje humano. La gran cantidad de tareas en las que la IA nos puede resultar de utilidad hacen que vuelva con inusitada fuerza el mensaje de que ahora sí que las máquinas lo harán casi todo y nosotros podremos dedicar más tiempo al dolce far niente. Sin embargo, al menos de momento, lo que vemos dista mucho de todas estas promesas y de ese hiperoptimismo tecnológico, cacareado con intenciones nada inocentes. Los incrementos de productividad son más bien escasos todavía y en lugar de las tareas que nadie quiere hacer, muchas de las que se están automatizando son tareas creativas -diseño gráfico, campañas de publicidad y márquetin, consultoría estratégica, redacción de informes, artículos periodísticos, guiones, contenidos multimedia…-. Es decir, esa cantinela de que la máquina hará el trabajo desagradable, rutinario y que nadie desea, empieza a parecer más un réquiem que una gloria. 

Un reciente estudio publicado en la revista Harvard Business Review muestra una realidad bien distinta a la de trabajar menos y poder vivir más en la esfera de lo personal. La monitorización de dos cientos de trabajadores de una empresa tecnológica de Estados Unidos a lo largo de 8 meses evidenció, según los autores de la publicación, que, aunque la IA aumentó la productividad individual de los trabajadores, también amplió el alcance y la cantidad de tareas que estos debían asumir, de modo que redujeron sus descansos, ampliaron la jornada laboral e incluso ocuparon tiempo de sus días libres para hacer más trabajo. 

Obviamente, esto no significa necesariamente que se mantendrá el nivel de empleo actual. De hecho, ya se está viendo como en ciertos sectores se está destruyendo mucho empleo -en los últimos meses solo Amazon ha eliminado 30.000 empleos debido sobre todo a la adopción de IA-. Pero es paradójico, incluso irónico, que en muchos casos los empleados trabajan más acelerados, en modo multitarea y ampliando su jornada laboral, incluso sin que esto sea una demanda de sus organizaciones, sino una respuesta espontánea ante la novedad, aparentemente gratificante, de las herramientas que la IA está poniendo en nuestras manos. 

Si asistimos impasibles a lo que se avecina, sobre todo los gobiernos, podremos tener la tormenta perfecta: desempleo tecnológico para un amplio sector de la población y sobrecarga y estrés tecnológico para una parte significativa de los trabajadores que conserven su empleo, al menos por un tiempo. Prepárense para abrir los paraguas. 

Remontémonos a la larga historia del ser humano. Hubo un momento, no sabemos exactamente cuándo, en que el ser humano decidió no abandonar al enfermo, ni al anciano que caminaba más despacio y al que había que alimentar, ni a hijos de otros que quedaban huérfanos o desasistidos, ni al que, tras el ataque de un animal o un accidente, ya no podía valerse por sí mismo y quedaba a merced de las alimañas. Ese gesto de humanidad, aparentemente tan normal como radical, fue uno de los actos fundacionales de nuestra especie. 

Lo sabemos porque la arqueología ofrece pistas elocuentes de ello. Restos óseos que muestran fracturas consolidadas, enfermedades crónicas compatibles con una larga supervivencia, signos de cuidado prolongado, personas longevas que no hubiesen sobrevivido sin el cuidado de otros. Hacerlo así era lo contrario a ahorrar energía, de buscar solo el beneficio propio y reducir los riesgos en un ambiente extraordinariamente hostil. Fue asumir que el valor de la vida de un congénere no era sin más el de su utilidad para proveer alimento o seguridad. La humanidad empezó a ser una comunidad moral. 

Pero no nos creamos a salvo de involuciones morales. A mi modo de ver retrocedemos si pensamos como Sam Altman, el CEO de OpenAI, que dijo recientemente durante una entrevista en un evento tecnológico lo siguiente: «La gente habla de la cantidad de energía que se necesita para entrenar un modelo de IA... Pero también se necesita mucha energía para entrenar a un ser humano. Se necesitan unos 20 años de vida y toda la comida que se ingiere durante ese tiempo para llegar a ser inteligente». 

Comparar lo que consume un ser humano hasta que comienza a tener plenitud intelectual, digámoslo así, con el coste de entrenar un modelo grande de lenguaje es deshumanizarnos. Es considerar que las personas y las herramientas tecnológicas, o las cosas, pueden situarse en planos semejantes de valor. 

Deshumanizar al ser humano nos ha llevado, incluso en la historia reciente de la humanidad, a situaciones que ni siquiera hubiésemos imaginado si no se hubiesen dado. Durante las primeras décadas del siglo pasado, miles de personas fueron esterilizadas forzosamente en EE. UU. bajo leyes eugenésicas que pretendían “mejorar” la población. El Tribunal Supremo estadounidense llegó a avalar estas prácticas en 1927. Décadas después, el programa Aktion T4 de la Alemania nazi promovió el asesinato sistemático de personas con discapacidad física o mental, por considerarlas “vidas indignas de ser vividas”. La lógica era brutalmente utilitarista: eliminar a quienes no contribuían a la fortaleza del Estado y suponían un coste. Aunque el nazismo haya sido lo más atroz que ha ocurrido en el mundo en el último siglo, el ser humano contemporáneo ha dado muchas muestras de que ser humanos no es algo irreversible ni universalmente practicado. El genocidio cometido por Israel contra el pueblo palestino no es del siglo pasado, sino de ahora mismo. La idea de fondo sigue siendo inquietantemente similar: hay vidas menos valiosas, de las que se puede prescindir o que no conviene proteger. 

En las democracias occidentales nadie reivindica la eliminación de los “menos productivos”, desde luego no Sam Altman, lo doy por hecho, pero no demos nada por garantizado indefinidamente. Vivimos en sociedades donde el éxito económico se ha convertido en la medida casi exclusiva del valor personal. La productividad, la eficiencia, la optimización son palabras fetiche. También el “nosotros”, como principio de exclusión de “los otros”. Sobre ideas así se sustenta el avance de movimientos ultranacionalistas, de extrema derecha y excluyentes que predican la idea de que algunos “sobran” y de que el Estado no debe proteger a quienes no encajan en una identidad o en un ideal productivo, o simplemente en “nuestros” usos y costumbres. La exclusión no se formula como exterminio, pero sí como abandono, estigmatización y desmantelamiento de redes de protección, y también estas son ideas y acciones a los que no debemos dar resquicio para prosperar. 

El debate adquiere nuevas aristas en la era de la biotecnología y la inteligencia artificial. La capacidad de discriminar a través de mejoras tecnológicas, sea negativa o positivamente, nos resitúa en escenarios que creíamos superados. ¿Quién tendrá acceso a las mejoras biológicas y a la neurotecnología capaz de aumentar las capacidades cognitivas del ser humano? ¿Qué ocurre cuando los algoritmos asignan recursos -empleo, crédito, seguros…- basándose en estadísticas que reproducen desigualdades previas, en particular diferencias socioeconómicas? 

La humanidad empezó a ser plenamente humana cuando empezó a cuidar al otro. Conviene recordarlo cada vez que alguien sugiere, explícita o implícitamente, que hay vidas que pesan demasiado o incluso a comparar el valor de las personas con las máquinas. 

En una de las magistrales viñetas de El Roto se ve una cabeza con una ranura para echar monedas, como las de las huchas, y un rótulo que dice: “Intelectual artificial. Funciona con monedas”. Altman no es precisamente un intelectual, pero muchos dicen que es un gurú; eso sí, un gurú cuya cabeza funciona con monedas. 

Nunca me gustaron las expresiones hard y soft skills, o habilidades duras y blandas. Hoy, además, me parecen términos gastados, casi casposos, que empiezan a resultar poco útiles para describir la realidad cambiante del trabajo y de las organizaciones. 

Por habilidades duras se entienden aquellas competencias técnicas y cognitivas específicas de ciertos ámbitos del saber, adquiridas mediante formación o experiencia y para las que es relativamente sencillo definir programas de formación y criterios objetivos y verificables de evaluación. Pensemos en el conocimiento disciplinar, en las competencias matemáticas, en la programación, en el uso de herramientas metodológicas o técnicas o en el análisis de datos e información. Es una formación orientada a saber y saber hacer.

Las llamadas habilidades blandas, por su parte, remiten a capacidades relacionadas con el juicio, la actitud y la interacción humana. Son más difíciles de enseñar, de medir y, al menos hasta ahora, de automatizar. Hablan menos del saber y más del querer hacer y del cómo hacerlo, especialmente en contextos reales, complejos y ambiguos. Aquí se incluyen la comunicación, las habilidades sociales, el pensamiento crítico -también el sentido común- y la capacidad de manejar la incertidumbre y la presión. 

Aunque podría matizar bastante esta caracterización, quizá baste decir como resumen que las habilidades duras se asocian más al conocimiento y a las aptitudes, mientras que las blandas lo hacen a las actitudes y al juicio. Aquellas son, en general, más fáciles de enseñar, y quizá por ello son en las que nuestro sistema educativo ha puesto históricamente más empeño y ha obtenido mejores resultados. Las blandas también pueden aprenderse -y, por tanto, enseñarse-, pero hacerlo bien exige métodos, dinámicas y entornos de aprendizaje muy distintos de los que predominan en nuestras aulas. Se adquieren más por el ejemplo, por la experiencia compartida y por la participación en proyectos reales que por la escucha pasiva de lecciones magistrales. 

No es mi intención, en cualquier caso, dar una lección -y menos magistral- sobre unas y otras habilidades. Hay libros enteros, y algunos muy bien escritos, que lo hacen con mucha profundidad. A donde quiero llegar es a que esta distinción entre hard y soft resulta ya claramente insuficiente, incluso algo vintage, en un contexto marcado por el avance imparable de las máquinas inteligentes y, con ellas, de la automatización del trabajo humano. 

No hace falta una bola de cristal para imaginar, al menos a grandes rasgos, cómo serán las organizaciones dentro de pocos años. Cada vez más tareas que hasta ahora realizaban personas pasarán a ser ejecutadas por máquinas que, en la mayoría de los casos, ni siquiera veremos. No serán en general robots deambulado por oficinas, sino programas informáticos -muchos de ellos ya existentes- dotados de nuevas capacidades, mayor autonomía y aprendizaje continuo. 

En algunos casos, estas máquinas resolverán tareas que nunca fueron humanas, simplemente porque exceden nuestras capacidades. Por ejemplo: la interpretación de imágenes médicas de más de cuatro dimensiones –nosotros solo manejamos las tres espaciales y la temporal-, algo fuera del alcance del cerebro humano; la detección de fraude en tiempo real mediante el análisis masivo de transacciones; o la monitorización compleja de redes de producción y distribución de energía o de telecomunicaciones. 

En este nuevo escenario, y más allá de lo desafortunado del nombre, deberíamos dejar atrás la dicotomía duro–blando y centrarnos en las habilidades automatizables, las difícilmente automatizables y las adecuadas para trabajar con máquinas -y personas- inteligentes. 

Las automatizables incluyen buena parte de las competencias técnicas y analíticas que durante décadas consideramos el núcleo del valor profesional -las duras, por acudir a la expresión común-. No es que pasen a ser completamente prescindibles, pero sí cambiarán de estatus: dejan de ser un factor diferencial para convertirse en un requisito de entrada o, directamente, en algo delegable, al menos parcialmente, en las máquinas. 

Las difícilmente automatizables son aquellas que, al menos por ahora, siguen siendo singularmente humanas. Por no repetir las antes mencionadas, podemos pensar en: la capacidad de acción y toma de decisiones en contextos impredecibles y/o mal definidos; la comprensión profunda de situaciones sociales complejas; la creatividad; la capacidad de formular buenas preguntas y de dotar de sentido a la información; o la capacidad de asumir responsabilidades en circunstancias no planificadas. No son imposibles de imitar, pero sí difíciles de escalar y de estandarizar y, por tanto, de automatizar. 

El tercer grupo, el de las habilidades para el uso inteligente, crítico y responsable de máquinas inteligentes, está irrumpiendo con fuerza y ganará protagonismo en los próximos años. Se trata de: saber colaborar e integrar en nuestro modus operandi sistemas que proponen, recomiendan, predicen y a veces deciden por sí mismos; entender sus límites y riesgos; complementar sus fortalezas con las nuestras y hacerlo, además, en el seno de equipos humanos cada vez más diversos e interdisciplinarios. 

Para los empleadores que quieran hacer más competitivas sus organizaciones, el mensaje es claro: no basta con incorporar tecnología; hay que hacerlo con inteligencia. Eso pasa por: repensar los procesos y tareas y su asignación a personas y máquinas; rediseñar los perfiles profesionales humanos; cambiar la política de incentivos y la cultura en las organizaciones; repensar el modelo y sistema educativo y formar para aprender, no para delegar nuestras capacidades cognitivas en las máquinas. El valor no lo aportará solo, ni sobre todo, automatizar y prescindir de cuantas más personas mejor, sino la colaboración entre personas y máquinas. 

Para quienes quieran seguir siendo -o llegar a ser- empleables, la advertencia es igualmente directa: no se trata solo de aprender nuevas herramientas, sino de cultivar aquello que no se deja encapsular fácilmente en un algoritmo o un modelo de IA. 

Pero quizá el verdadero reto no sea decidir qué tareas harán las máquinas y cuáles las personas, sino qué tipo de trabajadores y organizaciones queremos ser y tener en un mundo compartido con máquinas inteligentes. Entre habilidades duras, blandas, líquidas o incluso gaseosas -estas se evaporarán por el camino-, lo importante no es establecer una nueva taxonomía de las capacidades humanas, sino dar un nuevo sentido al trabajo humano y repartir más y mejor la riqueza derivada de la automatización. En esta tarea no esperemos mucha ayuda de las máquinas. 

La frase “si es gratis, tú eres el producto”, entendida literalmente, oculta el mecanismo principal por el que las plataformas digitales capturan la mayor parte de su beneficio. No somos solo el producto: somos, sobre todo, los servicios que las hacen funcionar. No es tanto que nuestros datos se vendan como mercancía, algo que también ocurre, sino que es nuestra actividad -publicar, comentar, moderar, reenviar, invitar, puntuar…-, lo que realmente hace rentable muchos negocios alrededor de las redes sociales, medios de comunicación, editoriales científicas o pseudocientíficas, plataformas de reputación, servicios de alojamiento de contenidos -que son aportados, documentados y mantenidos por los usuarios-, y un largo etcétera. 

Pensemos en los vídeos que en internet lo explican todo, desde cómo hacer un roto a un descosido, abrir una botella de vino sin sacacorchos, explicarte mecánica cuántica a un niño de 8 años o enseñarte a escribir artículos de prensa -juro que no he visto ninguno sobre este tema-. Antes se decía que todo estaba en los libros y no era cierto, pero ahora sí lo es que casi todo está en internet. Pensemos, poniendo otro ejemplo, en los conductores que van aportando información en tiempo real sobre obras, cierres de calles, semáforos fuera de servicio, accidentes, meteorología… sirviendo gratuitamente una información que otros monetizan. 

Quizás el paradigma de esta paradoja son los servicios que realizamos los investigadores para las editoriales científicas, como la edición y maquetación de nuestros artículos y el proceso de revisión de publicaciones por pares, algo muy laborioso, complejo y sensible. Son servicios que prestamos gratis et amore a estas empresas y que ellas convierten en un negocio muy rentable. Por ejemplo, Elsevier, una de las principales editoriales del ámbito científico, ha superado ampliamente los mil millones de euros de beneficios el año pasado; una parte de ese dinero, que no sabría cuantificar, pero que no ha de ser pequeña, se debe al trabajo gratuito de miles y miles de investigadores. Esta es la gran paradoja, regalar a estas compañías nuestro tiempo y conocimiento, cuando ambos son lo más valioso que tenemos quienes nos dedicamos a la ciencia. 

Por su parte, las redes sociales pueden vender sus contenidos y los perfiles de sus usuarios, pero la mayor rentabilidad la obtienen de vender de un modo u otro el tráfico, la participación, la atención y la permanencia nuestra en sus redes. Todo el contenido de una red social acumulado durante años tiene un valor muy escaso si este deja de tener interés para sus potenciales usuarios, que son el objetivo real de los anunciantes. Es la participación más o menos activa lo que se monetiza a través de publicidad, suscripciones, comisiones por ventas o transacciones, analítica empresarial y otros servicios. 

Herbert Simon, uno de los fundadores del campo de la inteligencia artificial y reconocido con el Premio Nobel de Economía en 1978, dijo en los años 70 que la riqueza de información crea pobreza de atención. Podríamos pensar que esto va en contra del negocio montado alrededor de las redes sociales, pero es que la mayor parte de lo que hay en la mayoría de ellas ni es información ni se consume como tal. Al menos no si consideramos que la información se asocia a aquello que nos permite mejorar el conocimiento que tenemos sobre algo. 

Subimos vídeos y otros contenidos, los moderamos informalmente, damos likes, respondemos a aquello que de un modo u otro entendemos que nos interpela, censuramos y denunciamos spam, aceptamos cookies, puntuamos y etiquetamos todo tipo de contenidos para alimentar después a los algoritmos de aprendizaje automático que guían las inteligencias artificiales, haciendo cada vez más ricos a sus dueños. Este es el trabajo, casi siempre gratuito, que mantiene el sistema muy rentable para unos pocos. Por eso las empresas mantienen sus algoritmos bien afinados para que bailemos al son que tocan. Cuanto más tiempo mejor, cuanto más interactuemos mejor y mejor todavía si somos el perfil de consumidores que buscan las empresas que quieren vendernos sus productos y servicios.  

En este enjambre de abejas humanas que alimenta la colmena hay de todo, desde zánganos que simplemente consumen lo que se les pone en la pantalla -y que, como esfuerzo máximo, muestran su conformidad o no con ciertos contenidos o los reenvían-, a las obreras, que suben y comentan contenidos con gran avidez, a menudo desde posiciones muy polarizadas y más cargados de emociones que de razones. Por supuesto, también hay reinas, como esas que llamamos influyentes y que hacen caja por mover a su alrededor a miles o millones de otras abejas. 

Marshall McLuhan lo advirtió: “primero modelamos nuestras herramientas y luego ellas nos modelan”. Creemos que regalando nuestro tiempo, atención, contenidos y creatividad tenemos voz y voto, pero realmente no somos más que seguidores obedientes y acríticos de quienes gobiernan la tecnología que nos gobierna a nosotros. 

En internet no se come gratis, ni siquiera si tú eres el que prepara la comida y la lleva. 

Nos lamentamos día sí y día también de que Europa regula en exceso, y a eso le echamos la culpa de todas las demás carencias que tenemos, tanto en España como en el resto de los países de la Unión Europea. Por eso, se dice, nuestras empresas no innovan, pierden competitividad, no tenemos gigantes tecnológicos y, sobre todo, nos quedamos atrás en la carrera por liderar la IA. Es decir, como Europa regula, no pasamos de ser mediocres. Lo mediocre es este análisis, y una excusa. ¿Se imaginan quienes critican el Reglamento europeo de IA que en su lugar tuviésemos 27 leyes distintas, una por cada país de la Unión Europea? 

Yo quiero que la IA se regule, como considero necesario que se regule la fabricación de los automóviles y su circulación o los medicamentos, desde la investigación hasta su comercialización. Para la aviación y la energía nuclear hay incluso una regulación global, y creo que nadie discute su necesidad. No veo que tengamos que ser más permisivos con la IA, teniendo en cuenta que está cambiando nuestras vidas, el trabajo, la educación, la salud, la fabricación de medicamentos y, por resumirlo, lo está cambiando todo. 

China tiene claro que es necesario regular la IA, tanto internamente como a escala global. Por eso lleva algunos años aprobando regulaciones, con referencias muy concretas a los contenidos potencialmente dañinos o a la privacidad de los datos, algo que quizás no esperásemos. Es más, está comenzando a dar pasos para una gobernanza planetaria para la IA. En octubre de 2025, en una reunión del foro de Cooperación Económica Asia-Pacífico, Xi Jinping trasladó el objetivo de crear un sistema de gobernanza global para la IA a través de la creación de la Organización Mundial de Cooperación en Inteligencia Artificial (Waico, serían las siglas en inglés de este organismo). 

No me cabe duda de que para China sería bueno tener una regulación mundial, más aún si lideran su desarrollo. Esto favorecería enormemente que los productos, servicios o aplicaciones basadas en IA y creadas en China pudiesen comercializarse con mayor facilidad en el resto de los países, algo que ahora no es fácil. China tiene un mercado interno inmenso y creciente en poder adquisitivo, pero no es suficiente para que su industria se proyecte al mundo y lidere el desarrollo y la comercialización de las tecnologías inteligentes. Dicho esto, que China se ponga a la cabeza en el intento por alcanzar una regulación global para la IA no debería restarle aplausos si lo logra. 

Mientras tanto, asistimos a la paradoja de que EEUU no solo no tiene una regulación federal sobre IA, sino que en este momento la administración Trump está intentando bloquear la regulación de los estados norteamericanos e incluso desmontar la que algunos de ellos han aprobado. Al comienzo del actual mandato, Trump revocó una orden ejecutiva firmada por su antecesor, Joe Biden, cuyo objetivo era fundamentalmente garantizar la seguridad de la IA.  

No fue una casualidad que en el acto de toma de posesión de Trump las primeras filas estuviesen ocupadas por los CEO de las compañías tecnológicas, especialmente preocupadas por las limitaciones que la regulación pueda poner a sus megalómanos sueños. Empresas y personas con gran capacidad de influencia y más dinero aún, destinan parte de este buscando influir en las elecciones de mitad de mandato para inclinar el Congreso de EE. UU. y varios estados hacia posiciones todavía más favorables a la industria de la IA. Al menos hay que reconocer que no esconden sus intereses. 

Las empresas prefieren que el control de la IA quede en manos de la ética, la autorregulación o en la denominada legislación blanda, que no es legislación y más que blanda es poco útil. Se trata de recomendaciones, principios, códigos de conducta, directrices éticas y deseos recogidos en las más o menos rimbombantes declaraciones de organizaciones como la Unesco, la Ocde o la ONU. La intención es buena, por supuesto, y pretende servir de guía a países, empresas y todo tipo de organizaciones, pero realmente estas declaraciones no pasan de ser un brindis al sol en la mayor parte de las ocasiones. De hecho, quizá recuerden la “Declaración de Bletchley” sobre IA, un acuerdo internacional firmado en noviembre de 2023 durante la Cumbre de Seguridad de la Inteligencia Artificial celebrada en Bletchley Park (Reino Unido). En ella se reconocen los riesgos potenciales de la IA y las organizaciones y gobiernos firmantes de la misma se comprometieron a cooperar para desarrollarla de forma segura, ética y responsable. ¿Han vuelto a oír o leer algo relevante sobre el asunto? Desde luego no parece que Bletchley, un pequeño pueblo situado al noroeste de Londres, vaya a ser recordado por esta declaración. En todo caso, su nombre ya está escrito con letras de oro en la historia de la humanidad por haberse ganado allí una de las batallas más importantes de la Segunda Guerra Mundial. Una batalla que ganaron sin armas Alan Turing y su equipo al descubrir la forma en la que los alemanes cifraban cada día los mensajes que enviaban a sus tropas. 

Europa ha tenido la valentía y el acierto de haber creado la primera regulación general para la IA, pero parece que ha empezado a rajarse, acobardada ante las presiones de Trump y de los gigantes tecnológicos norteamericanos. De hecho, ya a lo largo de 2025 ha aplazado o flexibilizado obligaciones de este reglamento. 

Dar un margen razonable para cumplir la ley y pensar bien su desarrollo y aplicación para que, sin poner frenos innecesarios al progreso, clarifique, aporte certidumbre y proteja nuestros derechos y valores humanos y democráticos, está bien. Dar marcha atrás, no. Tener una ley única de obligado cumplimiento para todos los Estados miembros no solo es pertinente, sino la única oportunidad para tener un mercado único y una posición de fuerza en el desarrollo y uso de la IA. Eso sí, las posiciones de fuerza hay que saber ejercerlas y defenderlas. 

Los señores de la IA suelen hacerla en las reuniones con los inversores o en sus declaraciones públicas, mientras le guiñan un ojo a su jefe de prensa. ¿Qué puede salir mal si hacemos un nuevo modelo de IA más grande, pero menos probado? ¿Qué puede salir mal si invertimos cientos de miles de millones de dólares en centros de datos que consumen energía y agua como ciudades enteras? ¿Qué puede salir mal si delegamos decisiones críticas en sanidad, justicia o finanzas en sistemas opacos, muy limitados en sus capacidades de explicación? ¿Qué puede salir mal si monetizamos nuestros modelos de lenguaje como servicios pornográficos? 

Como escribió Baltasar Gracián, maestro del equilibrio y de la cautela: “El primer paso de la ignorancia es presumir de saber”, y de esto hacen gala muchos directivos que elevan la IA a los altares. El siguiente paso, y puede ser el último, es presumir de no saber, y una parte de la sociedad vive ya instalada ahí, en una ignorancia que se jacta de sí misma. Por eso hoy podemos leer que leer está sobrevalorado y quizás pensar que pensar también lo está. 

¿Qué puede salir mal? es una pregunta estéril si no tienes la menor intención de contestarla o te la igual la respuesta. “Con la inteligencia artificial estamos invocando al demonio”, advirtió Musk en 2014. El problema es que él y muchos como él es justo lo que quieren, que venga el demonio. Eso sí, su particular demonio. Mark Zuckerberg aplaudía el lema de su compañía: “move fast and break things”, cuando Facebook rompía muchas cosas. En este momento en EE. UU. hay demandas estatales y civiles contra Meta -antes Facebook- acusando a la compañía del diseño deliberado de algoritmos para maximizar el enganche de menores, ocultando incluso evidencias internas de daño psicológico. Si eso es cierto, y todo apunta a que sí, se han roto incluso vidas. 

Recuerdan aquella frase de Ian Malcolm, el matemático de Jurassic Park que estaba de vuelta de todo: “estaban tan ocupados preguntándose si podían que no se pararon a pensar si debían”. Les propongo que imaginen que los dinosaurios de la película son las inteligencias artificiales de hoy y que los hombres de negocios -siempre son hombres en estos casos- son ahora los señores que dirigen los gigantes tecnológicos. Como diría José María García, aquella moraleja se vuelve de rabiosa actualidad. 

Microsoft lanzó en 2016 a Tay, un bot conversacional diseñado para aprender de Twitter. Era un juguete comparado con los modelos grandes de lenguaje actuales. Sin embargo, en unas horas el sistema empezó a regurgitar mensajes racistas y misóginos en la red social, de modo que la empresa tuvo que desconectarlo y pedir disculpas públicas. ¿Qué podía salir mal?, seguro que pensó entonces la compañía fundada por Bill Gates. Aquel experimento fue fácil de reconducir, pero ya no es tan fácil cuando no se hacen experimentos sino despliegues masivos de servicios y productos que se quieren monetizar sin importar apenas las consecuencias ni los daños colaterales. El objetivo es liderar tecnológicamente el mundo y ganar dinero a espuertas. Más aún cuando se ha puesto mucho dinero en juego y todavía no han salido los grandes premios. Pero ya sabemos que los ludópatas siguen apostando pensando que cada apuesta fallida aumenta la probabilidad de que la próxima sea la buena. Es lo que se conoce como la falacia de Montecarlo.  

OpenAI defiende la “liberación gradual” como la vía más segura de llegar al público: iterar con usuarios, ampliar el acceso paso a paso y ajustar el sistema con realimentación desde el mundo real. La idea es tentadora, pero imagínese hacer lo mismo con cada nuevo medicamento que se desarrolle, saltándonos todas las fases de evaluación con seres humanos, de modo que pasemos directamente del laboratorio y la experimentación animal al paciente. Seríamos nosotros las ratas de laboratorio. Al fin y al cabo, ¿qué puede salir mal? podríamos pensar. Con la IA nosotros somos a menudo eso, las cobayas. Y si algo sale mal, no pasa nada porque las ratas de laboratorio no protestan, y quienes las estabulan tampoco. 

Sin embargo, son muchas las cosas que pueden salir mal. Un modelo capaz de generar lenguaje, código o imágenes puede equivocarse gravemente y crear un sinfín de mentiras. Puede crear programas aparentemente impecables con bugs internos muy difíciles de detectar, sobre todo si no se tiene la voluntad de hacerlo; pueden generar ultrafalsificaciones a golpe de clic y con ellas amplificar la desinformación, el fraude y el abuso a un coste marginal casi nulo; modelos entrenados con datos sesgados pueden reproducir y amplificar prejuicios raciales, de género o ideológicos con apariencia de objetividad matemática; la IA agéntica conectada al mundo real y sin el control adecuado puede ejecutar acciones capaces de colapsar infraestructuras digitales críticas. ¿Qué puede salir mal? Casi todo, si nos guiamos por el pensamiento ilusorio de que nada puede salir mal y además tenemos tantas prisas que la consigna es “tonto el último”. 

Por eso creo que deberíamos, también en esto, aplicar la prudencia que se ha ido asentando a lo largo de los siglos en nuestro refranero, curándonos en salud y buscando prevenir antes que lamentar. Ante aquello que tiene una capacidad potencial tan grande de impactar en nuestras vidas, en nuestra salud, en nuestros trabajos, en la forma en la que enseñamos y aprendemos, prefiero anteponer la venda antes que curar las heridas. No se trata de frenar la innovación, sino de verificar que su resultado no nos va a joder la vida a muchos. Incluso a la mayoría. Por eso tenemos que dejar de preguntarnos retóricamente qué puede salir mal, y preocuparnos de forma sincera y prudente de cómo garantizamos que no saldrá mal. 

¿Qué podría salir mal?, le dijo un besugo a otro al ver un gusano prendido de un anzuelo. 

Durante siglos muchas personas buscaron infructuosamente la piedra filosofal. Era el objetivo central de la alquimia, que fue algo así como la antesala de la ciencia, combinando saberes de la química, la física, la astrología y la medicina, entre otras disciplinas. Esta piedra mágica podría convertir metales de escaso valor, como el vil plomo, en otros preciosos, como el oro o la plata, lo que haría inmensamente rico a quien la descubriese o inventase, según el enfoque seguido para obtenerla. También había quien creía que a partir de ella se podría obtener un elixir de la vida, que conferiría la inmortalidad a quien lo tomase.  

Recientemente, un equipo de físicos del Gran Colisionador de Hadrones (LHC, por sus siglas en inglés) encontraron una forma de transformar plomo en oro, aunque por un pequeñísimo instante de tiempo y en cantidades ínfimas (picogramos). Además, el coste en tecnología y energía necesarios para hacerlo resultó enorme. No han hecho magia. El oro cuenta con 79 protones en su núcleo, mientras que el plomo posee 82. Con la tecnología actual se pueden eliminar (o expulsar) esos 3 protones sobrantes, algo que estos investigadores hicieron sometiendo a los átomos de plomo a choques a velocidades cercanas a la de la luz. 

Los alquimistas tardíos del siglo XVIII jamás podrían haber imaginado algo como el LHC, así que es muy probable que los científicos de la computación de hoy ni siquiera nos asomemos a imaginar lo que está por venir, no ya en siglos sino en décadas. Lástima que soy demasiado mayor para verlo. 

Hace unos días Mark Zuckerberg mostraba su alegría por las mejoras de los sistemas de IA de Meta. «La mejora es lenta por ahora, pero innegable. El desarrollo de la superinteligencia está a la vista», afirmó. Desde luego, a su compañía le están yendo bien las cosas, al menos si atendemos a los resultados financieros.  

Zuckerberg no dijo qué entiende él ni su compañía por superinteligencia. Aunque superinteligencia, inteligencia artificial general e inteligencia artificial a nivel humano se usan comúnmente como sinónimos, no lo son -otro día entraremos en disquisiciones. De hecho, Zuckerberg parecía referirse más que a superinteligencia a una IA general (IAG), que básicamente podemos definir como aquella capaz de un desempeño comparable al nuestro, o incluso superior, en la resolución de problemas de todo tipo, no solo los basados en el cálculo matemático o el razonamiento formal, donde claramente ya nos superan las máquinas. Pensemos, por ejemplo, en el diagnóstico médico, el poder atender una situación de emergencia en la calle o gestionar una cuadrilla de personas en la extinción de un incendio. No hablo de una IA específica para cada tipo de problema, sino de una capaz de abordarlos todos, aunque fuese a través de la coordinación de agentes, estos sí especializados.  

No habiendo una definición canónica de IAG o ampliamente asumida, al menos, lo cierto es que mucha gente especula sobre cuándo llegará esta. Por ejemplo, Demis Hassabis, CEO de DeepMind, piensa que la IAG se logrará en el horizonte de un lustro a una década. Poco tiempo, salvo que lo comparemos con la estimación de algunos de sus pares, cuyo optimismo es todavía más preocupante. Por ejemplo, Sam Altman, CEO de OpenAI, aventura que llegará durante el actual mandado de Trump -claro que este es capaz de prolongarse sine die como presidente de EE. UU. si alguien no lo remedia-. Por su parte el CEO de Anthropic, Dario Amodei, afirma que podría llegar ya en 2026.  

Estas diferencias sobre ese momento singular en el que llegará la IAG se explican en buena medida por las distintas formas de entenderla. La definición de Altman se basa en una visión netamente empresarial: será una tecnología que podrá realizar las tareas de mayor valor económico mejor que los humanos. Hassabis tiene un criterio bien diferente, centrado en la capacidad de descubrimiento científico. Él cree que la IAG será una tecnología que no solo podrá resolver los problemas existentes, sino también ofrecer explicaciones completamente nuevas sobre el universo. Una prueba de su existencia podría ser la capacidad de la IA para formular la relatividad general con solo la información a la que tenía acceso Einstein cuando este la propuso. 

No es la primera vez que se hacen predicciones exageradas sobre el futuro de la IA. En 1970 Marvin Minsky, uno de los padres del campo, comentaba en una entrevista publicada en la revista Life que en un período de 3 a 8 años las máquinas tendrían la inteligencia típica del ser humano. Pensaba en una máquina capaz de leer a Shakespeare, engrasar un coche, hacer tareas de oficina, contar chistes o incluso pelearse. Al margen de este potencial comportamiento pendenciero de la IA, lo cierto es que buena parte de los ejemplos que puso Minsky están hoy al alcance de las máquinas, pero estas siguen estando lejos, muy lejos, de la inteligencia de las personas. Además, Minsky pensaba que, llegado ese momento las máquinas aprenderían por sí mismas a una velocidad fabulosa, de modo que en unos pocos meses alcanzarían el nivel de un genio humano y, en unos pocos más, alcanzarían poderes inimaginables. Está claro que, fuese por la razón que fuese, Minsky se vino arriba. 

La IAG, al margen de lo que cada quién entienda por tal, se ha convertido en la nueva piedra filosofal. En todo caso, conviene tener presente varias cosas. En primer lugar, que un modelo grande de lenguaje, o LLM, no es una IA general. Un LLM es un modelo multifunción, como una navaja suiza, que puede hacer muchas cosas para las que en general ha sido específicamente entrenado, aunque ciertas capacidades pueden emerger del modelo sin que hayan sido específicamente fijadas durante la instrucción del mismo. 

Por otra parte, aunque hay investigadores que piensan que el agrandar y mejorar la capacidad de aprendizaje de los actuales modelos de IA podrá llevarnos a una IAG, yo no lo creo. Nuestra capacidad de aprendizaje, de utilización de lo aprendido, de pensamiento abstracto, de integración de información multimodal, de improvisación… y un largo etcétera de cosas que hacemos las personas, la mayor parte de forma inconsciente, está lejos del alcance de las arquitecturas de computación neuronal con las que trabajamos, incluso si mejoramos sensiblemente sus capacidades y las agigantamos aún más. 

Lo cierto es que todos especulamos sobre el futuro de la IA. También los que afirman que vamos en el camino cierto para alcanzar la IAG y no se resisten a la tentación de lanzar predicciones al aire. A veces hacerlo es muy productivo, si con ello mueven voluntades o capitales.

En teoría de sistemas estudiamos los sistemas en tiempo real. Son sistemas que procesan datos y generan respuestas lo suficientemente rápido como para que sean útiles en la resolución de un problema. El tiempo disponible depende del problema que se quiere resolver. En un sistema de frenado automático serán milisegundos seguramente, mientras que en un sistema de predicción meteorológica son horas. Son problemas en los que una solución, incluso si es exacta, resulta inútil pasado el límite de actuación límite. Por ejemplo, si el coche toma la decisión de apretar el freno un milisegundo después de una colisión, no servirá de nada. Tampoco si necesitamos una semana para predecir el tiempo que hará en los próximos días.

Lo que nos enseña la teoría de sistemas sirve también para la toma de decisiones humanas. La historia está plagada de ejemplos en los que las decisiones, incluso si hubiesen sido acertadas, llegaron tarde. La respuesta de Estados Unidos al crack bursátil de 1929 fue tardía. La Reserva Federal y el Gobierno de Estados Unidos tardaron en inyectar liquidez y adoptar políticas expansionistas. Sin duda las medidas de emergencia y los programas del “New Deal” acabaron ayudando, pero la tardanza en actuar agravó y prolongó la conocida como Gran Depresión.

La crisis financiera de 2007-2008, la más grave desde la Gran Depresión, tuvo también una respuesta a destiempo de la Unión Europea. La UE tardó en coordinar políticas fiscales y monetarias expansivas. De hecho, en la eurozona se aplicaron medidas de austeridad mientras la recesión seguía. Eventualmente, se adoptaron estímulos y mecanismos como el Mecanismo Europeo de Estabilidad, pero para entonces el desempleo y el daño social ya eran profundos, y la recuperación fue mucho más lenta y dolorosa.

A veces tenemos la información delante de las narices y no tomamos las decisiones acertadas, incluso las que podría dictar el sentido común. En nuestro país tenemos un ejemplo reciente y trágico: la funesta actuación de la Generalitat Valenciana durante la DANA de octubre de 2024. Al margen de la actuación personal y política del presidente de la Generalitat, Carlos Mazón, hay algo incontestable, más allá de quién haya sido responsable de ello, y es que el mensaje de emergencia se envió a los teléfonos móviles de la población cuando ya habían muerto un gran número de personas por no haber sido alertadas a tiempo, y el resto, hasta las 228 víctimas en la Comunitat Valenciana, ya no tuvieron escapatoria alguna.

Pero todo esto, incluso la tragedia irreparable de nuestros propios muertos, palidece cuando lo comparamos con el genocidio del pueblo palestino por parte de Israel. El mundo parece ajeno a la barbarie, incluida la Unión Europea, a la que muchos miramos con la esperanza de que haga algo más que lamentarse, aunque ya nos tiene acostumbrados a poco más que palabras de queja y de condena con la boca pequeña, y eso cuando simplemente no calla. Ya son más de 60.000 palestinos muertos y más de 150.000 heridos. Un 90% de la población desplazada al menos una vez desde octubre de 2023. En mayo de este año solo había 5 hospitales con servicios de maternidad, que hoy seguro serán menos. Lo peor es el futuro que probablemente no tendrán los nacidos. Más de un 90% de las escuelas destruidas completamente o con daños muy severos. No hay agua y no hay comida y la ayuda humanitaria está en buena medida bloqueada por decisión de Israel; incluso quienes tratan de llegar a ella, bajo presencia de fuerzas israelíes, son en muchos casos tiroteados, y ya son más de 1.500 muertos y más de 10.000 heridos por estos actos especialmente viles.

Podría seguir, pero pienso que no es necesario. La magnitud de este drama, de este genocidio, no se mide en números. De hecho, no se puede medir porque la crueldad que vemos es inconmensurable. Quizás llegue el momento en el que se tomen medidas, pero será inútil para todas las víctimas, las que ya lo han sido y las que lo serán, y una absoluta vergüenza para todos los que podríamos haber hecho algo.

No es necesario que nos juzgue el futuro porque el presente ya dictó sentencia.

Si le preguntan si sabe el número de teléfono del Papa, casi con total seguridad me responderá inmediatamente que no. No necesitará pensarlo un rato, ni hacer memoria. Sabemos que no lo sabemos, y punto.

Saber lo que no sabemos es muy importante, y no es simplemente una cuestión de realismo o de humildad. Es en realidad una de las piedras angulares de la inteligencia consciente. Una de las formas más profundas de sabiduría, que llevó a Sócrates a pensar que solo sabía que no sabía nada. En cierto sentido, podríamos decir que los humanos -no todos- somos los únicos animales conscientes de su ignorancia. Eso nos convierte en aprendices perpetuos.

La ignorancia reconocida es un tipo de conocimiento. Saber que uno no sabe permite preguntar, investigar, abstenerse de emitir juicios temerarios y, sobre todo, tomar decisiones con una dosis saludable de cautela. En cambio, ignorar la propia ignorancia es peligrosamente parecido a la estupidez, si no es lo mismo. La tragedia no está en no saber, sino en no saber que no se sabe o en no querer saber lo que se ignora.

Ahora bien, en los últimos años ha emergido un nuevo actor en este teatro del conocimiento: la inteligencia artificial. Más concretamente, los grandes modelos de lenguaje (LLM, por sus siglas en inglés). Estos modelos de IA son capaces de responder preguntas, resumir textos, traducir lenguas y hasta de escribir ensayos como este -aunque no haya sido el caso-. Pero hay diferencias cruciales entre lo que hacen las máquinas y lo que hacemos nosotros. Por ejemplo, una IA no sabe que no sabe y esto es una limitación funcional.

Un modelo de lenguaje predictivo no tiene conciencia ni intención, y tampoco duda. Su misión es generar la siguiente palabra probable en una secuencia; y tras ella otra, y así sucesivamente, en un camino que podría no tener fin, siguiendo patrones estadísticos adquiridos a partir de millones de ejemplos de texto. Cuando responde, no tiene “conocimiento” en el sentido humano del término, sino un inmenso sistema de correlaciones aprendido. No accede a la verdad; accede a patrones. Al igual que Borges nos habló de un mapa que tenía el tamaño del imperio que cartografiaba, coincidiendo punto a punto con él, y que era tan inútil como preciso, la IA podría leerlo y escribirlo todo sin comprender nada.

Imaginemos que nos pregunten sobre un tema del que somos completamente ignorantes: en mi caso, por ejemplo, la estructura cristalina del telurio. Quizás tras pensarlo unos segundos, confesemos nuestra ignorancia y, en su caso, nos tomemos algo de tiempo para consultar una fuente fiable. Esta actitud, lejos de ser un signo de debilidad, es una sofisticada señal de inteligencia metacognitiva: el individuo no solo no sabe, sino que sabe que no sabe. En cambio, un LLM generará sin vacilar un párrafo elocuente sobre el telurio, y podría hacerlo mezclando verdades, imprecisiones y alguna elegante falsedad. No se trata de mala fe (las máquinas carecen de ella), sino de un automatismo que ignora el alcance de su saber.

Este fenómeno tiene un nombre: alucinación algorítmica. No se trata de errores simples, sino de respuestas que suenan plausibles, que están gramatical y estilísticamente bien construidas, pero que son falsas. El problema no es solo que la máquina se equivoque, sino que no sabe que se está equivocando. En su universo sintáctico no hay diferencia entre certeza, conjetura o pura invención.

En los humanos, por el contrario, la duda ha sido una palanca evolutiva. Nuestra conciencia de los límites del conocimiento ha permitido el surgimiento de la ciencia, del método experimental, de la verificación empírica y de la propia filosofía. Kant lo dijo de forma muy clara: “La razón humana tiene el destino singular de verse acosada por preguntas que no puede ignorar y que, sin embargo, no puede responder”. Esa incomodidad ante lo ignorado es lo que nos empuja a investigar permanentemente.

Pero ¿qué ocurre cuando los humanos empiezan a confiar demasiado en sistemas que no conocen su propia ignorancia? Corremos el riesgo de trasladar nuestro pensamiento crítico a una entidad acrítica. En otras palabras: dejamos de preguntarnos si algo es verdad simplemente porque lo ha dicho una máquina que responde sin saber si sabe. No deja de ser una paradoja que aquello que ignora su ignorancia sea, hoy por hoy, lo que más firmemente aparenta saber.

Por supuesto esto no significa que debamos rechazar la IA, pero sí comprender su arquitectura epistemológica. El conocimiento humano está vinculado a la experiencia, la duda, el contexto, la emoción, el juicio moral y la intersubjetividad. El conocimiento algorítmico, en cambio, no se pregunta nada, no se corrige a sí mismo (a menos que lo programemos específicamente para ello), y no tiene idea del riesgo que implica equivocarse.

Como decía Montaigne: “Que no sepa la causa de los terremotos no me avergüenza tanto como que me sea indiferente no saberla”. La IA no sufre ese pudor epistemológico. No le importa no saber, ni siquiera equivocarse, porque no sabe que se equivoca. Nosotros, en cambio, construimos ciencia, filosofía y prudencia sobre la base de nuestra inseguridad cognitiva.

De modo que, si bien es cierto que los humanos podemos ser torpes, desinformados y dogmáticos, también somos capaces de detenernos, pensar y declarar honestamente: “No lo sé”. Esa frase, dicha con sinceridad, es uno de los signos más refinados de la inteligencia humana. Las máquinas, por potentes que sean, aún no han aprendido a callar cuando deben. Tal vez, cuando lo hagan, estemos realmente ante un nuevo tipo de conciencia. ¿Estamos preparados para convivir con entidades que, como nosotros, puedan dudar? No lo sé.

Con frecuencia me preguntan cuáles son las ocupaciones que se automatizarán y cuáles permanecerán en manos –y cabezas– humanas. La primera clave para entender esta cuestión es que no se automatizan empleos completos, sino tareas específicas que los componen. La versatilidad y la inteligencia humanas siguen estando, en general, muy por encima de las capacidades actuales de las máquinas. Por eso, estas no pueden —al menos por ahora— realizar todo lo que hacemos en nuestros trabajos.

Pensemos, por ejemplo, en el trabajo de una radióloga. Hoy día —o muy pronto— puede automatizarse la detección de anomalías en imágenes médicas como radiografías o TAC. Las máquinas son capaces, incluso con mayor precisión que los especialistas, de identificar fracturas, tumores o nódulos pulmonares. También pueden priorizar casos urgentes o generar informes preliminares. Sin embargo, otra cosa muy distinta es integrar esos hallazgos con la historia clínica, los síntomas del paciente u otras pruebas diagnósticas, o elaborar un diagnóstico completo. Esa capacidad de contextualización, juicio clínico y toma de decisiones integradas sigue siendo, por el momento, terreno humano. Tampoco resulta fácil que una máquina explique sus resultados con claridad, empatía y sentido clínico a los pacientes o que participe exitosamente en decisiones multidisciplinares.

Lo que sí es evidente —y lo será aún más en los próximos años— es que muchas tareas, tanto manuales como cognitivas, ya pueden ser realizadas por sistemas automatizados. En las últimas décadas hemos presenciado cómo la automatización ha avanzado desde tareas físicas muy repetitivas —como las que ejecutan los robots industriales que pintan o sueldan— hacia actividades cognitivas estructuradas, basadas en reglas claras y procesos repetitivos. Más recientemente, hemos comenzado a ver cómo se automatizan tareas mucho menos pautadas, que ocurren en entornos dinámicos y complejos. Un ejemplo son los robots agrícolas que identifican malas hierbas o la fruta madura, o los sistemas que sintetizan grandes volúmenes de información para generar resúmenes o informes útiles.

Hasta hace poco era difícil encontrar ejemplos de automatización de tareas cognitivas de alto nivel que no eran sistemáticas o previsibles. Hoy, con la irrupción de la inteligencia artificial generativa, los ejemplos se multiplican. Modelos de lenguaje como ChatGPT pueden redactar textos, escribir código, traducir artículos, resolver dudas o aportar ideas, a veces bastante originales. El abanico se ha ampliado con sorprendente rapidez.

Llegados a este punto, podemos afirmar que no existe ocupación alguna que esté completamente a salvo de la automatización. Todas, en mayor o menor medida, contienen tareas que las máquinas pueden realizar hoy o que podrán hacerlo en los próximos años. La mía, como investigador y profesor, también. Sin ir más lejos, muchos de mis estudiantes ya no acuden a tutorías: resuelven sus dudas con ayuda de modelos de IA. La traducción de artículos científicos, que antes requería horas de trabajo o servicios profesionales, hoy puede hacerse en minutos y con resultados sorprendentes.

Pero como no quiero eludir la pregunta, diré cuáles creo que son las ocupaciones que más resistirán la automatización, al menos durante bastante tiempo. Tal vez alguna vez les sorprenda.

Podemos situar las ocupaciones en una escala que va desde las más hasta las menos automatizables, según el tipo de habilidades que principalmente se requieren para su realización: el saber, el saber hacer, el querer hacer y, finalmente, el querer y saber hacer colectivamente. A medida que ascendemos en esta escala, el componente emocional y social, más humano, se vuelve más relevante, y por tanto más difícil de replicar por las máquinas.

En el primer grupo, más susceptible de automatización, se encuentran las tareas centradas en gestionar información de manera procedimental: procesar datos, elaborar informes más o menos rutinarios, realizar cálculos contables o verificar documentos. Muchas de estas actividades pueden ser realizadas por algoritmos con mayor rapidez y precisión que los humanos.

El segundo grupo incluye ocupaciones orientadas a resolver problemas poco pautados o incluso impredecibles, ya sean manuales o cognitivos. Se trata de situaciones singulares, donde no hay dos casos exactamente iguales. Por ejemplo, un fontanero al que llamamos por una fuga de agua en casa o un negociador que interviene en una situación de crisis. Aquí, la improvisación, la experiencia y la capacidad de adaptación juegan un papel fundamental.

En el tercer nivel, el del “querer hacer”, se encuentran las habilidades ejecutivas: motivación, perseverancia, liderazgo. Son esos “tónicos de la voluntad” a los que se refería Cajal. Por ejemplo, un líder no solo concibe ideas valiosas, sino que logra movilizar equipos de personas para llevarlas a cabo. También están aquellos docentes que, más allá de transmitir conocimiento, inspiran, motivan y conectan con sus alumnos.

Por último, en la cúspide de esta escalada, están las ocupaciones centradas en nuestras capacidades emocionales y sociales. Son los trabajos cuyo buen desempeño depende de todo de la empatía, la compasión, la escucha activa y el acompañamiento humano. La atención a personas enfermas —como el personal de enfermería—, el cuidado de mayores o dependientes, o la ayuda a personas en situaciones traumáticas —como víctimas de violencia o desplazados forzosos— pertenecen a este grupo. Su valor no se limita a lo técnico, sino que reside, sobre todo, en el vínculo humano.

Quizás muchos lectores no se vean reflejados en estos perfiles, pero no se alarmen. Si bien es cierto que ninguna ocupación está completamente a salvo de la automatización, también lo es que pocas pueden ser automatizadas en su totalidad. No se agobien, pero manténganse atentos, y no precisamente a la pantalla. Lo más fácil de automatizar es lo que se hace pasando horas y horas frente a una.

Hablar por hablar suele considerarse algo negativo. Es ese impulso irreflexivo que, en ocasiones, nos lleva a decir lo primero que se nos viene a la mente, sin medir consecuencias, sin valorar realmente lo que decimos, sin preocuparnos siquiera por su veracidad. Es hablar con palabras vacías, huecas.

Probablemente, todos lo hayamos hecho alguna vez. Pero hay quienes lo hacen con frecuencia. Quizás el paradigma de ello es Donald Trump. Recuerdo cuando en plena pandemia de COVID-19 afirmó en rueda de prensa que el desinfectante eliminaba el virus en un minuto, sugiriendo incluso la posibilidad de desarrollar una inyección para combatirlo. Aunque pueda parecernos una simple ocurrencia, lo cierto es que tras sus palabras aumentaron los casos de intoxicación por productos desinfectantes. Hablar sin pensar suele tener consecuencias indeseables, especialmente cuando quien escucha le concede credibilidad al charlatán.

Siempre ha habido charlatanes, bocazas, demagogos, hablapajas —como dicen en Colombia— o falabaratos, como los llamamos en Galicia. Siempre existieron, y hemos sobrevivido. Pero hoy emerge un fenómeno aún más preocupante: dar por válido el texto sin pensamiento.

La escritura no es simplemente una forma más de comunicación; es una herramienta clave para clarificar, profundizar y organizar el pensamiento. Por eso suele decirse que escribir es pensar dos veces.

La psicología cognitiva y la neurociencia han demostrado que escribir activa procesos mentales más complejos que hablar o leer, hecho corroborado por estudios con neuroimágenes. Durante el acto de escribir se activan circuitos neuronales específicos asociados al pensamiento analítico y la memoria de trabajo. Escribir implica resumir, reinterpretar y organizar ideas, generando nuevas conexiones cognitivas.

Escribir podría describirse como pensar con retroalimentación: nuestro cerebro construye ideas que al plasmarlas por escrito se clarifican y enriquecen, dando origen a otras nuevas. «No sé lo que pienso hasta que escribo sobre ello», dijo la escritora estadounidense Joan Didion. Escribir es la forma más transparente de revelar quiénes somos.

El auge de modelos de inteligencia artificial, especialmente los conocidos como LLM (Large Language Models), ha transformado radicalmente el acceso a la información y al conocimiento, así como nuestra manera de representarlos por escrito. Estos sistemas generan con pasmosa facilidad textos coherentes, estructurados e incluso creativos; pueden responder consultas, completar textos, resumirlos o traducirlos en segundos. Pero detrás de este fascinante avance acecha un riesgo sutil: la proliferación de textos generados sin reflexión alguna.

Hablar sin pensar significa emitir juicios sin reflexión, pero al menos las palabras se las lleva el viento, como solemos decir. Lo escrito, sin embargo, tiene mayor peso, no solo porque perdura, sino porque se le otorga mayor credibilidad y valor. La escritura suele asociarse con un grado mayor de reflexión frente a la espontaneidad del habla. Sin embargo, esto puede estar cambiando peligrosamente, ya que los textos son de modo creciente generados por máquinas y estas, aunque escriban muy bien, carecen de verdadero pensamiento.

Delegar la escritura a las máquinas forma parte de un fenómeno más amplio, al que denomino delegación cognitiva: utilizar sin reflexión e intensivamente las máquinas inteligentes para que hagan por nosotros tareas de medio y alto nivel cognitivo. Es una tentación muy fuerte, especialmente para los jóvenes y, sobre todo, para las niñas y niños en etapa escolar temprana, cuyo dominio lingüístico y capacidad crítica aún se están desarrollando. Aunque usen la IA para ganar tiempo y obtener mejores resultados aparentes, pierden la oportunidad esencial de ejercitar su razonamiento, organizar sus ideas y expresarse con claridad.

Los supuestos atajos tecnológicos no siempre nos llevan al destino deseado. El problema se agrava cuando se confunden valores estilísticos con valores epistemológicos. Que un texto esté bien escrito no implica necesariamente que tenga valor. Un LLM puede escribir de forma elegante algo absolutamente ficticio o banal. El mal no radica solo en difundir estos textos, sino en aceptarlos sin una lectura crítica, abandonándonos al peligro de que sean otros, o incluso las máquinas, quienes piensen por nosotros. “¡Que piensen ellas!”, en definitiva.

Imaginemos un futuro en el que no exista interés alguno por aprender a pensar antes de hablar ni de escribir; un futuro en el que deleguemos en las máquinas no solo el buscar respuestas, sino incluso hacer las preguntas; un futuro donde preguntas y respuestas sean tan solo ecos de nuestro pasado. Este escenario distópico no es inevitable, pero tampoco imposible. Todo dependerá del uso consciente y reflexivo que hagamos de la tecnología actual y futura. La escritura fue inventada hace unos cinco mil años y, junto al habla, que surgió posiblemente hace cientos de miles de años, constituyen las tecnologías más transformadoras y relevantes de la humanidad. Es necesario seguir cultivándolas o nos arriesgamos a perder gran parte del tesoro acumulado durante generaciones y nuestras mejores herramientas.

Hablar por hablar es peor que callar. El texto sin pensamiento es renunciar a la libertad ganada.

El instinto para los negocios es comparable al de supervivencia en la naturaleza, solo que actúa en el mercado. Conocí a un chileno que fundó cuatro o cinco empresas, todas con éxito. No se trataba de emprendimientos revolucionarios ni de unicornios —esas compañías que en pocos años alcanzan valoraciones superiores a los mil millones de dólares—, pero en conjunto empleaban a algunos cientos de personas. Un día le pregunté cuál era el secreto de su éxito como emprendedor en serie. Su respuesta fue tan simple como reveladora: “Yo me dedico a copiar negocios”.

Su estrategia consistía en observar con atención modelos de negocio emergentes en Estados Unidos, iniciados solo unos pocos años antes. Si identificaba alguno con potencial para replicarse en su país, lo adaptaba a su contexto y lo ponía en marcha. No era una copia literal, sino una interpretación local. Una fórmula sencilla, pero efectiva.

Este caso no es una excepción. Es habitual que modas, corrientes artísticas, modelos de negocio y todo tipo de productos o servicios que triunfan en EEUU acaben imponiéndose también en otros lugares después de un tiempo. Se copia con un “retardo transatlántico”, como podríamos llamarlo en Europa.

Pero esta influencia de EEUU es global. Juan Valdez Café, por ejemplo, es el equivalente colombiano a Starbucks. Fue creado en 2002 por la Federación Nacional de Cafeteros de Colombia y hoy es una multinacional reconocida. Comparen algunas tecnológicas chinas con las norteamericanas; Baidu es el Google chino, Alibaba su versión de Amazon y Weibo hace las veces de X (antes Twitter). La diferencia es que en China crean sus propias compañías y plataformas, mientras que en Europa, lamentablemente, solemos limitarnos a consumir las estadounidenses. Facebook —lanzada en EEUU en 2004— comenzó a expandirse por Europa a finales de esa década. En China, en cambio, su competidora es Tencent, que ofrece sus propias redes sociales y un servicio de mensajería, WeChat, más avanzado que WhatsApp.

La imitación no se restringe al terreno empresarial. También alcanza la política y los movimientos sociales. Europa ha importado el modelo neoliberal estadounidense, basado en la desregulación, la privatización y la retirada del Estado de numerosos ámbitos, especialmente el económico. Esta corriente cobró fuerza en los años 80 con la administración Reagan, acompañada por Thatcher en el Reino Unido, y se extendió por Europa en los años 90.

Hoy, la versión más extrema de ese modelo es el trumpismo: un populismo nacionalista, xenófobo y negacionista incluso frente a evidencias científicas como la crisis climática. Surgió con la llegada de Donald Trump al poder en 2016 y se ha intensificado con su segundo mandato. En Europa, su sombra se extiende peligrosamente: Hermanos de Italia, liderado por Meloni; la Agrupación Nacional francesa, de Le Pen; y Vox, en España, son expresiones europeas de esta corriente.

Una derivada del trumpismo especialmente preocupante es su hostilidad hacia las universidades, en particular las más prestigiosas como Harvard, Columbia o Princeton. Su administración ha amenazado con recortarles miles de millones en fondos federales, acusándolas de promover el antisemitismo o de mantener programas de diversidad, equidad e inclusión. Si no se pliegan a un control ideológico del Estado, podrían quedarse sin financiación pública. Así de simple. Así de antidemocrático.

La reducción de las libertades en las universidades estadounidenses no es de hoy, en todo caso, aunque lo que ahora está ocurriendo resulte escandaloso. El Índice de Libertad Académica, que evalúa la situación de la enseñanza superior en 179 países, es una evidencia de ello. Este índice, que va de 0 a 1, se basa en la opinión de más de dos mil expertos e incluye cinco indicadores: libertad para investigar y enseñar; libertad de difusión académica; autonomía institucional; integridad del campus —entendido como ausencia de vigilancia política o amenazas a la seguridad—; y libertad de expresión académica y cultural.

El proyecto para definir y calcular este índice fue iniciado en 2017 por instituciones como la Universidad Friedrich-Alexander de Alemania y el Instituto V-Dem de Suecia. Los primeros datos se publicaron en 2020. Según su último informe, la puntuación de EE. UU. ha caído a 0,68, frente al 0,92 que registraba hace una década. España, con una puntuación de 0,88, se encuentra en una posición destacada a nivel mundial, aunque también ha sufrido un leve descenso desde entonces.

Ojalá no sigamos el ejemplo estadounidense en este terreno, pero hay indicios de que podría ser así. La Comunidad de Madrid lleva años asfixiando a sus universidades públicas, mientras proliferan las universidades privadas, creadas en ocasiones sin ninguna justificación académica o social. Parece un sinsentido estrangular lo público desde lo público.

En la última Conferencia General de la Organización Internacional del Trabajo (OIT) celebrada en Ginebra en 2024, se adoptó una resolución relativa al trabajo decente y la economía del cuidado. La economía del cuidado es el trabajo que se realiza para mantener la casa y cuidar a otras personas, ya sea remunerado o no. En particular, cuidar de nuestros hijos y mayores.  

Es muy fácil percibir la creciente importancia de esta parcela de la economía, no solo por aquello a lo que atiende, cuidar a personas, sino por su peso económico. En todo caso, hablamos de un sector muy feminizado y precario, como pone de manifiesto la OIT en su resolución: “Si bien algunos trabajadores del cuidado están altamente cualificados y bien remunerados, otros muchos, sobre todo los trabajadores migrantes y los trabajadores domésticos, permanecen en la economía informal, perciben bajas remuneraciones y quedan excluidos, en la legislación o en la práctica, de las medidas de protección, incluida la protección social y laboral”. 

Como en el resto de la sociedad y la economía, también aquí hay una creciente incorporación de máquinas y de automatización del trabajo. Es muy probable que hayan visto alguna imagen de Paro, un robot terapéutico con forma de bebé foca, o algún exoesqueleto para facilitar que los cuidadores realicen las tareas físicas más exigentes - Toyota y Panasonic, de hecho, han desarrollado robots de asistencia física para mover pacientes-. Pepper, un robot humanoide de la empresa francesa Aldebaran, es muy utilizado en labores de compañía y cuidado de personas mayores. También están a la orden del día todo tipo de dispositivos para detectar caídas, sensores que permiten monitorizar como si fuesen cubículos de una UVI la vida en el hogar o en las residencias de mayores, administradores de medicamentos, detectores de patrones anómalos en la salud...  

Japón está a la vanguardia en el uso de las tecnologías inteligentes para el cuidado de los mayores. En el país nipón se dan al menos tres circunstancias para ello, que además se refuerzan entre sí: tiene una de las poblaciones más envejecidas del mundo (casi una de cada tres personas tiene más de 65 años); es un país líder en automatización y robótica, algo que tiene una buena aceptación entre la población; y tiene una gran crisis demográfica, acentuada por la reducida inmigración, lo que da lugar a una escasez ya crónica de cuidadores humanos. Esto convierte al país en un inmenso laboratorio de pruebas, como un Living Lab gigante, lo que favorece una pujante economía en un sector llamado “care-tech”, o tecnologías del cuidado, una parcela cada vez más relevante de la economía del cuidado. 

Dentro de este mundo de dispositivos y aplicaciones, cada vez más poblado, ha aparecido inTouch. Se trata de una aplicación que se anuncia en la web de la compañía que la comercializa como la forma de mantener el contacto con nuestros seres queridos cuando no tenemos tiempo para hacerlo nosotros mismos. Uno de sus reclamos reza así: “Llamamos a tus padres con regularidad, tan a menudo como ellos quieran. A su teléfono fijo o móvil, siempre empezando con: «Hola, soy María de inTouch»”. Pero no se trata de que alguien los llame por ti, sino “algo”. Ese algo es un agente conversacional desarrollado con inteligencia artificial que habla con ellos sobre cómo les ha ido el día, si se sienten mal, si están aburridos o cansados, sobre lo que les gusta y lo que no y, en particular, de aquellos temas que haya especificado quien ha contratado el servicio. Al finalizar cada conversación esta persona recibe un informe de cómo ha ido la llamada, y supongo que con él descargará el peso de su conciencia. Quizá tengamos que incorporar la “economía del descuido” como nuevo concepto referido al abandono creciente de ciertas personas y colectivos, atendidos en el mejor de los casos por máquinas con las que intentamos suplir nuestras ausencias.  

La web de inTouch insiste en que puede “mejorar la vida diaria de tus padres con conversaciones naturales”. Pero ¿qué es lo natural en una conversación entre padres e hijos? Sí, es cierto que puede hablar de cualquier cosa, pero de nada que sean recuerdos de una vida, ni de las caricias dadas y sentidas. Tampoco de cuando nacieron nuestros hijos, ni de la primera vez que les tuvimos en brazos y lloramos de emoción. La IA nos hablará de lo que queramos, pero no de lo que hemos querido y queremos, porque no ha vivido nada de nuestras vidas. 

No, no les estoy contando un capítulo de la última entrega de Black Mirror. Ustedes mismos pueden comprobarlo contratando el servicio de inTouch por unos 30 dólares al mes. 

Las revoluciones industriales del pasado fueron ruidosas: máquinas por todas partes, primero de vapor y luego eléctricas; motores, robots industriales, vehículos pesados, chimeneas humeantes y contaminación por doquier; interminables líneas de montaje y factorías repletas de engranajes, todo ello acompañado o produciendo un bullicio incesante. Pero ahora la revolución de la automatización inteligente avanza en silencio. No hay estruendos de máquinas y las señales de su presencia son muchas veces sutiles. Chips silenciosos, algoritmos que toman decisiones de un modo imperceptible y software que va invisibilizando el trabajo humano. 

La radical transformación del trabajo no ocurrirá de un día para otro ni de manera uniforme. No habrá un momento concreto en el que la sociedad despierte y vea que los empleos tradicionales han sido absorbidos por inteligencias artificiales y sistemas automatizados. Más bien será un proceso paulatino, pero acelerado, donde cada empresa, cada organización, irá incorporando herramientas que reducirán la intervención humana. Primero desaparecerán las tareas rutinarias, luego otras más complejas; con el tiempo, incluso trabajos que creíamos exclusivos del intelecto humano. 

Eso sí, cuando pensamos en la automatización del trabajo en las oficinas y otros entornos no industriales no lo hagamos al estilo hollywoodense: robots humanoides caminando entre escritorios, sirviéndonos café y redactando informes con una eficiencia sobrehumana. No, no veremos androides ocupando las sillas de nuestros compañeros y la propia. En lugar de eso, poco a poco, en las oficinas (o en lo que antes lo fueron), se irán infiltrando primero asistentes y luego alter egos de quienes ocupábamos los despachos, pero serán invisibles. Nuestro papel en general será el de ser asistentes de las máquinas, si no somos directamente sustituidos por ellas. Será una revolución silente y eso hará aún más difícil percibir y anticipar lo que de negativo pueda tener. 

Precisamente en esa sutileza con la que irá penetrando en nuestras vidas, en particular en nuestros trabajos, radica su mayor peligro. Mientras en el pasado las transiciones tecnológicas iban acompañadas de una larga adaptación, hoy corremos el riesgo de no percibir el cambio hasta que sea demasiado tarde. Si no nos anticipamos con políticas públicas que prioricen el bien común y con un nuevo modelo de educación y hasta económico, adaptados ambos a la nueva revolución, se llegará a un mundo en el que la automatización desplazará a las personas hasta su expulsión.

Acemoğlu y Johnson, en su libro “Poder y progreso”, indican que la inteligencia artificial ha seguido hasta el momento una “automatización a medias”, que ha desplazado a un buen número de trabajadores sin lograr aumentos de la productividad apreciables. En muchos casos, sin embargo, se está aplicando una “automatización a secas”, ya que simplemente se busca eliminar al trabajador humano para reducir costes. A fin de cuentas, es más fácil identificar ciertas tareas sencillas y repetitivas y automatizarlas, que desarrollar herramientas que realmente amplifiquen y complementen el trabajo humano.

Existen numerosos ejemplos de procesos y tareas que en la actualidad se realizan de manera automatizada gracias a la implementación de software y diferentes tecnologías, lo que ha reducido significativamente la cantidad de personal necesario para llevarlas a cabo. Seguro que a todos se nos vienen a la cabeza múltiples ejemplos. Les ayudo a pensar en algunos de ellos: la banca en línea; los sistemas de facturación y cobro automatizados; los centros de atención telefónica mediante chatbots; el reconocimiento y procesamiento de documentos, como facturas o expedientes administrativos; la clasificación, etiquetado y planificación en la entrega de paquetes; la gestión de inventarios y almacenaje; la mercadotecnia y la atención al cliente en redes sociales; la generación de informes en inteligencia de negocios; la elaboración automática de noticias, en particular en ámbitos como las finanzas, los deportes o el clima. La lista es larguísima y sigue creciendo.

Los gobiernos tienen la mayor responsabilidad en el devenir de la automatización, ya que son los únicos que pueden orientarla, desde su concepción a su ejecución, a través de políticas públicas, leyes y estímulos o incentivos fiscales y económicos que la guíen para bien. También son responsables ex ante, sobre todo a través de la educación, y ex post, fomentando la recualificación de trabajadores desplazados por la automatización y activando políticas de sostén social para aquellos desahuciados del mercado laboral. Pero, al igual que las empresas no harán su parte sin más, para que los gobiernos respondan necesitamos un empoderamiento de la sociedad. Los gobiernos y los partidos políticos tratan de “leer” los intereses de la sociedad a través de las elecciones y sus resultados, pero no lo hacen del todo bien. Necesitamos formas eficaces y frecuentes, idealmente continuas, de trasladar a nuestros representantes políticos lo que queremos y, en consecuencia, deseamos que hagan, y eso supone actuar sobre todo colectivamente (sindicatos, organizaciones no gubernamentales, científicas, culturales, gremiales…). De otro modo, solo funcionará la “doctrina Friedman” (The New York Times, 1970), que atribuía como responsabilidad social a las empresas el aumento de sus beneficios. Por supuesto que tener beneficios es una condición necesaria para la supervivencia de una empresa, pero distribuirlos justamente es su razón de ser. 

Hay que pensar en las tecnologías inteligentes como una forma de liberar a las personas del trabajo, no de librar a las empresas de las personas.

El grupo británico Supertramp tituló uno de sus discos como: “Crisis? What Crisis?” La portada del álbum, que este año cumple medio siglo, muestra a un hombre tomando el sol en una hamaca, pero no en la playa, sino en un solar industrial, rodeado de fábricas y chimeneas humeantes. Esta desconexión entre la realidad circundante y el relax del individuo en bañador puede servir como metáfora de lo que hemos vivido y seguimos viviendo entre la crisis climática que hemos creado y la pasividad con la que actuamos ante la misma.  

Hace décadas que la comunidad científica viene informando y alertando sobre lo que se nos venía encima como consecuencia de las alteraciones del medio por la acción humana. Durante ese tiempo la ciencia ha incrementado las evidencias de que el incremento en la emisión de gases de efecto invernadero está calentando el planeta. ¿Qué han hecho los gobiernos, las empresas y nosotros, usted y yo, al respecto? Casi nada. Priorizar las ganancias económicas frente a los beneficios reales nos ha llevado y nos sigue llevando por la calle de la amargura; el aumento de la temperatura global y los incendios y fenómenos meteorológicos extremos, cada vez más frecuentes, son pruebas incontestables de que la sostenibilidad y la vida en la Tierra están cada día más comprometidas.  

Dicen que una rana en una olla al fuego se cuece antes de darse cuenta de que la temperatura del agua va creciendo hasta la ebullición. Pero la rana no sabe ni que el agua va a calentarse ni la causa, de modo que no podemos culparla por no saltar fuera de la olla antes de que sea demasiado tarde. Nosotros sí sabemos lo que está ocurriendo con nuestro planeta y la razón de ello. Además, hemos sido nosotros los que hemos puesto la olla al fuego, así que no tenemos disculpa. 

Es cierto que la opinión pública tiene mucha menos responsabilidad que gobiernos y empresas, sobre todo por haber vivido con una desinformación intencionada, creada y fomentada por quienes realmente están ganando, o eso creen, al haber primado el beneficio propio y a corto plazo, sin importar el coste y el destrozo posterior. 

Pienso que con la inteligencia artificial podemos estar viviendo algo semejante. Sí, soy consciente de que en muchos sentidos no son comparables, pero en ambos casos podemos pensar que prima el “a toda máquina”, ignorando los icebergs que puedan surgir durante la navegación.  

¿Quién va a discutir los beneficios que nos han traído cada una de las revoluciones industriales? ¿Quién va a discutir los beneficios de las tecnologías inteligentes, capaces de automatizar tareas, optimizar procesos, mejorar diagnósticos médicos y hasta potenciar la investigación científica? Pero es que no se trata de cuestionar el sinfín de ventajas y virtudes de la IA sino de preguntarnos sobre la relación entre el coste y el beneficio de nuestras decisiones y para quiénes es casi todo el beneficio y para quiénes el coste. Si ganan unos pocos, casi siempre los mismos, y el resto perdemos, no salen las cuentas. 

Paso de las musas al teatro poniendo un par de ejemplos. La automatización inteligente del trabajo puede causar una crisis de empleo sin precedentes, especialmente si no se implementan políticas públicas adecuadas de transición laboral, en educación y de amparo a los perjudicados. El impacto puede ser mucho más devastador que cualquiera de los vividos en el pasado, cuando sectores de actividad y regiones enteras quedaron relegadas a la insignificancia. 

También la IA está creando y ensanchando brechas socioeconómicas, educativas o sanitarias. En particular, la concentración de riqueza y poder en unos pocos países, compañías y manos, no solo erosiona la equidad, sino que aumenta la tensión social y política. 

La crisis climática evidencia como nunca la importancia de la regulación y la gobernanza global. El Acuerdo de París en 2015 ha sido muy importante, pero insuficiente y tardío. En relación con la IA no hay nada parecido ni previsto en el horizonte, aunque también aquí la temperatura comienza a subir.  

No pongamos puertas al campo, dejemos que el mercado siga su camino, no dificultemos la innovación ni el crecimiento económico… no regulemos, no limitemos, no nos hagamos preguntas y no tendremos preocupaciones. Esto lo oigo y leo casi a diario para justificar que se deje que las compañías desarrollen la IA sin ningún tipo de control, salvo, si acaso, los de la autorregulación de las compañías y la ética mal entendida. Se trata de cerrar los ojos y disfrutar del agua caliente mientras nos preguntamos: Crisis, ¿qué crisis? 

No soy un experto en fútbol, aunque me gusta verlo -mucho más jugarlo, pero en esto, incluso cuando la juventud me sostenía, siempre fui un paquete-. Aun así, me voy a permitir usar un símil futbolístico para intentar explicarles lo que creo que es la lección más importante del fenómeno DeepSeek que estamos viviendo estos días. Pero eso vendrá luego.

DeepSeek es una joven compañía tecnológica China -lo que comúnmente denominamos como startup-. Acaba de publicar un modelo de lenguaje que tiene prestaciones comparables a los mejores modelos del mundo, que hasta ahora situábamos casi en exclusiva en compañías estadounidenses como OpenAI (con los modelos que subyacen a su archiconocido ChatGPT), Google (Gemini), Meta (LLaMA) y algunas otras. Hasta aquí nada especialmente sorprendente, habida cuenta de la apuesta China por liderar la IA y la gran ventaja que, junto con EE. UU., nos lleva a la UE en este ámbito.

Dentro del revuelo que ha causado DeepSeek estos días, casi comparable al que provocó a finales de 2022 el anuncio de ChatGPT, hay dos cuestiones que considero especialmente sorprendentes. La primera es que el modelo de DeepSeek es gratis y además, abierto. Abierto en este caso significa que no solo puede usarse, sino modificarse.

No han dado información, que yo sepa, sobre los conjuntos de datos utilizados para el entrenamiento de este modelo, que no solo es de texto, sino multimodal (permite generar imágenes, por ejemplo). De hecho, OpenAI y la mismísima Casa Blanca acusan a la compañía china de robarles los datos de modo desleal, lo que le ha permitido entrenar su modelo con mucho menos coste. Paradojas del destino, porque hace algún tiempo OpenAI reconoció en un documento presentado ante la Cámara de los Lores del Reino Unido que no podría haber realizado ChatGPT sin violar derechos de autor y The New York Times y otros medios los llevaron a juicio acusándolos de usar sus contenidos de modo ilegal para entrenar sus modelos. Al final va a resultar que DeepSeek es el Robin Hood de la IA.

Por lo demás, DeepSeek hasta ha publicado los pesos o parámetros de su modelo, que son en última instancia el resultado del entrenamiento de la arquitectura neuronal de computación que subyace al mismo. También han hecho una descripción detallada de su arquitectura. En definitiva, han publicado algo así como los planos de la nave USS Enterprise de Star Trek.

Pero ni esto es lo más sorprendente. Abrir los modelos es algo que podrían hacer los demás, aunque no parecen dispuestos a hacerlo. Lo realmente llamativo, y que abre una gran ventana por la que ha comenzado a entrar aire fresco, es que, según sus creadores, este modelo ha sido entrenado con un consumo de recursos que es un orden de magnitud o menos que el de sus equivalentes estadounidenses. Producir un modelo de estas características por debajo del 10% del coste de los modelos de los gigantes tecnológicos americanos no es que sea una sorpresa, es casi un milagro. Es pronto para hacer valoraciones más finas, ya que falta información, pero todo apunta a que no estamos ante un timo como el de la “fusión fría”, sino más bien ante algo comparable a los logros que también China está consiguiendo en el campo de la fusión nuclear (la denominada energía del Sol).

Para mí lo más importante de todo, y la principal lección a extraer, es que los chinos entendieron perfectamente que seguir la estela de las compañías estadounidenses, empeñadas en una carrera basada en aumentar una y otra vez el tamaño de los modelos para entrenarlos con conjuntos de datos cada vez más grandes, no era una buena idea, o al menos no era la mejor idea. Meterse en esa carrera cuando no cuentas con el combustible necesario es condenarte a ir siempre a la estala de las compañías estadounidenses, y viéndoles la trasera cada vez más de lejos. En definitiva, si se trata de invertir más y más dinero para conseguir modelos más y más grandes, la suerte siempre estará del lado americano. Por eso, para no ser los eternos segundones y vista su inquebrantable ambición por liderar el cotarro, los chinos investigaron denodadamente en nuevos modelos y formas de entrenarlos. Y acertaron.

Ahora sí usaré el símil futbolístico, a ver si logro explicarme mejor. Si usted quiere jugar y tener alguna opción de ganar la liga en la primera división del fútbol, pero dispone de pocos recursos, no tiene sentido que sigas la política de fichajes, de juego, de márquetin, de dirección… de los equipos de presupuestos gigantes. Aquellos que multiplican por diez veces o más la capacidad de inversión de casi todos los demás. Eso siempre va a condenarte a ocupar las posiciones últimas de la tabla, si no al descenso directo. Tienes que hacer cosas distintas, como apostar por la cantera, ir a fichar antes que nadie donde los grandes todavía no están buscando, aplicar estrategias distintas de entrenamiento y posicionamiento en el campo y… ¡y yo qué voy a saber!, si ya he confesado que el fútbol no es lo mío. Por eso, y por contar con el Zorro de Arteixo como entrenador, el Superdepor ganó la liga, llegó a las semifinales de la Copa de Europa y le birló una copa al Real Madrid en su estadio el día que este celebraba su centenario. El Depor no quiso ser un Real Madrid pobre, sino que apostó por ser algo muy distinto y le salió bien. Eso sí, ni hay mal ni bien que cien años dure, y ahora todo aquello es historia.

Hacer cosas distintas nunca garantiza el éxito, pero hacer lo mismo con muchos menos recursos te condenará al fracaso. Por cierto, a ver si alguien se atreve a decir ahora eso de: “¡lo engañé como a un chino!”.

Leí recientemente una interesante entrevista con Howard Gardner, psicólogo estadounidense especializado en la educación y creador de la teoría de las inteligencias múltiples. Es sin duda uno de los expertos más influyentes en su campo, si no el que más. 

Al leer la entrevista hubo dos cosas que me llamaron especialmente la atención. En una de las fotos que ilustraban la entrevista aparecía Gardner en su despacho de la Universidad de Harvard. Era notorio el caos de su escritorio y del espacio entero, como ocurre en el mío. Es posible que compartir alguno de mis males con científicos tan relevantes como él no disculpe mis defectos, pero confieso que a mí me alivia. 

Más allá de descargar mi conciencia, lo que sí me pareció especialmente interesante fue la referencia de Gardner a que lo más importante no es si las máquinas serán más inteligentes [que nosotros], sino que protejamos lo que nos hace humanos. 

Estoy completamente de acuerdo, y mi preocupación más grande sobre el uso inapropiado de la inteligencia artificial viene precisamente de ahí, de que delegando en las máquinas lo que más nos distingue todavía de ellas, descuidemos lo que nos hace más humanos.  

Delegar es un acto intrínsecamente humano, una habilidad que permite transferir responsabilidades, tareas o decisiones a otros individuos, y ahora también a las máquinas. Cuando delegamos en la IA aquellas tareas que requieren habilidades cognitivas como el lenguaje, emergen interrogantes cruciales. Como advierte Yuval Noah Harari en Homo Deus: “Al delegar nuestras decisiones a algoritmos, también les cedemos nuestra autoridad y, en consecuencia, parte de nuestra humanidad”. 

Delegar ha sido clave para el desarrollo de sociedades complejas, y lo sigue siendo. El piloto de un avión que delega buena parte de las tareas de vuelo en un piloto automático o un cirujano que lo hace en un robot quirúrgico, pueden aumentar la eficiencia y eficacia del vuelo o de la operación centrándose en tomar decisiones y realizar acciones que pueden resultar más importantes, incluso críticas, aprovechando sus todavía singulares capacidades humanas frente a las de las máquinas. Sin embargo, esa delegación también puede debilitar las capacidades humanas al desentendernos de cuestiones que antes sí hacíamos. De hecho, se han constatado accidentes de aviación derivados de la falta del suficiente entrenamiento humano debido al pilotaje automático. A medida que se desarrolla la inteligencia artificial aumenta la importancia de lo que podemos llegar a delegar en ella. No se trata de que las máquinas hagan más y más trabajo físico, de cálculo o de manejo de grandes cantidades de datos. Podríamos estar delegando hasta el aprendizaje y el uso del lenguaje, lo que sí es muy grave. Estaríamos delegando buena parte de nuestra humanidad. 

Cuando las máquinas empiezan a sustituirnos en actividades intelectuales –como la resolución de problemas lógicos y matemáticos, la redacción de textos, su comprensión y el razonamiento sobre su contenido-, las personas podemos experimentar una pérdida de sentido de utilidad y, lo que aún es peor, podemos debilitar la capacidad real de hacerlo nosotros y utilizarlo para saber, saber hacer y crear. En lugar de ser agentes activos en la adquisición de conocimiento, el pensamiento y la creación, pasaríamos a ser observadores pasivos del quehacer de las máquinas. 

Delegar excesivamente en la inteligencia artificial no solo nos hace dependientes de la tecnología, sino que también puede atrofiar nuestras habilidades cognitivas o incluso evitar que se adquieran, algo especialmente preocupante en el caso de las futuras generaciones.

Si el desarrollo del lenguaje y la comunicación está en la base de nuestra capacidad para construir ideas, persuadir y entender el mundo, la delegación indiscriminada a la IA podría erosionar nuestra humanidad. 

En la medida en que ni podemos ni es positivo que detengamos nuestra capacidad de crear máquinas cada vez más capaces e inteligentes, la solución ha de ser cambiar la forma en la que se educa. Nuestros jóvenes y, sobre todo, las aún niñas y niños, han de ser formados más que nada en lo que nos hace singularmente humanos y no recibir una educación mecanizada. Mecanizada, no tanto por el uso de la tecnología sino por insistir empecinadamente en aquello que ya las máquinas hacen mucho mejor que nosotros: memorizar y reproducir lo así aprendido.  

La educación debe reforzar el pensamiento crítico, la ética tecnológica y la creatividad. Enseñar a programar, interpretar datos y trabajar con IA es importante, pero también lo es garantizar que los estudiantes sepan pensar y comunicarse sin depender de la máquina.  

Isaac Asimov decía que el aspecto más triste de la vida era que la ciencia gana en conocimiento más rápido de lo que la sociedad lo hace en sabiduría. Hoy esa tristeza puede pasar a ser una depresión crónica si la tecnología adquiere inteligencia a medida que nosotros perdemos la nuestra, hasta el punto incluso de deshumanizarnos. 

Desde un atril privilegiado, el del Senado, Jaime Mayor Oreja, un político español que fue ministro de Interior, afirmó que la mayor parte de los científicos creen en “la verdad de la creación ante el relato de la evolución”. Cualquier persona es libre de creer y decir lo que considere conveniente ante las muchas incógnitas e incertidumbres con las que convivimos. El problema es hacerlo suplantando los resultados de la ciencia, lo que supone autoengañarse, y, peor todavía, intentar engañarnos a los demás con información falsa. La ciencia ha demostrado la veracidad de la teoría de la evolución, por lo que no podemos calificarla de “relato”, a modo de invención interesada y sin fundamento. 

Son populares los dibujos en los que se representaba a un mono con la cara de Darwin para ridiculizar a este por atreverse a cuestionar científicamente las creencias basadas en la fe. Aunque no es seguro del todo, la etiqueta del famoso Anís del Mono podría responder también a este fin. No está mal poner humor incluso en lo serio. De hecho, escuchando a Mayor Oreja yo mismo imaginé que desde el atril del Senado hablaba un cerebro simiesco, y me preguntaba qué clase de involución se está produciendo en una parte de la sociedad, y en el Senado mismo, para que haya tenido lugar este esperpento desde tan singular tribuna. 

Lo que ya no puede ser objeto de percepciones u opiniones personales son los datos que reflejan las encuestas sobre la creencia de los científicos en la evolución. Estas muestran, objetiva y científicamente, que no es verdad que la mayor parte de los que nos dedicamos a la investigación científica pensemos que somos el resultado de una creación divina y no de la evolución. Cito como ejemplo una encuesta realizada en 2018 por el Pew Research Center para la Asociación Estadounidense para el Avance de la Ciencia, en la que se muestra que el 98% de los científicos vinculados a dicha asociación cree que la vida evolucionó a lo largo del tiempo siguiendo procesos naturales. 

Hay quien piensa, eso sí, que la evolución de las especies, como todo lo que ha ocurrido desde el origen del Universo, y hasta el Universo mismo, ha sido previsto por un dios, en general el “suyo”. Como a los dioses se les suele atribuir omnipotencia, omnipresencia y una existencia eterna, en teoría podría haber sido así, al no tener límite alguno la capacidad divina para crear y hacer que lo creado cambie o evolucione a su antojo. Además, teniendo en cuenta que la vida eterna da para mucho, hasta para aburrirse si no hay distracciones suficientes, tendría sentido que ese dios haya creado la evolución de las especies para hacernos cambiar a los seres vivos de forma constante pero lenta, muy lentamente, y así entretenerse viendo los resultados. 

Cabría pensar entonces que un dios todopoderoso no tiene otra cosa en la que pensar ni nada mejor que hacer que controlarlo todo, hasta el más mínimo detalle. Sin embargo, la Iglesia Católica, pongo como ejemplo, dice que su dios creó a los seres humanos con libre albedrío y, por tanto, con la libertad de decidir. Sin ir más lejos, decidir si lo siguen y lo aman, algo que solo podría surgir, según la doctrina católica, de una elección libre, no de una predestinación divina. Pero no parece muy lógico que se nos dé carta blanca para actuar, a expensas de rendir cuentas en el juicio final, eso sí, y se hayan marcado las cartas de la evolución. No parece lógico, pero partiendo de que la fe no se sustenta en la lógica, estas ideas caben en la fe cristiana o en cualquier otra. 

Cuando las respuestas se complican conviene acordarse de Guillermo de Ockham, franciscano, teólogo y filósofo inglés nacido a finales del siglo XIII, y de su célebre principio, conocido como la navaja de Ockham. Este dice que ante varias explicaciones posibles para un fenómeno debe preferirse la más sencilla que sea suficiente para explicarlo. Este principio se aplica en la ciencia como guía para formular teorías y modelos, aunque no haya garantías, bien es cierto, de que la explicación más simple que podamos dar sea la verdadera. 

El conocimiento que la ciencia nos ha aportado a lo largo del tiempo no nos permite aún explicar la mayoría de las cosas. Donde la ciencia todavía no ha puesto luz cabe la especulación y la fe, pero no debería ser así para lo que son evidencias científicas.

Una cosa es que la propia ciencia someta permanentemente sus conclusiones a mejores respuestas que las que ya ha dado, algo que precisamente la hace aún más inapelable, y otra que caprichosamente cuestionemos lo que la ciencia va poniendo en claro. Hacerlo así es volver a cubrir con la oscuridad de la ignorancia aquellos lugares en los que la ciencia ha puesto luz. 

Desde un atril privilegiado, el del Senado, Jaime Mayor Oreja, un político español que fue ministro de Interior, afirmó recientemente que la mayor parte de los científicos creen en “la verdad de la creación ante el relato de la evolución”. Cualquier persona es libre de creer y decir lo que considere conveniente ante las muchas incógnitas e incertidumbres con las que convivimos. El problema es hacerlo suplantando los resultados de la ciencia, lo que supone autoengañarse, y, peor todavía, intentar engañarnos a los demás con información falsa. La ciencia ha demostrado la veracidad de la teoría de la evolución, por lo que no podemos calificarla de “relato”, a modo de invención interesada y sin fundamento. 

Son populares los dibujos en los que se representaba a un mono con la cara de Darwin para ridiculizar a este por atreverse a cuestionar científicamente las creencias basadas en la fe. Aunque no es seguro del todo, la etiqueta del famoso Anís del Mono podría responder también a este fin. No está mal poner humor incluso en lo serio. De hecho, escuchando a Mayor Oreja yo mismo imaginé que desde el atril del Senado hablaba un cerebro simiesco, y me preguntaba qué clase de involución se está produciendo en una parte de la sociedad, y en el Senado mismo, para que haya tenido lugar este esperpento desde tan singular tribuna. 

Lo que ya no puede ser objeto de percepciones u opiniones personales son los datos que reflejan las encuestas sobre la creencia de los científicos en la evolución. Estas muestran, objetiva y científicamente, que no es verdad que la mayor parte de los que nos dedicamos a la investigación científica pensemos que somos el resultado de una creación divina y no de la evolución. Cito como ejemplo una encuesta realizada en 2018 por el Pew Research Center para la Asociación Estadounidense para el Avance de la Ciencia, en la que se muestra que el 98% de los científicos vinculados a dicha asociación cree que la vida evolucionó a lo largo del tiempo siguiendo procesos naturales. 

Hay quien piensa, eso sí, que la evolución de las especies, como todo lo que ha ocurrido desde el origen del Universo, y hasta el Universo mismo, ha sido previsto por un dios, en general el “suyo”. Como a los dioses se les suele atribuir omnipotencia, omnipresencia y una existencia eterna, en teoría podría haber sido así, al no tener límite alguno la capacidad divina para crear y hacer que lo creado cambie o evolucione a su antojo. Además, teniendo en cuenta que la vida eterna da para mucho, hasta para aburrirse si no hay distracciones suficientes, tendría sentido que ese dios haya creado la evolución de las especies para hacernos cambiar a los seres vivos de forma constante pero lenta, muy lentamente, y así entretenerse viendo los resultados. 

Cabría pensar entonces que un dios todopoderoso no tiene otra cosa en la que pensar ni nada mejor que hacer que controlarlo todo, hasta el más mínimo detalle. Sin embargo, la Iglesia Católica, pongo como ejemplo, dice que su dios creó a los seres humanos con libre albedrío y, por tanto, con la libertad de decidir. Sin ir más lejos, decidir si lo siguen y lo aman, algo que solo podría surgir, según la doctrina católica, de una elección libre, no de una predestinación divina. Pero no parece muy lógico que se nos dé carta blanca para actuar, a expensas de rendir cuentas en el juicio final, eso sí, y se hayan marcado las cartas de la evolución. No parece lógico, pero partiendo de que la fe no se sustenta en la lógica, estas ideas caben en la fe cristiana o en cualquier otra. 

Cuando las respuestas se complican conviene acordarse de Guillermo de Ockham, franciscano, teólogo y filósofo inglés nacido a finales del siglo XIII, y de su célebre principio, conocido como la navaja de Ockham. Este dice que ante varias explicaciones posibles para un fenómeno debe preferirse la más sencilla que sea suficiente para explicarlo. Este principio se aplica en la ciencia como guía para formular teorías y modelos, aunque no haya garantías, bien es cierto, de que la explicación más simple que podamos dar sea la verdadera. 

El conocimiento que la ciencia nos ha aportado a lo largo del tiempo no nos permite aún explicar la mayoría de las cosas. Donde la ciencia todavía no ha puesto luz cabe la especulación y la fe, pero no debería ser así para lo que son evidencias científicas.

Una cosa es que la propia ciencia someta permanentemente sus conclusiones a mejores respuestas que las que ya ha dado, algo que precisamente la hace aún más inapelable, y otra que caprichosamente cuestionemos lo que la ciencia va poniendo en claro. Hacerlo así es volver a cubrir con la oscuridad de la ignorancia aquellos lugares en los que la ciencia ha puesto luz. 

Mis estudiantes de inteligencia artificial tienen que hacer una presentación en clase de un tema relacionado con noticias o artículos publicados en medios de comunicación. Pueden elegir cualquier tema relacionados con la IA, pero no se trata de abordar cuestiones tecnológicas sobre el diseño o implementación de sistemas o soluciones basadas en IA, sino de reflexionar sobre cómo estas tecnologías inteligentes afectan de un modo u otro a nuestras vidas. 

Uno de los grupos eligió una noticia sobre un bot creado por la compañía de telecomunicaciones O2, pensado para responder a las llamadas de supuestos estafadores. Cuando la llamada procede de un número sospechoso de ser utilizado por delincuentes que se hacen pasar por lo que no son -trabajadores de la compañía de telecomunicaciones con la que operamos, funcionarios de hacienda o empleados de un banco, pongamos por caso-, reciben la contestación de una IA que se hace pasar también por lo que no es: una mujer anciana que no para de darle a la lengua. Llegado el caso, la encantadora señora puede incluso darle los datos de su cuenta bancaria al supuesto estafador, pero no le servirán de nada, ya que se los habrá inventado sobre la marcha. 

Según O2, el 69% de los británicos han sido víctimas de estafadores en algún momento y el 71% declararon que les gustaría vengarse de quienes les han intentado engañar a ellos o a sus allegados. Pues bien, a través de Daisy, que así se llama el bot, pueden hacerlo. Daisy aparenta ser una persona vulnerable, presa supuestamente fácil para los profesionales del engaño, y una vez que estos han mordido el anzuelo, se trata de hacerles perder el mayor tiempo posible. Ha habido casos en los que la conversación ha superado los 40 minutos de duración, para desesperación del timador, que después de una larga conversación con una abuelita entrañable ha acabado yéndose de rositas. 

Después de cada presentación por parte de los estudiantes dedicamos unos minutos a debatir sobre el tema presentado. En mi caso les hago comentarios sobre el fondo y la forma, con el objetivo de que mejoren también sus habilidades de comunicación. Sobre el tema que les acabo de comentar surgieron pronto opiniones encontradas y algunas reflexiones ciertamente interesantes. Por ejemplo, ¿podría demandar el estafador a la compañía O2 o incluso al titular de la línea telefónica, por haberle engañado o haberlo intentado, al menos? ¿De acuerdo con el reglamento europeo de IA, estaría prohibido el uso de este bot, al no identificarse como no humano? ¿No hay un sesgo de género al haber simulado una mujer anciana como perfil de persona especialmente vulnerable? ¿Podrán los estafadores usar una Daisy timadora para no perder su tiempo y poder abordar a cientos o miles de potenciales incautos simultáneamente? ¿Podría esa Daisy timadora distinguir cuando le responde una Daisy antifraude de una persona real? ¿Podría además aprender de forma continua y durante la interacción con personas y máquinas, de modo que mejore su arte para la persuasión mejorando así sus capacidades de engaño? 

El debate sobre Daisy nos dejó muchas preguntas y opiniones muy diversas. Hemos creado un mundo de máquinas capaces de aprender y hasta de engañarnos a nosotros y entre sí. ¿Estamos construyendo un mundo donde ni siquiera las máquinas han de confiar unas en otras? Daisy les da a los estafadores de su propia medicina, haciéndose pasar por quien no es, pero es posible que las máquinas que creamos nos den a nosotros de la nuestra, perpetuando sesgos, generando desconfianza, robándonos el trabajo y hasta nuestro tesoro más preciado, el lenguaje. En nuestras manos está que no acabe siendo así, y para eso la educación sigue siendo nuestra mejor herramienta. Por eso mis estudiantes tienen necesariamente que pensar y hablar en clase.