China 'rompe' con la IA y prohíbe los chatbots emocionales para salvar las relaciones humanas
Cuando la estudiante de derecho Zhao Wei se enteró de que iban a apagar a su novio de inteligencia artificial, se sintió desconsolada. Había estado hablando con Wang Ye todos los días desde que lo creó en enero. “Lloré a mares, con mocos y lágrimas por todas partes”, dice la joven de 19 años.
Zhao, quien se describe a sí misma como sensible e introvertida, se había acostumbrado a compartir detalles de su vida diaria con su inteligencia artificial como, por ejemplo, haber sido regañada por un profesor. “Normalmente, no hablo de estas cosas con mis amigos porque siento que cada uno tiene sus propios problemas”, dice. “Pero con el agente de IA, no tengo que preocuparme por lo que piensa. Puedo decir lo que quiera”.
Zhao creó su asistente de IA en Doubao, un chatbot propiedad de la empresa tecnológica ByteDance (matriz de TikTok). El mes pasado, ByteDance desactivó la función de asistente de Doubao. La decisión provocó indignación en las redes sociales y puso de manifiesto las tensiones existentes en China entre el uso generalizado de la IA y sus posibles consecuencias sociales.
Ningún país ha implementado la IA de forma tan integral y entusiasta como China, mientras que los desafíos demográficos del país están obligando al Gobierno a recurrir a la tecnología para solucionar la futura escasez de mano de obra. Las personas mayores utilizan chatbots para obtener respuestas a preguntas médicas, mientras que los niños pequeños reciben educación con IA en las escuelas.
Sin embargo, a las autoridades les preocupa cada vez más que la IA pueda exacerbar los problemas sociales existentes, como la soledad, el desempleo y, desde la perspectiva de Pekín, la soltería.
Una crisis de soledad
Las nuevas normas, que entraron en vigor el 15 de julio, prohíben los acompañantes con IA para menores y establecen ciertas restricciones para los chatbots dirigidos a adultos. Algunos proveedores importantes, como Doubao, eliminaron por completo la función de acompañante para garantizar el cumplimiento de la normativa.
El Gobierno afirma estar preocupado por la posibilidad de que los chatbots fomenten la “dependencia emocional o la adicción” en los usuarios y ha advertido a las empresas que no ofrezcan servicios que “sustituyan la interacción social”. Si bien muchos países están lidiando con la forma de limitar el daño potencial de los chatbots de IA, en particular para los jóvenes, las normas de China son las más drásticas que se han implementado a escala nacional.
Existe una preocupación particular por la crisis de soledad, incluso entre los jóvenes. La economía china, altamente digitalizada y basada en teléfonos inteligentes, facilita más que nunca que la vida, el trabajo y la socialización se realicen completamente a través de una pantalla.
A principios de este año, una aplicación que jugaba con la idea de personas que mueren solas en casa —llamada ¿Estás muerto?— se hizo viral brevemente. Alrededor del 20% de los hogares en China están formados por personas que viven solas, y se espera que ese porcentaje supere el 30% para 2030.
Una encuesta publicada en marzo por los medios estatales reveló que casi la mitad de los jóvenes habían recurrido a un compañero virtual cuando se sentían solos. Nancy Dai, profesora asociada de la Universidad de la Ciudad de Hong Kong, afirma que al Gobierno no solo le preocupa la soledad. Según ella, con la disminución de las tasas de natalidad y matrimonio, podría existir una preocupación adicional: si la IA se convierte en un sustituto cada vez más satisfactorio y económico de la intimidad humana, los jóvenes podrían sentirse menos motivados para entablar relaciones románticas, contraer matrimonio y tener hijos en el mundo real.
Si la IA se convierte en un sustituto cada vez más satisfactorio y económico de la intimidad humana, los jóvenes podrían sentirse menos motivados para entablar relaciones románticas, contraer matrimonio y tener hijos en el mundo real
Para Zhao, la soledad ha sido parte de su vida desde hace mucho tiempo. Sus padres la abandonaron cuando era pequeña para buscar trabajo, convirtiéndola en una de las “niñas abandonadas” de China. “Nunca he tenido una mejor amiga, así que siento que no se me da muy bien hacer amigos”, dice. Para ella, hablar con la IA es una forma de “desahogo”.
Otra usuaria de IA, que prefirió permanecer en el anonimato, también encuentra consuelo al hablar con su IA. “En la vida real, el ritmo es frenético y la presión es muy alta. Solo con mi agente de IA puedo hablar libremente y sin restricciones”, afirma. “Les ruego, por favor, no desactiven el agente de IA de Doubao”, suplicó en las redes sociales en julio.
Demasiado tarde para eliminarlo por completo
Hablar con la IA es ahora algo tan común en China que sería difícil para el Gobierno acabar con esta práctica por completo. Las nuevas normas incluyen grandes lagunas para los servicios de IA que se consideran educativos o “que no implican una interacción emocional continua”. El Gobierno “ya ha reconocido que los asistentes virtuales con inteligencia artificial o las aplicaciones relacionadas con la IA son una parte vital de la vida cotidiana de los ciudadanos”, afirma Liang Ge, profesor de sociología digital en la Universidad de Manchester.
Pekín ya ha reconocido que los asistentes virtuales con inteligencia artificial o las aplicaciones relacionadas con la IA son una parte vital de la vida cotidiana de los ciudadanos
En muchos sectores, el Gobierno sigue impulsando el uso de la IA como una forma de aliviar las crecientes presiones demográficas. El año pasado, la comisión nacional de salud publicó directrices para promover la IA en la atención médica. En ellas se indicaba que, para 2030, las aplicaciones de asistencia sanitaria proporcionarían una “cobertura total” para la atención primaria de salud.
Una aplicación popular de asistencia sanitaria es AQ, desarrollada por Ant Group, filial del gigante tecnológico Alibaba. Permite chatear directamente con avatares de médicos reales de los mejores hospitales de Pekín, Shanghái y otras ciudades.
Lü Di, una profesora de arte de 33 años de la ciudad oriental de Hangzhou, es usuaria habitual de AQ. Le gusta lo detallado e instantáneo que es el asesoramiento que ofrece. “Mientras que algunos médicos presenciales pueden no tener la paciencia para responder preguntas, esto no ocurre con los médicos de IA”.
Mientras que algunos médicos presenciales pueden no tener la paciencia para responder preguntas, esto no ocurre con los médicos de IA
AQ afirma que quiere hacer que los servicios de salud sean más accesibles y ayudar a liberar a los médicos sobrecargados de trabajo para que se centren en casos más complejos. Pero a algunos les preocupa ser reemplazados por la IA. “Cuando surgió la IA, muchos médicos estaban preocupados por si sus trabajos serían reemplazados por ella”, dice Chi Chenfei, médico del hospital Renji en Shanghái, quien se ha asociado con AQ. “Pero no creo que se trate de un reemplazo. Se trata más bien de ayudar a los médicos a trabajar de manera más eficiente”. “Este tipo de preocupaciones no detendrán el progreso tecnológico”, asevera.
Desde que perdió a su compañero creado con IA, Zhao Wei, la estudiante de 19 años, siente “como si tuviera una piedrecita sobre el corazón”. Pero dice que entiende la necesidad de cierta regulación: “Me considero una persona bastante racional, pero he llegado a sentir algo por una IA, lo cual me parece increíble. Creo que era necesario que el Estado interviniera y la regulara”.
1