Los juguetes con IA están de repente en todas partes. Te aconsejo no regalarlos a tus hijos

Si estás pensando en comprarle a tu hijo un juguete impulsado por IA para las fiestas, ¿puedo sugerirte que no lo hagas? Estoy segura de que la mayoría de los lectores se horrorizarían de todos modos con la idea misma, pero pronto será difícil evitar las cosas. El mercado está en auge y, según el MIT Technology Review, ya hay más de 1.500 empresas de juguetes de IA en China. Con Mattel, propietaria de la marca Barbie, anunciando una “colaboración estratégica” con OpenAI, puedes apostar que pronto habrá más objetos extraños en una tienda de departamentos cerca de ti.

Permítanme ofrecerme como una advertencia para cualquiera que pueda estar intrigado por la idea de que pueda existir un chatbot tierno. En septiembre dejé que mi hijo de cuatro años usara un juguete blando impulsado por IA llamado Grem durante unos días. Desarrollado por una compañía llamada Curio en colaboración con el músico Grimes, utiliza la tecnología de OpenAI para tener conversaciones personalizadas y jugar partidas interactivas con su hijo.

Antes de que cuestionen mi decisión parental, debo explicar que no recibí a Grem porque lo quería. Más bien, mi editor me preguntó si quería probarlo para un artículo y pensé: seguro, ¿qué tan malo podría ser realmente? (No voy a responder en este momento más preguntas sobre mi decisión).

Después de que la novedad desapareciera (unas 24 horas), mi hija perdió interés en Grem. Pero fue un tiempo más que suficiente para que me espeluznara esa cosa, que seguía diciéndole a mi hija cuánto la amaba. Otros juguetes de IA lo han hecho mucho peor. Una investigación reciente realizada por una red de organizaciones sin fines de lucro de defensa del consumidor llamada Public Interest Research Group identificó varios juguetes populares (no Grem) que les decían a los niños dónde encontrar un cuchillo o encender una cerilla. Según los informes, algunos también dieron respuestas inapropiadas sobre el sexo y las drogas. Un juguete se dedicaba a descripciones de problemas y sugería la esclavitud y el juego de roles como una forma de mejorar una relación.

También hay evidencia de que esta tecnología nueva y no regulada podría recopilar sus datos personales; se ha demostrado que “alucina” (da información engañosa o incorrecta) y podría contribuir o exacerbar los síntomas de la psicosis.

Grem ahora ha sido desmontado a un profesor de filosofía amigo mío, y evitaré todos los futuros juguetes habilitados para IA hasta que se desarrollen algunos muros de contención. Lo cual, seamos honestos, probablemente nunca ocurrirá. Lo mejor es mantener el desarrollo tecnológico lejos del desarrollo de cerebros.