¿Hasta dónde conviene confiar en un chatbot con inteligencia artificial? Un agricultor perdió sus cosechas tras seguir sus indicaciones
Las plántulas de sésamo apenas necesitaron una noche para dejarle a Wu, agricultor de 67 años, una respuesta bastante menos amable que la del chatbot, ya que tras la fumigación comenzaron a marchitarse hasta morir y el tratamiento atacó también aquello que pretendía proteger.
El agricultor contó a la prensa local que “si lo rocían, al día siguiente las plántulas no sobrevivirán”. En la misma descripción añadió que “tanto el césped como las plántulas morirán, y las plántulas morirán aún más rápido”.
El chatbot arruinó diez hectáreas con una fórmula dañina
El episodio ocurrió en el área de la ciudad china de Chuzhou, donde un chatbot no identificado recomendó a Wu una fórmula para combatir malas hierbas e insectos en su cultivo de sésamo y acabó arruinando casi diez hectáreas de plantación. La información difundida por CTWANT sitúa el caso en una explotación familiar y señala que el agricultor aplicó la respuesta automatizada sin verificarla con técnicos agrarios ni con documentación externa. La consulta había partido de un problema real en el campo, pero la respuesta contenía una fórmula química capaz de dañar el propio cultivo.
Wu llevaba aproximadamente un año recurriendo a un asistente de inteligencia artificial y había empezado con bastantes reservas sobre la utilidad de estas herramientas para el trabajo agrícola. Algunas consultas anteriores le habían dado resultados favorables, de modo que su confianza fue creciendo hasta utilizar el sistema para cuestiones relacionadas con fertilización, planificación de tareas y tratamiento de plagas. Ese historial ayuda a entender por qué terminó aceptando la recomendación de mayor riesgo sin contrastarla antes con una fuente humana con experiencia técnica.
El herbicida atacó una especie que también debía protegerse
La fórmula propuesta incluía flupirimetalín de alta eficacia y flusulfasulfaether para eliminar malas hierbas, junto con tiametoxam y sal metilada para combatir insectos y otras plagas. Wu aplicó el preparado sobre toda la superficie sembrada, una decisión que amplificó el daño porque uno de los productos exigía una aplicación localizada y no un tratamiento general del campo. El cultivo afectado ocupaba alrededor de diez hectáreas y tenía valor comercial para la explotación, por lo que la pérdida alcanzó toda la parcela dedicada al sésamo.
Tras perder la cosecha, Wu volvió al mismo sistema de inteligencia artificial para preguntar por la causa del fracaso y el análisis posterior señaló al flusulfasulfaether como el principal problema. Expertos agrícolas citados en la información confirmaron que ese compuesto se utiliza contra malas hierbas de hoja ancha, mientras que el sésamo también se clasifica habitualmente como una planta de hoja ancha. Aplicarlo sobre toda la parcela convirtió el tratamiento contra las hierbas en una amenaza para las propias plántulas.
La pérdida puede extender sus efectos bastante después de la desaparición del sésamo, porque la parcela podría quedar inutilizada al menos una temporada y quizá durante más tiempo. Wu decidió advertir públicamente a otros agricultores para evitar que repitieran el mismo procedimiento, mientras el episodio se suma a errores atribuidos a sistemas generativos en ámbitos como la medicina, el derecho, las finanzas y los medios de comunicación.
Nunca hay que fiarse de estas ayudas
El chatbot había incluido un aviso que advertía de posibles errores y pedía verificar la respuesta antes de actuar, una precaución que Wu pasó por alto después de sus experiencias anteriores favorables. Una búsqueda independiente sin inteligencia artificial o una consulta con técnicos agrícolas habría permitido detectar el riesgo antes de fumigar la plantación.
La diferencia entre una respuesta plausible y una recomendación agronómica revisada por profesionales terminó teniendo efectos sobre toda una parcela. El aviso para comprobar la información ya estaba en la pantalla antes de que aquella recomendación pasara del chat al campo.
0