Los protocolos de seguridad en los colegios estadounidenses se han multiplicado con el paso de los años. Las cámaras revisan cada pasillo y los sistemas de detección buscan señales de armas en cualquier gesto o movimiento. La facilidad con que se adquieren pistolas y la frecuencia de tiroteos han hecho que la vigilancia forme ya parte del día a día en los colegios.
Esa red de control pretende anticipar el riesgo antes de que alguien pierda la cabeza y dispare. Pero el exceso de confianza en la tecnología puede dar resultados tan absurdos como peligrosos, como demostró un caso reciente en Baltimore.
Un algoritmo confundió una bolsa de patatas con un arma y desató un importante operativo policial
El lunes de la semana pasada, Taki Allen, estudiante de 16 años del instituto Kenwood High School, terminó su entrenamiento de fútbol americano y se sentó con sus amigos a esperar el autobús. Un sistema de inteligencia artificial detectó una supuesta pistola en su bolsillo. En pocos minutos, ocho policías rodearon al adolescente, le apuntaron con sus armas, lo arrojaron al suelo y le esposaron. “Me hicieron ponerme de rodillas, poner las manos detrás de la espalda y me esposaron”, explicó Allen a la cadena WBAL. Cuando lo registraron, los agentes hallaron una simple bolsa arrugada de Doritos.
La alarma había sido generada por el sistema de detección de armas instalado en el centro, creado por la empresa Omnilert. Según explicó la cadena BBC, su tecnología analiza las imágenes de las cámaras del colegio y, al detectar un objeto sospechoso, envía la alerta a un equipo humano que debe verificarla antes de avisar a la policía. En esta ocasión, el proceso desencadenó una intervención completa antes de que nadie comprobara con atención lo que mostraba la imagen.
La superintendente del condado, Myriam Rogers, confirmó que el sistema se había implantado en 2023 en las escuelas públicas de Baltimore para reforzar la seguridad. Durante una rueda de prensa, lo calificó de “realmente lamentable” y anunció una revisión del procedimiento. La directora del instituto, Kate Smith, envió una carta a los padres para explicar que la alerta fue cancelada en cuanto el departamento de seguridad comprobó que no existía arma alguna. Según dijo en un comunicado, “garantizar la seguridad de nuestros estudiantes y de la comunidad escolar es una de nuestras más altas prioridades”.
El incidente provocó la reacción inmediata de varios concejales del condado. Izzy Patoka escribió en redes sociales que “ningún niño en nuestro sistema escolar debería ser abordado por la policía por comer una bolsa de Doritos” y pidió revisar los protocolos del sistema. Su compañero Julian Jones solicitó asegurarse de que existan salvaguardas que eviten errores de este tipo. Las autoridades locales coincidieron en exigir una evaluación completa de las decisiones que llevaron a la respuesta policial.
La empresa defiende su tecnología mientras la familia del alumno exige responsabilidades
Omnilert también se pronunció sobre el caso en declaraciones a CNN. La empresa lamentó los hechos y defendió que su sistema “está diseñado para identificar una posible amenaza y elevarla para revisión humana”. Añadió que “aunque después se determinó que el objeto no era un arma de fuego, el proceso funcionó como se esperaba: priorizar la seguridad y la conciencia mediante una verificación humana rápida”.
La explicación, sin embargo, no ha convencido a los familiares del estudiante. El abuelo del joven, Lamont Davis, pidió cambios concretos y reclamó que se depuren responsabilidades. El suceso dejó en evidencia la confianza excesiva en las máquinas para decidir sobre la seguridad en espacios escolares. Taki Allen reconoció que ahora prefiere esperar el autobús dentro del edificio porque no se siente tranquilo si lleva algo en los bolsillos.
El momento de los ocho agentes armados rodeando a un menor por una bolsa de patatas ha abierto un debate en Baltimore sobre el papel de la tecnología en la prevención de la violencia escolar. Lo ocurrido no solo muestra los límites de la inteligencia artificial, sino la necesidad de que la vigilancia digital en las aulas esté siempre acompañada de criterio humano y prudencia institucional.