Policía armada esposa a adolescente después de que AI confundiera un paquete crujiente con un arma en EE. UU.
Un adolescente estadounidense fue esposado por policías armados después de que un sistema de inteligencia synthetic (IA) dijera erróneamente que llevaba un arma, cuando en realidad sostenía un paquete de patatas fritas.
«La policía apareció, como ocho coches de policía, y luego todos salieron apuntándome con armas y hablando de tirarme al suelo», dijo Taki Allen, alumno de Baltimore de 16 años. dijo al medio native WMAR-2 Information.
El Departamento de Policía del condado de Baltimore dijo que sus agentes «respondieron de manera apropiada y proporcional según la información proporcionada en ese momento».
Dijo que la alerta de IA fue enviada a revisores humanos que no encontraron ninguna amenaza, pero el director pasó por alto esto y contactó al equipo de seguridad de la escuela, quien finalmente llamó a la policía.
Pero el incidente ha provocado que algunos pidan que se revisen los procedimientos de las escuelas en torno al uso de dicha tecnología.
Allen dijo a las noticias locales que había terminado una bolsa de Doritos después de la práctica de fútbol y se guardó el paquete vacío en el bolsillo.
Dijo que 20 minutos después llegó la policía armada.
«Me dijo que me arrodillara, me arrestó y me esposaron», dijo.
El Departamento de Policía del condado de Baltimore le dijo a BBC Information que Allen fue esposado pero no arrestado.
«El incidente se resolvió de forma segura después de que se determinó que no había ninguna amenaza», dijeron en un comunicado.
Allen dijo que ahora espera adentro después de la práctica de fútbol, ya que no cree que sea «lo suficientemente seguro como para salir, especialmente comiendo una bolsa de papas fritas o bebiendo algo».
En una carta a los padres, la directora de la escuela, Kate Smith, dijo que el equipo de seguridad de la escuela «revisó y canceló rápidamente la alerta inicial después de confirmar que no había ningún arma».
«Me comuniqué con nuestro oficial de recursos escolares (SRO) y le informé del asunto, y él se comunicó con el distrito native para obtener apoyo adicional», dijo.
«Los agentes de policía acudieron a la escuela, registraron al individuo y rápidamente confirmaron que no estaban en posesión de ningún arma».
Sin embargo, los políticos locales han pedido una mayor investigación sobre el incidente.
«Hago un llamado a las escuelas públicas del condado de Baltimore para que revisen los procedimientos relacionados con su sistema de detección de armas impulsado por inteligencia synthetic», dijo el concejal native del condado de Baltimore, Izzy Pakota. escribió en fb.
Omnilert, el proveedor de la herramienta de inteligencia synthetic, dijo a BBC Information: «Lamentamos que haya ocurrido este incidente y deseamos transmitir nuestra preocupación a los estudiantes y a la comunidad en basic afectada por los eventos que siguieron».
Dijo que su sistema detectó inicialmente lo que parecía ser un arma de fuego y posteriormente su equipo de revisión verificó una imagen de la misma.
Esto, dijo Omnilert, luego se pasó al equipo de seguridad de las Escuelas Públicas del Condado de Baltimore (BCPS) junto con más información «en cuestión de segundos» para su evaluación.
La firma de seguridad dijo que su participación en el incidente terminó una vez que fue marcado como resuelto en su sistema, y agregó que había «operado según lo diseñado» en basic.
«Aunque más tarde se determinó que el objeto no period un arma de fuego, el proceso funcionó según lo previsto: priorizar la seguridad y la concientización a través de una rápida verificación humana», dijo.
Omnilert cube que es un «proveedor líder» de detección de armas de IA, citando varias escuelas de EE. UU. entre sus estudios de caso. en su sitio net.
«La detección de armas en el mundo actual es complicada», afirma.
Pero Allen dijo: «No creo que ninguna bolsa de chips deba confundirse con un arma».
La idoneidad de la IA para identificar armas con precisión ha sido objeto de escrutinio.
El año pasado, una empresa estadounidense de escaneo de armas, Evolv Know-how se le prohibió hacer afirmaciones sin fundamento sobre sus productos después de decir que su escáner de inteligencia synthetic, utilizado en miles de escuelas, hospitales y entradas de estadios de EE. UU., podía detectar todas las armas.
Investigaciones de noticias de la BBC demostró que estas afirmaciones eran falsas.
