近日,美国马里兰州巴尔的摩县发生一起令人震惊的事件。一名16岁高中生艾伦在校外逗留时,被当地AI枪支侦测系统错误地识别出其口袋中的多力多滋玉米片包装袋为枪械。这一误判导致多辆警车和持枪警察迅速出动,对艾伦进行严厉的制服,包括让他趴在地上、双手反绑并戴上手铐。事后,警方展示了触发警报的AI截取影像,证实是玉米片包装袋被误认为枪。该AI系统由Omnilert公司提供,旨在通过实时监控录像发出武器警报。尽管Omnilert承认误报,但表示系统“按预期运作”,旨在通过快速人工验证来优先保障安全。
🚨 AI系统误将玉米片包装袋识别为枪械:在美国马里兰州巴尔的摩县,一名16岁学生因口袋里的多力多滋玉米片包装袋,被当地AI枪支侦测系统错误地标记为持有枪械,这一技术错误导致了严重的后果。
🔫 武装警察被误导出动:该AI系统的误判直接导致了8辆警车和持枪警察的迅速出动,对学生艾伦实施了包括强制趴地、反绑双手和戴手铐在内的严厉制服措施,给学生带来了巨大的恐惧和不适。
🔍 系统运作机制与回应:引发事件的AI系统由Omnilert公司提供,旨在通过扫描监控录像实时侦测武器。尽管此次事件被确认为误报,Omnilert公司表示系统“按预期运作”,其目的是通过快速的人工验证来优先保障安全,但这种运作方式显然存在重大缺陷。
😟 学生身心受创:被误判为持枪的学生艾伦在事发时经历了极度的恐惧,他表示当时最担心的是生命安全,并对警方不信任的态度感到震惊。这次经历无疑给他的心理留下了阴影。
快科技10月26日消息,近日,美国马里兰州巴尔的摩县发生一起离谱事件:当地一个AI枪支侦测系统,竟然将一名16岁学生的Doritos玉米片包装袋误判为枪械,导致武装警察出动。
事件发生于10月20日,就读于肯伍德高中(Kenwood High School)的学生艾伦(Taki Allen)刚结束足球训练,正与朋友在校外逗留,突然间,多辆警车疾驰而至,警察持枪对准他们。
艾伦回忆道:“大概有8辆警车朝我们开过来。他们拿着枪走向我,大喊‘趴到地上’,我当时心想,‘发生了什么事?’”他描述当时的恐惧:“他们让我跪下,双手反绑在背后并戴上手铐。然后他们搜查了我,但什么也没找到。”
在警察持枪威吓下,艾伦被制伏,事后警方向他展示了触发警报的 AI 截取影像,影像中,他口袋里皱巴巴的多力多滋包装袋,被系统误认成了一把枪。
艾伦心有余悸地说:“我当时主要在想,我会死吗?他们会杀了我吗?他们给我看了照片,说那看起来像一把枪。
引发这起事件的AI系统来自Omnilert公司,该技术于去年被巴尔的摩县公立学校引入,它会实时扫描现有的监控录像,并在侦测到它认为是武器的物体时,立即向执法部门发出警报。
当时艾伦拿着一袋玉米片,露在外面的两只手和一根手指看起来像是在握持一把枪,Omnilert承认这是一次误报,但辩称系统是“按预期运作”,目的是“通过快速的人工验证来优先保障安全”。