当地时间10月20日晚,美国马里兰州巴尔的摩县一所高中,由于人工智能(AI)安全系统误将一名学生的零食包装袋识别成了“疑似枪支”,致该学生被全副武装赶来的警察戴上手铐接受调查。
▲肯伍德高中
“他们让我跪下,双手背在身后,然后给我戴上了手铐。”来自肯伍德高中的涉事学生塔基·艾伦称,自己当时刚和朋友踢完球准备回家,手上拿着一包玉米片,“我当时两只手拿着零食袋,一只手指伸了出来。然后就被识别成了‘疑似枪支’。”
塔基回忆说,当时正在校门口吃零食的自己眼见着持枪警察走过来。“他们拿枪指着我,还有大概8辆警车停在了校门口。”塔基说,自己当时的第一反应是“我是不是要死了”。随后,警方铐住了塔基,对他进行了搜身检查,这才发现已经落在地上的零食袋。“他们给我看了触发警报时的图像,并解释说我当时拿零食袋的时候像拿着一把枪。”
据介绍,巴尔的摩县去年开始在学校部署检测枪支的人工智能安全系统。若系统发现可疑物品,就会立即向学校和执法人员发出警报。
塔基的祖父对此事感到愤怒,并要求追究相关方责任。肯伍德高中在给家长的解释信中称,对此事感到遗憾,并将为需要帮助的学生提供支持。
巴尔的摩县警方在一份声明中称,警局在接到有“可疑人员携带枪支”的报告后,就立刻赶赴现场对“可疑人员”进行搜查,最后确认其并未携带任何武器。
巴尔的摩县议员伊兹·帕托卡则呼吁对警方的处理流程进行复查,并呼吁学校检查其人工智能安全系统的运行程序。“孩子不应该因为吃了一包玉米片就被警察拦住。”
另据报道,这套人工智能安全系统的运营商强调称,其系统的作用就是识别潜在威胁并将其提交人工进行审核。“此次事件的流程是按预期运行的。”