AI 幻觉引发外交风波:英国警方紧急叫停 Microsoft Copilot

英国西米德兰兹警方近日遭遇一场严重的信任危机。由于依赖微软的 AI 助手 Copilot 提供的错误信息作出不当决策,该机构代理警察局长 Scott Green 宣布在全警队范围内立即停用这一工具。

事件源自一份备受争议的足球赛事安保建议。警方曾建议禁止以色列特拉维夫马卡比队球迷参加在伯明翰举行的一场欧协联比赛。调查发现,这一决定部分依据了 Copilot 给出的“情报”,令人震惊的是,AI 所描述的所谓“球迷冲突”竟发生在一场根本不存在的虚构比赛中。

这次“AI 幻觉”引发了持续的连锁反应。前任警察局长 Craig Guildford 因在国会听证会上就 AI 使用问题给出前后不一的说法,承受巨大舆论压力,最终选择提前退休。目前,英国警察行为独立办公室(IOPC)已介入调查,重点审查警务中使用 AI 的合规性与伦理风险。

代理局长 Green 表示,尽管 AI 在提升破案效率方面潜力巨大,但在建立完善的监管制度与操作指引之前,警方不会恢复使用 Copilot。此事也为全球执法机构敲响警钟:在涉及公共安全和国际关系的关键决策中,过度依赖尚不成熟的 AI 技术,可能引发严重的法律与外交后果。

划重点:

  • 🚨 西米德兰兹警方因 Copilot 编造并不存在的球赛暴力事件,已正式暂停该 AI 工具的使用。

  • 📉 这次 AI 失误导致前任警察局长提前退休,并促使监管部门启动正式调查。

  • 🛡️ 警方高层强调,在制定清晰的伦理、透明与证据核查规范前,AI 助手将被无限期停用。

爱智特-AI智能体一站式企业智能体交易学习发行平台|智能体教程|智能体社区
© 版权声明
THE END
喜欢就支持一下吧
点赞12 分享