越狱事件引发全球限制,顶级AI模型Claude Fable5遭到紧急下线

近日,Anthropic公司推出了号称史上最强的Mythos级大模型Claude Fable5。凭借其在编程和复杂任务处理方面的突出表现,这款模型很快成为科技圈关注的焦点。不过,令人意外的是,仅过了72小时,这款备受关注的AI产品就遭到美国政府发布的“全球限制令”,最终被迫全面停止服务。

这次禁令的强度可谓极其罕见。美国政府以国家安全为理由,不但禁止美国境外的个人和机构访问该模型,还明确要求,人在美国境内的外籍人士也不得使用,其中甚至包括Anthropic内部的外籍员工。由于技术上很难快速、准确地区分每位用户的国籍身份,Anthropic最后采取了统一暂停的方式,停止了Claude Fable5以及相关模型Claude Mythos5的全部服务,受影响用户的请求也会自动切换回上一代版本。

image.png

这次事件的起因,是外界发现了一个严重漏洞。据悉,这个漏洞可以绕开模型自带的安全防护,从而实现所谓的“越狱”。虽然Anthropic表示,这只是一个范围较窄、并不通用的越狱方式,而且在发布前已经进行了数千小时的红队测试,但美国政府的态度依然十分强硬。官方认为,Claude Fable5已经具备接近“网络武器级”的处理能力,一旦安全护栏被突破,带来的后果可能难以控制,因此要求公司立即修补漏洞,或者直接将产品下架。

在漏洞影响程度的判断上,双方也出现了明显分歧。Anthropic认为,仅因为一个并不通用的简单漏洞,就让一款面向数亿用户的产品停服,会给整个行业带来非常不好的示范效应。不过,知情人士透露,政府层面的担忧并不止这些。有消息称,相关部门怀疑已经有与中国有关的组织借助这一漏洞获得了模型的完整能力,甚至存在模型被逆向分析或蒸馏的风险。

截至目前,Anthropic与相关部门之间的沟通和谈判仍在继续。这起事件不仅仅是一场围绕单一产品展开的技术争议,更意味着AI行业正在走到一个更加敏感的监管分界点:当模型能力强到可能影响国家安全时,企业在风险控制和技术开放之间,究竟还能拥有多大的自主决定权?这场风波接下来如何发展,很可能会重新塑造前沿AI模型未来的部署规则。

爱智特-AI智能体一站式企业智能体交易学习发行平台|智能体教程|智能体社区
© 版权声明
THE END
喜欢就支持一下吧
点赞8 分享