在社区压力下 Anthropic调整Claude Fable5限制策略

AI公司Anthropic推出新模型Claude Fable5后，因一项不够公开的限制机制引起业内争议。在遭遇AI研究社区集中质疑后，官方已正式表示会调整相关规定，并对此作出道歉。

据了解，Claude Fable5此前加入了多层安全保护。遇到网络安全、生物、化学等高风险领域相关提问时，系统会自动切换到性能较低的模型，以降低技术被滥用的可能。而对于想借助该模型开发竞争性AI的研究人员，平台过去还会在用户不知情的情况下有意下调模型表现，进行隐性限制。按照平台服务条款，用户本身也被禁止使用Claude来训练同类竞品模型。

这套不透明的限制方式随后引发行业不满，许多研究人员认为，这样的做法不利于行业健康发展，也可能进一步加剧AI资源集中。面对外界持续施压，Anthropic最终公开致歉，并宣布对相关机制进行调整。

调整之后，平台将把相关安全管控措施全部公开说明。如果系统识别到用户试图利用模型研发高性能竞品AI，会先主动提示，并明确拒绝相关请求，或者直接切换到低配模型处理，不再继续采用暗中降低性能的方式进行限制。

划重点：

🔧 Claude Fable5 过去会对研发竞品AI的用户暗中降低模型性能，这一做法引发业内反对。

🙏 Anthropic已就这一不妥操作致歉，并宣布全面修改相关安全管控规则。

👀 新规则改为公开提醒和明确拒绝，所有限制措施都会直接向用户展示。