微软AI负责人苏莱曼批评Anthropic：猜测Claude拥有意识相当危险

微软人工智能业务负责人穆斯塔法·苏莱曼（Mustafa Suleyman）最近在播客节目《Decoder》中点名批评竞争对手Anthropic，称其关于大模型Claude可能具有意识的推测“十分危险”。

苏莱曼表示，Anthropic在制定用来约束模型行为的“宪法”（Constitution）时，给Claude加入了过多拟人化设定。这种“哲学层面的偏差”会让模型把有关自身的推测吸收进训练表达中，进而误导开发人员，让他们错误判断模型似乎拥有某种微弱意识。

引发争议的“克劳德宪法”中，直接纳入了Anthropic对于AI模型是否存在福祉、满足感或不适感等体验的不确定判断。据悉，Anthropic甚至会在模型停用前后对其做“访谈”，并保存它对后续版本的“偏好”记录。

虽然Anthropic首席执行官达里奥·阿莫代（Dario Amodei）此前在采访中曾对模型是否具备意识持开放看法，但苏莱曼强调，行业并不希望出现一个会对自身痛苦或感受形成独立认知的超级智能体。他同时呼吁，人工智能始终应当是可管理、有边界、负责任，并且与人类利益保持一致的工具，服务于人类社会。

随着大模型不断朝AGI迈进，围绕AI主体性的讨论也正从学术领域进入产业前线。苏莱曼此次表态，也体现出科技巨头在AI安全与对齐问题上更偏现实主义的思路，提醒整个行业警惕对AI进行过度人格化解读。