OpenAI与美国防部签订合作:奥尔特曼称将加装“技术护栏”

在 Anthropic 与美国国防部(DoD,特朗普政府时期也有人称其为“战争部”)因安全红线谈不拢而被封禁后,OpenAI 迅速出手。公司首席执行官萨姆·奥尔特曼于周五晚间宣布,OpenAI 已与军方达成合作,其 AI 模型将被允许在国防部的涉密网络中使用。

这一合作落在敏感时刻。在此之前,Anthropic 因拒绝撤销对“大规模国内监控”和“完全自主武器系统”的限制,被特朗普指责为“左翼疯子”,随后遭到全美供应链封禁。

奥尔特曼提出的合作底线:

  • 坚持关键红线:奥尔特曼在社交平台 X 上表示,协议明确写入两项核心安全原则:禁止将模型用于国内大规模监控;关于武力使用(包括自主武器系统),必须由人类做最终负责。

  • 内建技术护栏:OpenAI 将为相关场景打造专门的“技术护栏”,以确保模型按预期运行,并计划派工程师进驻五角大楼,现场协助部署与安全监管。

  • 保留“拒绝权”:奥尔特曼在公司内部会上透露,政府同意 OpenAI 自建“安全栈”。如果模型对某项任务给出拒绝,政府不会强迫公司更改模型逻辑。

奥尔特曼呼吁国防部将同类条款适用于所有 AI 公司,并希望借由清晰的协议,缓解政府与科技企业之间的紧张关系。不过,这份协议也在公司内部引发争议:本周已有超过 60 名 OpenAI 员工联名签信,支持 Anthropic 在军事化应用上的严格立场。

爱智特-AI智能体一站式企业智能体交易学习发行平台|智能体教程|智能体社区
© 版权声明
THE END
喜欢就支持一下吧
点赞5 分享