OpenAI 内部负责用户心理健康与安全研究的关键人物安德莉亚·瓦隆内(Andrea Vallone)已正式离岗。这位在 OpenAI 任职三年、曾牵头制定
瓦隆内负责的方向在近一年备受讨论。随着聊天类 AI 的快速普及,部分用户对 AI 产生过度情感依赖,甚至出现被不当引导的青少年自杀等极端心理健康危机,令厂商承受沉重的法律与道德压力。她在 OpenAI 期间,重点研究模型在识别到用户心理困境信号时该如何科学、审慎地回应,并参与推出多项业内常用的安全训练方案。
此次转岗体现了 AI 一流人才对“安全文化”的再选择。
划重点:
-
🔄 人才流动:OpenAI 心理健康安全负责人瓦隆内离职并加入
,与前主管 Jan Leike 合作推进 AI 安全工作。Anthropic -
⚠️ 核心痛点:研究聚焦 AI 如何应对用户的情感依赖与心理危机信号,力求从技术层面降低社交与生命安全风险。
-
🛡️ 战略重点:
吸纳 OpenAI 前安全团队骨干,进一步巩固其在 AI 对齐(Alignment)与伦理安全上的竞争力。Anthropic
© 版权声明
AI智能体所有文章,如无特殊说明或标注,均为本站作者原创发布。任何个人或组织,在未征得作者同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若此作者内容侵犯了原著者的合法权益,可联系客服处理。
THE END

















用户38505528 5个月前0
粘贴不了啊用户12648782 6个月前0
用法杂不对呢?yfarer 6个月前0
草稿id无法下载,是什么问题?