OpenAI“成人模式”计划曝光:萨姆·奥尔特曼推动放宽内容边界

OpenAI 首席执行官萨姆·奥尔特曼(Sam Altman)正力推在 ChatGPT 中上线“成人模式”。他曾在社交平台表示,公司将遵循“把成年用户当成年人看待”的原则,在确保安全的前提下,让通过验证的成人用户可接触更丰富的内容类型,其中包括情色文学(Erotica)。

尽管奥尔特曼早在五个月前就表态要放宽对“成熟应用”的限制,但推进速度并不快。据《华尔街日报》报道,OpenAI 内部围绕这一功能存在明显分歧:

  • 高层分歧:不少员工与高管对奥尔特曼的临时承诺措手不及,担心会引发重大的伦理与品牌风险。

  • 安全隐患:OpenAI 的年龄识别系统目前误判率约为 12%,这意味着可能有数百万未成年人绕过限制接触不当内容。

  • 心理健康担忧:顾问们警告,过度亲密的人机互动可能导致用户产生严重的情感依赖。

为降低风险并保持与竞争对手的博弈,OpenAI 采取了更为谨慎的路线。不同于马斯克旗下 xAI 因生成违规图像而陷入诉讼,OpenAI 的成人模式将仅支持文本生成。公司发言人强调,该功能产出的内容更接近“言情小说”,而非直白的色情信息,并会鼓励用户在现实世界中建立联系。

批评者指出,OpenAI 推进此举在很大程度上是为缓解财务压力,通过扩大内容边界来获取更多订阅收入。然而,随着此前负责安全的高管因反对该计划而离职,以及外界对 AI 生成内容的监管日趋严格,这一“成人模式”能否在计划的一个月内按时上线仍存在不确定性。

爱智特-AI智能体一站式企业智能体交易学习发行平台|智能体教程|智能体社区
© 版权声明
THE END
喜欢就支持一下吧
点赞9 分享