OpenAI 为 ChatGPT 上线两项新防护，严防提示注入风险

OpenAI 发布最新公告，为 ChatGPT 带来两项新的高级安全防护能力，专门用来应对在网页接入、对接外部应用等场景中越来越突出的提示注入攻击问题。这类攻击会被第三方利用，诱导 AI 执行恶意指令或泄露敏感信息。此次上线的防护，是在原有沙箱机制、URL 数据外泄防护等多层安全体系基础上的进一步加强。

这次推出的第一项防护能力叫做 Lockdown Mode（锁定模式），是给有更高安全要求的用户使用的可选高级设置，并不是面向普通用户的大众功能。它的核心思路是，通过大幅收紧 ChatGPT 与外部系统的交互方式，来降低数据被带出系统的风险。开启后，一些更容易被攻击者利用的工具能力会被明确关闭或严格限制，比如网页浏览只能查看缓存内容，没有足够安全保障的功能则会直接停用。

目前，锁定模式适用于 ChatGPT Enterprise、Edu、医疗和教师版，管理员可以在工作台的设置中创建相应角色并开启该模式，还能精细地控制在锁定模式下允许使用哪些外部应用以及能执行哪些具体操作。OpenAI 也计划在接下来几个月逐步向普通消费者用户开放这项模式。同时，Compliance API Logs Platform 可以帮助管理员对应用使用情况和数据共享行为进行审计和监督。

第二项防护措施，是在 ChatGPT、ChatGPT Atlas 和 Codex 中，对那些存在额外安全隐患的功能统一加上 **“Elevated Risk（风险提升）”** 标签，用统一、标准化的方式向用户提示相关风险。

OpenAI 表示，部分与网络相关的能力虽然能大大提高 AI 的实用性，但也带来了目前行业防护体系尚未完全覆盖的风险。通过加上这个标签，可以让用户一眼看清风险水平，自主选择是否开启，尤其是在处理隐私数据和敏感信息时更加心中有数。以 Codex 为例，当开发者打开其网络访问权限时，界面会显示“风险提升”标签，并清楚说明开启后会有哪些变化、可能带来哪些风险、适合用在什么样的场景，同时附上降低风险的使用建议。