为进一步减少敏感信息被恶意窃取的可能,OpenAI 近期已向所有已登录用户开放一项可选的全新安全功能——“封锁模式”。这一模式适用于不同类型的账号和工作区,普通用户与管理员都可以按需决定是否启用。功能开启后,ChatGPT 会主动收紧其实时联网、深度研究以及智能体模式等关键能力。OpenAI 希望借助限制模型对外部网络发起请求的方式,降低提示注入攻击带来的安全风险。

以限制联网能力来堵住外泄风险
进入“封锁模式”后,ChatGPT 的实时网页浏览功能会被明显收紧,系统只可读取缓存过的网页内容,这意味着部分搜索结果可能不够完整,或者存在一定延迟。同时,模型也不能再从互联网下载文件用于数据分析,Canvas 生成的代码同样无法再进行联网访问。不过,像用户自己上传图片、通过工具生成图片,以及对话记忆这类偏本地化的功能,并不会因为该模式而受到影响。
把安全取舍的决定权交给用户
所谓提示注入攻击,就是攻击者把恶意指令隐藏在网页或文档里,诱导 AI 跳过原本的规则限制,进而把用户的敏感数据发送到外部服务器。OpenAI 也明确表示,“封锁模式”并不能做到百分之百完全拦截这类攻击,因为风险内容依然可能出现在缓存网页中,或藏在用户上传的文件里。在 AI 功能越来越强、对应攻击面也不断扩大的背景下,OpenAI 通过这一方式,把“更强能力”和“更低泄露风险”之间的选择权重新交回给用户。
© 版权声明
AI智能体所有文章,如无特殊说明或标注,均为本站作者原创发布。任何个人或组织,在未征得作者同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若此作者内容侵犯了原著者的合法权益,可联系客服处理。
THE END


















用户38505528 9个月前0
粘贴不了啊用户12648782 10个月前0
用法杂不对呢?yfarer 10个月前0
草稿id无法下载,是什么问题?