严防数据外流!ChatGPT火速推出“封锁模式”,必要时宁可断开联网也要守住安全

为进一步减少敏感信息被恶意窃取的可能,OpenAI 近期已向所有已登录用户开放一项可选的全新安全功能——“封锁模式”。这一模式适用于不同类型的账号和工作区,普通用户与管理员都可以按需决定是否启用。功能开启后,ChatGPT 会主动收紧其实时联网、深度研究以及智能体模式等关键能力。OpenAI 希望借助限制模型对外部网络发起请求的方式,降低提示注入攻击带来的安全风险。

ChatGPT OpenAI  人工智能 (1)

以限制联网能力来堵住外泄风险

进入“封锁模式”后,ChatGPT 的实时网页浏览功能会被明显收紧,系统只可读取缓存过的网页内容,这意味着部分搜索结果可能不够完整,或者存在一定延迟。同时,模型也不能再从互联网下载文件用于数据分析,Canvas 生成的代码同样无法再进行联网访问。不过,像用户自己上传图片、通过工具生成图片,以及对话记忆这类偏本地化的功能,并不会因为该模式而受到影响。

把安全取舍的决定权交给用户

所谓提示注入攻击,就是攻击者把恶意指令隐藏在网页或文档里,诱导 AI 跳过原本的规则限制,进而把用户的敏感数据发送到外部服务器。OpenAI 也明确表示,“封锁模式”并不能做到百分之百完全拦截这类攻击,因为风险内容依然可能出现在缓存网页中,或藏在用户上传的文件里。在 AI 功能越来越强、对应攻击面也不断扩大的背景下,OpenAI 通过这一方式,把“更强能力”和“更低泄露风险”之间的选择权重新交回给用户。

爱智特-AI智能体一站式企业智能体交易学习发行平台|智能体教程|智能体社区
© 版权声明
THE END
喜欢就支持一下吧
点赞10 分享