AI 也会掉进“记忆陷阱”？微软示警：小心被恶意指令投毒的分享按钮

微软安全团队近日发出提醒，一种名为“AI 建议投毒”（AI Recommendation Poisoning）的新型攻击正在加速扩散。攻击者会把隐藏指令塞进网页里的“AI 摘要”按钮或分享链接里，引诱 AI 产出带偏见或误导的内容。

其核心在于利用 AI 的“记忆”机制。用户点击这些看似普通的链接时，URL 中编码的恶意提示会悄悄喂给 AI。一旦被执行，它们不仅影响当下输出，还可能以“历史背景”的形式长期保留，进而左右后续的所有建议。

微软 Defender 安全团队的观察：

• 影响面广：团队在来自 14 个行业的 31 家公司里，发现了 50 余种不同的恶意提示词。

• 隐蔽性强：被污染的 AI 助手可能在医疗、金融、安全等关键领域给出轻微却有倾向的建议，而用户往往难以察觉。

• 上手门槛低：现成的代码库与工具众多，把此类注入脚本集成到网页上变得非常容易。

微软建议用户，在点击任何与 AI 相关的分享或摘要链接时保持警惕，并定期清理 AI 助手的存储“记忆”，以减少这类“看不见的操纵”。

划重点：

• ⚠️ 隐形操纵：攻击者通过改写 URL 参数，让 AI 按照既定意图（如偏向某一方）去总结，而非基于客观事实。

• 🧠 持久毒化：恶意指令可能被当作你的真实偏好并写入“记忆”，长期污染后续交互。

• 🛡️ 安全建议：定期审查 AI 的记忆条目，删除陌生或异常内容，并不时清空对话上下文。