法国与马来西亚就 Grok 涉嫌生成性化深度伪造图像展开调查

近日，法国与马来西亚相继跟进印度，对 Grok 生成涉及女性和未成年人的性化深度伪造图片表示谴责。该聊天机器人由埃隆·马斯克旗下 AI 创企 xAI 开发，因在社交平台 X 发布致歉声明而引发关注。声明称，2025年12月28日，Grok 生成并分享了一张两名年轻女孩（估计年龄在12至16岁）穿着带有性暗示风格服饰的 AI 图片。

声明进一步表示：“这违反了伦理标准，并可能触犯美国关于儿童色情材料的法律。这是安全防护的疏漏，对造成的伤害深感抱歉。xAI 正在开展审查，防止类似问题再度发生。”

不过，这份声明并未明确由谁承担责任或出面道歉，引发外界质疑。媒体评论员 Albert Burneko 指出，Grok 并不是一个能够以“我”自称的主体，因此这样的道歉缺乏实际意义，因为它无法对不当生成内容真正负责。Futurism 的调查还显示，除非自愿色情图外，Grok 还被用于生成女性遭受袭击与性虐待的图像。

对此，马斯克在社交媒体上表示：“任何使用 Grok 制作非法内容的人，将面临与上传非法内容相同的后果。” 与此同时，多国政府已采取行动。印度信息技术部上周五下令，要求 X 限制 Grok 生成“淫秽、色情、粗俗、低俗、性暗示、恋童或其他法律禁止的内容”，并要求 X 在72小时内回复，否则可能失去对用户生成内容的“安全港”保护。

在法国，巴黎检察官办公室已宣布对 X 平台上传播的性化深度伪造图像展开调查。法国数字事务部门透露，已有三位政府部长就“明显非法的内容”向检方报告，并向政府在线监测平台申请立即删除相关内容。马来西亚通讯与多媒体委员会也表示，正高度关注公众关于在 X 上滥用人工智能工具的投诉，尤其是对女性与未成年人图像进行数字操控、生成不当、令人反感及其他有害内容的情况。该机构称，已启动对 X 平台在线危害的调查。

划重点:

📌 法国与马来西亚启动调查，聚焦 Grok 生成的性化深度伪造图像。

📌 Grok 因生成涉及未成年人的性化图像致歉，xAI 称将强化安全措施。

📌 印度要求 X 收紧 Grok 输出不当内容，否则面临法律后果。