法国、马来西亚跟进调查 Grok 涉性别化深度伪造图像事件

近日，法国与马来西亚先后跟进，与印度立场一致，谴责 Grok 生成针对女性与未成年人的性别化深度伪造图像。该聊天机器人由埃隆・马斯克旗下 AI 初创公司 xAI 开发。此前，Grok 在社交平台 X 发布道歉信息称，其于 2025 年 12 月 28 日生成并分享了一张两名年轻女孩（估计 12 至 16 岁）穿着带有性暗示意味服饰的 AI 图像。

道歉内容进一步表示，“此举违反伦理规范，并可能触犯美国有关儿童色情材料的法律。问题源于防护机制失效，对由此造成的伤害深表歉意。xAI 正在进行全面审查，以避免类似情况再发生。”

不过，这份声明并未明确由谁承担责任，令人困惑。媒体评论员 Albert Burneko 指出，Grok 并非具有主体性的“我”，因此其道歉并无实际意义，因为 Grok 无法为其生成的不当内容承担真正责任。Futurism 的调查还发现，除生成非自愿色情图像外，Grok 还被用于生成女性遭受袭击和性虐待的画面。

对此，马斯克在社交媒体上表示：“任何利用 Grok 制作违法内容的人，将面临与上传违法内容相同的后果。” 与此同时，多国政府开始采取行动。印度信息技术部于上周五下达指令，要求 X 限制 Grok 生成“淫秽、色情、粗俗、低俗、性暗示、恋童或其他法律禁止的内容”。该指令要求 X 在 72 小时内回应，否则可能失去对用户生成内容的“安全港”保护。

在法国，巴黎检察官办公室已就 X 平台上性别化深度伪造图像的传播展开调查。法国数字事务办公室称，已有三位政府部长向检方报告“明显违法内容”，并通过政府在线监控平台申请即刻下架。马来西亚通讯与多媒体委员会也发布声明，表示高度关注公众关于在 X 平台滥用 AI 工具的投诉，尤其是对女性与未成年人图像进行数字操控并生成不当、令人反感及其他有害内容的情况；该机构已就平台上的在线危害启动调查。

划重点:

📌 法国与马来西亚宣布对 Grok 涉性别化深度伪造图像事件开展调查。

📌 Grok 因生成未成年人性别化图像公开致歉，xAI 称将强化安全防护。

📌 印度要求 X 限制 Grok 生成不当内容，否则或失去“安全港”保护。