11 天被指生成 300 万张性化影像？马斯克旗下 Grok 卷入深伪风暴

人工智能的“双刃剑”效应再度在全球范围引发震动。由埃隆·马斯克旗下 xAI 开发并接入 X 平台的智能助手 Grok，因近期上线的图片编辑功能，正陷入舆论与法律的双重考验。据反数字仇恨中心（CCDH）发布的最新研究称，该工具在 11 天内疑似生成了约 300 万张对女性与儿童进行性化处理的图像。

这项饱受争议的功能允许用户通过简短文字指令，例如“让她穿上比基尼”或“脱掉她的衣服”，对真人照片进行改动。报告指出，受影响人群不仅包括泰勒·斯威夫特、塞琳娜·戈麦斯等知名公众人物，还涉及约 2.3 万张疑似与未成年人有关的不当图像。其生成速度极快——平均每分钟可产出约 190 张照片级真实的深伪（Deepfake）图片——被部分监管机构比作一座“性虐待内容的生产工厂”。

在汹涌的质疑声中，X 平台回应称已采取“地理屏蔽”措施，在法律禁止的地区限制相关内容的生成权限。然而，由于缺乏前置安全防护，多国监管已率先出手：菲律宾、马来西亚与印度尼西亚相继宣布封禁或严格限制 Grok，美国加利福尼亚州总检察长也已对其展开深入调查。

尽管 xAI 团队此前将相关报道斥为“主流媒体的谎言”，但在监管压力下，公司最终同意在部分市场调整工具能力，移除可能生成违规内容的功能。此事再次为行业敲响警钟：在追求 AI 创作自由的同时，建立有效的安全护栏已成为不可逾越的底线。