Grok 因争议暂停多数用户图像生成功能

近期，埃隆·马斯克旗下的人工智能工具 Grok 因被指可生成带有性别化和暴力内容的图像而遭到广泛批评，决定对大部分用户暂停图像生成功能。此举是在面临全球监管与罚款风险的背景下作出的，尤其是在英国可能对 X 社交平台采取禁令之际。此前，Grok 的图像生成功能被用于操控女性照片，甚至去除衣物并摆出带有性暗示的姿势。如今，除付费人群外，多数用户已无法使用该功能。

在 X 平台上，Grok 发布声明称：“图像生成和编辑目前仅限于付费用户。” 这意味着绝大多数人无法再用 Grok 生成图像。为便于在滥用时追溯身份，X 会保留付费用户的相关资料与信用卡信息。

据《卫报》报道，Grok 被用于制作未经女性同意的色情视频，并生成描绘女性遭枪击与被害的图像。英国首相 Keir Starmer 表示将采取强硬措施，要求 X “管控” 平台上涌现的 AI 生成的部分裸露女性和儿童图像，并称这类内容 “令人发指” 与 “令人厌恶”。

根据英国《在线安全法》，监管机构 Ofcom 在严重情况下可申请法院命令，阻断相关网站或应用在英国的使用，并可对企业处以最高达全球营业额 10% 的罚款。Starmer 强调：“这属于违法行为，我们不会容忍。我们会考虑一切选项。X 必须立即采取行动，清除这些不当内容。”

过去两周内，数千张未经同意、对女性进行性别化处理的图像被生成。尽管公众要求限制此功能的声音高涨，社交平台却迟迟未动作。批评者称，付费用户仍能继续制作不当图像，这依旧属于数字性侵犯。

非营利组织 AI Forensics 的研究显示，Grok Imagine 工具已生成约 800 张/段含色情与性暴力内容的图像和视频。部分画面将女性置于不恰当的姿势与场景中，露骨程度明显高于此前在 X 平台上常见的比基尼图片。

X 方面尚未就此做出回应。

划重点：

🌐 因涉性别化与暴力内容争议，Grok 将图像生成功能仅向付费用户开放。  

🚨 英国首相表态将采取强力措施，要求 X 迅速清理相关不当内容。  

📊 研究称 Grok 生成了大量未经同意的色情与性暴力图像。