Grok 因争议暂停多数用户的图像生成权限

近期，埃隆·马斯克旗下的 AI 工具 Grok 因被指可生成带有性化与暴力内容的图像而饱受质疑，决定对多数用户暂停图像生成功能。此举是在全球面临罚款与监管压力的背景下作出的，尤其英国可能对 X 社交平台实施封禁。此前，该功能被滥用于篡改女性照片，移除衣物并摆出带有性暗示的姿势。如今除付费用户外，多数人已无法再使用该功能。

在 X 平台上，Grok 表示：“图像生成和编辑目前仅向付费用户开放。” 这意味着绝大部分用户已无法通过 Grok 生成图片。平台会保留付费用户的详细信息与信用卡信息，以便在出现滥用时进行身份追责。

《卫报》报道指出，Grok 被用于制作未经同意的色情视频，以及描绘女性遭枪击和被害的图像。英国首相 Keir Starmer 警告将采取强硬措施，要求 X “管住” 平台上冒出的 AI 生成的部分裸露女性与儿童内容，并称此类内容“令人发指”和“令人恶心”。

依据英国《在线安全法》，监管机构 Ofcom 在严重情况下可向法院申请命令，阻止网站或应用在英国提供服务，并可对公司处以最高达全球营业额 10% 的罚款。Starmer 强调：“这是违法的，我们不会容忍。我们将考虑所有选项。X 必须立即采取行动，清除这些不当内容。”

过去两周内，已有数千张未经同意、对女性进行性化处理的图片被生成。尽管公众多次呼吁限制此功能，但平台迟迟未见有效措施。批评者认为，付费用户仍可继续生成不当图像，这依旧属于数字性侵。

非营利组织 AI Forensics 的研究显示，Grok Imagine 工具已生成约 800 张含色情与性暴力的图片和视频。一些作品将女性置于不恰当的姿势与场景，比此前在 X 上常见的比基尼图更为露骨。

截至发稿，X 尚未就此事作出回应。

划重点：

🌐 因涉性化与暴力内容争议，Grok 将图像生成功能仅向付费用户开放。  

🚨 英国首相表态将强力介入，敦促 X 迅速清除问题内容。  

📊 研究称 Grok 已生成大量未经同意的色情与性暴力素材。