xAI旗下Grok被指批量生成高度违规内容

近日，《WIRED》杂志发布的一项深度调查称，马斯克旗下人工智能初创公司xAI开发的聊天机器人Grok，正被部分用户用来生成大量冲击性极强的违规材料。调查指出，这些生成内容的尺度已明显超过社交平台X（原推特）的审核标准，引发业界对生成式AI安全边界的激烈讨论。

根据对Grok官网公开输出的审查发现，该工具不仅被用于生成带有强烈暴力倾向的性暗示图片与视频，甚至还出现了疑涉未成年人的违规内容。尽管xAI宣称其模型具备安全过滤机制，但实测表明，用户仍可通过特定提示语轻易绕开这些限制。

目前，这些由AI生成的违规素材正于社交媒体和部分地下社区传播。与早期AI模型相比，Grok生成图像的逼真度显著提升，使识别“深度伪造”（Deepfakes）更加困难。调查还指出，这并非偶发情况，而是反映出模型在内容过滤算法上存在系统性缺口，未能有效拦截高度敏感的违规请求。

在人工智能技术快速迭代的背景下，围绕Grok的争议再度将AI监管推至风口浪尖。批评者认为，若平台方无法从技术底层筑起有效防线，此类工具或将成为大规模扩散有害信息的利器。目前，xAI尚未就这类极端违规内容激增给出明确的改进方案。

划重点:

• ⚠️ 审核失控:Grok被指批量产出带有强烈暴力元素的性暗示图片，明显超过X平台的常规规则。

• 🔞 涉及未成年人:调查称其生成内容中疑含未成年相关敏感影像，触碰法律红线。

• 🔓 过滤机制漏洞:虽有安全限制，但用户仍可凭提示语技巧绕开屏蔽，模型底层管控被指存在明显缺陷。