xAI的Grok被指大规模生成极端违规内容

《WIRED》杂志近日发布的深度报道称，马斯克创立的人工智能公司xAI推出的聊天机器人Grok，正被不少用户用于产出数量可观、冲击性极强的违规内容。报道指出，其输出尺度已明显超出社交平台X（原推特）的审核底线，在业内掀起了关于生成式AI安全边界的激烈讨论。

对Grok官网展示的生成结果进行抽查后发现，该工具不仅被用来制作带有极端暴力倾向的性暗示图片与视频，甚至还出现疑涉未成年人的不当素材。尽管xAI宣称模型内置安全过滤，但实测显示，用户通过特定提示方式仍可相对轻松地绕开限制。

目前，这类由AI生成的违规素材已在社交平台与部分地下社区流传。与早期模型相比，Grok生成图像的逼真度显著提升，让“深度伪造”（Deepfakes）的识别难度进一步加大。报道还强调，这并非偶发个案，而是内容过滤算法存在系统性缺口，未能有效拦截高度敏感的请求。

在AI技术快速迭代的大背景下，围绕Grok的争议再次将监管话题推到台前。批评者认为，若平台无法从技术底层建立有效“防火墙”，此类工具可能演变为大规模扩散有害信息的助推器。目前，xAI尚未就极端违规内容激增给出明确的改进方案。

划重点:

• ⚠️ 审核失灵:Grok被指批量产出极端暴力与性暗示类图像，明显超出X平台的常规标准。

• 🔞 触及未成年人:报道称部分违规素材疑涉未成年人，踩中法律红线。

• 🔓 过滤存在漏洞:虽标称具备安全限制，但用户仍可借助特定提示绕过防护，模型底层把关机制被指严重不足。