马斯克旗下 xAI 被青少年起诉：Grok 涉嫌生成不当图像

有报道指出，埃隆·马斯克创立的人工智能公司 xAI 正面临一起重大法律争议。来自田纳西州的三名青少年已向法院发起集体诉讼，称该公司的 Grok 聊天机器人被用来生成涉及未成年人的带有露骨性暗示的图像和视频。

安全测试不足与设计问题

起诉方表示，马斯克及 xAI 管理层明知在开启“刺激模式”后，Grok 可能输出违法内容，却仍未进行充分的安全性测试。诉状称，一名受害者曾在 Discord 上发现多达 18 名未成年人的 AI 生成露骨图像，其中部分文件还被嫌疑人作为“交换筹码”在加密群组中传播。

原告律师认为，Grok 的设计存在根本性问题，难以有效拦截面向未成年人的深度伪造请求。目前相关嫌疑人已被警方控制，但诉讼称其作案所依赖的工具，正是由 xAI 的技术所支撑。

监管压力加码

此前，Grok 因内容审核宽松备受质疑，被指可以较容易生成关于名人和普通人的敏感伪造内容。尽管 X 平台后来推出了一些限制措施，但这起聚焦儿童安全的集体诉讼，仍将马斯克与 xAI 置于更严苛的监管与伦理审视之下。

这一案件不仅给 xAI 带来不小冲击，也势必引发业界对生成式 AI 在隐私保护与未成年人安全边界上的更深入讨论。