起诉马斯克旗下xAI！英国议员怒批Grok AI纵容色情深度伪造

英国工党议员杰丝·阿萨托近日已正式向英国高等法院提起诉讼，起诉埃隆·马斯克旗下的人工智能公司xAI。阿萨托在声明中表示，该公司的Grok AI平台被人恶意拿来制作并传播针对她本人的色情深度伪造图片。

她指出，这类侵犯成千上万女性和未成年人权益的低俗内容，并不是一次普通的疏漏，而是在产品开发阶段就作出的有意设计选择。因此，她决定通过法律手段追究相关设计决策责任，要求被告公开道歉并作出赔偿。

禁令形同虚设，恶意内容持续扩散

虽然xAI曾在今年1月中旬表示，已对Grok的图片编辑功能加上限制，并在相关违规领域禁止生成暴露着装图像，但媒体在2月调查时发现，这项功能依然存在漏洞，用户只要输入特定提示词，就能轻松绕开限制。

在阿萨托公开谴责该平台后，网上很快出现了她穿着比基尼的伪造照片，甚至还有性质更加恶劣的虚假受侵害视频。此前，美国巴尔的摩市也因类似问题起诉过xAI，指控其违反当地消费者保护法律。

首批产品设计追责案，敲响安全警报

代理本案的AWO律所法务负责人表示，这起诉讼属于全球较早一批针对人工智能产品底层设计追究责任的案件之一。他们希望借助此案向行业传递明确信号：人工智能研发企业不能总把安全保障当成事后补救的次要选择。

值得关注的是，作为SpaceX子公司的xAI，目前正筹划推进上市事宜，这有可能创下全球历史上规模最大的首次公开募股纪录。在这一关键阶段，这场围绕AI伦理与数据隐私展开的法律风波，无疑也为整个生成式人工智能行业再次敲响了警钟。