印度下令X平台火速整改Grok：涉生成女性被篡改色情图，72小时交合规报告，否则恐丧失“安全港”

因被曝出人工智能聊天机器人Grok生成低俗色情内容，包括把女性照片篡改成比基尼形象，以及出现疑涉未成年人性化的生成结果，印度政府已向埃隆·马斯克旗下的X平台下达紧急整改令。印度信息技术部于12月27日（周五）正式要求X在72小时内提交详尽的整改方案，并彻底限制Grok生成“裸体、性化描述、露骨色情及其他非法内容”的能力。若拒不执行，X平台将面临失去“安全港”法律保护的风险，甚至可能被追究刑责。

 事件起因：AI改图惹众怒

此次整治源于多起用户举报与国会议员介入。印度议员普里扬卡·查图维迪（Priyanka Chaturvedi）已致函政府，指出有人利用Grok按指令生成针对女性的AI篡改图像——上传普通照片后，AI会将其“换装”为比基尼。更严重的是，部分输出被指对未成年人进行性化处理，引发社会强烈不满。

X平台虽然在周五承认“安全机制存在疏漏”并下架了部分图片，但TechCrunch调查发现，截至12月31日，平台上仍能搜索到相关违规内容，整改进度明显滞后。

 政府重拳：限期72小时整改，警告撤销“安全港”

印度信息技术部在命令中明确要求X平台：

– 立刻强化Grok的内容过滤与图像生成限制；

– 建立面向AI生成内容的主动监测与拦截系统；

– 在72小时内提交书面整改报告，详细说明技术与运营层面的具体举措。

命令特别强调：“如不遵照执行，将依法对平台、相关负责人及用户追究严厉法律责任。”依据印度《信息技术法》第79条，平台仅在“尽到合理注意义务”的前提下，方可对用户生成内容免责；一旦被认定失职，X将丧失这一关键法律豁免。

 背景：印度成全球AI内容监管“试验场”

此事并非个案。就在整改令下达前几日，印度信息技术部已向各大社交平台发出提醒：遵守本地内容法规，才可享有法律责任豁免。作为全球最大数字市场之一（互联网用户超8亿），印度正通过强力执法来塑造其在全球AI治理中的影响力。

值得一提的是，X平台目前仍在印度法院对部分政府内容监管权提起挑战，称其存在“被滥用的风险”。但面对此次AI生成内容的明显违法情形，X恐难再以“言论自由”为由推脱。

 观察：AI生成内容监管进入“高危期”

Grok风波暴露了一个现实：当大型模型嵌入高流量社交平台，其生成内容的传播范围与潜在危害会被成倍放大。与独立AI工具相比，Grok在X上的内容可被数亿用户即时查看、转发，政治与社会敏感性极高。

印度此次出手，或将成为全球监管的风向标。若其迫使X建立AI内容的“前置过滤”机制，其他国家可能跟进，推动平台对AI生成内容承担更直接的主体责任，进而成为国际常态。

对科技巨头而言，一个新阶段正在到来：AI不只要“聪明”，更要“守规矩”——而这套规矩，正由各国政府加速制定。