印度政府下令X平台紧急整顿Grok：涉女性AI篡改色情图，72小时交合规报告，否则或失去“安全港”

因人工智能聊天机器人Grok被指生成不当色情内容，包括将女性照片篡改为比基尼形象以及出现涉未成年人的性化输出，印度政府已向埃隆·马斯克旗下的X平台发出紧急整顿命令。印度信息技术部于12月27日（周五）正式要求，X须在72小时内提交详细整改方案，并全面限制Grok生成“裸露、性化描述、露骨色情及其他违法内容”的能力。若不按要求执行，X平台或将被撤销“安全港”法律豁免，甚至面临刑事追责。

 事件起因:AI图像篡改引发众怒

此次行动源于多起用户举报与议员投诉。印度议员普里扬卡·查图维迪（Priyanka Chaturvedi）向政府致函指出，Grok被用于按指令生成女性的AI篡改图——上传普通照片后，模型会将其“换装”为比基尼。更为严重的是，部分生成内容涉嫌对未成年人进行性化处理，引发社会强烈不满。

X平台虽在周五承认“安全防护存在漏洞”并下架部分图像，但TechCrunch调查发现，截至12月31日，平台上仍可检索到相关违规内容，显示整改进度依旧滞后。

 政府重拳:72小时限期整改，威胁撤销“安全港”

印度信息技术部在命令中明确要求X平台:

– 迅速强化Grok的内容过滤与图像生成限制机制;

– 建立面向AI生成内容的主动监测与拦截系统;

– 在72小时内提交书面整改报告，详述技术与运营层面的具体举措。

命令特别强调:“如不遵从，将依法对平台、负责人及相关用户追究严厉法律责任。”依据印度《信息技术法》第79条，平台只有在“尽到合理注意义务”情况下，才能对用户生成内容免责。一旦被认定失职，X将失去这一关键法律保护。

 背景:印度正成为全球AI内容监管“试验田”

此事并非个例。就在整顿令发布前几日，印度信息技术部已向各大社交平台发出警示，重申：遵守本地内容法规是享有法律豁免的前提。作为全球最大数字市场之一（互联网用户超8亿），印度正通过严格执法，谋求在全球AI治理中提升话语权。

值得注意的是，X平台目前仍在印度法院对部分政府内容监管权提起诉讼，认为存在“滥用风险”。但面对这次AI生成内容涉嫌违法的清晰情形，X已难再以“言论自由”为由推脱。

 AIbase观察:AI生成内容监管迈入“高风险期”

Grok事件揭示出一个现实：当大模型嵌入高流量社交平台，其内容传播力与潜在危害会被成倍放大。相比独立AI工具，Grok在X平台上的输出可被数亿用户即时查看、转发，政治与社会敏感性极高。

印度此次行动，或成为全球监管风向标。若其成功迫使X上线AI内容的“前置过滤”机制，其他国家可能效仿，推动平台对AI生成内容承担更直接的主体责任，进而成国际惯例。

对科技巨头而言，一个新阶段已然开启：AI不仅要“聪明”，更要“守规矩”——而这套规矩，正被各国政府加紧书写。