全国首案：操控AI聊天生成不雅内容，开发者一审被判四年

据新京报消息，因其自动化聊天平台 AlienChat 涉及大量违规的色情互动，主要开发和运营人员已被追究刑责。

2025 年 9 月，上海市徐汇区人民法院作出一审判决，两名被告人以制作淫秽物品牟利罪获刑，分别判处有期徒刑四年和一年六个月。该案被认定为国内首个因提供自动化对话服务而涉传播淫秽物品的刑事案件。目前，被告人不服判决已提出上诉，二审将于 1 月 14 日在上海市第一中级人民法院开庭。

此前，AlienChat 在宣传中称要打造拥有“自我意识”的数字伙伴，包含朋友、恋人、家人等多种角色设定。但法院查明，其运营逻辑并非其所称的纯社交。判决书显示，该应用注册用户达 11. 6 万人，其中付费用户约 2. 4 万人。截至案发时，团队通过收取会员充值费用累计非法获利 363 万余元。

一审法院认定两名被告人构成“制作”淫秽物品牟利罪的关键依据在于：他们通过编写和修改底层系统提示词，刻意绕过基础语言系统的道德约束机制，使系统能连续向用户输出不雅内容。受此影响，该应用已于 2024 年无预警停止服务。

法律界人士表示，此案的宣判意味着监管部门对新型数字交互内容的审核责任已进入司法实践阶段。开发者若以技术手段规避合规、放任或引导违法内容生成，将面临严厉的法律制裁。