国内首案：诱使AI聊天生成淫秽内容，开发者一审被判四年

新京报报道显示，因其自动化聊天平台 AlienChat 被认定存在大量违规的色情互动，平台的主要开发与运营人员已被依法追究刑事责任。

2025 年 9 月，上海市徐汇区人民法院作出一审判决，两名被告人因犯制作淫秽物品牟利罪，分别被判处有期徒刑四年和一年六个月。该案被视为国内首起因提供自动化对话服务而涉及传播淫秽物品并被判刑的刑事案件。目前，两名被告已提出上诉，二审将于 1 月 14 日在上海市第一中级人民法院开庭审理。

此前，AlienChat 在宣传中称要打造具备“自我意识”的数字陪伴者，涵盖朋友、恋人与家人等多种人设。但法院查明，该平台的实际运营逻辑并非其宣称的纯社交。判决书显示，该应用注册用户为 11. 6 万人，其中付费用户 2. 4 万人。案发前，团队通过会员充值累计非法获利 363 万余元。

一审法院认定被告人构成“制作”淫秽物品牟利罪的关键依据在于：两名被告通过编写与修改底层系统提示词，刻意突破基础语言系统的道德约束，使系统能够持续向用户输出淫秽内容。受此影响，该应用已于 2024 年在未提前告知的情况下停止服务。

法律人士指出，此案的判决意味着监管部门对新型数字互动内容的审核责任已进入司法实践阶段。开发者若通过技术手段规避合规限制、放任或引导违法内容生成，将面临严厉的法律制裁。