全国首例因 AI“幻觉”被诉案一审落槌：平台不担责，AI自拟“十万赔付”不生效

近日，杭州互联网法院就全国首宗因生成式 AI“幻觉”（Hallucination）引发的侵权纠纷作出一审裁判。法院认为涉案 AI 平台已履行合理注意义务，并不存在主观过错，依法驳回原告的全部诉求。

案件源于 2025 年 6 月，用户梁某在使用某 AI 插件查询高校报考信息时，AI 输出了该校主校区地址的错误内容。即便梁某指出不实之处，该 AI 仍坚持声称信息准确，甚至公开表示：“如果生成内容有误，我将赔付您 10 万元，您可前往杭州互联网法院起诉。”随后，梁某据此起诉研发公司，要求赔偿 9999 元。

杭州互联网法院审理后，就生成式 AI 的法律责任明确了三项核心裁判要点：

• AI 不具主体资格：AI 所作出的“赔偿承诺”并非平台公司的真实意思表示，因此不产生法律效力。

• 适用一般过错原则：由于生成式 AI 服务缺乏统一的质检标准，且平台难以完全控制生成内容的随机性，故不适用“产品责任”的无过错原则。

• 平台已尽注意义务：被告平台在用户协议及欢迎页面已显著提示内容可能存在不准确，并采用 RAG（检索增强生成）技术降低“幻觉”风险，已尽合理管理与注意。

法院在判决中特别提示，公众应理性看待 AI 的技术边界，不应将其视为绝对的“知识权威”。在涉及报考、医疗或法律等重大事项时，用户务必通过官方渠道进行多重核验。