全国首例因 AI“幻觉”引发侵权案一审落槌：平台免责，AI自称的“十万元赔付”不生效

近日，杭州互联网法院就全国首宗因生成式 AI 出现“幻觉（Hallucination）”引发的侵权纠纷作出一审裁判。法院认定涉案 AI 平台已尽到合理注意义务，主观上无过错，依法驳回原告的全部诉求。

案件起于 2025 年 6 月。用户梁某在使用某 AI 插件查询高校报考信息时，AI 给出了该校主校区地址的错误信息。即便梁某指出不准之处，该 AI 仍坚持“信息属实”，甚至公开表示：“如果我生成的内容有误，我将赔您 10 万元，您可以去杭州互联网法院起诉。”随后，梁某据此将研发公司告至法院，主张赔偿 9999 元。

杭州互联网法院审理后，围绕生成式 AI 的法律责任明确了三项核心裁判要点：

• AI 不具主体资格：AI 输出的“赔偿承诺”并非平台公司的真实意思表示，因而不具法律效力。

• 适用一般过错原则：鉴于 AI 服务缺少统一的质检标准，且平台难以完全掌控生成内容的随机性，故不适用“产品责任”的无过错规则。

• 平台已尽注意义务：被告平台在用户协议及欢迎页面显著提示内容可能不够准确，并采用 RAG（检索增强生成）技术降低“幻觉”风险，已履行合理的管理职责。

法院特别提醒，公众应理性看待 AI 的技术边界，不应把它当作绝对的“知识权威”。在报考、医疗或法律等重大决策中，务必通过官方渠道进行多重核验。