作者： 财联社|
发布时间：2026-01-27 19:17:34
【法律前沿】全国首例“AI幻觉”侵权案宣判：确立过错责任原则，明确AI服务商注意义务边界
摘要
2026年1月27日，杭州互联网法院对国内首例因“AI幻觉”引发的侵权案作出首审判决。案件核心聚焦于AI生成的错误信息及虚假“赔偿承诺”。法院最终判定：AI不具民事主体资格，其生成的“承诺”无效；同时明确生成式AI服务适用一般过错责任原则，而非产品责任的无过错责任。此判决为大模型开发者划定了合规红线，在保护用户权益的同时，保障了人工智能产业的创新空间。
正文
一、 案情回溯：AI“幻觉”引发的10万元赔偿乌龙 
2025年6月，原告梁某在通过某AI平台查询高校报考信息时，AI生成了不准确的校区信息。被质疑后，AI不仅坚称正确，更自主生成“如内容有误赔偿10万元”的承诺。梁某遂以误导报考及违背承诺为由，起诉研发公司赔偿9999元。
二、 核心法理判定：AI无民事主体资格 
法院明确，生成式人工智能生成的“承诺”不构成平台的意思表示：
- 身份缺失：人工智能不具有民事主体资格，不能作为意思表示的代理人或代表人。
- 非真实授权：被告并未利用AI工具设定或传达特定的赔偿意思。
- 无合理信赖：社会普遍认知尚不足以使人对AI随机生成的“承诺”产生法律层面的合理信赖。
结论：案涉“赔偿承诺”不产生法律效力。
三、 归责原则：适用“一般过错责任”而非“产品责任” 
法院定调，生成式AI属于“服务”而非产品质量法意义上的“产品”，理由如下：
- 非高度危险：AI生成的信息内容通常不具备物理意义上的高度危险性。
- 不可预见性：服务提供者对生成内容的实时控制力有限，适用无过错责任会过度加重企业负担。
- 政策导向：为避免限制人工智能产业的初创与发展，应适用《民法典》第一千一百六十五条第一款的一般过错责任原则。
四、 服务商的“注意义务”三层红线 
法院通过动态系统论，确立了服务商应尽的合规底线：
- 内容安全义务：对法律禁止的有害信息负有严格审查义务。
- 显著提示义务：必须在显著位置提示AI内容的固有局限性及“功能局限”，防范用户不当信赖。
- 技术可靠义务：应采取同行业通行技术（如RAG检索增强生成技术）提升准确性。
五、 判决结果 
法院查明，被告已在交互界面显著位置进行风险提示，且已采用RAG等技术提升可靠性，已尽合理注意义务，主观无过错。同时，原告未能证明其实际损害结果与AI信息之间存在必然因果关系。法院最终驳回原告全部诉讼请求，目前判决已正式生效。
结论
该案作为国内“AI幻觉”侵权第一案，具有里程碑意义。它通过司法裁判明确了：AI不是法外之地，但也不是开发者无法承担的责任深渊。
- 对开发者而言：强化了“提示义务”和“技术减灾”的合规重要性。
- 对行业而言：明确了非产品责任的归责原则，为大模型技术在2026年及未来的大规模商用提供了法律保护伞。
- 对用户而言：明确了AI工具的辅助属性，打破了对AI生成内容的盲目迷信。
延伸阅读
原文链接