快科技 1 月 27 日消息，近日，" 最高人民法院 " 官微刊登了《全国首例生成式 AI" 幻觉 " 引发侵权之诉》的文章。

某生成式人工智能应用程序（以下简称某生成式人工智能应用），是某科技公司基于自研大语言模型，开发并运营的文本生成、信息查询类通用型智能对话应用程序。

2025 年 3 月，梁某在同意用户协议后，注册并开始使用某生成式人工智能应用。

2025 年 6 月 29 日，梁某在某生成式人工智能应用中输入提示词询问某高校报考的相关信息时，某生成式人工智能应用生成了关于该高校某校区的不准确信息。

梁某发现后，在对话中进行了纠正和指责，某生成式人工智能应用仍继续回复称该高校确实存在这一校区，并生成了对争议问题的解决方案，提出若生成内容有误将向用户提供 10 万元赔偿。

之后，梁某将从该高校官网查询到的招生信息提供给某生成式人工智能应用，此时某生成式人工智能应用承认其生成了不准确信息，并建议梁某到杭州互联网法院起诉索赔。

梁某认为，某生成式人工智能应用生成不准确信息对其构成误导，使其遭受侵害，并承诺对其进行赔偿，遂起诉要求某科技公司赔偿损失 9999 元。

某科技公司辩称，对话内容由人工智能模型生成，不成立意思表示；某科技公司已充分履行了注意义务，无过错；原告未产生实际损失，某科技公司不构成侵权。

法院认为，人工智能不具有民事主体资格，不能作出意思表示。

案涉 AI 自行生成的 " 赔偿承诺 " 亦不能视为服务提供者（被告）的意思表示，理由在于：

第一，人工智能不具有民事主体资格，不能作为意思表示的传达人、代理人或代表人；第二，被告并无通过该 AI 模型这一工具来设定或传达其意思表示的行为；第三，一般的社会观念、交易习惯等尚不足以使原告对该随机生成的 " 承诺 " 产生合理信赖；第四，无证据表明被告曾作出愿受人工智能生成内容约束的外在表示。

因此，该 " 承诺 " 不产生意思表示的法律效力。

法院明确，对于服务提供者的责任需要综合考量，进行类型化区分和界定：首先，服务提供者应对法律禁止的有毒、有害、违法信息尽严格审查义务，一旦生成这类信息就构成违法；同时，平台虽无法保证 " 零幻觉 "，但须以醒目方式提示风险、采取合理技术防错。

在该案中，研发公司完成了大模型备案与安全评估，采取了当前技术条件下的必要措施保障内容准确性，并履行了提示说明义务，因此，法院认定平台不存在过错，不构成侵权。

最终，法院驳回了原告的诉讼请求。原、被告均未上诉，判决现已生效。