□李琛
近日，国内首例因“AI幻觉”引发的侵权案，杭州互联网法院作出一审判决，驳回诉讼请求。
2025年6月，梁某使用某AI应用查询高校报考信息时收到不实内容，指出错误后AI曾承诺若内容有误赔偿10万元并可向杭州互联网法院起诉，梁某提供高校官方招生信息后，AI承认信息不实。梁某遂起诉该AI运营者索赔，认为自身受误导遭侵害。运营者辩称AI对话为模型自动生成，非其意思表示，且其已尽注意义务无过错、梁某无实际损失，不构成侵权。
所谓“AI幻觉”，就是AI会出现无中生有、胡乱编造、信口开河的情况，虽然内容已经出现错误，却仍能逻辑缜密地自圆其说。若使用者疏于甄别，极易被迷惑和误导。新加坡国立大学研究团队2024年首次提供数学证明，AI幻觉在数学上是不可避免的，这就像“圆周率是无理数”，是AI系统的固有特性。2025年9月谢菲尔德大学的研究《Why OpenAl's solution to Al hallucinations would kill ChatGPT tomorrow》，再次直指大语言模型的幻觉具备数学必然性，即使用再完美的训练数据也无法消除。
这样看来“AI幻觉”的确有某种数理意义上的宿命感，可究竟是什么让AI无法停止“撒谎”？
援引米歇尔·福柯在《词与物》所表达的观点，如果我们把“笔”“书本”“电脑”这些东西叫做“物体”，那么就可以称AI为一种“词体”。因为它是一个通过语词回答问题，进而完成任务的功能体——AI的所有回答都基于语词符号的计算，其实就是词与词之间的各种数学关系：集合、次序、概率、拓扑等等。这个过程就像一个极其复杂的自动联想游戏，模型并不是真的在思考，而是根据“什么词经常跟什么词一起出现”来生成回答。想象下你在造句，你吐出第一个词、基于第一个词吐第二个，再基于前两个吐第三个……就像一种雪球效应，或者多米诺骨牌。这时候，你发现只有语词在黑箱里不停地运转，比起认为是AI在说话，我们形容为“话在说它”更加合适。
在这一意义上，AI“撒谎”也好，“驴头不对马嘴”式胡说也好，我们不能把它理解成一种计算错误。这里可以联系到平时做梦，梦的情节对于日常理性来说，常以一种破碎、荒诞的姿态显现。有些内容之想象丛生，你清醒时可能编都编不出来。我们想象平时那些生活里的印象，它们作为能指单元在梦里自动运作，这个程序只要符合能指之间的语法就能自己跑起来，比如人脸是扭曲的、苹果是流淌的、窗户哭了……句子的语法对了就行，管你经验事实是什么。这就是梦的语言。
因为AI本身没有感官经验，它的素材是大数据训练，所以只是处理字符间的运算，其实就相当于在说梦话，这些都要靠大量的人工和数据来不断纠偏。你看到这是一个从未经历过应试教育，却试图告诉你关于高校报考的一切信息的智能体，它只能依据于它的数据库进行不断造词，这永远缺乏一个及物的维度，也就是和物的直接关系，所以这种知识只能是语言化的知识、可言说的知识。
杭州互联网法院的判决逻辑，主要就是运营方未主动捏造信息，且AI生成内容不属于“意思表示”，难以直接归责。这暴露了现有法律在应对“无主体却有能力”的AI时的无力。当人类越来越依赖AI这类“词体”获取信息、作出决策，我们事实上将部分认知权威让渡给了一个无世界经验的系统。在此过程中，人的责任并未消失，而是发生了转移。
关于“AI幻觉”的判决案，从来并非只能不了了之的。
此前，一名乘客就虚假折扣问题起诉加拿大航空。该乘客2022年11月为奔祖母葬礼往返多伦多，咨询加航智能客服机器人丧亲折扣事宜，机器人承诺其购原价机票后可凭手续90天内申请该折扣退款，而加航实际并无此折扣，系机器人从其他航司相关信息中习得并产生“幻觉”。诉讼中，加航以无法预判机器人表述为由主张免责，未获法庭支持。法官认定加航未采取必要措施保障机器人回复准确性，存在明显疏漏。最终，乘客不仅获赔机器人承诺的折扣金额，还得到额外赔偿金。
因此，今天我们的全国首例因“AI幻觉”引发侵权案宣判，法院虽驳回了索赔，但并不意味着AI运营者可以免除所有义务。警示风险、提示核查、设置纠错机制、不断优化训练数据与算法约束——这些应当成为AI服务提供者的积极责任。而用户也需从“被动接受答案”转向“主动核实与判断”，意识到AI输出本质上是概率生成的文本，而非经验验证的知识。
“AI幻觉”之所以令人不安，是因为它动摇了现代性以来我们对知识可靠性的假设。科学曾承诺通过实证与逻辑建立与世界的真实对应，而AI却将知识重新拉回“词与词的游戏”。我们期待AI的输出如权威结论般确凿，但它给我们的却是充满不确定性的符号流。因此，看待全国首例“AI幻觉”案，我们不应止于一场诉讼的结束，而应成为社会重新思考人机关系的起点。
本文为红辣椒评论 原创文章，仅系作者个人观点，不代表红网立场。转载请附原文出处链接和本声明。
本文链接：https://hlj.rednet.cn/nograb/646045/62/15650811.html
