当你问AI问题，它能快速生成答案。但是AI生成的内容并非100%准确，有时AI会一本正经地“胡说八道”，凭空捏造虚假信息，而且说得特别像真的，这就是“AI幻觉”。

中国作协副主席李敬泽在第六届粤港澳大湾区文学周上指出，“AI没说实话，我们将其命名为‘AI幻觉’，如果我们换个表述，称其为‘AI虚构’，问题就变得复杂了。人类曾经独有的虚构能力正在遭到侵害，我甚至能感受到‘AI虚构’的热情。”

为什么会产生“AI幻觉”？

技术层面而言，“AI幻觉”源于AI开发与运行的底层逻辑。AI大模型的一个运行核心，是学习海量文本中的语言概率、语义搭配、句式逻辑等统计规律。同时，AI训练数据难以覆盖所有知识，一旦遇到错误、过时甚至故意“投毒”的信息，AI大概率只会“照单全收”，很难辨别真伪、剔除谬误。

当AI遇到“拿不准”的信息时，更倾向于编造出一个流畅合理而非真实准确的答案。

AI回答问题的过程，本质上是在玩接龙游戏。就像玩成语接龙，当你提问时，AI会根据它学过的所有文本，通过预测接下来最可能出现的词语来回答问题。

AI并不真正理解现实世界。它不知道什么是“真”，什么是“假”，只是在模仿人类的语言模式。就像一个外国人可能会说出语法正确但意思荒谬的中文句子，因为他只是在套用语法规则，而不理解实际含义。

清华大学公共管理学院院长、科技发展与治理研究中心主任朱旭峰指出，现在“AI幻觉”问题还主要集中在文字内容上，但随着大模型的逐步普及，AI被用于其他场景，生成的不只是文字，还包括软件、算法、程序甚至决策的信号，其影响力与日俱增。在这样的背景下，AI生成的错误结果如果被不加识别地用于法院判决、医疗诊断、自动驾驶等场景，将有可能造成严重的后果。

如何应对“AI幻觉”？

北京大学法学院教授、北京大学数字法治研究中心主任王锡锌王锡锌表示，用法治治理“AI幻觉”的关键是把“技术不可根治”难题转化为“规则可验证、责任可追溯”。

一方面要加快建立强制标识与可追溯标准，另一方面，要建立分类分级监管。比如，设立注意义务的分层标准，对违法有害信息“严格审查”，对一般错误信息以“显著提示+纠错机制”为核心，形成可操作的“注意义务清单”。

对于AI平台而言，当务之急是补上技术规范与责任边界的课程。一方面，优化模型架构，匹配检索增强生成技术，降低AI生成错误、虚假信息的概率。另一方面，增加事实核查机制，对金融、医疗、法律、政务等专业敏感领域内容进行重点校验。在生成答案后进行自我检查，对比多个信息源，标注不确定的内容。

在科幻作家、雨果奖得主郝景芳看来，没有100%准确的信息源，“面对‘AI幻觉’，用户需要运用批判性思维去检验信息源。”

（羊城晚报·羊城派综合新华网、人民日报、《科学画报》）