大模型幻觉，特指在大型语言模型（LLM）等生成式人工智能中，模型生成的内容与客观事实、用户指令或给定上下文不一致的现象。这些输出看起来通常流畅、合理，但其本质可能是虚构、捏造或扭曲的信息，是当前大模型面临的核心可信度挑战之一。

1. 核心定义与分类

“幻觉”在此是一个比喻，形容模型“无中生有”地生成信息。根据不一致的对象，主要分为两类：

• 事实性幻觉：生成的内容与现实世界可验证的事实不符。例如，编造一个不存在的历史事件或科学原理。

• 忠实性幻觉：生成的内容偏离了用户的具体指令或提供的上下文。例如，要求总结A文档，却加入了B文档的观点，或未遵循特定的格式要求。

2. 工作原理：为何会产生幻觉？

大模型幻觉并非程序错误，而是其底层工作原理与数据缺陷共同作用的结果。其根源可归纳如下：

3. 主要应用场景中的表现

幻觉问题在各类生成任务中普遍存在，直接影响应用可靠性：

• 文本摘要：可能生成与原文事件、人物或结论不符的摘要。

• 对话系统：可能在对话中“捏造”不存在的人物、事件，或提供错误建议。

• 机器翻译：可能在译文中添加原文没有的信息，或遗漏关键内容。

• 数据到文本生成：生成的报告可能包含输入数据中不存在的“事实”。

• 开放式创作（如写故事、文章）：最容易产生与现实常识或逻辑不符的内容。

4. 面临的挑战与风险

大模型幻觉带来的挑战远超技术本身：

1. 可信度与可靠性危机：用户难以辨别输出真伪，严重影响模型在关键场景的可用性。

2. 高风险领域应用受限：在医疗诊断、司法辅助、金融分析、新闻撰写等领域，幻觉可能导致严重后果，引发法律与伦理风险。

3. 评估与缓解困难：缺乏高效、通用的自动化评估方法；现有的缓解策略（如提示工程、检索增强生成RAG、后处理校验）各有局限，难以根除。

4. 系统性能与成本：为减少幻觉而增加的校验步骤（如调用外部知识库）会显著增加响应延迟和计算成本。

5. 发展前景

解决幻觉问题是推动大模型走向可靠、可用的关键。未来研究方向包括：

• 改进模型架构与训练：研发能更好建模事实、追踪信息来源的新架构；采用更高质量的指令微调和人类反馈强化学习来对齐模型行为。

• 发展评估与缓解技术：建立更完善的评估基准；结合知识图谱、实时检索（RAG） 等技术，为模型提供可靠的外部知识锚点。

• 跨学科与行业协作：需要自然语言处理、知识工程、伦理学等多领域合作，共同制定技术标准、数据规范和使用指南。

•