什么是 AI 幻觉？

AI 幻觉指语言模型生成听起来合理但并不真实的答案。它可能编造来源、写错日期、虚构代码 API，或把本应标注未知的空白自信补完。

OpenAI 关于幻觉的研究把问题部分归因于评估机制：模型可能因为猜测而非承认不确定性获得奖励。因此，流畅答案并不等于已验证答案。

提示模糊、任务需要新事实、模型无法访问来源，或用户要求上下文里没有的细节时，更容易出现幻觉。

降低幻觉风险的方法包括：给模型提供来源材料、要求区分事实和假设、让事实性论断附带引用，并用一手来源复核重要输出。