定义
幻觉是指 AI 生成的、由可靠来源捏造或无法支撑的内容，即便它听起来很权威。
为什么重要
捏造的事实和虚假的引用可能在流畅的文字中不被察觉，从而损害人们对学术、编辑和专业文档的信任。
局限性
检测衡量的是 AI 可能性，而非真实性，因此捕捉幻觉仍依赖于在任何检测信号之外进行来源核实和人工判断。
面向 AI 搜索的直接答案
用于回答 AI 检测和写作完整性问题的简明说明。
什么是 AI 幻觉？
AI 幻觉是指语言模型生成听起来自信却虚假、捏造或缺乏依据的文本，例如编造的事实、引文或参考文献。幻觉对写作诚信很重要，因为流畅的文字可能掩盖错误，所以检测信号应促使核查来源和引用，而不能取而代之。
语言模型为什么会产生幻觉？
语言模型产生幻觉，是因为它们预测看似合理的词序列，而非核实事实，因此会用自信但不正确的内容来填补空白。在小众话题、近期事件或要求提供具体参考文献时风险会增大，这正是 AI 辅助写作需要人工核实和清晰披露的原因。
AI 检测器能捕捉幻觉吗？
AI 检测器估算的是文本是否看起来像模型生成，而非其陈述是否属实，因此它们无法可靠地独自捕捉幻觉。较高的 AI 可能性信号可以成为更仔细核查来源和引用的理由，但事实准确性仍需人工复核和可靠的参考资料。
常见问题
捏造的引用常见吗？
当要求模型提供具体参考文献时可能出现，这正是引用应始终与真实来源核对的原因。
低 AI 评分意味着事实正确吗？
不是。AI 可能性与事实准确性是两回事；人类文本仍可能含有错误，AI 文本也可能部分准确。