大模型幻觉（AI Hallucination）

大模型幻觉是指模型输出了与事实不符、或者在资料中找不到依据的内容，而且语气往往很肯定。例如编造不存在的产品参数、虚构政策条款、给出错误的联系方式或引用不存在的文献。

产生幻觉的原因在于大模型的本质是根据上下文预测最可能的下一个 Token，它并不天然知道自己「不知道」。训练数据过时或缺失、问题超出知识范围、提示词要求模型必须给出答案，都会增加幻觉出现的概率。

降低幻觉的常见做法包括：用 RAG 把回答限定在企业提供的资料范围内，并要求标注出处；在提示词中明确允许回答「资料中未提及」；对价格、日期、数字等关键字段做程序化校验；涉及医疗、法律、财务等高风险内容时保留人工审核。

对企业来说，幻觉还有外部的一面：AI 搜索产品在回答用户问题时，可能对你的品牌给出错误描述。在官网提供清晰、准确、结构化的公开信息，是减少这类误解的基础工作之一。