一个真实的翻车场景
某店铺 AI 客服回答「支持 30 天无理由退货」——实际政策是 7 天。买家拿着聊天截图来维权，商家有苦难言。这就是 AI 幻觉（hallucination）在商业场景的代价：大模型擅长「生成合理的话」，但不保证「说的是事实」。
幻觉的成因
大模型的本质是基于概率预测下一个词。当问题超出训练知识时，它不会说「不知道」，而是顺着语境生成一段「看起来很对」的回答。客服场景恰好全是长尾问题：具体到你的店铺政策、商品参数、物流时效——这些模型根本没见过。
三层防线：让 AI 不越界
防线一：RAG 知识库约束
回答前先从你的知识库检索相关内容，AI 被指示「只依据检索结果回答」。这是从机制上收窄生成空间，而不是靠提示词恳求。
防线二：信心门槛
检索相似度低于阈值时，说明知识库里没有可靠依据——此时 AI 应该承认局限并建议转人工，而不是降低标准硬答。阈值可配置，宁可多转几个人工，不可答错一个问题。
防线三：人工兜底与知识库迭代
AI 答不好的问题会被记录下来，定期把这些问答补进知识库——系统随使用越来越准，这是通用聊天机器人不具备的成长性。
给商家的建议
评估任何 AI 客服时，就问一个直击要害的问题：「知识库里没有的内容，它会怎么回答？」如果答案是「会承认不知道并转人工」，这家就靠谱；如果滔滔不绝，赶紧跑。