返回博客列表
教育2026-04-07•10 分钟
为什么 AI 会一本正经地胡说八道？
举例说明 AI 的“幻觉”现象，让孩子知道必须核验答案。
#学生#家长
🤖
AI生成内容标识
本页面部分内容由人工智能技术生成或辅助创作。根据《人工智能生成合成内容标识办法》进行标识。
写在前面的话
孩子回来说“AI 告诉我李白是唐代诗人，写过《静夜思》”。这句是对的。但接着 AI 又说“李白在 832 年写过《观沧海》”——错了两处：《观沧海》是曹操写的，而李白 762 年就去世了。AI 这种“认真地说错话”的现象，专业上叫幻觉 (hallucination)。它不是撒谎，而是工作原理决定的必然副作用。
🧠 AI 为什么会“编”答案？
1. 它在“猜下一个字”，而不是“查数据库”
大语言模型的本质，是计算“下一个最合理的字词”。当它读到“李白在 832 年写了”，它只是挑一个看起来合理的古诗名接上去，并不会去核对史实。
2. 训练数据里本来就有错误和矛盾
模型从海量网页里学习，而网页本身也会抄错、写错。AI 把所有信息糊在一起，冲突的事实被平均成了“大致合理”的样子。
3. “一定要答”的压力
AI 被训练得倾向于“给答案”，而不是“说我不知道”。即便对事实没把握，它也会编出看上去很流畅的回答，以满足你的期待。
🔍 怎样一眼识别幻觉？
- ⚡具体数字、日期、人名是高危区——越具体，越可能是编的。
- ⚡引用“某某论文”“某某法规”却说不出来源时，八成是假的。
- ⚡追问细节时 AI 反复更换答案、越说越离谱——它在瞎猜。
- ⚡用“据说”“一般认为”开头——通常没有确定来源。
👨👩👧 和孩子一起做的核验 3 步法
Step 1：把 AI 给出的“具体事实”（人名、数字、日期）单独圈出来。
Step 2：在搜索引擎、课本或百科里找至少 2 个独立来源相互验证。
Step 3：对核验失败的部分，让孩子自己说出“这里 AI 错了，因为……”——这才是 AI 素养的最终目标。