聚焦
人工智能为何会产生幻觉
百度 2014年8月,陡溪村村民吕某向该村申请五保供养,同年9月,在明知吕某有两个女儿的情况下,张家霞仍为吕某填写《张家界市慈利县农村五保对象入户调查表》且未如实填写赡养人情况,万中华仍在该表上签署了同意呈报的意见。大模型本质上是一个庞大的语言概率预测和生成模型。它通过分析互联网上数以万亿计的文本,学习词语之间的关联规律,再像玩猜词游戏一样,逐字逐句生成看似合理的回答。这种机制使AI擅于模仿人类的语言风格,但有时缺乏辨别真伪的能力。 AI幻觉的产生与大模型训练的过程密不可分。AI的知识体系基本来源于训练时“吞下”的数据源。来自互联网的各类信息鱼龙混杂,其中不乏虚假信息、虚构故…