当AI“一本正经胡说八道”……
齐鲁晚报·2025-09-24 06:40
现实生活中,不少人遇到相似情况。业内人士表示,这是由于AI幻觉导致。"AI可以快速给出答案,但 生成内容可能与可验证事实不符,即凭空捏造;或生成内容与上下文缺乏关联,即'答非所问'。"一名 主流人工智能厂商技术人员说。 记者使用一款AI软件,让其给出某行业未来市场规模及信源,AI迅速回答称某投资机构预测2028年该 行业的市场规模将达到5万亿美元,并提供相关链接,但链接页面找不到上述信息。记者看到,页面内 容虽然包含该投资机构名称和5万亿美元表述,但预测数据并非该机构作出,且不存在2028年时间节 点。 社交平台上,AI幻觉相关话题浏览量达数百万,网友吐槽涉及金融、法律、医疗、学术等多个领域。 第三方咨询公司麦可思研究院近期发布的2025年高校师生AI应用及素养研究显示,四千余名受访高校 师生中,近八成遇到过AI幻觉。今年2月,清华大学新媒沈阳团队发布的报告指出,市场上多个热门大 模型在事实性幻觉评测中幻觉率超过19%。 AI幻觉已经影响了人们的生活与工作。 当前, AI 正赋能千行百业,为人们的工作、学习、生活带来极大便利。与此同时,不少人发现,用 AI 搜 索数据,给出的内容查无实据;用 AI 辅助诊疗, ...