关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者5455人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

美国政府效率部提前解散

北京商报 浏览 5886

梅努的哥哥现身老特拉福德,衣服上写着“给科比-梅努自由”

懂球帝 浏览 5563

女人过了60岁也别放弃变美!冬季看看这些穿搭,得体又大方

静儿时尚达人 浏览 5932

全球21队已锁定2026世界杯资格,阿根廷、巴西、日本、韩国在列

懂球帝 浏览 6576

欧拉全新SUV亮相,或叫“欧拉5”?

电动邦 浏览 7256

【观察】一打强队就出问题,齐沃打硬仗还欠火候

体坛周报 浏览 5920

死了么APP征集新中文名

扬子晚报 浏览 5511

美国进逼委内瑞拉 分析人士:已突破国际法的危险界限

上观新闻 浏览 6242

分羹法拍房!富滇银行落地首笔“法拍贷”,曝五部门全程配合

密探财经 浏览 6902

冲着唐嫣去看《爱情没有神话》,却被演反派的冯绍峰吸引了

温柔娱公子 浏览 6517

李在明送特朗普的金冠是镀金的 纯金太贵得花150万元

极目新闻 浏览 11908

马杜罗受审 委内瑞拉前情报主管或成美政府"关键证人"

环球网资讯 浏览 10913

将于3月10日首发 奔驰VLE国内测试车曝光

车质网 浏览 5397

一线城市二手房挂牌量下降,2026年会迎来股市楼市齐涨的局面吗?

郭施亮 浏览 4966

告别臃肿!这种简约的高级穿法,别拒绝

Yuki女人故事 浏览 5527

怒放竞技场3V3街头足球赛玉溪站落幕,奥斯卡、约尼查助阵

懂球帝 浏览 6342

内娱女明星手撕导演,翻车了?

独立鱼 浏览 5084

太猛了!蜘蛛侠一出手,全球大爆

吐槽电影院 浏览 1083

3000亿美元伊朗重建基金落实一半 特朗普:美国不出钱

每日经济新闻 浏览 181713

AI带货频频“翻车”,谁应负责?

虎嗅APP 浏览 6117

国内牛肉价格稳健背后

北京商报 浏览 6053
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1