关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者3018人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

上半年超七成二手车经销商亏损,二手车的未来在哪里?

江瀚视野 浏览 4152

豪华MPV的"新解法" 吉利银河V900上市26.98万起售

车评社Auto 浏览 2886

美国仿制伊朗的自杀式无人机 开始在中东部署

红星新闻 浏览 3482

155亿债务压垮豪门?继母长子内斗两年,双双出局!72岁“中国民营船王”拟入主杉杉股份

经理人杂志 浏览 4345

欧冠首秀造乌龙,堂安律社媒:如梦似幻并顺利取胜,感谢球迷支持

直播吧 浏览 4889

很运动 全新雷克萨斯ES F SPORT渲染图曝光

车质网 浏览 4649

零跑业绩向好 朱江明持股增加

汽势传媒 浏览 4011

聚焦AI+畜牧,刘松柏攻破鸡味密码,打造终身学习广东样本

南方都市报 浏览 2410

4月五菱汽车全球销量11.67万辆 海外出口首破3万

网易汽车 浏览 816

媒体:急于获取支持 特朗普又开始"画大饼"了

澎湃新闻 浏览 9169

AI会取代考古学家吗?在这场沙龙中窥见人工智能对文保利用的影响

封面新闻 浏览 4109

比卢普斯律师声明:他是个正直的人,不会用自己的名誉冒险

懂球帝 浏览 3962

世体:对阵贝蒂斯卢克曼将直接首发,完成加盟马竞后的首秀

懂球帝 浏览 2829

新款比亚迪夏限时19.68万起售!上车天神之眼B激光版,支持城市NOA

车东西 浏览 3211

被章若楠、舒淇带火的毛衣,这样穿太时髦了!

LinkFashion 浏览 2932

美股,涨爆了!A股,怎么走?

金石随笔 浏览 826

盐湖提锂的高原神话

诗与星空 浏览 1052

应采儿携子伦敦地铁,13岁Jasper摘牙套十分帅气

凉湫瑾言 浏览 2409

辽宁无缘决赛采访!杨鸣回应赵继伟伤势,再谈辽粤对决展伤感话题

篮球资讯达人 浏览 3922

终于有一部国产剧,不靠「爽感」博眼球了

独立鱼 浏览 3009

配激光雷达+磁悬浮底盘,深蓝L06将于11月18日上市

隔壁说车老王 浏览 3883
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1