关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者4331人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

森林狼询价莫兰特但控卫位置还有高人 哈登辅佐华子?

仰卧撑FTUer 浏览 4970

神仙友谊!杨紫连续10年为张一山庆生

橙星文娱 浏览 2293

杨颖素颜现身小海绵学校,被赞最美妈妈

科学发掘 浏览 1731

参观了设计师花7年打磨的家,太开眼了!

黎贝卡的异想世界 浏览 2220

Google与约翰霍普金斯大学联手打造AI"审计官"

科技行者 浏览 4701

脑机接口再获突破,核心龙头布局多点开花

览富财经网 浏览 5434

迪士尼官宣10亿美元投资OpenAI,允许Sora生成米老鼠等视频

IT之家 浏览 4889

油头粉面别演穷人!《命悬一生》几个镜头告诉你,真穷人是什么样

娱乐圈笔娱君 浏览 5570

官方:张效瑞出任梅州客家总经理,莱蒂耶里担任主教练

懂球帝 浏览 4366

撬开大模型黑箱!Anthropic新研究把AI思考过程公开了,隐藏动机发现率涨了4倍

智东西 浏览 2202

告别“嘴炮自研”:当第一批L3牌照下发,车企要为你的双手负责了

道哥说车 浏览 4674

日本前首相:中国批高市理所当然 日媒为什么不批

环球网资讯 浏览 17801

50、60岁的女人就要这么穿!自然老去,不扮嫩反而更美了

静儿时尚达人 浏览 5490

李霄鹏:国安周中亚冠很辛苦,球迷应该理解球员,对他们宽容一些

懂球帝 浏览 5341

王天辰十年蛰伏终获认可 双剧同播展演技高光

老王的视角 浏览 3787

万斯一句话让印度裔美国人炸锅 遭铺天盖地批评后回应

鲁中晨报 浏览 10471

明年上市 金标大众首款轿车 与众07申报信息发布

网易汽车 浏览 5608

高端海鲜“老炮儿”,开始扎堆做小火锅

餐饮老板内参 浏览 3627

Space X的护城河

华尔街见闻官方 浏览 4728

陈数全家福火了!83岁妈妈坐轮椅却气场全开

小椰的奶奶 浏览 3890

推广|| 被刘亦菲、辛芷蕾种草的宝藏单品,确实很好搭!

黎贝卡的异想世界 浏览 5212
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1