关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者1039人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

挪威王室不太平:王储妃深陷爱泼斯坦丑闻 其子涉强奸

澎湃新闻 浏览 101227

让城市有“面子”更有“里子” 建设韧性城市行动方案发布

央视财经 浏览 2217

特朗普称如需要美将发动更大规模袭击

新华社 浏览 954

开局2026,企业家的坚守与求变|封面故事

中国企业家杂志 浏览 1204

Nuance Audio创新助听眼镜中国首秀,既能看清又能听清

文汇报 浏览 1589

南部战区:正告菲方停止在南海挑起事端

北京日报客户端 浏览 3027

金·卡戴珊抵达英国,与F1车手汉密尔顿秘密约会

土澳的故事 浏览 860

表现不稳,世体:巴萨对巴尔德和孔德当前展现的水平感到担忧

懂球帝 浏览 1840

蔚来ES9四月发布!车长近5.4米-比林肯领航员还大

网上车市 浏览 1132

理想汽车段吉超:造车这件事,可以借鉴零售业的胖东来模式

经济观察报 浏览 1510

8年青春换来丈夫出轨,如今张嘉倪让前夫高攀不起

画画影视 浏览 1391

CBA唯一11战全败!四川最多落后31分惨负山西 原帅17分引6人上双

醉卧浮生 浏览 1163

媒体:莫迪也上了爱泼斯坦文件 情节有点尴尬

澎湃新闻 浏览 5366

报告称机械硬盘价格触底反弹,平静2年后将迎新一轮涨价潮

IT之家 浏览 1515

高市"反击计划"全面出炉 日方"动手"前问中国一个问题

博览历史 浏览 11218

新质生产力“可感可及”,华强北机器人展演月“硬核度”爆表

南方都市报 浏览 2788

53岁古巨基再当爸,57岁陈韵晴二胎产子,高龄产子备受质疑

扒虾侃娱 浏览 1281

张家界荒野求生比赛还剩15人 男子靠"续命三件套"出圈

极目新闻 浏览 7333

国企董事长上门殴打他人被行拘3天 本人拒绝回应

大风新闻 浏览 5397

“比特币富婆”钱志敏在英国认罪,6.1万枚比特币市价已达493亿元,赃款归谁?

红星新闻 浏览 2008

天空体育:若利物浦向塞门约发出邀约,球员就会选择加盟

懂球帝 浏览 1403
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1