关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者3017人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

德约六王赛退赛向观众道歉遭网友怒喷来捞钱,球迷用成绩狠狠打脸

网球之家 浏览 4142

追觅造车有新进度,相关3款车亮相CES,首款车还处概念车阶段

红星资本局 浏览 3040

日媒炒作"台湾有事美军放弃撤离冲绳" 渲染美对日支持

环球网资讯 浏览 24720

缅甸军方两次爆破KK园区:用了无人机 浓烟弥漫数分钟

每日经济新闻 浏览 9553

普京官邸遭91架乌无人机袭击 特朗普:我很生气

每日经济新闻 浏览 3204

冬天想穿得轻盈保暖,看看这些大衣穿搭,大方舒适又有高级感

静儿时尚达人 浏览 3461

躲在流量后面的人,被监管点名了

钛媒体APP 浏览 3491

轮圈选择丰富/金标开放选装 新一代SU7更多细节

网易汽车 浏览 2891

吴佩慈发大S照片悼念:我失去的岂止是一个好朋友

素素娱乐 浏览 2865

一个入局晚了的数据标注创业者,3个月亏了20万

刺猬公社 浏览 2681

里程碑,勇士主帅科尔取生涯执教第600胜&位列NBA第28位

懂球帝 浏览 2096

“去雄竞”的《大叔罗曼史》,凭什么三榜第一?

仙女事件簿 浏览 3049

泰它西普治疗干燥综合征中国Ⅲ期临床研究成功入选

豹变 浏览 4655

琼瑶女神摘下假牙,撕碎的是流量滤镜

大龄女一晓彤 浏览 4203

今年最好看的5条裙子,配“这双鞋”又美又气质!

LinkFashion 浏览 1496

盘点未夺大满贯的最强选手,谁是你心中的意难平?

网球之家 浏览 3793

76岁欢喜哥去世!众星悼念

查尔菲的笔记 浏览 3991

她一夜爆火,成了年度互联网嘴替

Yuki女人故事 浏览 119

何健麒公开无犯罪记录证明,回应前女友涉毒举报

韩小娱 浏览 2958

广汽昊铂推“政企双补”限时礼 至高可享50000元

网易汽车 浏览 3286

NASA局长之争出新番:特朗普重提马斯克盟友

观察者网 浏览 3884
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1