关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者7798人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

浪姐7四公小考:6组姐姐5组翻车,唐艺昕团真尴尬,王濛团太难听

娱乐圈笔娱君 浏览 5111

智驾研发迎分水岭?小鹏第二代VLA直奔L4, 何小鹏:完全自动驾驶将在未来1-3年内完全到来

时代财经 浏览 7048

19人徒步被困河南辉县南太行山悬崖 1人突发疾病遇难

红星新闻 浏览 13982

50多岁女人不要“装嫩”,掌握这些搭配原则,衣品提升一大截

静儿时尚达人 浏览 8608

台媒:面对解放军军演 台当局黔驴技穷、原形毕露

参考消息 浏览 23491

男子50多万买66台苹果手机放平台出租 如今钱机都没了

潇湘晨报 浏览 13178

《九门》中的陈瑶:有种尴尬叫演主角差点意思,演配角又太漂亮

娱乐圈笔娱君 浏览 3390

口碑王|| 从2020穿到现在,越穿越爱的这件单品回来了

黎贝卡的异想世界 浏览 7046

特朗普拿错剧本了?刚扬言要禁中国“地沟油”,就遭美媒啪啪打脸

北向财经 浏览 8641

消息称LPDDR5X内存价格持续飙升,涨幅可抵2亿像素潜望镜

IT之家 浏览 8701

蓝色系的裙装穿搭,色调干净、不张扬不浮夸,定格初夏温柔感

静儿时尚达人 浏览 5095

浪姐7乱成一锅粥,谁都没想到翻红担当竟然是她

黎贝卡的异想世界 浏览 6175

护士上门采样、公立医院检测京东到家快检推出新服务缓解流感季就医难题

上观新闻 浏览 8441

丘库埃梅卡:欧冠进球对我而言是巨大动力;本赛季想拿个冠军

懂球帝 浏览 8701

人形机器人上演“春晚争夺战”,机器人到底是不是用来表演的?

BT财经 浏览 8081

内娱又增新赛道,叶祖新坐着就抢了主角的戏

最爱酷影视 浏览 8007

亲善大使!大加转发阿贾当选MVP内容:4xMVP 继续创造历史吧!

直播吧 浏览 7873

60分!森林狼7名主力缺阵仍134-74狂胜广州,陈国豪6分

懂球帝 浏览 8644

美伊陷入互相封锁僵局

环球网资讯 浏览 5615

6万人欢呼!西蒙尼带队狂飙:儿子助攻 西甲4场10分杀进前4

叶青足球世界 浏览 8719

抗癌不到一年,曝刘谦近况

林轻吟 浏览 8594
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1