关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者341人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

随着西班牙3-0 世界杯16强定14席 中国队对手确定 亚洲仅韩国出局

侃球熊弟 浏览 1519

“811汇改”十周年的成就

证券市场周刊 浏览 1681

10月新势力销量爆发:零跑首破7万辆,小米稳超4万辆,理想猛跌38%

21世纪经济报道 浏览 1394

致敬 S14 第五冠队服,雷蛇推出巨甲虫 V2 Faker 款游戏鼠标垫

IT之家 浏览 1716

酷睿Ultra X9处理器388H体验:电竞级核显,续航超持久

IT之家 浏览 262

BeingBeyond团队让30种机器人共享一个"大脑"

科技行者 浏览 200

预售13-15万元 北京现代EO羿欧将于10月29日上市

网易汽车 浏览 1614

46岁周杰伦身患“不死癌症”已超20多年

阿晭评论哥 浏览 1625

央视春晚二次联排阵容曝光,网友泼冷水:这配置真没必要硬凑热闹

肆季娱乐 浏览 179

Meta实验室革命性并行推理技术:让AI模型思考速度提升50%

科技行者 浏览 589

中国AIGC用户破5亿,增长1倍;美团:今年超7成外卖低于15元;新能源事故,「破窗锤」被网友买爆

极客公园 浏览 1636

周华健回潮汕探亲祭祖

阿纂看事 浏览 1009

一心为女儿铺路的李湘,竟被撕下体面?

输在感情刀 浏览 667

鸿蒙智行"9系"扩容 首款MPV智界V9来了

网易汽车 浏览 958

赵丽颖新剧收视走势差,表演短板全暴露,后续没存货半年没进组

萌神木木 浏览 489

周柏豪相隔7年回港开唱!揭见面会惊喜

TVB资讯台 浏览 235

贵妇集体爱上当主持?为什么名媛访谈频频“翻车”

仙女事件簿 浏览 366

特朗普甩开中国单干当"和事老" 意外遭泰国硬怼:失望

新民周刊 浏览 6486

花400元“过家家”,Jellycat火爆看不懂?情绪消费正带来行业新逻辑

红星资本局 浏览 1573

60分!森林狼7名主力缺阵仍134-74狂胜广州,陈国豪6分

懂球帝 浏览 1649

记者:詹姆斯复出后将湖人的快攻水平从倒数后5提升到正数前5

懂球帝 浏览 1104
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1