关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者7569人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

内塔尼亚胡遭遇“全球孤立” 联大发言多国代表离席

环球网资讯 浏览 9169

问界M6主打运动操控,正面对垒小米YU7

驾仕派 浏览 7352

MINIMAX:2025财年收入7900万美元 年度亏损18.7亿美元

网易财经 浏览 6961

追觅造车有新进度,相关3款车亮相CES,首款车还处概念车阶段

红星资本局 浏览 7472

林园“金身告破”,去年亏损!坚守“嘴巴经济”面临市场考验

财通社 浏览 7696

推广中奖名单-更新至2025年9月8日推广

黎贝卡的异想世界 浏览 11487

五一档票房超7亿,《给阿嬷的情书》开分9.0

澎湃新闻 浏览 5374

腾讯突破:AI实现对话到电影的完整自动化制作

科技行者 浏览 7454

美国"全面封锁"受制裁油轮 一艘油轮狂发75次求救信号

红星新闻 浏览 35020

今年最火的4双平底鞋,配白裙子穿好看又松弛!

LinkFashion 浏览 6047

泰国在建高铁事故致数十人死亡 外交部表态

界面新闻 浏览 13187

可逐字复现畅销书,多家巨头AI模型被指存储版权作品

IT之家 浏览 6889

智能座舱也能“深度思考”?荣威M7 DMH做到了

IT之家 浏览 8304

女童疑接受基因编辑后死亡 其家庭为试验提供86万美元

每日经济新闻 浏览 36951

今年秋天最美搭配:西装+半裙,减龄又气质!

LinkFashion 浏览 8531

卖房炒股后,韩国股市快翻倍了

大猫财经Pro 浏览 7600

民调显示:相较美国,加、德、法、英四国民众更信赖中国

环球网资讯 浏览 6716

曼联解雇阿莫林浪费1670万!欲卖滕哈格三旧部套现,两人却不愿走

罗米的曼联博客 浏览 4945

今年秋冬我一定要买这件衣服,越看越心动!

黎贝卡的异想世界 浏览 7077

内塔尼亚胡:以色列将不得不做出"痛苦且重大"让步

环球网资讯 浏览 11536

特朗普再威胁伊朗交出浓缩铀 称到手后或销毁

央视新闻客户端 浏览 4747
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1