关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者7567人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

自称快19岁女子诞下女婴被医生违规抱养 医院5人被罚

大风新闻 浏览 12576

美媒称美国允许乌对俄使用远程导弹 特朗普:假新闻

界面新闻 浏览 8438

一针注射,体外控波,科学家研发新型无线神经刺激器重塑疼痛管理

DeepTech深科技 浏览 4324

“末日鱼雷”目前“无法拦截” 俄一周内测试两种战略武器

环球网资讯 浏览 8511

打破29个月冠军荒!梅总终于赢了!

网球之家 浏览 8630

50、60岁的女人就要这么穿!自然老去,不扮嫩反而更美了

静儿时尚达人 浏览 8695

伊姐周日热推:电视剧《超感迷宫》;电视剧《风与潮》......

伊周潮流 浏览 6565

俄知名富商前CEO失踪4天 手机信号消失在沿海悬崖

红星新闻 浏览 18436

年内最高赚超65%!这批基金“专业买家”的技术不能错过

华尔街见闻官方 浏览 7670

黑芝麻控制权转让新进展:尽职调查10月底前收尾,国资注入能否解 “冲饮困局”?

时代周报 浏览 8503

聂远不让女儿雨天上学,黄磊女儿满口错别字,怪不得星二代要进圈

萌神木木 浏览 8051

陈冰挺孕肚陪男友逛街,陈牧驰一脸络腮胡

黄谋仕 浏览 7375

"性商教母"周媛开启线下课 学员发现台上讲师是前同事

中国新闻周刊 浏览 37323

两场硬仗,一个拐点,蔚来穿越最长谷底

雪豹财经社 浏览 8465

肖荣基带肖思远的照片亮相九三阅兵

环球网资讯 浏览 8607

刘强东又拿下理想,京东汽车靠谱吗?

正在说车 浏览 7811

造车,京东方向盘转向的下个万亿市场?

速度计 浏览 8660

阿隆索:西超杯没那么重要

体坛周报 浏览 7715

乌军袭击一生产弹道导弹的俄军工厂

每日经济新闻 浏览 6928

特朗普宣布停火之前 神秘资金精准做空原油、做多美股

每日经济新闻 浏览 61532

特朗普:我不知道还能活多久 很多人都想置我于死地

扬子晚报 浏览 43041
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1