关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者5644人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

双雄对决,最豪华精彩的英国戏剧现场上演!

幕味儿 浏览 6406

71岁上海爷叔网恋"小姑娘"转30万 约会遭对方持刀勒索

上观新闻 浏览 19989

歼-10又发威!巴铁击落印度战机并俘虏飞行员

浏览 10683

美军打击“箭在弦上” 伊朗有哪些应对手段?

澎湃新闻 浏览 5334

明年继续“国补”但政策优化;小米副董事长拟套现不超20亿美元

21世纪经济报道 浏览 5701

陈运拿下华锋股份意欲何为

北京商报 浏览 6342

今年冬天最时髦保暖的4组搭配,照着穿美出新高度!

LinkFashion 浏览 5947

黄金、白银突然暴跌!发生了什么?

中国品牌 浏览 5362

金正恩连续八次深夜阅兵 "大杀器"亮相

中国新闻周刊 浏览 6729

支付宝下架首页AQ广告,回应“内斗”传闻,网友:感觉就是一场营销

红星资本局 浏览 6705

明年起5纳米以下先进制程至少涨3%?台积电回应:定价策略不以机会导向

澎湃新闻 浏览 6414

委内瑞拉外长称已接待美驻委临时代办

国际在线 浏览 5415

北京现代EO 羿欧将于10月16日正式开启预售

车质网 浏览 7299

灵感集结,能量共振

时尚COSMO 浏览 5845

阿斯:帕雷霍寻求一份一年合同,完成职业生涯“最后一舞”

懂球帝 浏览 265

华为跟广汽搞了个启境,它跟界字辈有啥区别?

差评XPIN 浏览 6875

消失5个月后泰禾黄其森“归来”

地产深度报道 浏览 5698

苹果供应链大动作:部分Mac Mini生产今年将从亚洲转移到美国

IT之家 浏览 5102

玩家用PS5手柄意外获得6700台大疆扫地机器人控制权:实时视频流泄露 官方回应

快科技 浏览 5088

有银行今年降了七次!存款利率又双叒下调

21世纪经济报道 浏览 6627

华为鸿蒙智行下半场的战略之变

汽车K线 浏览 7018
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1