关闭广告

AI并没有学习!Nature子刊最新研究解码人工智能黑盒

新智元7673人阅读


新智元报道

编辑:alan

【新智元导读】人工智能模型一直以「黑匣子」的形态让人们感到不安,AI到底从数据中学到了什么?又是如何作出推理?最新研究为你揭秘AI的内部原理

人工智能(AI)一直在迅速发展,但对人类来说,强大的模型却是个「黑匣子」。

我们不了解模型内部的运作原理,不清楚它得出结论的过程。

然而最近,波恩大学(University of Bonn)的化学信息学专家Jürgen Bajorath教授和他的团队取得了重大突破。

他们设计了一种技术,揭示了药物研究中使用的某些人工智能系统的运行机制。

他们的研究结果表明,这些人工智能模型主要依赖于回忆现有数据,而不是学习特定的化学相互作用,来预测药物的有效性。

——也就是说,AI预测纯靠拼凑记忆,机器学习实际上并没有学习!

他们的研究结果最近发表在《自然机器智能》(Nature Machine Intelligence)杂志上。


论文地址:https://www.nature.com/articles/s42256-023-00756-9

在医药领域,研究人员正在狂热地寻找有效的活性物质来对抗疾病——哪种药物分子最有效?

通常,这些有效的分子(化合物)会对接在蛋白质上,蛋白质作为触发特定生理作用链的酶或受体。

在特殊情况下,某些分子还负责阻断体内的不良反应,例如过度的炎症反应。

可能的化合物数量巨大,寻找有效的化合物就像大海捞针一样。

因此,研究人员首先使用AI模型来预测,哪些分子最能与各自的靶蛋白对接并牢固结合。然后在实验研究中,更详细地进一步筛选这些候选药物。


自人工智能发展以来,药物发现研究也越来越多地采用AI相关的技术。

比如图神经网络(GNN),适用于预测某种分子与靶蛋白结合的强度。

图由表示对象的节点和表示节点之间关系的边组成。在蛋白质与配体复合物的图表示中,图的边连接蛋白质或配体节点,表示物质的结构,或者蛋白质和配体之间的相互作用。

GNN模型使用从X射线结构中提取的蛋白质配体相互作用图,来预测配体亲和力。

Jürgen Bajorath教授表示,GNN模型对于我们来说就像一个黑匣子,我们无法得知它如何得出自己的预测。


Jürgen Bajorath教授任职于波恩大学LIMES研究所、波恩-亚琛国际信息技术中心(Bonn-Aachen International Center for Information Technology)和拉玛机器学习与人工智能研究所(Lamarr Institute for Machine Learning and Artificial Intelligence)。

人工智能如何工作?

来自波恩大学化学信息学的研究人员,与罗马Sapienza大学的同事一起,详细分析了图神经网络是否真的学习到了蛋白质与配体的相互作用。

研究人员使用他们专门开发的「EdgeSHAPer」方法分析了总共六种不同的GNN架构。

EdgeSHAPer程序可以判断GNN是否学习了化合物和蛋白质之间最重要的相互作用,或者是通过其他的方式来得出预测。

科学家们使用从蛋白质配体复合物结构中提取的图训练了六个GNN,——化合物的作用方式以及与靶蛋白的结合强度已知。

然后,在其他复合物上测试经过训练的GNN,并使用EdgeSHAPer分析GNN如何产生预测。

「如果GNN按照预期行事,它们需要学习化合物和靶蛋白之间的相互作用,并且通过优先考虑特定的相互作用来给出预测」。

然而,根据研究小组的分析,六个GNN基本上都没有做到这一点。大多数GNN只学会了一些蛋白质与药物的相互作用,主要集中在配体上。


上图展示了在6个GNN中的实验结果,色标条表示用EdgeSHAPer确定的每个预测的前25个边中蛋白质、配体和相互作用所占的平均比例。

我们可以看到,代表绿色的相互作用本该是模型需要学到的,然而在整个实验中所占的比例都不高,而代表配体的橙色条占了最大的比例。

为了预测分子与靶蛋白的结合强度,模型主要「记住」了它们在训练过程中遇到的化学相似分子及其结合数据,而不管靶蛋白如何。这些被记住的化学相似性基本上决定了预测。


这让人想起「聪明的汉斯效应」(Clever Hans effect),——就像那匹看起来会数数的马,实际上是根据同伴面部表情和手势的细微差别,来推断出预期的结果。

这或许意味着,GNN所谓的「学习能力」可能是站不住脚的,模型的预测在很大程度上被高估了,因为可以使用化学知识和更简单的方法进行同等质量的预测。

不过,研究中也发现了另外一个现象:当测试化合物的效力增加时,模型倾向于学习到更多的相互作用。

也许通过修改表征和训练技术,这些GNN还能朝着理想的方向进一步改进。不过,对于可以根据分子图学习物理量的假设,一般来说应该谨慎对待。

「人工智能不是黑魔法。」

参考资料:

https://scitechdaily.com/decoding-the-black-box-of-ai-scientists-uncover-unexpected-results/


版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

比亚迪"出海舰队"首船交付离港:能装7000台车,首航将赴欧洲

IT之家 浏览 7680

2023春夏流行衬衫 利落干练更有时髦气质

Bordine的时尚时刻 浏览 11715

专家:防范美国经济问题外溢 中国应做三手准备

环球网资讯 浏览 13655

大心脏球王!梅西职业生涯点球大战12罚11中,近5战全部胜出

ALL体育 浏览 9748

苹果智能手表禁售令不适用于百思买和沃尔玛

财联社 浏览 7663

AI与电商加速拥抱!首届阿里妈妈未来商业奖诞生73个获奖案例

量子位 浏览 6004

阿媒:拜仁的门将引援候选名单中有德赫亚、奥尔特加、大马丁等人

直播吧 浏览 9645

2024年美国第一个重大丑闻,让人难以置信

牛弹琴 浏览 8032

孙兴慜全智贤同框!两人相差12岁 亚洲球王害羞了

梦与体育 浏览 15017

弗神36+9上海27分逆转山东 郭昊文7分老哈空砍两双

网易体育 浏览 21572

美防长“瞒报住院”或暴露美军指挥链风险

环球网资讯 浏览 7977

分道扬镳,“老虎”伍兹与耐克分手,结束长达27年的合作关系

懂球帝 浏览 8102

以色列允许每天200辆卡车援助物资进入加沙

澎湃新闻 浏览 8100

狂卖27亿美元,丑鞋靠什么狙击年轻人?

新消费智库 浏览 9794

指导价18.96万元 奕派eπ007 540纯电四驱Pro版上市

网易汽车 浏览 5956

多省公安厅长密集调整 5名“70后”履新

中国新闻周刊 浏览 63866

续航达600km,路特斯EMEYA将于1月18日上市

天天汽车 浏览 8046

特朗普透露将被抓 分析人士:或极大促进他的竞选活动

新京报外事儿 浏览 76422

牛弹琴:美军在中东遇袭却没动静 拜登面临艰难选择

上观新闻 浏览 51048

Stein:即使有球队四年1亿报价里夫斯 湖人也会匹配

直播吧 浏览 10716

银行理财竞相揽客 再掀费率“打折”促销战

北京商报 浏览 11657
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1