这项由清华大学李博、香港城市大学邓冠志、北京大学陈荣浩等研究者组成的国际团队完成的研究于2025年9月发表，论文编号为arXiv:2509.22518v1。研究团队开发了一个名为REMA的创新框架，这个框架能够像医生用X光机检查骨折一样，深入观察AI大模型内部的"思维过程"，并精确定位AI在推理时出错的具体位置。
当我们使用ChatGPT或其他AI助手解答数学题或回答复杂问题时，有时会得到令人困惑的错误答案。这些AI模型就像一个装满复杂齿轮的黑盒子，我们能看到输入的问题和最终的答案，却无法知道中间到底发生了什么。这个问题一直困扰着AI研究者们，因为不了解AI的思考过程，就很难改进它们的表现。
研究团队提出了一个突破性的概念——"推理流形"。可以把这个概念理解为AI大脑中存在一条"正确思路的高速公路"。当AI成功解决问题时，它的内部表示会沿着这条高速公路平稳行驶。而当AI犯错时，它就像是偏离了高速公路，驶入了错误的小路。REMA框架的核心作用就是绘制这条高速公路的地图，并精确标注AI在哪个路口开始走错了方向。
传统的AI解释方法就像只能观察司机的表情变化来判断开车技术，
