这项由MWS AI公司和ITMO大学联合完成的研究发表于2025年10月，论文编号为arXiv:2509.22075v2。研究团队包括来自MWS AI的Dmitriy Shopkhoev、Denis Makhov、Magauiya Zhussip和Stamatios Lefkimmiatis，以及来自ITMO大学的Ammar Ali。有兴趣深入了解的读者可以通过该论文编号查询完整研究报告。
现在的大型语言模型就像一台超级智能的机器，能够回答各种问题、写文章、翻译语言，但有一个大问题：它们实在太"胖"了。这些模型需要占用大量的计算机内存和处理能力，就像一辆装满行李的重型卡车，虽然功能强大，但开起来费油又缓慢。对于想在手机、平板电脑或者小型服务器上运行这些智能助手的人来说，这简直是个噩梦。
为了解决这个问题，研究人员们想出了各种"减肥"方法。最流行的一种方法叫做"低秩分解"，可以把它理解为把一个复杂的大拼图拆解成几个简单的小拼图。但是这种方法有个致命缺陷：它假设所有的拼图碎片都必须遵循同一个模式，就像强制要求所有人都穿同一个尺码的衣服一样，结果往往是不合身的。
MWS A
