麻省理工研究人员开发出了一种新型人工智能模型

来源:MIT CSAIL 作者:Adam Conner-Simons

麻省理工研究人员开发出了一种新型人工智能模型

麻省理工学院计算机科学与人工智能实验室(CSAIL)的研究人员开发出了一种新型人工智能模型,其灵感源自大脑中的神经振荡,目标是大幅提升机器学习算法处理长序列数据的能力。

人工智能在分析长时间内逐渐展现的复杂信息时常常遇到困难,比如气候趋势、生物信号或金融数据等。有一种名为 “状态空间模型” 的新型人工智能模型,专门为更有效地理解这些序列模式而设计。然而,现有的状态空间模型常常面临挑战 —— 在处理长数据序列时,它们可能会变得不稳定,或者需要大量的计算资源。

为了解决这些问题,CSAIL 的研究人员 T. 康斯坦丁・鲁施(T. Konstantin Rusch)和丹妮拉・鲁什(Daniela Rus)开发出了他们称之为 “线性振荡状态空间模型”(LinOSS)的模型。该模型利用了受迫简谐振荡器的原理 —— 这一概念在物理学中根基深厚,并且在生物神经网络中也能观察到。这种方法能够在不对模型参数设置过于严格限制的情况下,提供稳定、具表现力且计算高效的预测。

鲁施解释道:“我们的目标是捕捉生物神经系统中展现出的稳定性和高效性,并将这些原理转化为一个机器学习框架。有了 LinOSS,我们现在能够可靠地学习长距离的相互作用,哪怕是在包含数十万甚至更多数据点的序列中。”

LinOSS 模型的独特之处在于,与之前的方法相比,它通过采用限制少得多的设计选择来确保稳定的预测。此外,研究人员还严格证明了该模型的通用逼近能力,这意味着它能够逼近任何描述输入和输出序列关系的连续、因果函数。

实证测试表明,在各种要求苛刻的序列分类和预测任务中,LinOSS 始终优于现有的最先进模型。值得注意的是,在涉及极长序列的任务中,LinOSS 的表现比广泛使用的 Mamba 模型高出近一倍。

这项研究因其重要性而被选中在 2025 年国际学习表征会议(ICLR 2025)上进行口头报告 —— 这一荣誉仅授予提交作品中排名前 1% 的研究。麻省理工学院的研究人员预计,LinOSS 模型可能会对任何能从准确高效的长期预测和分类中受益的领域产生重大影响,这些领域包括医疗保健分析、气候科学、自动驾驶以及金融预测等。

鲁什表示:“这项工作例证了数学上的严谨性如何带来性能上的突破以及广泛的应用。有了 LinOSS,我们为科学界提供了一个强大的工具,用于理解和预测复杂系统,弥合了生物启发与计算创新之间的差距。”

研究团队认为,像 LinOSS 这样的新范式的出现会引起机器学习从业者的兴趣,促使他们在此基础上进行拓展。展望未来,研究人员计划将他们的模型应用于更广泛的不同数据模式。此外,他们还提出,LinOSS 可能会为神经科学提供有价值的见解,有望加深我们对大脑本身的理解。

他们的研究得到了瑞士国家科学基金会、施密特人工智能 2050 项目以及美国空军人工智能加速器的支持。

本文转载自MIT,本文观点不代表雅典娜AI助手YadiannaAI立场。

(0)
Athena的头像Athena
上一篇 4天前
下一篇 4天前

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

联系我们

客服邮箱: kefu@yadiannaai.com

投稿邮箱:tougao@yadiannaai.com

合作邮箱:hezuo@yadiannaai.com

关注微信