复杂系统是高维非线性的动力系统,其组成成分之间存在异质相互作用。为了对复杂系统的大规模行为作出可解释的预测,通常假定这些动力学可以简化为几个方程,其涉及描述相互作用网络的低秩矩阵。近日发表于Nature Physics的一项新研究关注并探讨这种低秩假设(low-rank hypothesis)的有效性,证实许多复杂系统可以被简化,并且仍然保留初始高维网络的基本特征。
研究还表明,高阶相互作用从降维中自然涌现,从而为复杂系统中高阶相互作用的起源提供了启示。
我们的世界被极其复杂的系统所包围,从社会结构到大脑中的神经网络。降低这种复杂性的一种典型策略是使用降维技术,从而构建简化模型以探究其复杂对应物的行为。然而,找到这种最佳的维度仍然是一个挑战。近日发表于Nature Physics的最新研究,利用“低秩假设”为简化模型找到一个合适的维度,确保它能保留初始高维网络的基本特征。
对复杂网络进行降维的首批方法之一是将系统映射到有效的一维动力学,从而准确预测初始宏观行为。通过对从生态学到生物学再到电网等一系列不同领域的分析进行验证,研究人员发现这种方法能够识别出对确定系统的宏观动力学行为至关重要的三个结构属性:密度、异质性和对称性。后来的研究通过频谱分析的视角提出了各种降维方法。例如,为特定于节点动力学开发的分析框架,允许将复杂的高维网络折叠成由几个控制参数决定的低维流形。
这种方法证明了将复杂的动力学浓缩成有效的二维或四维模型的能力,在互惠网络的情况下特别成功。另一项值得注意的研究表明,网络系统的动力学可以在不完全了解底层拓扑的情况下进行预测。这表明,与整个网络的规模和异质性相比,动力学在低维的子空间中运行。尽管这些先前的研究强调了降维技术在网络中的潜力,但设计一种理论来识别最佳维数仍然是一个悬而未决的问题。
由于网络总是可以用矩阵和张量的语言来描述,线性代数为研究网络属性提供了重要的工具。从这个角度来看,降维技术基于一个隐含的假设,即高维复杂系统的动力学取决于低秩矩阵的行为。这项最新研究的目标是探索这个低秩假设的有效性,并描述其对网络上各种动力系统的影响。研究者首先提供了理论证明,在许多广泛使用的随机网络中,假设得到满足,发现这些网络权重矩阵的奇异值迅速下降,这意味着有效秩较低。
然后,该团队对许多真实网络进行了广泛的数值模拟,发现这些网络表现出快速下降的奇异值,导致有效秩较低。研究者将动力系统的降维建模为将低维向量场与其初始向量场对齐的问题。最小化对齐误差可产生最佳的降维矩阵。最佳维度取决于它是否保留了初始体系的宏观特性,例如相变或临界点的存在。
约简系统类似于较小网络上的低维动力学,其动力学行为仍然是确定的,例如SIS流行病动力学中的二级相变,Wilson-Cowan动力学中的迟滞相变和循环神经网络动力学中的有限循环。此外,这些结果为高阶交互作用的涌现提供了见解,因为降维后的矩阵部分决定了超图的方向、加权和符号性质。这些研究结果的一个潜在应用是回答大语言模型是否也是低秩的,以及如何通过低秩假设降低其维数。