稠密线性代数的应用

Question

稠密线性代数的一般现实应用

用线性代数作为人与计算机之间的通用语言，可以方便地描述和有效地计算许多问题。通常情况下，尽管这些系统需要稀疏矩阵，而不是稠密矩阵的解。哪些常见的应用程序违背了这一规则？

我很好奇社区是否应该投入更多的时间来改进DLA包，比如LAPACK。谁在计算受限的应用程序中使用LAPACK？谁使用LAPACK来解决需要并行性的大型问题？

具体来说，什么是由于稠密线性代数能力不足而无法解决的问题。

Answer 1

这取决于你对现实世界的理解。对我来说，现实世界就是物理，所以我会先告诉你物理学中的那些，然后再扩展。在物理学中，我们常常要找到一个叫做哈密顿量的矩阵的本征值和本征向量(它基本上包含了一个系统能量的信息)。这些矩阵可以是密集的，至少是块的。这些区块可能相当大。这就引出了另一点:稀疏矩阵可以是块中的稠密矩阵，那么最好对每个块使用稠密线性代数求解器。

也有一个系统的密度矩阵。利用哈密顿量的本征向量可以找到它。在我使用的一种算法中，我们经常找到这些密度矩阵的特征向量/值，密度矩阵是密集的，至少在块中是这样。

稠密线性代数在材料科学和流体力学中也有应用，如这篇文章中所提到的。这也与量子化学有关，量子化学是另一个使用量子化学的领域。

稠密线性代数例程也被用于求解带电粒子的量子散射(链接文章中没有这么说，而是使用了)和分析宇宙微波背景。更广泛地说，它被用于求解与现实世界相关的一系列电磁问题，如天线设计、医疗设备设计以及确定/减少飞机的雷达信号。

另一个非常真实的应用是曲线拟合。然而，除了使用范围更广的线性代数之外，还有其他方法可以实现。

总之，稠密线性代数被用于各种应用，其中大多数是与科学或工程有关的。

顺便提一句，许多人过去和现在都在密集的线性代数库中投入大量精力，包括那些使用显卡进行计算的程序库。

Answer 2

许多实现线性回归的方法都需要对大的、密集的数据矩阵进行繁重的提升。我能想到的最简单的例子是使用Moore-Penrose伪逆的线性最小二乘法。

Answer 3

从长远来看，稀疏解可能更有用，但是稠密线性代数对于稀疏求解器的发展至关重要，不能忽略：

• 密集系统通常是一个更容易进行算法开发的领域，因为没有一件事需要担心。
• 稀疏求解器的大小比最好的密集求解器(即使是非常稀疏的矩阵)更快，比大多数人认为的要大得多。
• 最快速的稀疏解通常建立在速度最快的稠密线性代数运算上。