主成分分析-降维

Question

当我们谈到PCA时，我们说我们用它来降低数据的维数。我有二维数据，使用PCA将维数降到一维.

现在,

第一个组件将以这样的方式捕获最大方差。第一组分最大是什么意思？变异？

另外，如果我们取三维数据并将其维数降为2-d，那么第一分量将沿x轴或y轴建立最大方差？

Answer 1

PCA的工作方式是先将数据在原点对中(从每个数据点减去平均值)，然后旋转使其与轴线一致(对角化协方差矩阵为“方差”矩阵)。然后对这些分量进行排序，使方差矩阵的对角线按降序排列，从而转换为方差最大的第一个分量，第二个分量的方差次之，等等。之后，您将原始数据压缩为零，将不太重要的分量(投影到主分量上)排空，然后取消上述转换。

回答你的问题：

1. 是方差最大的第一个分量，它在方差矩阵中的对应项是最大的。

1. ，我想这取决于你叫什么轴。

资料来源：“计算机科学概率论与统计”，大卫·福赛斯著。