- 综合排序
- 最热优先
- 最新优先
- 来自专栏Backup@zzk
降维
#降维/UMAP #降维/t-SNE #降维/PCA矩阵特征值与主成分分析（PCA(Principal Component Analysis)）特征值和特征向量主成分分析PCA的主要思想是将n维特征映射到 其中，第一个新坐标轴选择是原始数据中方差最大的方向，第二个新坐标轴选取是与第一个坐标轴正交的平面中使得方差最大的，第三个轴是与第1,2个轴正交的平面中方差最大的。依次类推，可以得到n个这样的坐标轴。 这样就可以将数据矩阵转换到新的空间当中，实现数据特征的降维。 PCA 、t-SNE、UMAPPCA为线性降维方法，对数据量少，结构简单的情况效果好t-SNE 、UMAP为非线性降维，对数据结构复杂的情况有效，UMP的损失函数对高维远但低维近或高维近但低维远的情况均有良好的惩罚 它有许多用途，包括数据降维、图像压缩存储、主成分分析等。例如，在机器学习中，SVD可以用来寻找数据分布的主要维度，将原始的高维数据映射到低维子空间中实现数据降维。
52800编辑于 2023-08-17 - 来自专栏全栈程序员必看
数据降维_数据降维的目的
数据降维 分类 PCA(主成分分析降维) 相关系数降维 PCA 降维(不常用) 实现思路 对数据进行标准化 计算出数据的相关系数矩阵(是方阵, 维度是nxn, n是特征的数量) 计算出相关系数矩阵的特征值和特征向量 主成分就是特征, 也就是一列) 根据k选择主成分对应的特征向量 将标准化之后的数据(矩阵)右乘在上一步中选择出来的特征向量(在这一步得到的矩阵就是m x new_n维度的了), 得到的就是主成分的分数, 也就是降维之后的数据集合 伪代码 X = load('data.xlsx', 'B1:I11'); m = size(X, 1); % m 表示样本的数量 n = size(X, 2); % n 表示特征的数量 % 数据标准化 1) = D(n + 1 - i, n + 1 - i); end % 计算贡献率和累计贡献率 for i = 1:n % 第二列为当前单个, 每一个, 主成分的贡献率 DS(:, 2) end % 获取主成分对应的特征向量 for i = 1:k PV(:, i) = V(:, n + 1 - i); end % 获取新的特征样本 X_new = SX * PV; 相关系数降维
1.2K20编辑于 2022-09-20 - 来自专栏Pulsar-V
降维技术
常见的几种降维方案 缺失值比率 (Missing Values Ratio) 该方法的是基于包含太多缺失值的数据列包含有用信息的可能性较少。因此，可以将数据列缺失值大于某个阈值的列去掉。 阈值越高，降维方法更为积极，即降维越少。 低方差滤波 (Low Variance Filter) 与上个方法相似，该方法假设数据列变化非常小的列包含的信息量少。因此，所有的数据列方差小的列被移除。 一种常用的降维方法是对目标属性产生许多巨大的树，然后根据对每个属性的统计结果找到信息量最大的特征子集。例如，我们能够对一个非常巨大的数据集生成非常层次非常浅的树，每颗树只训练一小部分属性。 降维时仅保存前 m(m < n) 个主成分即可保持最大的数据信息量。需要注意的是主成分变换对正交向量的尺度敏感。数据在变换前需要进行归一化处理。 每次降维操作，采用 n-1 个特征对分类器训练 n 次，得到新的 n 个分类器。将新分类器中错分率变化最小的分类器所用的 n-1 维特征作为降维后的特征集。
93350发布于 2018-04-18 - 来自专栏数据处理
降维PCA
如有一组数组数据m个n维列向量Anxm 想要降维，随意丢弃数据显然不可取，降维可以降低程序计算复杂度，代价是丢弃了原始数据一些信息，那么降维的同时，又保留数据最多信息呢。 举个例子矩阵A 五个二维点降到一维，不论投影到x轴还是y轴，都有点重合。 使用上面方法操作一遍 求特征值 解得 得到特征向量 标准化特征向量 矩阵P 验证 对矩阵A做变换到一维 PCA方法的缺点 PCA作为经典方法在模式识别领域已经有了广泛的应用 ，但是也存在不可避免的缺点，总结如下： (1) PCA是一个线性降维方法，对于非线性问题，PCA则无法发挥其作用； (2) PCA需要选择主元个数，但是没有一个很好的界定准则来确定最佳主元个数；
88130发布于 2018-06-01 - 来自专栏CV学习史
PCA降维
基于这些问题，降维思想就出现了。 降维方法有很多，而且分为线性降维和非线性降维，本篇文章主要讲解线性降维中的主成分分析法(PCA)降维。 顾名思义，就是提取出数据中主要的成分，是一种数据压缩方法，常用于去除噪声、数据预处理，是机器学习中常见的降维方法。 方差是用来描述一维数据的，而协方差可以用来描述多维数据，方差的定义如下： \[ var(x) = \frac{\sum_{i=1}^n (x_i -\bar x)^2}{n-1} \] 相似的，两个变量的协方差定义如下 {C^2_n}{2}\)次协方差，而且这个矩阵是对称的。 如果是小数，则表明降维后保留的信息量比例。
1.3K20发布于 2019-09-05 - 来自专栏早起Python
使用Python进行数据降维｜线性降维
前言 为什么要进行数据降维？ 直观地好处是维度降低了，便于计算和可视化，其深层次的意义在于有效信息的提取综合及无用信息的摈弃，并且数据降维保留了原始数据的信息，我们就可以用降维的数据进行机器学习模型的训练和预测，但将有效提高训练和预测的时间与效率 降维方法分为线性和非线性降维，非线性降维又分为基于核函数和基于特征值的方法(流形学习)，代表算法有 线性降维方法：PCA ICA LDA LFA 基于核的非线性降维方法KPCA KFDA 流形学习 ：ISOMAP LLE LE LPP 本文主要对线性降维方法中的PCA、ICA、LDA的Python实现进行讲解。 LDA是为了使得降维后的数据点尽可能地容易被区分！ ? 与PCA比较 PCA为无监督降维，LDA为有监督降维 LDA降维最多降到类别数K-1的维数，PCA没有这个限制。
2K10发布于 2020-04-22 - 来自专栏人工智能与演化计算成长与进阶
14降维1-2降维的应用数据压缩与数据可视化
参考资料 斯坦福大学 2014 机器学习教程中文笔记 by 黄海广 14.1 动机一：数据压缩 降维 也是一种无监督学习的方法，降维并不需要使用数据的标签。 ，因此我们想通过降维的方式 去掉冗余的数据 ? 将 3 维特征降到 2 维 将三维向量投影到一个二维的平面上，迫使所有的数据都在同一个平面上，降至二维的特征向量。原有的三维数据点变成二维的平面，而二维的特征表示数据点在二维平面上的位置。 14.2 动机二：数据可视化 目前我们只能对 2-3 维的数据进行可视化，一旦数据的维度变得很大，我们将不能很直观的发现数据中的规律。此时， 降维 就成了一个很直观很重要的工作。 如下是国家发展水平的一张报表，通过 50 个指标对国家进行评估，我们想用可视化的方法进行直观的查看，但是 50 维的数据是不可能使用图形进行绘制的，为此我们使用降维的方法将其降低到 2 维进行查看。
79230发布于 2020-08-14 - 来自专栏大前端（横向跨端 & 纵向全栈）
JavaScript数组降维
如何将一个二维数组进行降维变成一维数组，一般有以下几个方法： var arr=[ [1,2,3,4], [5,6,7,8] ]; 方法一：分割 arr=String(arr).split (","); console.log(arr); // ["1", "2", "3", "4", "5", "6", "7", "8"] 方法二：遍历 var result=[]; for(var r= for(var c=0;c<arr[r].length;c++){ result.push(arr[r][c]); } } console.log(result); // [1, 2, =[]; for(var r=0;r<arr.length;r++){ result=result.concat(arr[r]); } console.log(result); // [1, 2, , 4, 5, 6, 7, 8] 方法四：用apply简化外层循环 arr=Array.prototype.concat.apply([],arr) console.log(arr); // [1, 2,
46720编辑于 2022-11-27 - 来自专栏数据科学CLUB
PCA降维实例
PCA的形象说明导入数据PCA后可视化建立模型性能评测 特征降维有两个目的:其一,我们会经常在实际项目中遭遇特征维度非常之高的训练样本，而往往又无法借助自己的领域知识人工构建有效特征;其二,在数据表现方面 因此，特征降维不仅重构了有效的低维度特征向量，同时也为数据展现提供了可能。 在特征降维的方法中,主成分分析(PrincipalComponentAnalysis)是最为经典和实用的特征降维技术,特别在辅助图像识别方面有突出的表现。 estimator = PCA(n_components = 2) x_pca = estimator.fit_transform(x_digits) #显示10类手写体数字图片经PCA压缩后的2维空间分布 ---- 降维/压缩问题则是选取数据具有代表性的特征，在保持数据多样性的基础上,规避掉大量的特征冗余和噪声,不过这个过程也很有可能会损失一些有用的模式信息。
1.1K20发布于 2020-06-11 - 来自专栏生信修炼手册
LLE降维算法
流形分析作为非线性降维的一个分支，拥有多种算法，常见的算法列表如下 ? 流形分析的要点在于降维之后，仍然保留流形中的某些几何属性。 LLE全称如下 Locally Linear Embedding 称之为局部线性嵌入算法，在该算法中，假设邻近样本符合线性关系，对于样本x1而言，可以看做是邻近样本x2, x3, x4的线性组合 ? 降维之后，也希望保留这种线性关系，即权重系数不变，新的坐标依然保持线性关系，公式如下 ? 基于这一思想，该算法可以分为以下3步 ? 1. 选择样本的邻近点。 这里选择的方法和KNN类似，按照欧式距离排序，选择前K个邻近点 2. 对于每个样本，拟合其邻近样本的线性关系，计算样本点的局部重建权值矩阵 3. 根据邻近点与局部重建权值矩阵，计算降维后的输出值 LLE算法降维的结果示例如下 ?
1.2K40发布于 2021-04-29 - 来自专栏又见苍岚
降维算法 - SNE
SNE是一种数据降维算法，最早出现在2002年，它改变了MDS和ISOMAP中基于距离不变的思想，将高维映射到低维的同时，尽量保证相互之间的分布概率不变，SNE将高维和低维中的样本分布都看作高斯分布， mid i}=\frac{\exp \left(-\left|y_{i}-y_{j}\right|^{2}\right)}{\sum_{k \neq i} \exp \left(-\left|y_{i} -y_{k}\right|^{2}\right)} 这里我们把低维中的分布看作是均衡的，每个delta都是0.5，由此可以基本判断最后降维之后生成的分布也是一个相对均匀的分布。 sum_{j} p_{j \mid i} \log \frac{p_{j \mid i}}{q_{j \mid i}} 则可以计算梯度为： \frac{\delta C}{\delta y_{i}}=2 mathcal{Y}{(t-1)}+\eta \frac{\delta C}{\delta \mathcal{Y}}+\alpha(t)\left(\gamma{(t-1)}-\mathcal{Y}{(t-2)
1K20编辑于 2022-08-05 - 来自专栏生信修炼手册
isomap降维算法
降维算法分为线性和非线性两大类，主成分分析PCA属于经典的线性降维，而t-SNE, MDS等属于非线性降维。在非线性降维中，有一个重要的概念叫做流形学习manifold learing。 可以看到，在三维空间中，样本点的分布构成了一个瑞士卷的形状，这个瑞士卷就是一个流形。通过流形学习来降维，就是假设数据的分布存在一个潜在的流形，降维其实是将流形在低维空间展开。 所谓流形学习，就是在降维时，考虑数据的流形。 在流形学习中，isomap和局部性嵌入LLE都是典型的算法。 isomap全称如下 isometric mapping 称之为等距映射，该算法的本质是通过流形中的测地距离来表示高维空间的距离，然后通过MDS算法进行降维。具体的步骤如下 1. 构建邻接图，有两种方法，第一种指定半径阈值，半径内的点为邻近点，第二种为K近邻，在邻近点之间基于欧式距离构建一个邻接图 2.
1.3K11发布于 2021-04-29 - 来自专栏Pulsar-V
PCA降维推导
它的目标是通过某种线性投影，将高维的数据映射到低维的空间中表示，并期望在所投影的维度上数据的方差最大，以此使用较少的数据维度，同时保留住较多 的原数据点的特性。 可以证明，PCA是丢失原始数据信息最少的一种线性降维方式 。 基 一个二维向量可以对应二维笛卡尔直角坐标系中从原点出发的一个有向线段。 但是，在二维空间当中，只有坐标(X,Y)本身是不能够精确表示一个具有方向的向量的。 可以知道向量(x,y)是一个线性组合，即二维空间的基，在线性代数中，基（也称为基底）是描述、刻画向量空间的基本工具。向量空间的基是它的一个特殊的子集。 下面是二维空间的基的一般表示 ? 在PCA降维中，我们需要进行空间坐标的变换也就是基变换，下面来看一个例子 ? 理论推导 (1)问题描述 对于d维空间中的n个样本， ? ，考虑如何在低维空间中最好地代表它们。
1.2K90发布于 2018-04-18 - 来自专栏Michael阿明学习之路
降维
降维方法 1.1 投影 1.2 流行学习 2. 降维技术 2.1 PCA 2.2 增量PCA 2.3 随机PCA 2.4 核PCA 2.5. 中文翻译参考 特征维度太大，降维加速训练 能筛掉一些噪声和不必要的细节 更高维度的实例之间彼此距离可能越远，空间分布很大概率是稀疏的 1. 降维方法 1.1 投影 ? 降维技术 2.1 PCA 《统计学习方法》主成分分析（Principal Component Analysis，PCA）笔记 目前为止最流行的降维算法 首先它找到接近数据集分布的超平面 然后将所有的数据都投影到这个超平面上 它主要用于可视化，尤其是用于可视化高维空间中的实例（例如，可以将MNIST图像降维到 2D 可视化） 线性判别分析（Linear Discriminant Analysis，LDA）实际上是一种分类算法 但在训练过程中，它会学习类之间最有区别的轴，然后使用这些轴来定义用于投影数据的超平面 LDA 的好处是投影会尽可能地保持各个类之间距离，所以在运行另一种分类算法（如 SVM 分类器）之前，LDA 是很好的降维技术
77431发布于 2021-02-19 - 来自专栏生物信息学、python、R、linux
R实现PCA降维
PCA(Principal Component Analysis)，即主成分分析方法，是一种使用广泛的数据降维算法。 详细的概念可以参照https://zhuanlan.zhihu.com/p/37777074 一般将多个样本降维就可以得到二维的分布，相似的样本成为一群，但有时候我们想知道哪些特征导致了这样的分群。 head(decathlon2) ? active <- decathlon2[1:23, 1:10] res.pca <- PCA(decathlon2.active, graph = T) 降维的分群图（这个没有明显的分群） ? image.png head(var$cos2, 10) ?
2.1K20发布于 2020-04-01 - 来自专栏机器学习算法与Python学习
机器学习(8) -- 降维
例如图10-1所示，x1和x2是两个单位不同本质相同的特征量，我们可以对其降维。 ? 图10-1 一个2维到1维的例子 又如图10-2所示的3维到2维的例子，通过对x1,x2,x3的可视化，发现虽然样本处于3维空间，但是他们大多数都分布在同一个平面中，所以我们可以通过投影，将3维降为2维 图10-2 一个3维到2维的例子 降维的好处很明显，它不仅可以数据减少对内存的占用，而且还可以加快学习算法的执行。 注意，降维只是减小特征量的个数(即n)而不是减小训练集的个数(即m)。 在10.1节我们默认以红色线所画平面(不妨称之为平面s1)为2维平面进行投影(降维)，投影结果为图10-5的(1)所示，这样似乎还不错。那为什么不用蓝色线所画平面（不妨称之为平面s2）进行投影呢? 不难理解，如果选择s2平面进行投影降维，我们会丢失更多（相当多）的特征量信息，因为它的投影结果甚至可以在转化为1维。而在s1平面上的投影包含更多的信息(丢失的更少)。
1.1K100发布于 2018-04-04 - 来自专栏算法channel
降维技术 （Dimensionality Reduction）
降维是一个去掉冗余的不重要的变量，而只留下主要的可以保持信息的变量的过程。 降维的一个很流行的方法就是主成分分析(Principal Component Analysis (PCA))方法，这也是我最开始学到的第一个降维方法。 PCA是一种成功的降维方法，当然也可以用它来Visualize高维空间的数据。 他们提出了一种新的降维方法，那就是 Recursive feature elimination（RFE）。 另外一种特别流行的, 不得不说的降维方法就是t-Stochastic Neighbor Embedding (tSNE)，它是一种非线性的降维方法。
1.1K10发布于 2020-02-21 - 来自专栏小锋学长生活大爆炸
特征匹配PCA降维
StandardScaler().fit(des_query) des_query = scaler.transform(des_query) des_train = scaler.transform(des_train) 2、 des_query_pca = pca.transform(des_query) des_train_pca = pca.transform(des_train) 3、对结果再做归一化(欧氏距离就用l2) import torch def desc_l2norm(desc): eps_l2_norm = 1e-10 return (desc / torch.Tensor(desc).pow (2).sum(dim=1, keepdim=True).add(eps_l2_norm).pow(0.5)).numpy() des_query_new = desc_l2norm(des_query_pca ) des_train_new = desc_l2norm(des_train_pca) 4、注意train和query要用同一个fit，因为不然分开学习，肯定最后结果是个“0”。
47920编辑于 2022-03-29 - 来自专栏创及数字产业人才培养基地
降维算法是什么？
为此，降维算法成为机器学习领域中的一种重要技术，它可以将高维空间中的数据点映射到低维空间中。降维算法可以帮助我们发现数据中的隐藏模式和结构，提高模型的效果和性能。 降维算法主要分为线性降维和非线性降维两种。 如图示例，可以通过将所有数据点近似到一条直线来实现降维。非线性降维算法中比较有代表性的是t-SNE。 在数据可视化中，降维可以帮助我们将高维数据可视化到二维或三维空间中，更好地理解数据的分布和关系。在特征选择和特征提取中，降维可以帮助我们选择最具代表性的特征，提高模型的泛化能力。 在大规模数据处理中，降维可以减少计算和存储的开销，提高算法的效率。总之，降维算法是机器学习中一项重要的技术，它可以帮助我们处理高维数据，发现数据中的模式和结构，提高模型的效果和性能。
28110编辑于 2024-01-03 - 来自专栏Python编程 pyqt matplotlib
利用PCA来降维
在这一场景中，人们实时地将屏幕上的百万级像素转换成了三维坐标。这个过程就是一种降维(dimensionnality reduction)。 ? 降维是机器学习中很重要的一种思想。 基于这些问题，降维思想就出现了。 降维通常有以下原因： 去除冗余数据，使数据集更易于使用 去除噪音 降低计算开销 使得结果直观易懂 在已标注与未标注的数据上均可以应用降维技术。 同因子分析一样，如果数据源的数目少于观察数据的数目，则可以实现降维过程。 在上述3种降维算法中，PCA 的应用最为广泛。 [:,0].flatten().A[0], reconMat[:,1].flatten().A[0], marker='o', s = 15, c='r') ax = fig.add_subplot(2,1,2 该数据集降维后很容易利用决策树进行分类。
58920发布于 2019-10-09
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号