首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏单细胞天地

    Seurat4.0系列教程10

    v4.0 中,存储和与信息的交互已生成并信息化到对象中。 每个过程都作为对象存储在插槽中,作为指定列表的元素。可以使用[[运算符,访问所需信息。例如,使用RunPCA()运行主成分分析后,对象[['pca']]将包含PCA的结果。 用户可以添加附加的和自定义的信息。每个存储的信息包含特定slot中。如 cell.embeddings:将每个细胞的坐标存储在低维空间中。 feature.loadings:存储每个基因在中的权重。 自定义计算 虽然没有纳入seurat,但很容易在 R 中运行多重

    1.4K41编辑于 2022-01-10
  • 来自专栏Backup@zzk

    #/UMAP #/t-SNE #/PCA矩阵特征值与主成分分析(PCA(Principal Component Analysis))特征值和特征向量主成分分析PCA的主要思想是将n维特征映射到 事实上,这相当于只保留包含绝大部分方差的维度特征,而忽略包含方差几乎为0的特征维度,实现对数据特征的处理。我们如何得到这些包含最大差异性的主成分方向呢? 这样就可以将数据矩阵转换到新的空间当中,实现数据特征的。 PCA 、t-SNE、UMAPPCA为线性方法,对数据量少,结构简单的情况效果好t-SNE 、UMAP为非线性,对数据结构复杂的情况有效,UMP的损失函数对高远但低近或高近但低远的情况均有良好的惩罚 它有许多用途,包括数据、图像压缩存储、主成分分析等。例如,在机器学习中,SVD可以用来寻找数据分布的主要维度,将原始的高数据映射到低子空间中实现数据

    52900编辑于 2023-08-17
  • 来自专栏全栈程序员必看

    数据_数据的目的

    数据 分类 PCA(主成分分析) 相关系数 PCA (不常用) 实现思路 对数据进行标准化 计算出数据的相关系数矩阵(是方阵, 维度是nxn, n是特征的数量) 计算出相关系数矩阵的特征值和特征向量 主成分就是特征, 也就是一列) 根据k选择主成分对应的特征向量 将标准化之后的数据(矩阵)右乘在上一步中选择出来的特征向量(在这一步得到的矩阵就是m x new_n维度的了), 得到的就是主成分的分数, 也就是之后的数据集合 end % 获取主成分对应的特征向量 for i = 1:k PV(:, i) = V(:, n + 1 - i); end % 获取新的特征样本 X_new = SX * PV; 相关系数

    1.2K20编辑于 2022-09-20
  • 来自专栏机器学习算法工程师

    《机器学习》笔记-与度量学习(10

    为什么能进行?这是因为在很多时候,人们人们观测或收集到的数据样本虽是高的,但与学习任务密切相关的也许仅是某个低分布,即高维空间的一个底“嵌入”(embedding)。 对效果的评估,通常是比较前后学习器的性能,若性能有所提高则认为起到了作用。若数降低到二或三,则可通过可视化技术来直观的判断效果。 4 核化线性 线性方法假设从高维空间到低维空间的函数映射是线性的,然而,在不少实际任务中,可能需要非线性映射才能找到恰当的低嵌入。 非线性的一种常用方法,是基于核技巧对线性方法进行”核化“(kernelized)。 5 流形学习 流形学习(manifold learning)是一类借鉴了拓扑流形概念的方法。” 这给方法带来了很大的启发。

    78340发布于 2018-07-27
  • 来自专栏AI算法与图像处理

    10种常用算法源代码(python)

    最近发现一位同学整理了一些经典的算法,并用python实现常见算法的代码,特此推荐。 10. SVD github链接如下: https://github.com/heucoder/dimensionality_reduction_alo_codes

    1.2K20发布于 2019-08-23
  • 来自专栏Pulsar-V

    技术

    常见的几种方案 缺失值比率 (Missing Values Ratio) 该方法的是基于包含太多缺失值的数据列包含有用信息的可能性较少。因此,可以将数据列缺失值大于某个阈值的列去掉。 阈值越高,方法更为积极,即越少。 低方差滤波 (Low Variance Filter) 与上个方法相似,该方法假设数据列变化非常小的列包含的信息量少。因此,所有的数据列方差小的列被移除。 一种常用的方法是对目标属性产生许多巨大的树,然后根据对每个属性的统计结果找到信息量最大的特征子集。例如,我们能够对一个非常巨大的数据集生成非常层次非常浅的树,每颗树只训练一小部分属性。 时仅保存前 m(m < n) 个主成分即可保持最大的数据信息量。需要注意的是主成分变换对正交向量的尺度敏感。数据在变换前需要进行归一化处理。 每次操作,采用 n-1 个特征对分类器训练 n 次,得到新的 n 个分类器。将新分类器中错分率变化最小的分类器所用的 n-1 维特征作为后的特征集。

    93350发布于 2018-04-18
  • 来自专栏数据处理

    PCA

    如有一组数组数据m个n列向量Anxm 想要,随意丢弃数据显然不可取,可以降低程序计算复杂度,代价是丢弃了原始数据一些信息,那么的同时,又保留数据最多信息呢。 举个例子矩阵A 五个二点降到一,不论投影到x轴还是y轴,都有点重合。 使用上面方法操作一遍 求特征值 解得 得到特征向量 标准化特征向量 矩阵P 验证 对矩阵A做变换到一 PCA方法的缺点 PCA作为经典方法在模式识别领域已经有了广泛的应用 ,但是也存在不可避免的缺点,总结如下: (1) PCA是一个线性方法,对于非线性问题,PCA则无法发挥其作用; (2) PCA需要选择主元个数,但是没有一个很好的界定准则来确定最佳主元个数;

    88130发布于 2018-06-01
  • 来自专栏CV学习史

    PCA

    基于这些问题,思想就出现了。 方法有很多,而且分为线性维和非线性,本篇文章主要讲解线性中的主成分分析法(PCA)。 顾名思义,就是提取出数据中主要的成分,是一种数据压缩方法,常用于去除噪声、数据预处理,是机器学习中常见的方法。 X 将X的每一行(代表一个属性字段)进行零均值化,即减去这一行的均值 求出协方差矩阵 求出协方差矩阵的特征值及对应的特征向量 将特征向量按对应特征值大小从上到下按行排列成矩阵,取前k行组成矩阵P 即为到 StandardScaler() x = X_scaler.fit_transform(x) print(x, "\n") # PCA pca = PCA(n_components=0.9) # 保证后的数据保持 如果是小数,则表明后保留的信息量比例。

    1.3K20发布于 2019-09-05
  • 来自专栏早起Python

    使用Python进行数据|线性

    前言 为什么要进行数据? 直观地好处是维度降低了,便于计算和可视化,其深层次的意义在于有效信息的提取综合及无用信息的摈弃,并且数据保留了原始数据的信息,我们就可以用的数据进行机器学习模型的训练和预测,但将有效提高训练和预测的时间与效率 方法分为线性和非线性,非线性又分为基于核函数和基于特征值的方法(流形学习),代表算法有 线性方法:PCA ICA LDA LFA 基于核的非线性方法KPCA KFDA 流形学习 LDA是为了使得后的数据点尽可能地容易被区分! ? 与PCA比较 PCA为无监督,LDA为有监督 LDA最多降到类别数K-1的数,PCA没有这个限制。 3, n_informative=2, n_clusters_per_class=1,class_sep =0.5, random_state =10

    2K10发布于 2020-04-22
  • 来自专栏小小挖掘机

    10 种常用的算法源代码(python)

    最近发现一位同学整理了一些经典的算法,并用python实现常见算法的代码,特此推荐。 FastICA 10. SVD github链接如下: https://github.com/heucoder/dimensionality_reduction_alo_codes

    54930发布于 2019-08-06
  • 来自专栏算法channel

    10 种常用的算法源代码(python)

    点击上方“Python与算法社区”,选择“星标”公众号 最近发现一位同学整理了一些经典的算法,并用python实现常见算法的代码,特此推荐。 FastICA 10.

    61930发布于 2019-08-08
  • 来自专栏机器学习与自然语言处理

    Stanford机器学习笔记-10. (Dimensionality Reduction)

    例如图10-1所示,x1和x2是两个单位不同本质相同的特征量,我们可以对其。 ? 图10-1 一个2到1的例子 又如图10-2所示的3到2的例子,通过对x1,x2,x3的可视化,发现虽然样本处于3空间,但是他们大多数都分布在同一个平面中,所以我们可以通过投影,将3降为210-2 一个3到2的例子 的好处很明显,它不仅可以数据减少对内存的占用,而且还可以加快学习算法的执行。 注意,只是减小特征量的个数(即n)而不是减小训练集的个数(即m)。 图10-3 一个可视化的例子 10.2 Principal Component Analysis 主成分分析(Principal Component Analysis : PCA)是最常用的算法。 在10.1节我们默认以红色线所画平面(不妨称之为平面s1)为2平面进行投影(),投影结果为图10-5的(1)所示,这样似乎还不错。那为什么不用蓝色线所画平面(不妨称之为平面s2)进行投影呢?

    1K80发布于 2018-03-13
  • 来自专栏大前端(横向跨端 & 纵向全栈)

    JavaScript数组

    如何将一个二数组进行变成一数组,一般有以下几个方法: var arr=[ [1,2,3,4], [5,6,7,8] ]; 方法一:分割 arr=String(arr).split

    46720编辑于 2022-11-27
  • 来自专栏数据科学CLUB

    PCA实例

    PCA的形象说明导入数据PCA后可视化建立模型性能评测 特征有两个目的:其一,我们会经常在实际项目中遭遇特征维度非常之高的训练样本,而往往又无法借助自己的领域知识人工构建有效特征;其二,在数据表现方面 因此,特征不仅重构了有效的低维度特征向量,同时也为数据展现提供了可能。 在特征的方法中,主成分分析(PrincipalComponentAnalysis)是最为经典和实用的特征技术,特别在辅助图像识别方面有突出的表现。 estimator = PCA(n_components = 2) x_pca = estimator.fit_transform(x_digits) #显示10类手写体数字图片经PCA压缩后的2空间分布 ---- /压缩问题则是选取数据具有代表性的特征,在保持数据多样性的基础上,规避掉大量的特征冗余和噪声,不过这个过程也很有可能会损失一些有用的模式信息。

    1.1K20发布于 2020-06-11
  • 来自专栏生信修炼手册

    LLE算法

    流形分析作为非线性的一个分支,拥有多种算法,常见的算法列表如下 ? 流形分析的要点在于之后,仍然保留流形中的某些几何属性。 之后,也希望保留这种线性关系,即权重系数不变,新的坐标依然保持线性关系,公式如下 ? 基于这一思想,该算法可以分为以下3步 ? 1. 选择样本的邻近点。 根据邻近点与局部重建权值矩阵,计算后的输出值 LLE算法的结果示例如下 ?

    1.2K40发布于 2021-04-29
  • 来自专栏又见苍岚

    算法 - SNE

    SNE是一种数据算法,最早出现在2002年,它改变了MDS和ISOMAP中基于距离不变的思想,将高映射到低的同时,尽量保证相互之间的分布概率不变,SNE将高维和低中的样本分布都看作高斯分布, 而Tsne将低中的坐标当做T分布,这样做的好处是为了让距离大的簇之间距离拉大,从而解决了拥挤问题。。 SNE 高数据用X表示,Xi表示第i个样本,低数据用Y表示,则高中的分布概率矩阵P定义如下: image.png P(i,j)表示第i个样本分布在样本j周围的概率。 \sigma是依据最大熵原理来决定,以每个样本点作为中心的\sigma都需要使得最后分布的熵较小,通常以log(k)为上限,k为你所决定的邻域点的个数 低中的分布概率矩阵计算如下: q_{j \ ,每个delta都是0.5,由此可以基本判断最后之后生成的分布也是一个相对均匀的分布。

    1K20编辑于 2022-08-05
  • 来自专栏生信修炼手册

    isomap算法

    算法分为线性和非线性两大类,主成分分析PCA属于经典的线性,而t-SNE, MDS等属于非线性。在非线性中,有一个重要的概念叫做流形学习manifold learing。 可以看到,在三空间中,样本点的分布构成了一个瑞士卷的形状,这个瑞士卷就是一个流形。通过流形学习来,就是假设数据的分布存在一个潜在的流形,其实是将流形在低维空间展开。 所谓流形学习,就是在时,考虑数据的流形。 在流形学习中,isomap和局部性嵌入LLE都是典型的算法。 isomap全称如下 isometric mapping 称之为等距映射,该算法的本质是通过流形中的测地距离来表示高维空间的距离,然后通过MDS算法进行。具体的步骤如下 1. 通过MDS算法对测地距离矩阵进行 在sickit-learn中使用isomap的代码如下 >>> from sklearn.datasets import load_digits >>> from

    1.3K11发布于 2021-04-29
  • 来自专栏Pulsar-V

    PCA推导

    它的目标是通过某种线性投影,将高的数据映射到低的空间中表示,并期望在所投影的维度上数据的方差最大,以此使用较少的数据维度,同时保留住较多 的原数据点的特性。 可以证明,PCA是丢失原始数据信息最少的一种线性方式 。 基 一个二向量可以对应二笛卡尔直角坐标系中从原点出发的一个有向线段。 但是,在二空间当中,只有坐标(X,Y)本身是不能够精确表示一个具有方向的向量的。 可以知道向量(x,y)是一个线性组合,即二空间的基,在线性代数中,基(也称为基底)是描述、刻画向量空间的基本工具。向量空间的基是它的一个特殊的子集。 下面是二空间的基的一般表示 ? 在PCA中,我们需要进行空间坐标的变换也就是基变换,下面来看一个例子 ? 理论推导 (1)问题描述 对于d维空间中的n个样本, ? ,考虑如何在低维空间中最好地代表它们。

    1.2K90发布于 2018-04-18
  • 来自专栏Michael阿明学习之路

    方法 1.1 投影 1.2 流行学习 2. 技术 2.1 PCA 2.2 增量PCA 2.3 随机PCA 2.4 核PCA 2.5. 中文翻译参考 特征维度太大,加速训练 能筛掉一些噪声和不必要的细节 更高维度的实例之间彼此距离可能越远,空间分布很大概率是稀疏的 1. 方法 1.1 投影 ? 技术 2.1 PCA 《统计学习方法》主成分分析(Principal Component Analysis,PCA)笔记 目前为止最流行的算法 首先它找到接近数据集分布的超平面 然后将所有的数据都投影到这个超平面上 它主要用于可视化,尤其是用于可视化高维空间中的实例(例如,可以将MNIST图像到 2D 可视化) 线性判别分析(Linear Discriminant Analysis,LDA)实际上是一种分类算法 但在训练过程中,它会学习类之间最有区别的轴,然后使用这些轴来定义用于投影数据的超平面 LDA 的好处是投影会尽可能地保持各个类之间距离,所以在运行另一种分类算法(如 SVM 分类器)之前,LDA 是很好的技术

    77431发布于 2021-02-19
  • 来自专栏生物信息学、python、R、linux

    R实现PCA

    PCA(Principal Component Analysis),即主成分分析方法,是一种使用广泛的数据算法。 详细的概念可以参照https://zhuanlan.zhihu.com/p/37777074 一般将多个样本就可以得到二的分布,相似的样本成为一群,但有时候我们想知道哪些特征导致了这样的分群。 TRUE)里面的 scale.unit = TRUE,则进行标准化,或者 library("FactoMineR") decathlon2.active <- decathlon2[1:23, 1:10 ] res.pca <- PCA(decathlon2.active, graph = T) 的分群图(这个没有明显的分群) ? image.png head(var$cos2, 10) ?

    2.1K20发布于 2020-04-01
领券