- 综合排序
- 最热优先
- 最新优先
- 来自专栏机器学习算法工程师
《机器学习》笔记-聚类（9）
章节目录 聚类任务 性能度量 距离计算 原型聚类 密度聚类 层次聚类 1 聚类任务 在无监督学习中（unsupervised learning）中，训练样本的标记信息是未知的，目标是通过对无标记的训练样本的学习来揭示数据的内在性质及规律 4 原型聚类 原型聚类亦称”基于原型的聚类“（prototype-based clustering），此类算法假设聚类结构能通过一组原型刻画，在现实聚类任务中极为常用。 高斯混合聚类 与k均值、LVQ用原型向量来刻画聚类结构不同，高斯混合（Mixture-of-Gaussian）聚类采用概率模型来表达聚类原型。 5 密度聚类 密度聚类亦称“基于密度的聚类”（density-based clustering），此类算法假设聚类结构能通过样本分布的紧密程度确定。 通常情况下，密度聚类算法从样本密度的角度来考察样本之间的可连接性，并基于可连接样本不断扩展聚类簇以获得最终的聚类结果。DBSCAN是一种著名的密度聚类算法。
59250发布于 2018-06-07 - 来自专栏科技记者
第9章 聚类 笔记
不同于分类和回归，聚类不需要事先的任何参考分类信息，可以简单地通过判断数据特征的相似性来完成对数据的归类。 层次聚类 不需要事先指定族的个数，以系统树的形式展现。 k均值聚类 扁平聚类，不会生成聚类层次，需要事先确定族的个数，性能优于层次聚类。 基于模型的聚类 以上两种是启发式聚类，不需要任何形式化的模型，而基于模型的则事先假定存在某个数据模型，并用EM算法试图求出最相近的模型参数和簇的个数。 基于密度的聚类 将分布稠密的样本划分到同一个簇，并过滤低密度的区域。下面一一看下四种算法，并采用基于簇间距离平方和志平均侧影宽度进行聚类内部验证，通过Ground truth方法完成聚类的外部验证。 9.5 绘制二元聚类图 二元聚类将变量减少为两个主要成分，再利用组件（轴线和椭圆）展示数据聚类的结果。
67020编辑于 2022-03-04 - 来自专栏blog(为什么会重名，真的醉了)
聚类-层次聚类（谱系聚类）算法
简介 ---- 层次聚类（Hierarchical Clustreing）又称谱系聚类，通过在不同层次上对数据集进行划分，形成树形的聚类结构。 很好体现类的层次关系，且不用预先制定聚类数，对大样本也有较好效果。 算法步骤： 计算类间距离矩阵 初始化n个类，将每个样本视为一类 在距离矩阵中选择最小的距离，合并这两个类为新类 计算新类到其他类的距离，得到新的距离矩阵 重复3-4步，直至最后合并为一个类 首先介绍距离矩阵的计算 ，然后第4步有不同的算法来定义新类到其他类的距离，包括：最短距离法、最长距离法、类平均法、重心法等。 根据上述步骤绘制谱系图，横坐标就是每个类，纵坐标表示合并两个类时的值： 根据谱系图，如果要聚类为2类，从上往下看首次出现了2个分支的地方，即将样品0分为一类，样品1、2分为另一类。
6.1K40编辑于 2022-11-30 - 来自专栏机器学习与自然语言处理
Stanford机器学习笔记-9. 聚类(Clustering)
图(1)表示给带标记的样本进行分类，分界线两边为不同的类(一类为圈，另一类为叉)；图(2)是基于变量x1和x2对无标记的样本(表面上看起来都是圈)进行聚类(Clustering)。 ? 图9-1 一个监督学习与无监督学习的区别实例 无监督学习也有很多应用，一个聚类的例子是：对于收集到的论文，根据每个论文的特征量如词频，句子长，页数等进行分组。聚类还有许多其它应用，如图9-2所示。 一个非聚类的例子是鸡尾酒会算法，即从带有噪音的数据中找到有效数据(信息)，例如在嘈杂的鸡尾酒会你仍然可以注意到有人叫你。所以鸡尾酒会算法可以用于语音识别(详见wikipedia)。 图9-2 一些聚类的应用 9.2 K-means algorithm 聚类的基本思想是将数据集中的样本划分为若干个通常是不相交的子集，每个子集称为一个"簇"(cluster)。 划分后，每个簇可能有对应的概念(性质)，比如根据页数，句长等特征量给论文做簇数为2的聚类，可能得到一个大部分是包含硕士毕业论文的簇，另一个大部分是包含学士毕业论文的簇。
1.6K110发布于 2018-03-13 - 来自专栏Gvoidy备份小站
聚类算法之DBSCAN聚类
DBSCAN （Density-Based Spatial Clustering of Applications with Noise） 是一种基于密度的聚类算法，基于密度的聚类寻找被低密度区域分离的高密度区域 若某一点，从任一核心地点出发都是密度不可达的，则称该点为噪声点 DBSCAN 聚类算法实现如下图： ? 当出现奇葩数据时，K-Means 无法正常聚类，而 DBSCAN 完全无问题 ? 、聚类间距差相差很大时参数密度阈值minPts和邻域r参数选取困难 对于高维数据，容易产生“维数灾难”（聚类算法基于欧式距离的通病） DBSCAN 聚类 Python 实现 # coding=utf # 调用密度聚类 DBSCAN db = DBSCAN(eps=0.3, min_samples=10).fit(X) # print(db.labels_) # db.labels_为所有样本的聚类索引 （聚类结果中-1表示没有聚类为离散点） # 模型评估 print('估计的聚类个数为: %d' % n_clusters_) print("同质性: %0.3f" % metrics.homogeneity_score
4.4K30发布于 2020-07-14 - 来自专栏微生态与微进化
层次聚类与聚类树
聚类可以分为特征聚类（Vector Clustering）和图聚类（Graph Clustering）。特征聚类是指根据对象的特征向量矩阵来计算距离或者相关性来实现聚类，例如各种层次聚类和非层次聚类。 ⑶平均聚合聚类 平均聚合聚类（averageagglomerative clustering）是一类基于对象之间平均相异性或者聚类簇形心（centroid）的进行聚类的方法。 在hclust()函数中有等权重算术平均聚类"average"（UPGMA）、不等权重算术平均聚类"mcquitty"（WPGMA）、等权重形心聚类"centroid"（UPGMC）、不等权重形心聚类" ⑷最小方差聚类 Ward最小方差聚类是一种基于最小二乘法线性模型准则的聚类方法。分组的依据是使组内距离平方和（方差）最小化，由于使用了距离的平方，常常使聚类树基部过于膨胀，可取平方根再进行可视化。 聚类树 聚类树是聚类分析最常用的可视化方法。
2.2K30编辑于 2022-05-05 - 来自专栏Gvoidy备份小站
聚类算法之层次聚类
层次聚类(Hierarchical Clustering)是聚类算法的一种，通过计算不同类别的相似度类创建一个有层次的嵌套的树。 层次聚类怎么算 层次聚类分为自底向上和自顶向下两种，这里仅采用scikit-learn中自底向上层次聚类法。 将相邻最近的两组归为同一组 重复第二步，直到合并成为一个组，聚类结束 聚类过程的散点图变化一下，就是我们要的层次图 层次聚类 Python 实现 import numpy as np from sklearn.cluster import AgglomerativeClustering data = np.random.rand(100, 3) #生成一个随机数据，样本大小为100, 特征数为3 #假如我要构造一个聚类数为 3的聚类器 estimator = AgglomerativeClustering(n_clusters=3)#构造聚类器 estimator.fit(data) print(estimator.labels
3.5K40发布于 2020-07-14 - 来自专栏小明的博客
聚类
聚类分析 scikit-learn的sklearn.cluster模块提供了多种聚类方法 K-means聚类 仿射传播聚类 均值漂移聚类 谱聚类 凝聚聚类 密度聚类 高斯混合聚类 层次聚类 K-means #%% #例10-4 对两个分类样本进行聚类，使用肘部法则确定最佳K值， #使用特征集进行聚类，使用类标签对聚类结果进行对比 import numpy as np import matplotlib.pyplot ','原类1','聚类错误']) plt.title('聚类错误样本与原类别的对比') plt.show() 多分类样本的可视化 #%% #例10-5 对4个分类样本进行聚类，使用肘部法则确定最佳K 值， #使用特征集进行聚类，使用类标签对聚类结果进行对比 import numpy as np import matplotlib.pyplot as plt import pandas as pd # ') plt.title('聚类结果与原始分类结果对比') plt.legend(['原始分类','聚类结果']) plt.show()
1.4K20编辑于 2022-09-05 - 来自专栏foochane
聚类(Clustering) hierarchical clustering 层次聚类
假设有N个待聚类的样本，对于层次聚类来说，步骤： 1、（初始化）把每个样本归为一类，计算每两个类之间的距离，也就是样本与样本之间的相似度； 2、寻找各个类之间最近的两个类，把他们归为一类（这样类的总数就少了一个 ）； 3、重新计算新生成的这个类与各个旧类之间的相似度； 4、重复2和3直到所有样本点都归为一类，结束 ? 整个聚类过程其实是建立了一棵树，在建立的过程中，可以通过在第二步上设置一个阈值，当最近的两个类的距离大于这个阈值，则认为迭代可以终止。另外关键的一步就是第三步，如何判断两个类之间的相似度有不少种方法。 这里介绍一下三种： SingleLinkage：又叫做 nearest-neighbor ，就是取两个类中距离最近的两个样本的距离作为这两个集合的距离，也就是说，最近两个样本之间的距离越小，这两个类之间的相似度就越大 这两种相似度的定义方法的共同问题就是指考虑了某个有特点的数据，而没有考虑类内数据的整体特点。
1.8K30发布于 2019-05-23 - 来自专栏大数据风控
R聚类算法-层次聚类算法
层次聚类（Hierarchical Clustering算法） 层次聚类算法又称为树聚类算法，它根据数据之间的距离，透过一种层次架构方式，反复将数据进行聚合，创建一个层次以分解给定的数据集。 常用于一维数据的自动分组 层次聚类方法 hclust(dist) dist 样本的距离矩阵 距离矩阵的计算方式 dist(data) data 样本数据 层次聚类的代码实现： pColumns result 1 2 3 setosa 50 0 0 versicolor 0 23 27 virginica 0 49 1 我们可以看到，层次聚类对这份数据的聚类得到的结果并不是太好
2.2K81发布于 2018-01-09 - 来自专栏机器学习，脑机接口，算法优化
凝聚层次聚类，DBSCAN聚类(1)
凝聚层次聚类：初始每个对象看成一个簇，即n个簇，合并最相似的两个簇，成（n-1）个簇，重复直到一个簇 \ 相似度衡量方法 最小距离：两个簇中最近的两个对象的距离 最大距离：两个簇中最远的两个对象的距离 平均距离：两个簇中所有对象两两距离的平均值 质心距离：两个簇质心的距离 \ DBSCAN聚类算法 数据集中一个对象的半径内有大于minPts个对象时，称这个点核心点，将这些核心点半径内的对象加入这个簇，
2.2K00发布于 2020-11-17 - 来自专栏机器学习算法与理论
无监督：聚类与改进聚类详解
聚类： 聚类就是将相似的对象聚在一起的过程。如总统大选，选择那部分容易转换立场的表决者，进行针对性的宣传，可以扭转局势。 聚类将相似的对象归到同一簇中，相似取决于相似度度量方法。 K-means聚类，可能收敛到局部最小值，在大规模数据集上收敛较慢。 K-means聚类：首先，随机确定k个初始点作为质心，将数据集中的每个点分配到一个簇中，即选择一个最近的质心进行分配，而后每个簇的质心更新为该簇所有点的平均值。 用于度量聚类效果的指标可以是SSE（误差平方和）。我们可以通过增加簇的数量来减小SSE，若想要保持簇的总数不变，可以将某两个簇进行合并。 应用：对地图上的点进行聚类，从而用比较合理的大巴接送方案完成一个活动或一次旅行。 为出租车和乘客选择合适的候车点等。
1.2K100发布于 2018-04-10 - 来自专栏小小程序员——DATA
层次聚类与密度聚类代码实现
层次聚类与密度聚类代码实现 层次聚类 import numpy as np from scipy.cluster.hierarchy import linkage, dendrogram import matplotlib.pyplot as plt # 创建100个样本的数据 data = np.random.rand(10, 2) # 使用linkage函数进行层次聚类 linked = linkage (data, 'single') # 画出树状图（树状图是层次聚类的可视化） dendrogram(linked) plt.show() 密度聚类 from sklearn.cluster import DBSCAN import matplotlib.pyplot as plt # 创建100个样本的数据 data = np.random.rand(200, 2) # 使用DBSCAN进行密度聚类 dbscan = DBSCAN(eps=0.1, min_samples=5) clusters = dbscan.fit_predict(data) # 可视化聚类结果 plt.scatter(data
50010编辑于 2023-12-22 - 来自专栏blog(为什么会重名，真的醉了)
机器学习-层次聚类（谱系聚类）算法
简介 层次聚类（Hierarchical Clustreing）又称谱系聚类，通过在不同层次上对数据集进行划分，形成树形的聚类结构。很好体现类的层次关系，且不用预先制定聚类数，对大样本也有较好效果。 算法步骤： 计算类间距离矩阵 初始化n个类，将每个样本视为一类 在距离矩阵中选择最小的距离，合并这两个类为新类 计算新类到其他类的距离，得到新的距离矩阵 重复3-4步，直至最后合并为一个类 首先介绍距离矩阵的计算 ，然后第4步有不同的算法来定义新类到其他类的距离，包括：最短距离法、最长距离法、类平均法、重心法等。 G_1 和 G_4 为新类，此时只有一个类，流程结束。 根据上述步骤绘制谱系图，横坐标就是每个类，纵坐标表示合并两个类时的值： 根据谱系图，如果要聚类为2类，从上往下看首次出现了2个分支的地方，即将样品0分为一类，样品1、2分为另一类。
2.6K50编辑于 2023-05-23 - 来自专栏优雅R
「R」层次聚类和非层次聚类
❝原英文链接：https://www.rpubs.com/dvallslanaquera/clustering[1]❞ 层次聚类 (HC) 在这个分析中，我们将看到如何创建层次聚类模型。 <- doubs$xy[-8,] spe.norm <- decostand(spe, "normalize") spe.ch <- vegdist(spe.norm, "euc") 2- 聚类方法选择 3- 最后聚类数目的选择 为了达到这个目的，我们需要 3 个不同的检验： a- Fussion 水平图 b- Silhouette 图（轮廓系数图） c- Mantel 值 a- Fussion 水平图 (NHC) 这次我们将做一个k均值聚类模型。 通过SSE方法，最好的聚类数必须是2，通过SSI方法则必须是3。 3.2. Silhouette 图 我们试着绘制 3 组的轮廓系数图。
2.1K11编辑于 2022-01-21 - 来自专栏小小程序员——DATA
机器学习 | 密度聚类和层次聚类
密度聚类和层次聚类 密度聚类 背景知识 如果 S 中任两点的连线内的点都在集合 S 内，那么集合 S称为凸集。反之，为非凸集。 DBSCAN 算法介绍 与划分和层次聚类方法不同，DBSCAN(Density-Based Spatial Clustering of Applications with Noise)是一个比较有代表性的基于密度的聚类算法 层次聚类 层次聚类假设簇之间存在层次结构，将样本聚到层次化的簇中。 层次聚类又有聚合聚类 (自下而上) 、分裂聚类(自上而下) 两种方法 因为每个样本只属于一个簇，所以层次聚类属于硬聚类 背景知识 如果一个聚类方法假定一个样本只能属于一个簇，或族的交集为空集，那么该方法称为硬聚类方法 如果个样木可以属干多个簇，成簇的交集不为空集，那么该方法称为软聚类方法 聚合聚类 开始将每个样本各自分到一个簇; 之后将相距最近的两簇合并，建立一个新的簇 重复此此操作直到满足停止条件: 得到层次化的类别
77010编辑于 2023-12-21 - 来自专栏机器学习原理
机器学习（7）——聚类算法聚类算法
聚类算法 前面介绍的集中算法都是属于有监督机器学习方法，这章和前面不同，介绍无监督学习算法，也就是聚类算法。 我们对数据进行聚类的思想不同可以设计不同的聚类算法，本章主要谈论三种聚类思想以及该聚类思想下的三种聚类算法。 plt import matplotlib as mpl cm = mpl.colors.ListedColormap(list('rgby')) plt.figure(figsize=(15, 9) 思考：如果出现如图9.7所示出现的数据类型用类 k- Means算法就不能正确地对他们进行聚类了，因为他们属于非凸类数据。这时候就要转变聚类思想了，采用别的聚类方法了。 ? 非凸数据集进行聚类 本章小结 本章主要介绍了聚类中的一种最常见的算法—K-Means算法以及其优化算法，聚类是一种无监督学习的方法。
4.3K70发布于 2018-04-27 - 来自专栏流川疯编写程序的艺术
聚类算法 ---- 大数据聚类算法综述
文章大纲 简介 聚类算法的分类 相似性度量方法 大数据聚类算法 spark 中的聚类算法 聚类算法对比 性能对比 效果对比 参考文献 简介 随着数据量的迅速增加如何对大规模数据进行有效的聚类成为挑战性的研究课题 ，面向大数据的聚类算法对传统金融行业的股票投资分析、 互联网金融行业中的客户细分等金融应用领域具有重要价值， 本文对已有的大数据聚类算法，以及普通聚类算法做一个简单介绍 聚类分析是伴随着统计学、计算机学与人工智能等领域科学的发展而逐步发展起来的 比如机器学习领域的人工神经网络与支持向量机的发展就出现促生了基于神经网络的聚类方法与核聚类方法。目前，基于人工神经网络的深度学习（如：AlphaGo围棋系统）也必将推动聚类分析方法的进一步发展。 然而，聚类算法又有了长足的发展与进步。 聚类算法的分类 相似性度量方法 3）曼哈顿距离（Manhattan Distance）。 大数据聚类算法 spark 中的聚类算法 http://spark.apache.org/docs/latest/ml-clustering.html spark 支持的聚类算法有以下几个： K-means
2K30编辑于 2021-12-06 - 来自专栏全栈程序员必看
spssk均值聚类报告_K均值聚类
在spss中导入的二维数据如下所示： 点击菜单栏的“分析”，找到“分类”选中“k-均值聚类” 将需要进行聚类的变量选入右侧框中 聚类数由用户设定，方法一般选择“迭代与分类” ，“读取初始聚类中心”和“写入最终聚类中心”一般不勾选，除非自定义的聚类中心(自定义聚类中心一般意义不大)，如果最后想将最终迭代得到的聚类中心写入指定文件，那么可以勾选第二个复选框。 选项按钮中，一般勾选以上复选框，spss会统计出初始聚类的中心向量以及每个样本的聚类信息(包括每个样本所属类别，与各自簇类中心向量的欧氏距离)。之后，点击“确定”按钮，完成均值聚类。 以上是最终得到的聚类中心的横纵坐标，以及聚类中心与中心之间的欧氏距离、每个类别中的样本数量。 所谓枚举法，即通过取不同的k值来观察最终的聚类结果，选取最优结果所对应的k作为该均值聚类的最终k值。 肘方法是通过绘制不同的k所对应的样本数据点与各自聚类中心的距离平均值来确定k。
1.4K20编辑于 2022-11-17 - 来自专栏医学和生信笔记
免疫浸润结果分子分型（一致性聚类ConsensusClusterPlus）
可以用于分子分型的方法非常多，比如：一致性聚类、非负矩阵分解、PCA等等，当然这些方法不需要我们手动去计算，都是有成熟的R包帮我们做。 我们今天介绍的是ConsensusClusterPlus一致性聚类进行分子分型。 一致性聚类 library(ConsensusClusterPlus) 调整下数据格式： df <- as.data.frame(im_ssgsea) rownames(df) <- df$ID df 大家自己探索下 boxplot(df1[,1:20]) 进行一致性聚类，其实就是1行代码： ccres <- ConsensusClusterPlus(df1, (M[lower.tri(M)]) PAC[i-1] = Fn(x2) - Fn(x1) } optK = Kvec[which.min(PAC)] optK ## [1] 3 根据PAC和上面一致性聚类给出的图来看
2.5K20编辑于 2023-08-30
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号