- 综合排序
- 最热优先
- 最新优先
- 来自专栏图像处理与模式识别研究所
LDA
('选择64维数字数据集') #线性判别嵌入数字数据集 print("计算线性判别嵌入") X2=X.copy() X2.flat[::X.shape[1]+1]+=0.01 t0=time() X_lda discriminant_analysis.LinearDiscriminantAnalysis(n_components=2).fit_transform(X2, y) plot_embedding(X_lda ,"线性判别嵌入数字数据集(时间 %.2fs)" %(time()-t0)) plt.show() 算法：LDA是基于线性方法的数据降维方法。
50320编辑于 2022-05-29 - 来自专栏机器学习算法原理与实践
文本主题模型之LDA(一) LDA基础
，以下简称LDA)。 注意机器学习还有一个LDA，即线性判别分析，主要是用于降维和分类的，如果大家需要了解这个LDA的信息，参看之前写的线性判别分析LDA原理总结。文本关注于隐含狄利克雷分布对应的LDA。 1. LDA贝叶斯模型 LDA是基于贝叶斯模型的，涉及到贝叶斯模型离不开“先验分布”，“数据（似然）”和"后验分布"三块。在朴素贝叶斯算法原理小结中我们也已经讲到了这套贝叶斯理论。 在LDA模型中，我们需要先假定一个主题数目$K$，这样所有的分布就都基于$K$个主题展开。那么具体LDA模型是怎么样的呢？具体如下图： ? 如果你只是想理解基本的LDA模型，到这里就可以了，如果想理解LDA模型的求解，可以继续关注系列里的另外两篇文章。 （欢迎转载，转载请注明出处。
1.8K21发布于 2018-08-07 - 来自专栏机器学习AI算法工程
【LDA数学八卦-5】LDA 文本建模
LDA模型 在 LDA 模型中, 上帝是按照如下的规则玩文档生成的游戏的 ? 我个人很喜欢LDA ，它是在文本建模中一个非常优雅的模型，相比于很多其它的贝叶斯模型， LDA 在数学推导上简洁优美。 关于 LDA 的相关知识，其实可以写的还有很多：如何提高 LDA Gibbs Sampling 的速度、如何优化超参数、如何做大规模并行化、LDA 的应用、LDA 的各种变体…… 不过我的主要目标还是科普如何理解标准的 LDA 模型。 — Richard Feynman LDA数学八卦 LDA-math 的汇总， “LDA数学八卦.pdf” 我整理贴出来了， 希望对大家理解 LDA 有帮助。
1.5K40发布于 2018-03-12 - 来自专栏毛利学Python
主题模型LDA
隐含狄利克雷分布Latent Dirichlet Allocation, LDA）是常见的主题模型 LDA 2003年，David M.Blei、Andrew Ng和Jordan I. Michael提出了隐含狄利克雷分布（Latent Dirichlet Allocation, LDA） 。 LDA得到了广泛使用 举例而言，在“狗”主题中，与该主题有关的字符，例如“狗”、“骨头”等词会频繁出现；在“猫”主题中，“猫”、“鱼”等词会频繁出现。 = lda_model[mm_corpus[doc_num]] # Prints the most likely Topic. (lda_model.print_topic(max(lda_vector, key=lambda item: item[1])[0])) print(documents[doc_num]) (4,
2.1K20发布于 2019-11-07 - 来自专栏大数据和机器学习
lda模型小记
lda模型是什么？ lda模型是一个词袋模型，它认为一个文档由一组关键的词构成，这些词之间没有先后顺序，一篇文档可以有很多个主题，文档中的每个词都来自于这些主题中的其中一个。 lda模型又属于聚类模型。 什么是词袋模型？ 词袋模型简单的把一个文档看做若干个词语组成，文档中的而每一个词可以出现不同的次数，这样每个词语出现的概率就不尽相同。 image.png LDA模型 当提出PLSA思想之后，贝叶斯的大佬们有出现了（出现的好及时），他们又说这个这个过程也归贝叶斯关，反正就是独立切随机相关balabala的，于是让PLSA的两个词袋模型 ，变成两个Bayes词袋模型，就是LDA了
1.1K00发布于 2019-09-23 - 来自专栏图像处理与模式识别研究所
LDA人脸识别
predict_image",predict_image) cv2.waitKey() cv2.destroyAllWindows() label= 1 confidence= 10647.989937693492 算法：LDA
13.2K10编辑于 2022-05-28 - 来自专栏machine learning
LDA—主题模型
三、LDA 2.1 Unigram Model 假设我们的词典中一共有 V 个词，Unigram Model就是认为上帝按照下面游戏规则产生文本的。 2.4 LDA 对于 PLSA 模型，贝叶斯学派表示不同意，为什么上帝只有一个 doc-topic 骰子，为什么上帝只有固定 K 个topic-word骰子？ 所以 LDA 游戏规则为： 添加描述 假设我们训练语料有 M 篇 doc，词典中有 V 个word，K个topic。对于第 m 篇文档有 Nm 个词。 LDA的概率图模型表示如图2.4所示。 图2.4 1.
1.9K30发布于 2019-07-05 - 来自专栏翻译scikit-learn Cookbook
Working with QDA – a nonlinear LDA使用QDA-非线性的LDA
If we look back at the LDA recipe, we can see large changes as opposed to the QDA object for class 0 如你所见，整体上是等同的，如果我们看一下上一部分的LDA，我们能看到很大不同与QDA对象截然不同的0分类和很小不同的1分类。
71820发布于 2019-12-05 - 来自专栏machine learning
LDA—基础知识
一、简介 隐含狄利克雷分布（Latent Dirichlet Allocation，简称LDA）是由 David M. Blei、Andrew Y. Ng、Michael I. 一篇文档可以包含多个主题，文档中的每个词都是由某个主题生成的，LDA给出文档属于每个主题的概率分布，同时给出每个主题上词的概率分布。 LDA是一种无监督学习，在文本主题识别、文本分类、文本相似度计算和文章相似推荐等方面都有应用。
1.6K10发布于 2019-07-05 - 来自专栏翻译scikit-learn Cookbook
Using LDA for classification使用LDA线性判别分析来分类
线性判别分析LDA企图拟合多条联合特征为一条线来预测输出变量。 Create an LDA object to fit and predict the class labels. 4. LDA对象来拟合和预测分类标签 4、给出一个例子来讲述如何使用LDA降维 How to do it…如何做 In this example, we will perform an analysis similar So, now that we have our dataset, let's fit the LDA object:令人惊讶的，所以，现在我们有了数据集，让我们拟合LDA对象 import pandas as pd from sklearn.discriminant_analysis import LinearDiscriminantAnalysis as LDA lda = LDA() lda.fit
91420发布于 2019-12-03 - 来自专栏九陌斋
Python实现LDA模型
lda主题模型 文档主题生成模型(Latent Dirichlet Allocation,简称LDA)通常由包含词、主题和文档三层结构组成。 LDA模型属于无监督学习技术，它是将一篇文档的每个词都以一定概率分布在某个主题上，并从这个主题中选择某个词语。文档到主题的过程是服从多项分布的，主题到词的过程也是服从多项分布的。 示例代码 目前对lda的理解还不是特别深，分析方法与分析角度的把握暂时也拿不了太准，所以这里暂时记录一个代码，更多的需要进一步学习，比如语义知识处理、根据困惑度确定主题数等各方面内容。 # -*- coding: utf-8 -*- # @Time : 2022/4/11 11:35 # @Author : MinChess # @File : lda.py # @Software: (tf) # 显示主题数 model.topic_word_ print(lda.components_) # 几个主题就是几行 多少个关键词就是几列 print(lda.components_.shape
1.5K20编辑于 2022-12-26 - 来自专栏产品经理的人工智能学习库
Latent Dirichlet Allocation|LDA
文章目录 网络转载版本 要描述 LDA 模型，就要说一下 LDA 模型所属的产生式模型的背景。产生式模型是相对于判别式模型而说的。 LDA 的产生过程描述了文档以及文档中文字的生成过程。 百度百科版本 LDA（Latent Dirichlet Allocation）是一种文档主题生成模型，也称为一个三层贝叶斯概率模型，包含词、主题和文档三层结构。 LDA是一种非监督机器学习技术，可以用来识别大规模文档集（document collection）或语料库（corpus）中潜藏的主题信息。 LDA是主题模型的示例。 查看详情
1K10发布于 2019-12-18 - 来自专栏机器学习算法原理与实践
文本主题模型之LDA(二) LDA求解之Gibbs采样算法
文本主题模型之LDA(一) LDA基础 文本主题模型之LDA(二) LDA求解之Gibbs采样算法 本文是LDA主题模型的第二篇，读这一篇之前建议先读文本主题模型之LDA(一) LDA Gibbs采样算法求解LDA的思路 首先，回顾LDA的模型图如下： ? LDA Gibbs采样算法流程总结 现在我们总结下LDA Gibbs采样算法流程。 由于Gibbs采样可以很容易的并行化，因此也可以很方便的使用大数据平台来分布式的训练海量文档的LDA模型。以上就是LDA Gibbs采样算法。 后面我们会介绍用变分推断EM算法来求解LDA主题模型，这个方法是scikit-learn和spark MLlib都使用的LDA求解方法。 （欢迎转载，转载请注明出处。
1.5K30发布于 2018-08-07 - 来自专栏数据科学CLUB
LDA线性判别分析
所以说PCA是一种无监督的降维方法，而LDA是一种有监督的降维方法。 LDA降维实例 PCA和LDA都可以用于降维，两者没有绝对的优劣之分，使用两者的原则实际取决于数据的分布。 由于LDA可以利用类别信息，因此某些时候比完全无监督的PCA会更好。下面我们举一个LDA降维可能更优的例子。 小结 LDA算法既可以用来降维，又可以用来分类，但是目前来说，主要还是用于降维。在我们进行图像识别图像识别相关的数据分析时，LDA是一个有力的工具。下面总结下LDA算法的优缺点。 LDA算法的主要缺点有： LDA不适合对非高斯分布样本进行降维，PCA也有这个问题。 LDA降维最多降到类别数k-1的维数，如果我们降维的维度大于k-1，则不能使用LDA。 当然目前有一些LDA的进化版算法可以绕过这个问题。 LDA在样本分类信息依赖方差而不是均值的时候，降维效果不好。 LDA可能过度拟合数据。
83020发布于 2020-06-11 - 来自专栏海天一树
LDA处理文档主题分布
这篇文章主要是讲述如何通过LDA处理文本内容TXT，并计算其文档主题分布。 在了解本篇内容之前，推荐先阅读相关的基础知识： LDA文档主题生成模型入门 结巴中文分词介绍 爬取百度百科5A景点摘要并实现分词 使用scikit-learn计算文本TF-IDF值 一、完整程序 from vectorizer.build_analyzer() weight = X.toarray() print(weight) import numpy as np import lda # 训练模型 model = lda.LDA(n_topics = 2, n_iter = 500, random_state = 1) model.fit(np.asarray 1 0 0 0 0 0 0 1 0 1 0] [0 0 0 0 0 1 0 0 1 0 1 0 0 0 0] [1 0 1 0 2 0 0 0 0 0 0 0 0 0 0]] （四）主题-词分布 lda.LDA
1.8K30发布于 2018-07-25 - 来自专栏机器学习AI算法工程
通俗理解LDA主题模型
0 前言 印象中，最开始听说“LDA”这个名词，是缘于rickjin在2013年3月写的一个LDA科普系列，叫LDA数学八卦，我当时一直想看来着，记得还打印过一次，但不知是因为这篇文档的前序铺垫太长（ LDA就是要干这事：根据给定的一篇文档，推测其主题分布。 然，就是这么一个看似普通的LDA，一度吓退了不少想深入探究其内部原理的初学者。难在哪呢，难就难在LDA内部涉及到的数学知识点太多了。 此外，LDA的图模型结构如下图所示（类似贝叶斯网络结构）： ? 恩，不错，短短6句话整体概括了整个LDA的主体思想！ 因为跟LDA模型最为接近的便是下面要阐述的这个pLSA模型，理解了pLSA模型后，到LDA模型也就一步之遥——给pLSA加上贝叶斯框架，便是LDA。 4.3 LDA模型 事实上，理解了pLSA模型，也就差不多快理解了LDA模型，因为LDA就是在pLSA的基础上加层贝叶斯框架，即LDA就是pLSA的贝叶斯版本（正因为LDA被贝叶斯化了，所以才需要考虑历史先验知识
21.1K83发布于 2018-03-13 - 来自专栏生信修炼手册
LDA线性判别分析
线性判别分析，全称是Linear Discriminant Analysis, 简称LDA, 是一种属于监督学习的降维算法。与PCA这种无监督的降维算法不同，LDA要求输入数据有对应的标签。 LDA降维的基本思想是映射到低维之后，最大化类间均值，最小化类内方差，如下图所示 ? 所以在衡量降维效果的好坏时，需要同时考虑以上两个因素。 LDA算法也是通过类间散度矩阵和类内散度矩阵这两个矩阵来构建广义瑞丽商形式的优化函数，目标函数如下 ? 从上述推导可以看出，LDA降维的过程就是先计算类间和类内两个散度矩阵，然后计算特征值和特征向量，构建投影矩阵，最后投影即可。 = LinearDiscriminantAnalysis(n_components=2) >>> X_r = lda.fit(X, y).transform(X) 和PCA降维相比，LDA降维是有限制的
1.2K30发布于 2021-04-14 - 来自专栏数据科学与人工智能
【算法】LDA算法及应用
笔者邀请您，先思考： 1 您怎么理解LDA算法？ 2 您怎么应用LDA算法？ 3 LDA算法的优劣是什么？ 对于语料库中的每篇文档，LDA定义了如下生成过程（generative process）： 1.对每一篇文档，从主题分布中抽取一个主题 2. 从上述被抽到的主题所对应的单词分布中抽取一个单词 3. LDA图模型 ? 这里对应了LDA的生产过程。 ? 每次生成一篇新的文档前，上帝从服从α为参数的Dir分布的坛子中抽取出一个doc->topic骰子，然后重复以下步骤： i. 方法一：LDA+LR.通过LDA训练得到的theta文件，可以得到上图右部分。
2.3K00发布于 2018-07-30 - 来自专栏Coggle数据科学
LDA线性判别分析
PCA和LDA PCA（主成分分析）和LDA（线性判别分析）有很多的相似点，其本质是要将初始样本映射到维度更低的样本空间中，但是PCA和LDA的映射目标不一样：PCA是为了让映射后的样本具有最大的发散性 ；而LDA是为了让映射后的样本有最好的分类性能。 在我们进行图像识别图像识别相关的数据分析时，LDA是一个有力的工具。下面总结下LDA算法的优缺点。 LDA算法的主要缺点有： LDA不适合对非高斯分布样本进行降维，PCA也有这个问题。 LDA降维最多降到类别数k-1的维数，如果我们降维的维度大于k-1，则不能使用LDA。 当然目前有一些LDA的进化版算法可以绕过这个问题。 LDA在样本分类信息依赖方差而不是均值的时候，降维效果不好。 LDA可能过度拟合数据。 问题回答 图像像素数据，该怎么降维，lda？
1K20发布于 2019-08-29 - 来自专栏叶子的开发者社区
机器学习之LDA算法
LDA目标 LDA的目标：最小化类内协方差，即让同类投影点尽可能的接近；最大化类间协方差，即让异类投影点尽可能远离。 LDA原理推导 二分类优化 多分类优化 LDA除法模型 LDA减法模型 LDA除法正则模型 LDA减法正则模型 证明：St=Sw+Sb 证明： 考虑多分类情况，二分类为多分类的一个特例。 LDA算法流程 下面将逐步介绍LDA步骤： 数据准备： 假设我们有N个样本，每个样本有d个特征。同时，这些样本被标记为K个不同的类别。 LDA缺点 缺点： 假设限制：LDA对数据的假设较为严格，例如假设数据符合正态分布、各个类别样本的协方差矩阵相等等。如果数据不满足这些假设，LDA的性能可能会下降。 基于LDA的人脸识别 机器学习之基于LDA的人脸识别_一片叶子在深大的博客-CSDN博客
3.6K20编辑于 2023-07-30
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号