- 综合排序
- 最热优先
- 最新优先
- 来自专栏MiningAlgorithms
机器学习9：采样
另外，利用重采样技术，可以在保持特定的信息下（目标信息不丢失），有意识地改变样本的分布，以更适应后续的模型训练和学习，例如利用重采样来处理分类模型的训练样本不均衡问题。 对于很多分类算法，如果直接采用不均衡的样本集来进行训练学习，会存在一些问题。 SMOTE算法为每个少数类样本合成相同数量的新样本，这可能会增大类间重叠度，并且会生成一些不能提供有益信息的样本。为此出现Borderline-SMOTE、ADASYN等改进算法。 同样地，对于欠采样，可以采用InformedUndersampling来解决由于随机欠采样带来的数据丢失问题 7.2，基于算法的方法： 在样本不均衡时，也可以通过改变模型训练时的目标函数（如代价敏感学习中不同类别有不同的权重 if __name__ == '__main__': plot_mcmc(0.1, 0.1) plot_mcmc(1, 1) plot_mcmc(2, 3) Reference： 《百面机器学习
2.4K30发布于 2019-08-08 - 来自专栏AI机器学习与深度学习算法
机器学习入门 9-4 实现逻辑回归算法
全文字数：864字 阅读时间：8分钟 前言 本系列是《玩转机器学习教程》一个整理的视频笔记。本小节主要依据sklearn的设计理念封装我们自己的逻辑回归算法，最后在jupyter中调用并实现。 a 实 现 逻 辑 回 归 算 法 在之前的小节中详细推导了逻辑回归算法的损失函数。 由于逻辑回归算法没有解析解，只能通过梯度下降算法更新迭代求解，因此我们又详细推导了损失函数相应的梯度向量以及向量化的梯度表达式。 通过之前的学习我们知道逻辑回归算法和线性回归算法有很多相似之处，我们完全可以在原来实现的LinearRegression基础上修改成LogisticRegression。 接下来就具体的实现我们自己的逻辑回归算法： 导入相应的模块 由于逻辑回归算法解决的是分类问题，所以通过accuracy_score准确率来评估模型的好坏。
88620发布于 2020-02-26 - 来自专栏数据科学与人工智能
【机器学习】机器学习算法总结
找工作时（IT行业），除了常见的软件开发以外，机器学习岗位也可以当作是一个选择，不少计算机方向的研究生都会接触这个，如果你的研究方向是机器学习/数据挖掘之类，且又对其非常感兴趣的话，可以考虑考虑该岗位， 毕竟在机器智能没达到人类水平之前，机器学习可以作为一种重要手段，而随着科技的不断发展，相信这方面的人才需求也会越来越大。 纵观IT行业的招聘岗位，机器学习之类的岗位还是挺少的，国内大点的公司里百度，阿里，腾讯，网易，搜狐，华为（华为的岗位基本都是随机分配，机器学习等岗位基本面向的是博士）等会有相关职位，另外一些国内的中小型企业和外企也会招一小部分 阿里的算法岗位很大一部分也是搞机器学习相关的。 下面是本人在找机器学习岗位工作时，总结的常见机器学习算法（主要是一些常规分类器）大概流程和主要思想，希望对大家找机器学习岗位时有点帮助。 它在被提出之初就和SVM一起被认为是泛化能力（generalization)较强的算法。近些年更因为被用于搜索排序的机器学习模型而引起大家关注。 GBDT是回归树，不是分类树。
1.5K50发布于 2018-02-27 - 来自专栏数据科学与人工智能
【机器学习】机器学习算法之旅
在理解了我们需要解决的机器学习问题之后，我们可以思考一下我们需要收集什么数据以及我们可以用什么算法。本文我们会过一遍最流行的机器学习算法，大致了解哪些方法可用，很有帮助。 机器学习领域有很多算法，然后每种算法又有很多延伸，所以对于一个特定问题，如何确定一个正确的算法是很困难的。本文中我想给你们两种方法来归纳在现实中会遇到的算法。 学习方式 根据如何处理经验、环境或者任何我们称之为输入的数据，算法分为不同种类。机器学习和人工智能课本通常先考虑算法可以适应的学习方式。 这里只讨论几个主要的学习风格或学习模型，并且有几个基本的例子。 正如机器学习算法本身没有完美的模型一样，算法的分类方法也没有完美的。 在这一部分我列出了我认为最直观的方法归类的算法。我并没有穷尽算法或者分类方法，但是我想对于让读者有一个大致了解很有帮助。 其他资源 这趟机器学习算法之旅意在让你对有什么算法和关联算法的一些工具给你一个总体了解。 下面是一些其他资源， 请不要觉得太多，了解越多算法对你越有好处，但是对某些算法有深层次的了解也会很有用。
1K90发布于 2018-02-27 - 来自专栏数据科学与人工智能
【机器学习】机器学习算法之旅
在理解了我们需要解决的机器学习问题之后，我们可以思考一下我们需要收集什么数据以及我们可以用什么算法。本文我们会过一遍最流行的机器学习算法，大致了解哪些方法可用，很有帮助。 机器学习领域有很多算法，然后每种算法又有很多延伸，所以对于一个特定问题，如何确定一个正确的算法是很困难的。本文中我想给你们两种方法来归纳在现实中会遇到的算法。 学习方式 根据如何处理经验、环境或者任何我们称之为输入的数据，算法分为不同种类。机器学习和人工智能课本通常先考虑算法可以适应的学习方式。 这里只讨论几个主要的学习风格或学习模型，并且有几个基本的例子。 正如机器学习算法本身没有完美的模型一样，算法的分类方法也没有完美的。 在这一部分我列出了我认为最直观的方法归类的算法。我并没有穷尽算法或者分类方法，但是我想对于让读者有一个大致了解很有帮助。 其他资源 这趟机器学习算法之旅意在让你对有什么算法和关联算法的一些工具给你一个总体了解。 下面是一些其他资源， 请不要觉得太多，了解越多算法对你越有好处，但是对某些算法有深层次的了解也会很有用。
991100发布于 2018-02-27 - 来自专栏数据科学与人工智能
【机器学习】机器学习算法预览
在这篇文章中，我要带大家预览一下机器学习中最热门的算法。预览主要的机器学习算法可在某种程度上给你这样的一种感觉，让你知道什么样的方法是可靠的。 在很多畅销的机器学习和人工智能教材中，它们首先都会考虑如何根据算法的类型进行运用。 下面是一些我不会在这篇文章列举出来的机器学习算法，它们用于解决特别的任务的过程，例如： 功能选择算法 算法精度评估 性能测试 我也不会列举那些用于子领域的机器学习算法，例如 怎样学习机器学习算法 算法是机器学习的一个大模块。这个话题我是很有兴趣的，而且之前也写了很多这方面的博客。 如何运行这些机器学习算法 有时，你需要的只是一些代码。下面这些链接可以让你明白如何运行机器学习算法，并使用常规的库来编写这些代码或者从研究者运用它们。
1.3K50发布于 2018-02-27 - 来自专栏机器学习算法与Python学习
机器学习(9)之ID3算法详解及python实现
关键字全网搜索最新排名 【机器学习算法】：排名第一 【机器学习】：排名第二 【Python】：排名第三 【算法】：排名第四 前言 决策树算法在机器学习中算是很经典的算法系列。 它既可以作为分类算法，也可以作为回归算法，同时也特别适合集成学习比如随机森林。本文就对决策树算法ID3思想做个总结。 其中有9个输出为0， 6个输出为1。 样本中有个特征A，取值为A1，A2和A3。 c) ID3算法对于缺失值的情况没有做考虑 d) 没有考虑过拟合的问题 ID3 算法的作者昆兰基于上述不足，对ID3算法做了改进，这就是C4.5算法。 周志华《机器学习》 2. http://www.cnblogs.com/pinard/p/6018889.html
2K70发布于 2018-04-04 - 来自专栏数据科学与人工智能
【机器学习】机器学习分类算法总结
主要分类方法介绍解决分类问题的方法很多，单一的分类方法主要包括：决策树、贝叶斯、人工神经网络、K-近邻、支持向量机和基于关联规则的分类等；另外还有用于组合单一分类方法的集成学习算法，如Bagging和Boosting （1）决策树 决策树是用于分类和预测的主要技术之一，决策树学习是以实例为基础的归纳学习算法，它着眼于从一组无次序、无规则的实例中推理出以决策树表示的分类规则。 因此，学者们对多种分类方法的融合即集成学习进行了广泛的研究。集成学习已成为国际机器学习界的研究热点，并被称为当前机器学习四个主要研究方向之一。 集成学习是一种机器学习范式，它试图通过连续调用单个的学习算法，获得不同的基学习器，然后根据规则组合这些学习器来解决同一个问题，可以显著的提高学习系统的泛化能力。 组合多个基学习器主要采用（加权）投票的方法，常见的算法有装袋（Bagging），提升/推进 （Boosting）等。
1.4K50发布于 2018-02-26 - 来自专栏数据科学与人工智能
【算法】基础机器学习算法
笔者邀请您，先思考： 1 您熟悉那些学习算法？ 2 您应用那些机器学习算法？ 本篇内容主要是面向机器学习初学者,介绍常见的机器学习算法，当然,欢迎同行交流。 ? 哲学要回答的基本问题是从哪里来、我是谁、到哪里去，寻找答案的过程或许可以借鉴机器学习的套路：组织数据->挖掘知识->预测未来。 本篇重点是机器学习算法的介绍，可以分为监督学习和无监督学习两大类。 ? 无监督学习算法很多，最近几年业界比较关注主题模型，LSA->PLSA->LDA为主题模型三个发展阶段的典型算法，它们主要是建模假设条件上存在差异。 介绍了这么多机器学习基础算法，说一说评价模型优劣的基本准则。
67440发布于 2018-07-30 - 来自专栏生信小驿站
机器学习算法①
机器学习算法 广泛地说，有三种类型的机器学习算法。 1.监督学习 这个算法由一个目标/结果变量（或因变量）组成，这个变量可以从一组给定的预测变量（独立变量）中预测出来。 监督学习的例子：回归，决策树，随机森林，KNN，逻辑回归等。 2.无监督学习 在这个算法中，我们没有任何目标或结果变量来预测/估计。 无监督学习的例子：Apriori算法，K-means。 3.强化学习： 使用这种算法，机器被训练做出特定的决定。 它是这样工作的：机器暴露在一个环境中，它使用反复试验不断地训练自己。 这台机器从过去的经验中学习，并试图捕捉最好的知识，做出准确的业务决策。 强化学习实例：马尔可夫决策过程 这里是常用的机器学习算法列表。 这些算法可以应用于几乎所有的数据问题： 线性回归 Logistic回归 决策树 SVM 朴素贝叶斯 KNN K均值 随机森林 维度降低算法 梯度提升算法 GBM XGBoost
58520发布于 2018-08-27 - 来自专栏机器学习算法工程师
《机器学习》笔记-聚类（9）
作者： 刘才权 编辑： 黄俊嘉 前 言 如今机器学习和深度学习如此火热，相信很多像我一样的普通程序猿或者还在大学校园中的同学，一定也想参与其中。 对于自己，经历了一段时间的系统学习（参考《机器学习/深度学习入门资料汇总》(https://zhuanlan.zhihu.com/p/30980999)），现在计划重新阅读《机器学习》[周志华]和《深度学习 这两本是机器学习和深度学习的入门经典。 记录笔记，一方面，是对自己先前学习过程的总结和补充。 另一方面，相信这个系列学习过程的记录，也能为像我一样入门机器学习和深度学习同学作为学习参考。 学习向量量化 与k均值算法类似，“学习向量量化”（Learning Vector Quantization，简称LVQ）也是试图找到一组原型向量来刻画聚类结构，但与一般的聚类算法不同的是，LVQ假设数据样本带有类别标记
65450发布于 2018-06-07 - 来自专栏SuperFeng
机器学习系列9：正则化
有两种方法去解决过拟合的问题： 1.减少特征变量的数目： 手动选择哪个特征变量要舍弃 ； 模型选择算法。 2.正则化： 保留所有的特征变量，但是减小量级或参数 θ_ j 的大小。
70420发布于 2019-09-26 - 来自专栏Lansonli技术博客
机器学习（五）：机器学习算法分类
机器学习算法分类根据数据集组成不同，可以把机器学习算法分为：监督学习无监督学习半监督学习强化学习一、监督学习定义：输入数据是由输入特征值和目标值所组成。 有监督，无监督算法对比：三、半监督学习定义：训练集同时包含有标记样本数据和未标记样本数据。 监督学习和强化学习的对比监督学习强化学习反馈映射输出的是之间的关系，可以告诉算法什么样的输入对应着什么样的输出。输出的是给机器的反馈 reward function，即用来判断这个行为是好是坏。 反馈时间做了比较坏的选择会立刻反馈给算法。结果反馈有延时，有时候可能需要走了很多步以后才知道以前的某一步的选择是好还是坏。输入特征输入是独立同分布的。 面对的输入总是在变化，每当算法做出一个行为，它影响下一次决策的输入。
1.4K41编辑于 2023-02-17 - 来自专栏实时计算
机器学习（七）--------机器学习算法选择
使用训练集训练出 10 个模型 用 10 个模型分别对交叉验证集计算得出交叉验证误差（代价函数的值） 选取代价函数值最小的模型 用步骤 3 中选出的模型对测试集计算得出推广误差（代价函数的值） 当你运行一个学习算法时 ，如果这个算法的表现不理想，那么多半是出现两种情况： 要么是偏差比较大，要么是方差比较大。
59620发布于 2019-08-08 - 来自专栏不仅仅是python
机器学习-常用的机器学习算法
概要 主要展示常用的机器学习算法。 涵盖的算法 - 线性回归，逻辑回归，朴素贝叶斯，kNN，随机森林等。 学习使用python语言实现这些算法。 （放在后面的文章总演示每个算法的使用，本文只介绍常用的机器学习算法） ? 介绍 谷歌的自动驾驶汽车和机器人得到了很多新闻，但该公司真正的未来是机器学习，这种技术使计算机变得更聪明，更个性化。 从广义上讲，有3种类型的机器学习算法，让我们来看看每一种类型的算法。 无监督学习的例子：Apriori算法，K-means。 强化学习(Reinforcement Learning) 工作原理：使用此算法，机器经过培训，可以做出具体决策。 ） Gradient Boosting algorithms（渐变Boosting算法） GBM XGBoost LightGBM CatBoost 今天的机器学习算法介绍就到这里，接下来的文章会具体介绍每一种算法
80231发布于 2019-09-12 - 来自专栏机器学习原理
机器学习（9）——SVM数学基础
支持向量机涉及到数学公式和定力非常多，只有掌握了这些数学公式才能更好地理解支持向量机算法。 参考： 如果公式推导还是不懂，也可以参考《统计学习方法》李航-P103<学习的对偶算法> 点到超平面距离公式： 加入为二维空间可以转化为点到直线的距离，用以前学过的点到直线距离可以表示如下面所示： ? 感知器模型 感知器算法是最古老的分类算法之一,原理比较简单,不过模型的分类泛化能力比较弱,不过感知器模型是SⅥM、神经网络、深度学习等算法的基础。
1.2K60发布于 2018-04-27 - 来自专栏趣Python
机器学习（9）决策树
决策树仍然是监督学习方法，其基本思路跟我们人做一些决策的思路类似：可能要下雨，那就带伞；可能要停水，那就提前备水…… 这个决策的数学模型是熵。 决策树的算法推导流程如下： ? 如下示例的题材，最后一列是结果，其他列是输入。 ? ID3的手推示例如下所示： ? ? ? CART的手推示例如下所示： ? ? ? ?
50520发布于 2020-06-05 - 来自专栏数据科学与人工智能
【机器学习】机器学习常见算法分类汇总
机器学习无疑是当前数据分析领域的一个热点内容。很多人在平时的工作中都或多或少会用到机器学习的算法。本文为您总结一下常见的机器学习算法，以供您在工作和学习中参考。 机器学习的算法很多。 学习方式 根据数据类型的不同，对一个问题的建模有不同的方式。在机器学习或者人工智能领域，人们首先会考虑算法的学习方式。在机器学习领域，有几种主要的学习方式。 算法类似性 根据算法的功能和形式的类似性，我们可以把算法分类，比如说基于树的算法，基于神经网络的算法等等。当然，机器学习的范围非常庞大，有些算法很难明确归类到某一类。 回归算法是统计机器学习的利器。在机器学习领域，人们说起回归，有时候是指一类问题，有时候是指一类算法，这一点常常会使初学者有所困惑。 人工神经网络算法模拟生物神经网络，是一类模式匹配算法。通常用于解决分类和回归问题。人工神经网络是机器学习的一个庞大的分支，有几百种不同的算法。
1.2K100发布于 2018-02-27 - 来自专栏MiningAlgorithms
机器学习11：机器学习算法目录（前）
机器学习算法目录： 一、模型选择与评价： 1，误差：误差由偏差(bias)、方差(variance)和噪声(noise)组成； 2，多分类学习：一对一、一对其余、多对多（参考：西瓜书p63）；单标签二分类 3，交叉验证，网格搜索： 4，模型评价相关指标： 5，模型持久化（modelpersistence）： 6，验证曲线（validationcurves）： 二、机器学习部分： 1，线性回归： 最小二乘 8， EM算法（无监督算法）分三步、GMM（高斯混合聚类） 要点：EM算法（概率模型依赖于无法观测的隐藏变量无法单纯用MLE或者MAP；EM算法与K-means算法相似）； 9，隐马尔可夫模型（HMM） ：条件随机场、GM-HMM、概率计算问题（前向-后向算法）、学习问题（Bawm-Welch算法）、预测问题（Viterbi算法）。 12，集成学习（已整理为：机器学习5-8）：随机森林（Extra tree、Totally Random Trees Embedding、Isolation forest）、Adboost、GBDT、XGBoost
1.1K20发布于 2019-08-08 - 来自专栏WD学习记录
机器学习 学习笔记（9）支持向量机
SMO详细步骤见 机器学习 学习笔记（10）序列最小最优化算法 定理核函数：令 ? 为输入空间， ? 是定义在 ? 上的对称函数，则 ? 是核函数当且仅当对于任意数据 ? 通过引入核化（即引入核函数）来将现行学习期拓展为非线性学习器。 SVM smo代码如下： # 代码和数据集主要源自于机器学习实战，https://github.com/AnnDWang/MachineLearning/blob/master/thirdbook/ch6 # 选择alpha的方式不同 # 完整版的platt smo算法应用了一些能够提速的启发方法 # platt smo算法是通过一个外循环来选择第一个alpha值得，并且其选择过程会在两种方式之间进行交替 # 如果支持向量太少，就可能会得到一个很差的决策边界 # 如果支持向量太多，也就相当于每次都利用整个数据集进行分类 参考： 《机器学习》 《统计学习方法》 《机器学习实战》
99020发布于 2018-09-03
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号