- 综合排序
- 最热优先
- 最新优先
- 来自专栏Jack96
机器学习_knn算法_2
datasets.load_iris()得到的不是字典是普通的hash类型，因为pandas，matplotlib,sklearn,numpy都是由c封装的，所有的库不是python写的都是由c封装的 是一个元类 In [2] ,y_test = train_test_split(data,target,test_size=0.1) 进行训练(只是为了训练出一组数学模型) k : n_neighbors=5 n_jobs=2 from sklearn.neighbors import KNeighborsClassifier knn = KNeighborsClassifier(n_neighbors=5,n_jobs=2) 0.92） /0.98 对 0.89（训练的数据中没有异常值） 欠拟合 ： 两者都低，或则差异较大（一般不会出现这种情况，数据量及其少的时候会出现） 网格搜索（找值高的）和交叉验证（找相对较高的）(优化算法 ) grid search & cross validation GridSearchCV (可见网络搜索较重要一些) estimator : 估计器，算法(要求写算法的实例，knn) param_grid
68340编辑于 2023-03-07 - 来自专栏小道
机器学习学习笔记(2) -- 推荐算法
1、推荐系统涉及的知识 电子商务业务知识、网站架构运营、机器学习算法、数学建模、大数据平台… 2、推荐系统涉及的常见算法 聚类、关联模式挖掘、大规模矩阵运算、文本挖掘、复杂网络和图论计算等… 3 ，实现方法有基于邻域、基于隐语义模型、基于图的随机游走算法等，目前使用最多的是基于邻域的推荐算法，基于邻域的推荐算法又分为基于物品推荐算法和基于用户推荐算法。 实现基于邻域的算法思路举例： 推荐数据准备：用户id、物品id、偏好值 --- 把数据看成空间中的向量 (1)建立物品的同现矩阵 (2)建立用户对物品的评分矩阵 (3)矩阵计算推荐结果 --- 、结果解读… 算法评估：查准率、召回率（查全率）… 5、Mahout – Hadoop的子项目 Mahout中推荐算法支持单机算法和分布式算法两种，Mohout的推荐系统引擎分为5个模块： 数据模型 Apriori算法： ①找出所有频繁项集 ②由频繁项集产生强关联规则 提高Apriori算法的效率： 基于散列的算法 基于FP tree的算法 7、基于内容的推荐算法 基于内容的推荐算法常见的有根据商品属性和分类进行推荐
1K30发布于 2021-04-13 - 来自专栏云时之间
机器学习常用算法分类(2)
抛砖引玉，我希望在阅读完本文以后，你可以结合一些资料，对监督学习中的最受欢迎的机器学习算法，以及他们的彼此之间的关系有一个比较深刻的了解。 常用的算法是对所有的无标签的数据建模进行的预测算法（可以看做无监督学习的延伸） 2：从功能角度分类 1：回归算法：回归分析是研究自变量和因变量之间关系的一种预测模型技术。 回归分析也是一种常用的统计方法，经由统计机器学习融入机器学习领域。“回归”其实既可以指算法也可以指问题，因此在指代的时候容易混淆。实际上，回归我觉得就是一个过程而已。 常用的回归算法包括： 普通最小二乘回归（OLSR），线性回归，逻辑回归，逐步回归，多元自适应回归样条法（MARS),局部估计平滑散点图（LOESS） 2：基于实例的学习算法：基于实例的学习通过训练数据样本或者实例建模 决策树算法常用于分类和回归。决策树一般速度快，结果准。因此来说这也是属于最受欢迎的机器学习算法之一。
1.1K80发布于 2018-04-11 - 来自专栏数据科学（冷冻工厂）
机器学习经典算法：决策树（2）
概述决策树（Decision Tree）是有监督学习中的一种算法，并且是一种基本的分类与回归的方法。决策树有两种：分类树和回归树。 树形结构图片2. 构建过程包括：特征选择、决策树的生成和决策树的剪枝特征选择标准：希望决策树的分支节点所包含的样本尽可能属于同一类别，也就是节点的纯度（purity）越来越高。 数据集总行数 iset = dataSet.iloc[:,-1].value_counts() #标签的所有类别 p = iset/n #每一类标签所占比 ent = (-p*np.log2( 递归构建ID3构建决策树的算法有很多，比如ID3、C4.5和CART，本文选择ID3算法。
63520编辑于 2023-01-19 - 来自专栏数据科学（冷冻工厂）
机器学习经典算法：决策树（2）
概述 决策树（Decision Tree）是有监督学习中的一种算法，并且是一种基本的分类与回归的方法。决策树有两种：分类树和回归树。 树形结构 树形结构 2. 构建 过程包括：特征选择、决策树的生成和决策树的剪枝 特征选择 标准：希望决策树的分支节点所包含的样本尽可能属于同一类别，也就是节点的纯度（purity）越来越高。 iset = dataSet.iloc[:,-1].value_counts() #标签的所有类别 p = iset/n #每一类标签所占比 ent = (-p*np.log2( 递归构建 ID3 构建决策树的算法有很多，比如ID3、C4.5和CART，本文选择ID3算法。
60020编辑于 2023-02-27 - 来自专栏小鹏的专栏
机器学习算法应用中常用技巧-2
pca.transform(good_data) reduced_data = pd.DataFrame(reduced_data, columns = ['Dimension 1', 'Dimension 2' 聚类－选择类别数 用 silhouette coefficient 计算每个数据到中心点的距离，-1 (dissimilar) to 1 (similar) 根据这个系数来评价聚类算法的优劣。 sklearn.cluster import KMeans from sklearn.metrics import silhouette_score cluster = KMeans(n_clusters=2, truth and prediction""" if len(truth)==len(pred): return "Accuracy for prediction: {:.2f
794100发布于 2018-01-09 - 来自专栏杨熹的专栏
机器学习算法应用中常用技巧-2
pca.transform(good_data) reduced_data = pd.DataFrame(reduced_data, columns = ['Dimension 1', 'Dimension 2' 聚类－选择类别数 用 silhouette coefficient 计算每个数据到中心点的距离，-1 (dissimilar) to 1 (similar) 根据这个系数来评价聚类算法的优劣。 sklearn.cluster import KMeans from sklearn.metrics import silhouette_score cluster = KMeans(n_clusters=2, truth and prediction""" if len(truth)==len(pred): return "Accuracy for prediction: {:.2f
86540发布于 2018-04-02 - 来自专栏数据科学与人工智能
【机器学习】机器学习算法总结
找工作时（IT行业），除了常见的软件开发以外，机器学习岗位也可以当作是一个选择，不少计算机方向的研究生都会接触这个，如果你的研究方向是机器学习/数据挖掘之类，且又对其非常感兴趣的话，可以考虑考虑该岗位， 毕竟在机器智能没达到人类水平之前，机器学习可以作为一种重要手段，而随着科技的不断发展，相信这方面的人才需求也会越来越大。 纵观IT行业的招聘岗位，机器学习之类的岗位还是挺少的，国内大点的公司里百度，阿里，腾讯，网易，搜狐，华为（华为的岗位基本都是随机分配，机器学习等岗位基本面向的是博士）等会有相关职位，另外一些国内的中小型企业和外企也会招一小部分 阿里的算法岗位很大一部分也是搞机器学习相关的。 下面是本人在找机器学习岗位工作时，总结的常见机器学习算法（主要是一些常规分类器）大概流程和主要思想，希望对大家找机器学习岗位时有点帮助。 它在被提出之初就和SVM一起被认为是泛化能力（generalization)较强的算法。近些年更因为被用于搜索排序的机器学习模型而引起大家关注。 GBDT是回归树，不是分类树。
1.5K50发布于 2018-02-27 - 来自专栏null的专栏
简单易学的机器学习算法——线性回归(2)
一、基本线性回归模型的抽象 在基本的线性回归中(可见简单易学的机器学习算法——线性回归(1))，对于一个线性回归为题，我们得到一个线性方程组： ? 2、Moore-Penrose广义逆的性质 定理：Moore-Penrose广义逆存在而且唯一。 四、实验 我们同样采用简单易学的机器学习算法——线性回归(1)中的实验数据，我们得到以下的实验结果： ? 原始数据 ? 最佳拟合直线 MATLAB实验源码 主函数 %% load Data A = load('ex0.txt'); X = A(:,1:2);%读取x Y = A(:,3); ws = pinvRegres (X(:,2),Y(:,1),'.'); plot(x,y); hold off 求线性回归系数 function [ ws ] = pinvRegres( X, Y ) [m,n] =
1.2K20发布于 2019-02-13 - 来自专栏数据科学与人工智能
【机器学习】机器学习算法之旅
在理解了我们需要解决的机器学习问题之后，我们可以思考一下我们需要收集什么数据以及我们可以用什么算法。本文我们会过一遍最流行的机器学习算法，大致了解哪些方法可用，很有帮助。 机器学习领域有很多算法，然后每种算法又有很多延伸，所以对于一个特定问题，如何确定一个正确的算法是很困难的。本文中我想给你们两种方法来归纳在现实中会遇到的算法。 学习方式 根据如何处理经验、环境或者任何我们称之为输入的数据，算法分为不同种类。机器学习和人工智能课本通常先考虑算法可以适应的学习方式。 这里只讨论几个主要的学习风格或学习模型，并且有几个基本的例子。 正如机器学习算法本身没有完美的模型一样，算法的分类方法也没有完美的。 在这一部分我列出了我认为最直观的方法归类的算法。我并没有穷尽算法或者分类方法，但是我想对于让读者有一个大致了解很有帮助。 其他资源 这趟机器学习算法之旅意在让你对有什么算法和关联算法的一些工具给你一个总体了解。 下面是一些其他资源， 请不要觉得太多，了解越多算法对你越有好处，但是对某些算法有深层次的了解也会很有用。
1K90发布于 2018-02-27 - 来自专栏数据科学与人工智能
【机器学习】机器学习算法之旅
在理解了我们需要解决的机器学习问题之后，我们可以思考一下我们需要收集什么数据以及我们可以用什么算法。本文我们会过一遍最流行的机器学习算法，大致了解哪些方法可用，很有帮助。 机器学习领域有很多算法，然后每种算法又有很多延伸，所以对于一个特定问题，如何确定一个正确的算法是很困难的。本文中我想给你们两种方法来归纳在现实中会遇到的算法。 学习方式 根据如何处理经验、环境或者任何我们称之为输入的数据，算法分为不同种类。机器学习和人工智能课本通常先考虑算法可以适应的学习方式。 这里只讨论几个主要的学习风格或学习模型，并且有几个基本的例子。 正如机器学习算法本身没有完美的模型一样，算法的分类方法也没有完美的。 在这一部分我列出了我认为最直观的方法归类的算法。我并没有穷尽算法或者分类方法，但是我想对于让读者有一个大致了解很有帮助。 其他资源 这趟机器学习算法之旅意在让你对有什么算法和关联算法的一些工具给你一个总体了解。 下面是一些其他资源， 请不要觉得太多，了解越多算法对你越有好处，但是对某些算法有深层次的了解也会很有用。
991100发布于 2018-02-27 - 来自专栏数据科学与人工智能
【机器学习】机器学习算法预览
在这篇文章中，我要带大家预览一下机器学习中最热门的算法。预览主要的机器学习算法可在某种程度上给你这样的一种感觉，让你知道什么样的方法是可靠的。 在这篇文章中，我会提供2个方法来帮助你思考和分类这些算法，而这些你也许能用得上。 我们首先可以按照算法的类型进行分组。 请记住：这里在使用算法解决分类和回归问题的过程中，存在较大的偏见，而且你会遇到2种最常见的机器学习里的监督学习问题。 最热门的实例算法如下： 1.k-最邻近 2.学习矢量量化（LQV） 3.自组织图（SOM） 4.局部加权学习（LWL） ? 怎样学习机器学习算法 算法是机器学习的一个大模块。这个话题我是很有兴趣的，而且之前也写了很多这方面的博客。
1.3K50发布于 2018-02-27 - 来自专栏null的专栏
简单易学的机器学习算法——线性回归(2)
一、基本线性回归模型的抽象 在基本的线性回归中(可见简单易学的机器学习算法——线性回归(1))，对于一个线性回归为题，我们得到一个线性方程组： 在上一篇中我们是构建平方误差函数使得误差函数取得最小值得方法求得回归系数 四、实验 我们同样采用简单易学的机器学习算法——线性回归(1)中的实验数据，我们得到以下的实验结果： 原始数据 最佳拟合直线 MATLAB实验源码 主函数 %% load Data A = load ('ex0.txt'); X = A(:,1:2);%读取x Y = A(:,3); ws = pinvRegres(X,Y); %% plot the regression function x = 0:1; y = ws(1,:)+ws(2,:)*x; hold on xlabel x; ylabel y; plot(X(:,2),Y(:,1),'.'); plot(x,y); hold off
93330发布于 2018-03-16 - 来自专栏数据科学与人工智能
【机器学习】机器学习分类算法总结
（1）决策树 决策树是用于分类和预测的主要技术之一，决策树学习是以实例为基础的归纳学习算法，它着眼于从一组无次序、无规则的实例中推理出以决策树表示的分类规则。 （2）贝叶斯 贝叶斯（Bayes）分类算法是一类利用概率统计知识进行分类的算法，如朴素贝叶斯（Naive Bayes）算法。 因此，学者们对多种分类方法的融合即集成学习进行了广泛的研究。集成学习已成为国际机器学习界的研究热点，并被称为当前机器学习四个主要研究方向之一。 集成学习是一种机器学习范式，它试图通过连续调用单个的学习算法，获得不同的基学习器，然后根据规则组合这些学习器来解决同一个问题，可以显著的提高学习系统的泛化能力。 模型正确地预测新样本的类标号的能力； （2）计算速度。包括构造模型以及使用模型进行分类的时间； （3）强壮性。模型对噪声数据或空缺值数据正确预测的能力； （4）可伸缩性。
1.4K50发布于 2018-02-26 - 来自专栏数据科学与人工智能
【算法】基础机器学习算法
笔者邀请您，先思考： 1 您熟悉那些学习算法？ 2 您应用那些机器学习算法？ 本篇内容主要是面向机器学习初学者,介绍常见的机器学习算法，当然,欢迎同行交流。 ? 哲学要回答的基本问题是从哪里来、我是谁、到哪里去，寻找答案的过程或许可以借鉴机器学习的套路：组织数据->挖掘知识->预测未来。 本篇重点是机器学习算法的介绍，可以分为监督学习和无监督学习两大类。 ? 无监督学习算法很多，最近几年业界比较关注主题模型，LSA->PLSA->LDA为主题模型三个发展阶段的典型算法，它们主要是建模假设条件上存在差异。 介绍了这么多机器学习基础算法，说一说评价模型优劣的基本准则。
67440发布于 2018-07-30 - 来自专栏生信小驿站
机器学习算法①
机器学习算法 广泛地说，有三种类型的机器学习算法。 1.监督学习 这个算法由一个目标/结果变量（或因变量）组成，这个变量可以从一组给定的预测变量（独立变量）中预测出来。 监督学习的例子：回归，决策树，随机森林，KNN，逻辑回归等。 2.无监督学习 在这个算法中，我们没有任何目标或结果变量来预测/估计。 无监督学习的例子：Apriori算法，K-means。 3.强化学习： 使用这种算法，机器被训练做出特定的决定。 它是这样工作的：机器暴露在一个环境中，它使用反复试验不断地训练自己。 这台机器从过去的经验中学习，并试图捕捉最好的知识，做出准确的业务决策。 强化学习实例：马尔可夫决策过程 这里是常用的机器学习算法列表。 这些算法可以应用于几乎所有的数据问题： 线性回归 Logistic回归 决策树 SVM 朴素贝叶斯 KNN K均值 随机森林 维度降低算法 梯度提升算法 GBM XGBoost
58520发布于 2018-08-27 - 来自专栏null的专栏
简单易学的机器学习算法——协同过滤推荐算法(2)
具体的可以参见上一篇文章“协同过滤推荐算法(1) ”。 二、面临的问题 在基本的协同过滤的推荐系统中(主要指上面所提到的基本模型中)，我们是在整个空间上计算相似度，进而实现推荐的。 对于这样的稀疏矩阵，我们利用基本的协同过滤推荐算法的效率必将很低。 （推荐结果） MATLAB代码 主程序 %% 主函数 % 导入数据 %data = [4,4,0,2,2;4,0,0,3,3;4,0,0,1,1;1,1,1,2,0;2,2,2,0,0;1,1,1,0,0 ;5,5,5,0,0]; data = [2,0,0,4,4,0,0,0,0,0,0;0,0,0,0,0,0,0,0,0,0,5;0,0,0,0,0,0,0,1,0,4,0;3,3,4,0,3,0,0,2,2,0,0 1:numOfIndex sortIndex(m,:) = itemScore(sortIndex_1(m,:),1); end end 相似度的计算与博文“协同过滤推荐算法
60120发布于 2019-02-13 - 来自专栏Lansonli技术博客
机器学习（五）：机器学习算法分类
机器学习算法分类根据数据集组成不同，可以把机器学习算法分为：监督学习无监督学习半监督学习强化学习一、监督学习定义：输入数据是由输入特征值和目标值所组成。 2、分类问题例如：根据肿瘤特征判断良性还是恶性，得到的是结果是“良性”或者“恶性”，是离散的。二、无监督学习定义：输入数据是由输入特征值组成，没有目标值。输入数据没有被标记，也没有确定的结果。 有监督，无监督算法对比：三、半监督学习定义：训练集同时包含有标记样本数据和未标记样本数据。 监督学习和强化学习的对比监督学习强化学习反馈映射输出的是之间的关系，可以告诉算法什么样的输入对应着什么样的输出。输出的是给机器的反馈 reward function，即用来判断这个行为是好是坏。 面对的输入总是在变化，每当算法做出一个行为，它影响下一次决策的输入。
1.4K41编辑于 2023-02-17 - 来自专栏null的专栏
简单易学的机器学习算法——协同过滤推荐算法(2)
具体的可以参见上一篇文章“协同过滤推荐算法(1) ”。 二、面临的问题 在基本的协同过滤的推荐系统中(主要指上面所提到的基本模型中)，我们是在整个空间上计算相似度，进而实现推荐的。 对于这样的稀疏矩阵，我们利用基本的协同过滤推荐算法的效率必将很低。 （推荐结果） MATLAB代码 主程序 %% 主函数 % 导入数据 %data = [4,4,0,2,2;4,0,0,3,3;4,0,0,1,1;1,1,1,2,0;2,2,2,0,0;1,1,1,0,0 ;5,5,5,0,0]; data = [2,0,0,4,4,0,0,0,0,0,0;0,0,0,0,0,0,0,0,0,0,5;0,0,0,0,0,0,0,1,0,4,0;3,3,4,0,3,0,0,2,2,0,0 1:numOfIndex sortIndex(m,:) = itemScore(sortIndex_1(m,:),1); end end 相似度的计算与博文“协同过滤推荐算法
80060发布于 2018-03-15 - 来自专栏实时计算
机器学习（七）--------机器学习算法选择
1.尝试减少特征的数量 2.尝试获得更多的特征 3.尝试增加多项式特征 4.尝试减少正则化程度? 我们需要使用交叉 验证集来帮助选择模型。 使用训练集训练出 10 个模型 用 10 个模型分别对交叉验证集计算得出交叉验证误差（代价函数的值） 选取代价函数值最小的模型 用步骤 3 中选出的模型对测试集计算得出推广误差（代价函数的值） 当你运行一个学习算法时 ，如果这个算法的表现不理想，那么多半是出现两种情况： 要么是偏差比较大，要么是方差比较大。
59620发布于 2019-08-08
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号