- 综合排序
- 最热优先
- 最新优先
- 来自专栏Jack96
机器学习_knn算法_2
datasets.load_iris()得到的不是字典是普通的hash类型，因为pandas，matplotlib,sklearn,numpy都是由c封装的，所有的库不是python写的都是由c封装的 是一个元类 In [2] ,y_test = train_test_split(data,target,test_size=0.1) 进行训练(只是为了训练出一组数学模型) k : n_neighbors=5 n_jobs=2 from sklearn.neighbors import KNeighborsClassifier knn = KNeighborsClassifier(n_neighbors=5,n_jobs=2) 0.92） /0.98 对 0.89（训练的数据中没有异常值） 欠拟合 ： 两者都低，或则差异较大（一般不会出现这种情况，数据量及其少的时候会出现） 网格搜索（找值高的）和交叉验证（找相对较高的）(优化算法 ) grid search & cross validation GridSearchCV (可见网络搜索较重要一些) estimator : 估计器，算法(要求写算法的实例，knn) param_grid
62340编辑于 2023-03-07 - 来自专栏云时之间
机器学习常用算法分类(2)
抛砖引玉，我希望在阅读完本文以后，你可以结合一些资料，对监督学习中的最受欢迎的机器学习算法，以及他们的彼此之间的关系有一个比较深刻的了解。 常用的算法是对所有的无标签的数据建模进行的预测算法（可以看做无监督学习的延伸） 2：从功能角度分类 1：回归算法：回归分析是研究自变量和因变量之间关系的一种预测模型技术。 回归分析也是一种常用的统计方法，经由统计机器学习融入机器学习领域。“回归”其实既可以指算法也可以指问题，因此在指代的时候容易混淆。实际上，回归我觉得就是一个过程而已。 常用的回归算法包括： 普通最小二乘回归（OLSR），线性回归，逻辑回归，逐步回归，多元自适应回归样条法（MARS),局部估计平滑散点图（LOESS） 2：基于实例的学习算法：基于实例的学习通过训练数据样本或者实例建模 决策树算法常用于分类和回归。决策树一般速度快，结果准。因此来说这也是属于最受欢迎的机器学习算法之一。
1K80发布于 2018-04-11 - 来自专栏小道
机器学习学习笔记(2) -- 推荐算法
1、推荐系统涉及的知识 电子商务业务知识、网站架构运营、机器学习算法、数学建模、大数据平台… 2、推荐系统涉及的常见算法 聚类、关联模式挖掘、大规模矩阵运算、文本挖掘、复杂网络和图论计算等… 3 ，实现方法有基于邻域、基于隐语义模型、基于图的随机游走算法等，目前使用最多的是基于邻域的推荐算法，基于邻域的推荐算法又分为基于物品推荐算法和基于用户推荐算法。 实现基于邻域的算法思路举例： 推荐数据准备：用户id、物品id、偏好值 --- 把数据看成空间中的向量 (1)建立物品的同现矩阵 (2)建立用户对物品的评分矩阵 (3)矩阵计算推荐结果 --- 、结果解读… 算法评估：查准率、召回率（查全率）… 5、Mahout – Hadoop的子项目 Mahout中推荐算法支持单机算法和分布式算法两种，Mohout的推荐系统引擎分为5个模块： 数据模型 Apriori算法： ①找出所有频繁项集 ②由频繁项集产生强关联规则 提高Apriori算法的效率： 基于散列的算法 基于FP tree的算法 7、基于内容的推荐算法 基于内容的推荐算法常见的有根据商品属性和分类进行推荐
93030发布于 2021-04-13 - 来自专栏数据科学（冷冻工厂）
机器学习经典算法：决策树（2）
概述决策树（Decision Tree）是有监督学习中的一种算法，并且是一种基本的分类与回归的方法。决策树有两种：分类树和回归树。 树形结构图片2. 构建过程包括：特征选择、决策树的生成和决策树的剪枝特征选择标准：希望决策树的分支节点所包含的样本尽可能属于同一类别，也就是节点的纯度（purity）越来越高。 数据集总行数 iset = dataSet.iloc[:,-1].value_counts() #标签的所有类别 p = iset/n #每一类标签所占比 ent = (-p*np.log2( 递归构建ID3构建决策树的算法有很多，比如ID3、C4.5和CART，本文选择ID3算法。
56220编辑于 2023-01-19 - 来自专栏数据科学（冷冻工厂）
机器学习经典算法：决策树（2）
概述 决策树（Decision Tree）是有监督学习中的一种算法，并且是一种基本的分类与回归的方法。决策树有两种：分类树和回归树。 树形结构 树形结构 2. 构建 过程包括：特征选择、决策树的生成和决策树的剪枝 特征选择 标准：希望决策树的分支节点所包含的样本尽可能属于同一类别，也就是节点的纯度（purity）越来越高。 iset = dataSet.iloc[:,-1].value_counts() #标签的所有类别 p = iset/n #每一类标签所占比 ent = (-p*np.log2( 递归构建 ID3 构建决策树的算法有很多，比如ID3、C4.5和CART，本文选择ID3算法。
53320编辑于 2023-02-27 - 来自专栏小鹏的专栏
机器学习算法应用中常用技巧-2
pca.transform(good_data) reduced_data = pd.DataFrame(reduced_data, columns = ['Dimension 1', 'Dimension 2' 聚类－选择类别数 用 silhouette coefficient 计算每个数据到中心点的距离，-1 (dissimilar) to 1 (similar) 根据这个系数来评价聚类算法的优劣。 sklearn.cluster import KMeans from sklearn.metrics import silhouette_score cluster = KMeans(n_clusters=2, truth and prediction""" if len(truth)==len(pred): return "Accuracy for prediction: {:.2f
743100发布于 2018-01-09 - 来自专栏杨熹的专栏
机器学习算法应用中常用技巧-2
pca.transform(good_data) reduced_data = pd.DataFrame(reduced_data, columns = ['Dimension 1', 'Dimension 2' 聚类－选择类别数 用 silhouette coefficient 计算每个数据到中心点的距离，-1 (dissimilar) to 1 (similar) 根据这个系数来评价聚类算法的优劣。 sklearn.cluster import KMeans from sklearn.metrics import silhouette_score cluster = KMeans(n_clusters=2, truth and prediction""" if len(truth)==len(pred): return "Accuracy for prediction: {:.2f
82140发布于 2018-04-02 - 来自专栏null的专栏
简单易学的机器学习算法——协同过滤推荐算法(2)
具体的可以参见上一篇文章“协同过滤推荐算法(1) ”。 二、面临的问题 在基本的协同过滤的推荐系统中(主要指上面所提到的基本模型中)，我们是在整个空间上计算相似度，进而实现推荐的。 对于这样的稀疏矩阵，我们利用基本的协同过滤推荐算法的效率必将很低。 （推荐结果） MATLAB代码 主程序 %% 主函数 % 导入数据 %data = [4,4,0,2,2;4,0,0,3,3;4,0,0,1,1;1,1,1,2,0;2,2,2,0,0;1,1,1,0,0 ;5,5,5,0,0]; data = [2,0,0,4,4,0,0,0,0,0,0;0,0,0,0,0,0,0,0,0,0,5;0,0,0,0,0,0,0,1,0,4,0;3,3,4,0,3,0,0,2,2,0,0 1:numOfIndex sortIndex(m,:) = itemScore(sortIndex_1(m,:),1); end end 相似度的计算与博文“协同过滤推荐算法
55520发布于 2019-02-13 - 来自专栏null的专栏
简单易学的机器学习算法——协同过滤推荐算法(2)
具体的可以参见上一篇文章“协同过滤推荐算法(1) ”。 二、面临的问题 在基本的协同过滤的推荐系统中(主要指上面所提到的基本模型中)，我们是在整个空间上计算相似度，进而实现推荐的。 对于这样的稀疏矩阵，我们利用基本的协同过滤推荐算法的效率必将很低。 （推荐结果） MATLAB代码 主程序 %% 主函数 % 导入数据 %data = [4,4,0,2,2;4,0,0,3,3;4,0,0,1,1;1,1,1,2,0;2,2,2,0,0;1,1,1,0,0 ;5,5,5,0,0]; data = [2,0,0,4,4,0,0,0,0,0,0;0,0,0,0,0,0,0,0,0,0,5;0,0,0,0,0,0,0,1,0,4,0;3,3,4,0,3,0,0,2,2,0,0 1:numOfIndex sortIndex(m,:) = itemScore(sortIndex_1(m,:),1); end end 相似度的计算与博文“协同过滤推荐算法
74660发布于 2018-03-15 - 来自专栏null的专栏
简单易学的机器学习算法——线性回归(2)
一、基本线性回归模型的抽象 在基本的线性回归中(可见简单易学的机器学习算法——线性回归(1))，对于一个线性回归为题，我们得到一个线性方程组： ? 2、Moore-Penrose广义逆的性质 定理：Moore-Penrose广义逆存在而且唯一。 四、实验 我们同样采用简单易学的机器学习算法——线性回归(1)中的实验数据，我们得到以下的实验结果： ? 原始数据 ? 最佳拟合直线 MATLAB实验源码 主函数 %% load Data A = load('ex0.txt'); X = A(:,1:2);%读取x Y = A(:,3); ws = pinvRegres (X(:,2),Y(:,1),'.'); plot(x,y); hold off 求线性回归系数 function [ ws ] = pinvRegres( X, Y ) [m,n] =
1.1K20发布于 2019-02-13 - 来自专栏null的专栏
简单易学的机器学习算法——线性回归(2)
一、基本线性回归模型的抽象 在基本的线性回归中(可见简单易学的机器学习算法——线性回归(1))，对于一个线性回归为题，我们得到一个线性方程组： 在上一篇中我们是构建平方误差函数使得误差函数取得最小值得方法求得回归系数 四、实验 我们同样采用简单易学的机器学习算法——线性回归(1)中的实验数据，我们得到以下的实验结果： 原始数据 最佳拟合直线 MATLAB实验源码 主函数 %% load Data A = load ('ex0.txt'); X = A(:,1:2);%读取x Y = A(:,3); ws = pinvRegres(X,Y); %% plot the regression function x = 0:1; y = ws(1,:)+ws(2,:)*x; hold on xlabel x; ylabel y; plot(X(:,2),Y(:,1),'.'); plot(x,y); hold off
81930发布于 2018-03-16 - 来自专栏决策智能与机器学习
前沿快报 | 机器智能MI【算法模型】 | 2nd
Google前沿：智能文本检测及链接创建 本周早些时候，Google发布了Android 9 Pie，这是Android的最新版本，它使用机器学习让你的手机更容易使用。 它是由一个小的前馈神经网络(500 kb /语言)与低延迟(在谷歌Pixel手机上不到20 ms)和小型的推理代码(250 kb),并使用了与支持智能文本选择与创建链接(发布Android奥利奥的一部分)基本相同的机器学习技术
61420发布于 2020-08-04 - 来自专栏AI机器学习与深度学习算法
机器学习入门 4-2 scikit-learn中的机器学习算法封装
本系列是《玩转机器学习教程》一个整理的视频笔记。本小节主要介绍使用sklearn实现KNN算法。 使用sklearn实现KNN 机器学习的流程如下： ? 我们将大量的学习资料喂给机器学习算法，这个机器学习算法就会相应的训练出一个模型，之后来了一个新的输入样例之后，将这个输入样例送给这个模型，这个模型就能预测出这个新的输入样例的预测结果。 ? 在监督机器学习中输入的大量学习资料就是训练样本以及对应的标签； 机器学习算法得到训练模型过程我们称之为拟合，英文为fit； 输入样例输入模型，模型输出结果的过程叫做预测，英文为predict。 在外部创建一个KNN2.py的Python文件，使用外部调用的方式在jupyter中调用。KNN2.py具体内容如下： ? ? 在jupyter中调用： ?
1.1K00发布于 2019-11-13 - 来自专栏人工智能LeadAI
机器学习必须熟悉的算法之word2vector
word2vector已经成为NLP领域的基石算法。作为一名AI 从业者，如果不能主动去熟悉该算法，应该感到脸红。 word2vector常见的有两种算法CBOW和skip gram，本文使用skip gram算法作为讲解对象。 一、算法的基本思想 word2vector，顾名思义，就是将语料库中的词转化成向量，以便后续在词向量的基础上进行各种计算。最常见的表示方法是counting 编码。 skip gram算法是怎么为这8个词生成词向量的呢？ 请参考我的另一篇文章【机器学习面试之各种混乱的熵】，应该不会让你失望。
3.8K150发布于 2018-03-12 - 来自专栏null的专栏
机器学习算法实现解析——word2vec源码解析
在阅读本文之前，建议首先阅读“简单易学的机器学习算法——word2vec的算法原理”（目前还没发布），掌握如下的几个概念： 什么是统计语言模型 神经概率语言模型的网络结构 CBOW模型和Skip-gram 存储的是每一个词的对应的词频，后面初始化的是很大的数，已知词库中的词是按照降序排列的，因此，构建Huffman树的过程如下所示（对于Huffman树的原理，可以参见博文“数据结构和算法——Huffman ，选择出最小的值，记为min2i，将他们的和存储到pos2所指的位置。 这个原理于“轮盘赌”的策略一致（详细可以参见“优化算法——遗传算法”）。 在CBOW模型中，通过词wtw_t的前后词wt−2w_{t-2}，wt−1w_{t-1}，wt+1w_{t+1}和wt+2w_{t+2}来预测当前词wtw_t。此处的窗口的大小window为2。
2.4K80发布于 2018-03-20 - 来自专栏数据科学与人工智能
【算法】基础机器学习算法
笔者邀请您，先思考： 1 您熟悉那些学习算法？ 2 您应用那些机器学习算法？ 本篇内容主要是面向机器学习初学者,介绍常见的机器学习算法，当然,欢迎同行交流。 ? 哲学要回答的基本问题是从哪里来、我是谁、到哪里去，寻找答案的过程或许可以借鉴机器学习的套路：组织数据->挖掘知识->预测未来。 本篇重点是机器学习算法的介绍，可以分为监督学习和无监督学习两大类。 ? 无监督学习算法很多，最近几年业界比较关注主题模型，LSA->PLSA->LDA为主题模型三个发展阶段的典型算法，它们主要是建模假设条件上存在差异。 介绍了这么多机器学习基础算法，说一说评价模型优劣的基本准则。
58240发布于 2018-07-30 - 来自专栏机器学习AI算法工程
算法工程师-机器学习面试题总结(2)
广义线性模型在统计学、机器学习和数据分析等领域中广泛应用，具有很强的灵活性和可解释性。 什么是最小二乘法？ 需要注意的是，逻辑回归虽然叫"回归"，但实际上是一种分类算法。虽然逻辑回归和线性回归在形式和应用上有一些差异，但它们的基本原理都是利用最小二乘法来估计参数，且都属于统计学和机器学习中的重要方法。 2. 梯度下降的效率：逻辑回归常常使用梯度下降算法来优化模型参数。而梯度下降算法对于特征数值范围较大的情况可能收敛较慢，甚至可能无法收敛。 L1和L2正则化是常用的正则化方法，可以应用于机器学习和统计学习中的模型训练过程中。它们的作用是控制模型的复杂度，防止过拟合，并在模型中引入稀疏性。 优点 （1）理论成熟简单，易于理解及算法实现； （2） 可以用于多分类分类、回归等； 缺点 （1）需要计算待分类样本与所有已知样本的距离，计算量大； （2）样本容量小或样本分布不均衡时，容易分类错误，后者可通过施加距离权重进行改善
98440编辑于 2023-09-04 - 来自专栏技术总结
算法（2）
有两个算法 A 和 B ，假设两个算法的输入规模都是 n，算法 A 要做 2n+3 次操作，算法 B 要做 3n+1 次操作。觉得谁快？看下图： ? 而当 n = 2 时，两者效率相同；当 n > 2时，算法 A 就开始优于算法 B 了，随着 n 的增加， 算法 A 比算法 B 越来越好了，得出结论，算法 A 好过 算法 B 判断一个算法的效率时，函数中的常数和其他次要项常常可以忽略 2、在修改后的运行次数函数中，只保留最高阶项。 3、如果最高阶项存在且不是1，则去除与这个项相乘的常数，得到的结果就是大O阶 3、常数阶 高斯算法，时间复杂度不是O(3)，而是O(1)。 //第二种算法 int sum = 0, n = 100; /*执行1次*/ sum = (1 + n) * n/2; /*执行1次*/ printf( 也就是说，有多少个2相乘后大于n,则会退出循环。由2× = n ，得到 x = ㏒2n (2缩小)。所以这个循环的时间复杂度为O(㏒n)。
1.1K90发布于 2018-05-22 - 来自专栏生信小驿站
机器学习算法①
机器学习算法 广泛地说，有三种类型的机器学习算法。 1.监督学习 这个算法由一个目标/结果变量（或因变量）组成，这个变量可以从一组给定的预测变量（独立变量）中预测出来。 2.无监督学习 在这个算法中，我们没有任何目标或结果变量来预测/估计。 用于不同群体的群体聚类，广泛用于不同群体的消费者细分进行具体干预。 无监督学习的例子：Apriori算法，K-means。 3.强化学习： 使用这种算法，机器被训练做出特定的决定。 它是这样工作的：机器暴露在一个环境中，它使用反复试验不断地训练自己。 这台机器从过去的经验中学习，并试图捕捉最好的知识，做出准确的业务决策。 强化学习实例：马尔可夫决策过程 这里是常用的机器学习算法列表。 这些算法可以应用于几乎所有的数据问题： 线性回归 Logistic回归 决策树 SVM 朴素贝叶斯 KNN K均值 随机森林 维度降低算法 梯度提升算法 GBM XGBoost
49120发布于 2018-08-27 - 来自专栏数据科学与人工智能
【机器学习】机器学习算法之旅
在理解了我们需要解决的机器学习问题之后，我们可以思考一下我们需要收集什么数据以及我们可以用什么算法。本文我们会过一遍最流行的机器学习算法，大致了解哪些方法可用，很有帮助。 机器学习领域有很多算法，然后每种算法又有很多延伸，所以对于一个特定问题，如何确定一个正确的算法是很困难的。本文中我想给你们两种方法来归纳在现实中会遇到的算法。 增强学习多半还是用在机器人控制和其他控制系统的开发上。 算法相似性 算法基本上从功能或者形式上来分类。比如，基于树的算法，神经网络算法。这是一个很有用的分类方式，但并不完美。 正如机器学习算法本身没有完美的模型一样，算法的分类方法也没有完美的。 在这一部分我列出了我认为最直观的方法归类的算法。我并没有穷尽算法或者分类方法，但是我想对于让读者有一个大致了解很有帮助。 其他资源 这趟机器学习算法之旅意在让你对有什么算法和关联算法的一些工具给你一个总体了解。 下面是一些其他资源， 请不要觉得太多，了解越多算法对你越有好处，但是对某些算法有深层次的了解也会很有用。
97790发布于 2018-02-27
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号