- 综合排序
- 最热优先
- 最新优先
- 来自专栏趣Python
机器学习（9）决策树
决策树仍然是监督学习方法，其基本思路跟我们人做一些决策的思路类似：可能要下雨，那就带伞；可能要停水，那就提前备水…… 这个决策的数学模型是熵。 决策树的模型中，无论是ID3，还是C4.5，亦或者是CART，它们在每个节点做判据的目标都是为了让熵最小化！ 核心的内容已经说完了，具体的内容参见如下的推导，一些数学公式的细节可以自行网查。 决策树的算法推导流程如下： ? 如下示例的题材，最后一列是结果，其他列是输入。 ? ID3的手推示例如下所示： ? ? ? CART的手推示例如下所示： ? ? ? ?
46720发布于 2020-06-05 - 来自专栏惊羽-布壳儿
云实验室(9) - pve&ceph
uxiAD7442KMy1X86DtM3/article/details/81059215 1. ceph在pve上的安装 shell到pve节点上,执行 pveceph install 成功后 : image-9eafe77d0f0f461fb37aa257c3c4d268 添加osd image-10a52cd7cc92421e87aa0dd0a9d167b9.png 如果提示 磁盘没有找到 (下图红框处),说明你没有空闲磁盘(未分区的磁盘),需要你有一块未分区的磁盘才能创建
2.2K30编辑于 2022-06-15 - 来自专栏AI机器学习与深度学习算法
机器学习入门 9-5 决策边界
本小节介绍对于分类问题非常重要的决策边界，先对逻辑回归求出决策边界的函数表达式并绘制，但是对于像kNN这种不能求出决策边界表达式的可以通过预测样本特征平面中区间范围内的所有样本点来绘制决策边界。 接下来就来实际绘制一下逻辑回归的决策边界，感性的认识一下决策边界。 逻辑回归的分类本质其实就是对于样本点来说是落在决策边界的上面还是决策边界的下面。如果样本点落在决策边界的上面则将样本分成一类，如果样本点落在决策边界的下面则将样本分成另外一类。 ▲不规则的决策边界的绘制方法 这里只是随便举了一个例子，上图中红色点与蓝色点的边界处就是决策边界，可以看出此时的决策边界非常的不规则。 上图就是kNN算法在三分类上的决策边界，这个决策边界非常的不规则。
3K20发布于 2020-02-26 - 来自专栏合集
机器学习day9-决策树
决策树 决策树自上而下，对样本数据进行树形分类的过程。决策树由结点和有向边组成。结点又分内部结点和叶结点。每个内部结点表示一个特征或属性，叶子结点表示类别。 决策树是最基础且常见的监督学习模型，可以用于处理分类问题和回归问题。 决策树的生成包括：特征选择，树的构造，树的剪枝三个过程。 决策树常用的启发函数 常用的决策树算法有：ID3，C4.5和CART，那么它们的启发式函数是什么？ ID3-最大信息增益 对于样本集合D，类别数为K，数据集D的经验熵表示： ? 其中， ? 提高决策树的泛化能力。 ID3应用于离散变量，C4.5和CART都可以用于连续变量。
52920发布于 2020-06-11 - 来自专栏NowlNowl_AI
机器学习第9天：决策树分类
介绍 作用：分类 原理：构建一个二叉树，逐级条件判断筛选 基本思想 假如有小明，小红和小张三个人，我们知道他们的身高体重，要通过身高体重来判断是哪个人，决策树算法会构建一个二叉树，逐级判断，如下 DecisionTreeClassifier tree_clf = DecisionTreeClassifier(max_depth=2) tree_clf.fit(X, y) max_depth参数设置的是决策树的深度 ，上图的深度是2，它代表决策的次数 深度探索 优点 我们来看决策树的过程：每到一个节点进行一次询问，然后将数据集分向其他的节点，这样的特性决定了数据不需要经过特征缩放的处理 估计概率 决策树模型可以输出每个类的概率 这将输出每个类的概率 model = DecisionTreeClassifier(max_depth=2) model.fit(x, y) model.predict_proba(x) 训练算法 决策树的训练算法被称为 它的公式为 为第k类的实例数 为总实例数 正则化 为了防止过拟合，我们当然要进行正则化，决策树的正则化通过控制参数max_depth来决定，越大则越可能过拟合 在鸢尾花数据集上训练决策树 from sklearn.datasets
27510编辑于 2024-01-18 - 来自专栏一个会写诗的程序员的博客
战略决策 , 战术决策 与 业务决策
按决策的范围和决策的重要性划分，可以分为战略决策、战术决策、业务决策。 战略决策是解决全局性、长远性、战略性的重大决策问题的决策。 战术决策又称管理决策，是为了实现战略决策、解决某一问题所做出的决策，以战略决策规定的目标为决策标准。如医院住院流程设计、医院人员的招聘与工资水平等决策。 决策的分类 1、按决策范围分为 战略决策、战术决策和业务决策； 2、按决策性质分为程序化决策和非程序化决策； 3、按决策主体分为个人决策和群体决策； 4、按决策问题的可控程度分为确定型决策、不确定型决策和风险型决策 决策支持系统 ---- 参考资料 [1]https://baike.baidu.com/item/%E4%B8%9A%E5%8A%A1%E5%86%B3%E7%AD%96/5810405 [2]https ://wiki.mbalib.com/wiki/%E4%B8%9A%E5%8A%A1%E5%86%B3%E7%AD%96 ----
4.2K20发布于 2020-04-01 - 来自专栏新智元
【Hinton实验室探访】Capsule后最新研究，用软决策树更好理解DNN分类
来源：NYT，arXiv 编译：闻菲、刘小芹 【新智元导读】《纽约时报》今日发文，记者走访Hinton在多伦多的实验室，为我们带来Hinton新作“Capsule Network”的更多信息。 今天《纽约时报》发表了一篇文章，NYT记者走访了Hinton在多伦多的实验室，采访了Hinton和《Dynamic Routing Between Capsules》论文的一作Sara Sabour，阐释了 相比之下，决策树如何做分类就很好理解，因为每个决策序列相对较短，而且每个决策都直接基于输入数据。但是，决策树往往无法像神经网络那样泛化。 现在他们已经得到一个模型，这个模型做出的决策是可解释的。 ? 软决策树如何进行分类：MNIST上训练的深度为4的软决策树的可视化图。 通过依赖分层决策而不是分层特征，我们避开了这些问题，因为每个决策都是在读者可以直接参与的抽象层次上进行的。”
98750发布于 2018-03-21 - 来自专栏机器之心
达摩院决策智能实验室杨超：Safe RL介绍及在电网调度中的应用
机器之心报道 机器之心编辑部 5 月 24 日，在机器之心举办的「决策智能产业应用」在线圆桌论坛上，阿里巴巴达摩院决策智能实验室的杨超发表了主题演讲《Safe RL 介绍及在电网调度中的应用》。 大家好，我是来自阿里巴巴达摩院决策智能实验室的杨超，今天主要分享一下 Safe RL，也就是安全强化学习的内容，及其在电网调度中的应用。 最后我介绍一下我们实验室，负责人是印卧涛老师，全球 top 1% 高被引数学家，获得过 NSF CAREER 奖、斯隆研究奖、晨兴应用数学金奖、达摩奖、Egon Balas 奖等。 我们实验室致力于机器学习、数学优化、时序分析与预测等多种决策技术的研究与创新，构建智能决策系统、 提升业务运营效率、降低运营成本 。 目前我们已取得的成果包括优化求解器 MindOpt，多次获得国际权威榜单第一名；实验室拥有多篇顶会论文，并获多项国内外比赛冠军。
1.7K20编辑于 2022-06-07 决策引擎中的敏捷决策平台
现在是时候缩小差距，为供应链领导者提供敏捷的决策能力了。高管敏捷决策平台的关键属性，以最大限度地提高供应链绩效。高管们面临巨大压力，需要快速做出数据驱动的决策，这些决策会影响整个组织，包括供应链。 所以，现在是时候重新思考如何支持高管决策，以提高供应链绩效。这意味着要接受为高管提供专用供应链决策平台的概念。可能和需要的是一个敏捷决策平台，它让企业领导者能快速执行决策以优化供应链绩效。 下面，我们会介绍专用于执行层决策的敏捷决策平台的理想属性。这些软件属性包括有针对性的数据收集、敏捷决策智能、用于决策周期的高管级UI、基于决策的快速通信以及决策可追溯性。 此外，敏捷决策平台需要促进信息收集过程，收集有针对性的相关信息，以支持及时、明智的决策。以下是快速收集决策所需信息的五步流程。 d.快速决策沟通。面向高管的敏捷决策平台也需要促进协作决策。
25810编辑于 2025-09-18敏捷决策
1.新兴技术使企业高管能够快速做出更好的决策 当今的信息技术使决策者能够即时接收数据，从而更快、更高效地做出决策。 这意味着要接受为高管提供专用供应链决策平台的概念。可能和需要的是一个敏捷决策平台，它使企业领导者能够快速执行决策以优化供应链绩效。下面，我们将介绍专用于执行层决策的敏捷决策平台的理想属性。 这些软件属性包括有针对性的数据收集、敏捷决策智能、用于决策周期的高管级UI、基于决策的快速通信以及决策可追溯性。a.有针对性的数据收集：专注于及时性和特定决策要求的决策。 d.快速决策沟通。 面向高管的敏捷决策平台也需要促进协作决策。此外，它需要支持在整个供应链和组织内部有效地传递决策。 此外，它需要记录决策团队何时拒绝系统建议，并识别因未选择特定行动方案而导致的错失机会。具体来说，决策可追溯性的目标是记录决策是什么、预期结果以及谁做出了决策。
22100编辑于 2025-07-23- 来自专栏小脑斧科技博客
决策树的构建、展示与决策
概述 上一篇文章中，我们介绍了两个决策树构建算法 — ID3、C4.5： 决策树的构建 -- ID3 与 C4.5 算法 本文我们来看看如何使用这两个算法以及其他工具构建和展示我们的决策树。 2. 使用 C4.5 构建决策树 有了上一篇日志中，我们介绍的 ID3 与 C4.5 算法，递归进行计算，选出每一层当前的最佳特征以及最佳特征对应的最佳划分特征值，我们就可以构建出完整的决策树了： 流程图非常清晰 决策树的可视化 上面的 json 结果看上去非常不清楚，我们可不可以画出决策树的树结构呢？ :param myTree: 决策树 :return: 决策树的叶子结点的数目 """ numLeafs = 0 # 初始化叶子 firstStr = list :param myTree: 决策树 :return: 决策树的层数 """ maxDepth = 0 # 初始化决策树深度 firstStr = next
68820编辑于 2022-06-27 决策智能
此外，我将阐明决策智能与决策科学、人工智能、数据科学和商业智能（BI）等同类产品的不同之处。决策智能（DI）定义及其在供应链中的应用 决策智能（DI）是一个相当新的术语。 这是因为决策智能利用了各种分析工具，例如商业智能、数据科学、决策科学和专家AI系统。此外，决策智能功能最好部署为专门专注于决策的软件平台。 因此，企业可以部署决策智能平台进行决策支持、决策增强，甚至自主决策。同时，它与BPA的不同之处在于DI支持决策而不是基于任务的业务自动化。 此外，这些DI系统能够衡量和学习以前的决策，以提高决策有效性。决策智能与其他分析学科 什么是决策智能，以及它与其他分析学科（如决策科学、专家AI、数据科学和商业智能）的比较。 1.决策科学与决策智能。 事实上，决策者一直使用决策科学来指导他们的选择。虽然早期的决策科学以数学和统计学为基础，但计算机的出现增强了它在决策智能和决策支持分析等领域的应用。
36100编辑于 2025-07-22- 来自专栏木东居士的专栏
决策树1：初识决策树
决策树是一个非常有意思的模型，它的建模思路是尽可能模拟人做决策的过程。因此决策树几乎没有任何抽象，完全通过生成决策规则来解决分类和回归问题。 0x01 决策树的思想 1.1 什么是决策树 决策树是一种常见的机器学习算法，它的思想十分朴素，类似于我们平时利用选择做决策的过程。 y_predict.reshape(x0.shape) from matplotlib.colors import ListedColormap custom_cmap = ListedColormap(['#EF9A9A ','#FFF59D','#90CAF9']) plt.contourf(x0, x1, zz, linewidth=5, cmap=custom_cmap) # 数据可视化 plot_decision_boundary 决策树是一个非参数的决策算法，决策树可以解决分类问题，且天然支持多分类问题。
1.6K20发布于 2019-12-23 - 来自专栏乔新亮
数据化决策
2014年读过的一本好书，才发现这本书对自己的影响深远，自己的很多决策和管理都深受此书影响。 大数据时代，我们能够获得的数据越来越多，这些数据的价值在哪里？ 答案是帮助做更有效的决策。 数据化决策 一书给出了量化不确定性、风险和数据价值的方法，一切都可量化。 如果一项量化工作至关重要，那是因为它会对决策和行为产生一些可感知的效果；如果一项量化工作不能影响或改变决策，那它就没有价值。 减少风险是计算量化价值的基础，也是选择量化什么以及如何量化的基础。 我们来看看书中数据化决策分析的一个问题： 顾客等待商家支持热线的时间越久，挂电话的概率就越高，这给业务造成了多少损失？ 一切皆可量化，包括幸福、健康和人生有关的价值。 一切兼是概率，一切都可数据化决策！ 大数据时代，开始我们的数据化决策旅程吧！
1.2K40发布于 2020-05-15 - 来自专栏数据分析与机器学习
决策树
因此，我们可用信息增益来进行决策树的划分属性选择，即在上述“决策树学习的基本算法”章节中第6行选择属性a_* = argmax_{a\in A}Gain(D,a).著名的ID3决策树学习算法就是以信息增益为准则来选择划分属性 而后剪枝策略针对欠拟合问题明显要优于预剪枝策略，泛化性能往往也要优于预剪枝策略；但是后剪枝策略的问题在于，其是在决策树生成之后进行的，并且要自底向上地对树中所有非叶节点进行逐一考察，因此其训练时间要远远大于未剪枝决策树和预剪枝决策树 决策树的剪枝往往是通过极小化决策树整体的损失函数（loss function）或代价函数（cost function）来实现。 决策树的生成只考虑通过信息增益（或信息增益比）对训练集的拟合程度。而决策树剪枝则通过优化损失函数还考虑了减小模型复杂度，进而提高其泛化性能。 换言之，决策树生成算法只学习局部的模型，而决策树剪枝算法则关注整体的泛化性能。
1.1K41发布于 2019-11-28 - 来自专栏用户画像
决策树
https://blog.csdn.net/jxq0816/article/details/82829502 决策树通过生成决策规则来解决分类和回归问题。 但是由于决策树在理论上能无限制地划分节点 前剪枝：在划分节点之前限制决策树的复杂度，通过一些阈值来限制决策树的生长，比如max_depth、min_sample_split等参数。 后剪枝：在决策树构建完成之后，通过剪枝集修改树的结构，降低它的复杂度。 这两种方法相比，前剪枝的实现更加容易，也更加可控，因为在实际应用中应用得更加广泛。 决策树最大的缺点在于模型的最后一步算法过于简单：对于分类问题，只考虑叶子节点里哪个类别占比最大；而对于回归问题，则计算叶子节点内数据的平均值。这导致它在单独使用时，预测效果不理想。 因此在实际中，决策树常常被用来做特征提取，与其他模型联结起来使用。
67130发布于 2018-09-29 - 来自专栏数据处理
决策树
决策树归纳的基本算法是贪心算法，它以自顶向下递归各个击破的方式构造决策树。 贪心算法：在每一步选择中都采取在当前状态下最好的选择。 在其生成过程中，分割方法即属性选择度量是关键。 根据分割方法的不同，决策树可以分为两类：基于信息论的方法（较有代表性的是ID3、C4.5算法等）和最小GINI指标方法（常用的有CART，SLIQ及SPRINT算法等）。
79240发布于 2018-06-01 - 来自专栏小明的博客
决策树
决策树学习 决策树是一种用来进行分类和回归的无参有监督学习方法，其目的是创建一种模型，从模型特征中学习简单的决策远着呢，从而预测一个目标变量的值。 对训练好的决策树模型，可以使用predict()方法对新的样本进行预测。 print('dot_data决策结果数据文件为：\n',dot_data) #导入graphviz模块，将训练生成的决策树数据文件可视化。 ，观察对新的数据的决策结果 print('新的数据为[1,30,6,False]时的决策结果为：',clf.predict([[1,30,6,False]])) print('新的数据为[2,25,2, True]时的决策结果为：',clf.predict([[2,25,2,True]])) print('新的数据为[1,25,2,True]时的决策结果为：',clf.predict([[1,25,2,
82320编辑于 2022-09-05 - 来自专栏新亮笔记
监测与决策
结果输出：将实时和离线分析的结果展现，供决策参考。 问题决策：根据上一步的输出，人为或自动给出下一步的行动判定，同时将判定记录保存下来，以便为后续决策提供依据。 全面性，即收集到的数据信息是否足以支持团队做出决策。 及时性，即数据的发生到能够支持决策所需要的处理时间足够短。 了解更多：https://t.zsxq.com/08AGFfCK3
57310编辑于 2023-03-07 - 来自专栏海天一树
决策树
一、 决策树简介 决策树是一种特殊的树形结构，一般由节点和有向边组成。其中，节点表示特征、属性或者一个类。而有向边包含有判断条件。 这就构成了一颗简单的分类决策树。 ? 1.jpg ? 2.jpg 二、 相关知识 请参考周志华《机器学习》第4章：决策树 注意，第75页有一行内容：信息熵的值越小，则样本集合的纯度越高。 此时的决策树为 ? 第一条数据，第5个属性值是2，需要再判断第3个属性，第3个属性的值为4，根据决策树得出的预测分类为1，与实际结果吻合 第二条数据，第5个属性值是1，根据决策树得出的预测分类为0，与实际结果吻合 第三条数据 1，根据决策树得出的预测分类为0，与实际结果吻合 六、 完整代码 （1）DecisionTree.py # 具有两种剪枝功能的简单决策树 # 使用信息熵进行划分，剪枝时采用激进策略（即使剪枝后正确率相同
1.2K20发布于 2018-08-17
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号