- 综合排序
- 最热优先
- 最新优先
- 来自专栏学习
机器学习——解释性AI与可解释性机器学习
本文将深入探讨解释性AI与可解释性机器学习的概念、方法和代码实现，帮助读者全面理解这一重要主题。 1. 为什么需要解释性AI？ 解释性AI的分类 可解释性可以从多个维度来考虑： 可解释性 vs 可理解性：可解释性通常指通过后处理方法使复杂模型变得可解释，而可理解性更侧重于构建本身就易于解释的模型。 可解释性机器学习的方法 3.1 模型本身具有可解释性 一些简单的模型具有天然的可解释性，例如： 线性回归：通过模型系数可以直接理解特征对预测的影响。 True) model = DecisionTreeClassifier(max_depth=3) model.fit(X, y) # 可视化决策树 plt.figure(figsize=(12, 8) 8.总结 本文探讨了解释性AI和可解释性机器学习的必要性及其方法，重点介绍了黑箱问题、法规要求、模型可解释性的多种方法（如LIME和SHAP）以及它们在医疗和金融中的应用。
1.1K10编辑于 2024-10-19 - 来自专栏磐创AI技术团队的专栏
可交互的 Attention 可视化工具！我的Transformer可解释性有救了？
乔治亚理工最近提出了DODRIO，一种可交互的Attention可视化工具，从句法和寓意层面总结了不同注意力头的信息。Transformer的可解释性终于有救啦？ 一些结论 本文的可视化方法再一次验证了一些之前BERT可解释性文章的结论。例如：BERT的中间层更关注句法信息，以及BERT最后1-2层是分类的关键等。
8.1K40发布于 2021-05-11 - 来自专栏CSDNToQQCode
解释性AI（XAI）
解释性AI（XAI）是什么 解释性AI，也称为XAI（Extended AI），是一种综合了多种AI技术的智能系统或工具，旨在帮助人们理解和解释数据、信息和知识，以辅助决策制定。 可解释性模型：XAI系统可以使用可解释性模型来解释机器学习模型的工作原理和决策过程，帮助用户理解模型的预测结果。 在安全领域，可解释性AI可以帮助识别和解释潜在的安全威胁，从而提高安全性。 四、可解释性AI的评估与度量 评估和度量AI的可解释性是一个重要的问题。 五、可解释性AI的未来发展 可解释性AI有很大的发展潜力，未来的发展趋势包括算法改进、数据标准化和自动化解释方法等。随着技术的发展，我们可能会看到更多的自动化工具和平台用于评估和改进AI的可解释性。 六、可解释性AI的实践经验与案例分析 在实际应用可解释性AI的过程中，一些实践经验包括使用可视化技术来展示AI决策过程、使用人类判断法来评估AI的可解释性以及使用决策树分析法来理解模型决策等。
1.1K10编辑于 2024-02-01 - 来自专栏AI
模型可解释性
模型可解释性：LIME与SHAP等可解释工具随着深度学习和复杂机器学习模型的普及，模型的可解释性（Model Interpretability）成为了一个日益重要的议题。 模型可解释性的背景模型可解释性主要是指能够清晰地理解和解释机器学习模型的预测依据。传统的机器学习模型，如线性回归、决策树等，相对易于理解，用户可以直观地看到模型是如何做出预测的。 因此，模型可解释性成为了研究人员和实践者必须解决的核心问题。2. 模型可解释性的实际意义模型可解释性不仅仅是一个学术问题，它在实际应用中具有重要意义：增加模型的信任度：特别是在高风险行业，如医疗、金融等，理解模型的预测依据对于增强用户和监管机构的信任至关重要。 ，详细介绍了如何通过不同的方法提高机器学习模型的可解释性。
1.1K10编辑于 2025-02-02 - 来自专栏coderidea
8种常用的可扩展系统设计模式
在构建大型、可扩展的系统时，设计模式是实现高效、可靠架构的关键。 Ricky Ho在他的作品《Scalable System Design Patterns》中详细介绍了一系列可扩展性模式，并通过清晰的图解加以阐释。本文将深入探讨这些模式，提供一个全面的理解。 8. 执行协调器（Execution Orchestrator） 概念：智能调度器/协调器根据依赖关系图调度准备就绪的任务，在一群简单的工作者中执行。 结论 这些可扩展系统设计模式提供了一套解决方案，用于解决在构建大规模系统时常见的问题。理解和实施这些模式不仅可以提高系统的扩展能力和效率，还可以在面对未来挑战时提供强有力的支持。
64210编辑于 2023-12-19 - 来自专栏自动化、性能测试
Appium自动化（8） - 可定位的控件属性
可定位的控件属性 ? 在后面会详细讲解下代码的使用哦！
74420发布于 2020-06-09 - 来自专栏实战docker
K8S环境快速部署Kafka(K8S外部可访问)
如何快速部署 借助Helm，只需少量操作即可部署kafka； kafka和zookeeper对存储都有需求，若提前准备了StorageClass，存储一事则变得十分简单 参考文章 本次实战涉及到的K8S StorageClass等前置条件，它们的安装和使用请参考： 《kubespray2.11安装kubernetes1.15》 《部署和体验Helm(2.16.1版本)》 《Ubuntu16环境安装和使用NFS》 《K8S 使用群晖DS218+的NFS》 《K8S的StorageClass实战(NFS)》 环境信息 本次实战的操作系统和软件的版本信息如下： Kubernetes：1.15 Kubernetes宿主机：CentOS 找到configurationOverrides，下图两个黄框中的内容原本是注释的，请删除注释符号，另外，如果您之前设置过跨网络访问kafka，就能理解下面写入K8S宿主机IP的原因了： ? 8. 再打开一个窗口，执行命令查看消费者group： .
6.4K21发布于 2020-05-26 - 来自专栏计算机视觉工坊
人脸识别的可解释性
作者丨孙裕道 编辑丨极市平台 导读 人脸识别的可解释性是深度学习领域中的一个很大挑战，当前的方法通常缺乏网络比较和量化可解释结果的真相。 自然深度学习中的很重要领域人脸识别的可解释性也是一个很大的挑战，当前在这方面探索的方法有网络注意力、网络解剖或综合语言解释，然而，缺乏网络比较和量化可解释结果的真相，尤其是在人脸识别中近亲或近亲之间的差异很微妙 论文贡献 该论文的贡献可以归结为如下三点，分别如下所示 XFR baseline：作者基于五种网络注意力算法为XFR（人脸识别的可解释性）提供了baseline，并在三个用于人脸识别的公开深度卷积网络上进行了评估 模型介绍 人脸识别的可解释性(XFR) 该论文的创新点可能是从Facenet中得到一定的灵感。XFR的目的是解释人脸图像之间的匹配的内在关系。
2.9K20发布于 2020-11-11 - 来自专栏编程随想曲
代码重构之引入解释性变量
意图 临时变量可以帮助你将表达式分解为比较容易管理的形式 在较长的算法中，可以运用临时变量来解释每一步运算的意义 示例 /** * 引入解释性变量之前 * Created by luo on 2017 something } } private boolean wasInitialized() { return false; } } /** * 引入解释性变量之后
38220编辑于 2022-04-21 - 来自专栏CSDN小华
机器学习模型的可解释性
机器学习模型的可解释性 机器学习模型的可解释性是指人类能够理解并理解决策原因的程度，这在业务应用中尤为重要。高可解释性的模型不仅有助于开发人员在建模阶段理解模型，还能在必要时进行优化调整。 可解释性的重要性体现在多个方面： 辅助决策：可解释性使人们更容易理解为什么模型做出了某些决定或预测，从而提高对模型的信任度和接受度。 最新的机器学习模型可解释性技术和方法有哪些？ 最新的机器学习模型可解释性技术和方法主要包括以下几种： 局部可解释性工具：这类工具旨在解释模型在特定输入上的行为。 解释性工具的应用：利用各种解释性工具和技术，如局部可解释模型不可解释性（LIME）、集成梯度（IG）等，帮助理解模型的预测过程和结果。 近年来，学术界已经开发出许多可解释性工具和方法，如局部可解释性、规则可解释性和概念可解释性等。未来，这些工具和方法将不断完善，并在实际应用中得到更广泛的应用。
80310编辑于 2024-10-16 - 来自专栏曲奇的博客
机器学习模型的可解释性
可解释性的范围 全局可解释 这个层级的可解释性指的是，模型如何基于整个特征空间和模型结构、参数等作出决策的。什么特征是重要的，特征交互会发生什么。 模型的全局可解释性可以帮助理解，针对不同特征，目标变量的分布是什么。 局部可解释 局部可解释性更加关注单条样本或一组样本。这种情况下我们可以将模型看做是一个黑盒，不再考虑模型的复杂情况。 因此局部可解释性可能相比全局可解释，更加准确点。 1.3 可解释的模型 最简单的机器学习可解释性就是直接使用可解释模型，比如逻辑回归、线性模型、决策树。 然后使用新的可解析的特征和prediction作为label来训练新的简单模型（例如LR），然后使用简单模型的权重作为这些特征的重要性作为输出。 就是选择一个样本以及样本附近的点，然后训练一个简单模型来拟合，虽然简单模型不能在完整数据集上有效，但至少在这个点附近都是有效的，这个简单模型的特征是人类可解析的，而训练出的权重也可以表示特征重要性。
2.4K20编辑于 2021-12-14 - 来自专栏JavaEdge
精通Java事务编程(8)-可串行化隔离级别之可串行化的快照隔离
也许不是，一个称为可串行化快照隔离（SSI, serializable snapshot isolation）算法很有前途。提供完整的可串行化保证，而性能与快照隔离相比只有很小性能损失。 SSI基于快照隔离，即事务中的所有读取都基于DB的一致性快照（参阅本文的快照隔离、可重复读），这和早期乐观锁的主要区别。 （细粒度），确实能准确确定哪些事务需中止，但记录元数据的开销可能也很大 而跟踪速度更快时（粗粒度），可能导致更多不必要的事务中止 有的case读过期数据不会造成太大影响：这还是完全取决于具体场景，有时可确信执行结果都是可串行化的 相比于2PL，可串行化快照隔离最大优点：事务无需阻塞等待其它事务所持有的锁。这和快照隔离一样，读写不互相阻塞。这使查询延迟更稳定、可预测。 相比于串行执行，可串行化快照隔可突破单CPU核吞吐量限制：FoundationDB将检测到的串行化冲突分布在多台机器，从而提高吞吐量。
1.2K20编辑于 2022-07-25 - 来自专栏腾讯云TI平台
【技术分享】机器学习模型可解释性
对于模型按预期工作的关键利益相关者而言，这应该是可证明且易于理解的。这确保了模型的透明度。 = pdp.pdp_isolate(model, X_train, df.columns, feature) pdp.pdp_plot(pdp_goals, feature) plt.show() 8. 在他的论文中，他还讨论了PD图的局限性，并提供了有关如何为大数据生成可缩放图的建议。 然后使用新的可解析的特征和prediction作为label来训练新的简单模型（例如LR），然后使用简单模型的权重作为这些特征的重要性作为输出。 kaggle-model-insights http://rstudio-pubs-static.s3.amazonaws.com/283647_c3ab1ccee95a403ebe3d276599a85ab8.
4.2K54编辑于 2021-12-22 - 来自专栏大数据文摘
6个机器学习可解释性框架！
可解释性旨在帮助人们理解： 如何学习的? 学到了什么? 针对一个特定输入为什么会做出如此决策? 决策是否可靠? with condaconda install -c conda-forge shapbr 使用Shap库构建瀑布图 使用Shap库构建Beeswarm图 使用Shap库构建部分依赖图 LIME 在可解释性领域 与外形/石灰解释性有关。它可以使用SHAP/Lime作为后端，也就是说它只提供了更好看的图表。 InterpretML展示了两种类型的可解释性：glassbox模型——为可解释性设计的机器学习模型（如：线性模型、规则列表、广义可加模型）和黑箱可解释性技术——用于解释现有系统（如：部分依赖，LIME 使用统一的API并封装多种方法，拥有内置的、可扩展的可视化平台，该包使研究人员能够轻松地比较可解释性算法。
2.6K40编辑于 2022-10-10 - 来自专栏六点半就起来干博客！
机器学习——解释性AI（Explainable AI）
机器学习——解释性AI（Explainable AI） 解释性AI（Explainable AI）——让机器学习模型更加透明与可信 随着人工智能（AI）和机器学习（ML）在多个领域的广泛应用，理解模型的决策过程变得尤为重要 什么是解释性AI？ 解释性AI指的是一系列方法和技术，旨在帮助人们理解AI模型的输出如何生成。通过引入解释性层，AI系统不仅能提供预测结果，还能解释这些预测背后的逻辑。 解释性AI的优势 透明度：XAI通过提供详细的解释，确保用户能理解模型的决策过程。 公平性：解释性AI有助于识别和纠正模型中的潜在偏差，确保AI决策的公平性【44†source】。 解释性AI（Explainable AI）——揭开机器学习模型的“黑盒” 在当今人工智能和机器学习技术广泛应用的背景下，解释性AI（Explainable AI, XAI） 变得尤为重要。 法律合规性：在某些行业中，法律规定要求AI系统具备可解释性，XAI有助于满足这一需求【76】。 结论 解释性AI为AI系统的透明性和公平性提供了强有力的支持。
82510编辑于 2024-10-16 - 来自专栏CreateAMind
可解释性与deep learning的发展
每个子pattern有很强的可迁移性(transferability)，比如在multi-shot part localization的上可以降低1/3—2/3的误差。
36540发布于 2018-07-24 - 来自专栏Datawhale专栏
图神经网络的解释性综述！
然而，这些研究只关注图像和文本领域的解释方法，忽略了深度图模型的可解释性。 GNN 的可解释性 与图像和文本领域相比，对图模型解释性的研究较少，然而这是理解深度图神经网络的关键。 软掩码被随机初始化，并被视为可训练变量。然后通过元素点乘将掩码与原始图结合。最大化原始图的预测和新获得的图的预测之间的互信息来优化掩码。 BA-Community：这是一个有8个不同标签的节点分类数据集。对于每个图，它是通过组合两个随机添加边的BA-shapes图获得的。节点标签由BA-shapes图的成员资格及其结构位置决定。 对于每个图，它由深度等于8的基平衡树图和6节点周期 motif 组成。这两部分是随机连接的。基图中节点的标签为0，否则为1。 Tree-Grids：它是一个有两个不同标签的节点分类数据集。 作者将介绍最近提出的几种针对解释性问题的评估度量方法。
1.6K40发布于 2021-05-07 - 来自专栏ATYUN订阅号
深入探索Catboost模型可解释性（下）
在输出中，您将得到每对特性的列表。列表将有3个值，第一个值是该对中第一个特性的索引，第二个值是该对中第二个特性的索引，第三个值是该对的特性重要性得分。具体实施请查看嵌入式笔记本。
1.9K12发布于 2019-07-22 - 来自专栏数据派THU
神经网络的可解释性综述！
来源：机器学习算法那些事、图灵人工智能 本文约2400字，建议阅读5分钟 本文浅谈神经网络的可解释性。 本文按照以下的章节进行组织： 人工智能可解释性的背景意义 神经网络可解释性的分类 总结 1、人工智能可解释性的背景意义 1.1 什么是可解释性 Interpretability (of a DNN) is b）可解释性有助于发现潜在的错误；也可以通过debug而改进模型。 作为其他科学研究的工具 科学研究可以发现新知识，可解释性正是用以揭示背后原理。 其他的还有：用意想空间的对话系统[8]。 这种解释的类型是最有深度而且也是用户最容易理解的。但是对AI模型和训练难度也更高了。目前这方面的研究屈指可数。
1.4K10编辑于 2023-03-29 - 来自专栏深度学习和计算机视觉
机器学习模型的可解释性算法汇总！
模型可解释性汇总 简 介 目前很多机器学习模型可以做出非常好的预测，但是它们并不能很好地解释他们是如何进行预测的，很多数据科学家都很难知晓为什么该算法会得到这样的预测结果。 本文介绍目前常见的几种可以提高机器学习模型的可解释性的技术，包括它们的相对优点和缺点。 Expectation (ICE) Permuted Feature Importance Global Surrogate Local Surrogate (LIME) Shapley Value (SHAP) 六大可解释性技术 小结 机器学习模型的可解释性是机器学习中一个非常活跃而且重要的研究领域。本文中我们介绍了6种常用的用于理解机器学习模型的算法。大家可以依据自己的实践场景进行使用。
41710编辑于 2024-08-27
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号