- 综合排序
- 最热优先
- 最新优先
- 来自专栏磐创AI技术团队的专栏
可交互的 Attention 可视化工具！我的Transformer可解释性有救了？
乔治亚理工最近提出了DODRIO，一种可交互的Attention可视化工具，从句法和寓意层面总结了不同注意力头的信息。Transformer的可解释性终于有救啦？ 一些结论 本文的可视化方法再一次验证了一些之前BERT可解释性文章的结论。例如：BERT的中间层更关注句法信息，以及BERT最后1-2层是分类的关键等。
8.1K40发布于 2021-05-11 - 来自专栏学习
机器学习——解释性AI与可解释性机器学习
解释性AI与可解释性机器学习: 理解机器学习模型背后的逻辑 随着人工智能技术的广泛应用，机器学习模型越来越多地被用于决策过程。 本文将深入探讨解释性AI与可解释性机器学习的概念、方法和代码实现，帮助读者全面理解这一重要主题。 1. 为什么需要解释性AI？ 解释性AI的分类 可解释性可以从多个维度来考虑： 可解释性 vs 可理解性：可解释性通常指通过后处理方法使复杂模型变得可解释，而可理解性更侧重于构建本身就易于解释的模型。 可解释性机器学习的方法 3.1 模型本身具有可解释性 一些简单的模型具有天然的可解释性，例如： 线性回归：通过模型系数可以直接理解特征对预测的影响。 构建具有可解释性的模型 并不是所有机器学习任务都需要深度模型，对于一些需要高可解释性的任务，我们可以选择一些本身就具有良好可解释性的模型。
1.1K10编辑于 2024-10-19 - 来自专栏CSDNToQQCode
解释性AI（XAI）
解释性AI（XAI）是什么 解释性AI，也称为XAI（Extended AI），是一种综合了多种AI技术的智能系统或工具，旨在帮助人们理解和解释数据、信息和知识，以辅助决策制定。 可解释性模型：XAI系统可以使用可解释性模型来解释机器学习模型的工作原理和决策过程，帮助用户理解模型的预测结果。 在安全领域，可解释性AI可以帮助识别和解释潜在的安全威胁，从而提高安全性。 四、可解释性AI的评估与度量 评估和度量AI的可解释性是一个重要的问题。 五、可解释性AI的未来发展 可解释性AI有很大的发展潜力，未来的发展趋势包括算法改进、数据标准化和自动化解释方法等。随着技术的发展，我们可能会看到更多的自动化工具和平台用于评估和改进AI的可解释性。 六、可解释性AI的实践经验与案例分析 在实际应用可解释性AI的过程中，一些实践经验包括使用可视化技术来展示AI决策过程、使用人类判断法来评估AI的可解释性以及使用决策树分析法来理解模型决策等。
1.1K10编辑于 2024-02-01 - 来自专栏AI
模型可解释性
模型可解释性：LIME与SHAP等可解释工具随着深度学习和复杂机器学习模型的普及，模型的可解释性（Model Interpretability）成为了一个日益重要的议题。 模型可解释性的背景模型可解释性主要是指能够清晰地理解和解释机器学习模型的预测依据。传统的机器学习模型，如线性回归、决策树等，相对易于理解，用户可以直观地看到模型是如何做出预测的。 因此，模型可解释性成为了研究人员和实践者必须解决的核心问题。2. 模型可解释性的实际意义模型可解释性不仅仅是一个学术问题，它在实际应用中具有重要意义：增加模型的信任度：特别是在高风险行业，如医疗、金融等，理解模型的预测依据对于增强用户和监管机构的信任至关重要。 ，详细介绍了如何通过不同的方法提高机器学习模型的可解释性。
1.1K10编辑于 2025-02-02 - 来自专栏计算机视觉工坊
人脸识别的可解释性
作者丨孙裕道 编辑丨极市平台 导读 人脸识别的可解释性是深度学习领域中的一个很大挑战，当前的方法通常缺乏网络比较和量化可解释结果的真相。 自然深度学习中的很重要领域人脸识别的可解释性也是一个很大的挑战，当前在这方面探索的方法有网络注意力、网络解剖或综合语言解释，然而，缺乏网络比较和量化可解释结果的真相，尤其是在人脸识别中近亲或近亲之间的差异很微妙 论文贡献 该论文的贡献可以归结为如下三点，分别如下所示 XFR baseline：作者基于五种网络注意力算法为XFR（人脸识别的可解释性）提供了baseline，并在三个用于人脸识别的公开深度卷积网络上进行了评估 模型介绍 人脸识别的可解释性(XFR) 该论文的创新点可能是从Facenet中得到一定的灵感。XFR的目的是解释人脸图像之间的匹配的内在关系。
2.9K20发布于 2020-11-11 - 来自专栏大数据文摘
6个机器学习可解释性框架！
可解释性旨在帮助人们理解： 如何学习的? 学到了什么? 针对一个特定输入为什么会做出如此决策? 决策是否可靠? with condaconda install -c conda-forge shapbr 使用Shap库构建瀑布图 使用Shap库构建Beeswarm图 使用Shap库构建部分依赖图 LIME 在可解释性领域 与外形/石灰解释性有关。它可以使用SHAP/Lime作为后端，也就是说它只提供了更好看的图表。 InterpretML展示了两种类型的可解释性：glassbox模型——为可解释性设计的机器学习模型（如：线性模型、规则列表、广义可加模型）和黑箱可解释性技术——用于解释现有系统（如：部分依赖，LIME 使用统一的API并封装多种方法，拥有内置的、可扩展的可视化平台，该包使研究人员能够轻松地比较可解释性算法。
2.6K40编辑于 2022-10-10 - 来自专栏腾讯云TI平台
【技术分享】机器学习模型可解释性
可解释性特质： 重要性：了解“为什么”可以帮助更深入地了解问题，数据以及模型可能失败的原因。 分类：建模前数据的可解释性、建模阶段模型可解释性、运行阶段结果可解释性。 对于模型按预期工作的关键利益相关者而言，这应该是可证明且易于理解的。这确保了模型的透明度。 在他的论文中，他还讨论了PD图的局限性，并提供了有关如何为大数据生成可缩放图的建议。 然后使用新的可解析的特征和prediction作为label来训练新的简单模型（例如LR），然后使用简单模型的权重作为这些特征的重要性作为输出。 通俗来说： 就是选择一个样本以及样本附近的点，然后训练一个简单模型来拟合，虽然简单模型不能在完整数据集上有效，但至少在这个点附近都是有效的，这个简单模型的特征是人类可解析的，而训练出的权重也可以表示特征重要性
4.2K54编辑于 2021-12-22 - 来自专栏编程随想曲
代码重构之引入解释性变量
意图 临时变量可以帮助你将表达式分解为比较容易管理的形式 在较长的算法中，可以运用临时变量来解释每一步运算的意义 示例 /** * 引入解释性变量之前 * Created by luo on 2017 something } } private boolean wasInitialized() { return false; } } /** * 引入解释性变量之后
38020编辑于 2022-04-21 - 来自专栏CSDN小华
机器学习模型的可解释性
机器学习模型的可解释性 机器学习模型的可解释性是指人类能够理解并理解决策原因的程度，这在业务应用中尤为重要。高可解释性的模型不仅有助于开发人员在建模阶段理解模型，还能在必要时进行优化调整。 可解释性的重要性体现在多个方面： 辅助决策：可解释性使人们更容易理解为什么模型做出了某些决定或预测，从而提高对模型的信任度和接受度。 最新的机器学习模型可解释性技术和方法有哪些？ 最新的机器学习模型可解释性技术和方法主要包括以下几种： 局部可解释性工具：这类工具旨在解释模型在特定输入上的行为。 解释性工具的应用：利用各种解释性工具和技术，如局部可解释模型不可解释性（LIME）、集成梯度（IG）等，帮助理解模型的预测过程和结果。 近年来，学术界已经开发出许多可解释性工具和方法，如局部可解释性、规则可解释性和概念可解释性等。未来，这些工具和方法将不断完善，并在实际应用中得到更广泛的应用。
79710编辑于 2024-10-16 - 来自专栏曲奇的博客
机器学习模型的可解释性
可解释性的范围 全局可解释 这个层级的可解释性指的是，模型如何基于整个特征空间和模型结构、参数等作出决策的。什么特征是重要的，特征交互会发生什么。 模型的全局可解释性可以帮助理解，针对不同特征，目标变量的分布是什么。 局部可解释 局部可解释性更加关注单条样本或一组样本。这种情况下我们可以将模型看做是一个黑盒，不再考虑模型的复杂情况。 因此局部可解释性可能相比全局可解释，更加准确点。 1.3 可解释的模型 最简单的机器学习可解释性就是直接使用可解释模型，比如逻辑回归、线性模型、决策树。 然后使用新的可解析的特征和prediction作为label来训练新的简单模型（例如LR），然后使用简单模型的权重作为这些特征的重要性作为输出。 就是选择一个样本以及样本附近的点，然后训练一个简单模型来拟合，虽然简单模型不能在完整数据集上有效，但至少在这个点附近都是有效的，这个简单模型的特征是人类可解析的，而训练出的权重也可以表示特征重要性。
2.4K20编辑于 2021-12-14 - 来自专栏六点半就起来干博客！
机器学习——解释性AI（Explainable AI）
机器学习——解释性AI（Explainable AI） 解释性AI（Explainable AI）——让机器学习模型更加透明与可信 随着人工智能（AI）和机器学习（ML）在多个领域的广泛应用，理解模型的决策过程变得尤为重要 什么是解释性AI？ 解释性AI指的是一系列方法和技术，旨在帮助人们理解AI模型的输出如何生成。通过引入解释性层，AI系统不仅能提供预测结果，还能解释这些预测背后的逻辑。 解释性AI的优势 透明度：XAI通过提供详细的解释，确保用户能理解模型的决策过程。 公平性：解释性AI有助于识别和纠正模型中的潜在偏差，确保AI决策的公平性【44†source】。 解释性AI（Explainable AI）——揭开机器学习模型的“黑盒” 在当今人工智能和机器学习技术广泛应用的背景下，解释性AI（Explainable AI, XAI） 变得尤为重要。 法律合规性：在某些行业中，法律规定要求AI系统具备可解释性，XAI有助于满足这一需求【76】。 结论 解释性AI为AI系统的透明性和公平性提供了强有力的支持。
79810编辑于 2024-10-16 - 来自专栏Datawhale专栏
关于机器学习模型的可解释性算法！
模型可解释性汇总 简 介 目前很多机器学习模型可以做出非常好的预测，但是它们并不能很好地解释他们是如何进行预测的 本文介绍目前常见的几种可以提高机器学习模型的可解释性的技术，包括它们的相对优点和缺点。 Expectation (ICE) Permuted Feature Importance Global Surrogate Local Surrogate (LIME) Shapley Value (SHAP) 六大可解释性技术 小结 机器学习模型的可解释性是机器学习中一个非常活跃而且重要的研究领域。本文中我们介绍了6种常用的用于理解机器学习模型的算法。大家可以依据自己的实践场景进行使用。
93320发布于 2021-11-23 - 来自专栏深度学习和计算机视觉
机器学习模型的可解释性算法汇总！
模型可解释性汇总 简 介 目前很多机器学习模型可以做出非常好的预测，但是它们并不能很好地解释他们是如何进行预测的，很多数据科学家都很难知晓为什么该算法会得到这样的预测结果。 本文介绍目前常见的几种可以提高机器学习模型的可解释性的技术，包括它们的相对优点和缺点。 Expectation (ICE) Permuted Feature Importance Global Surrogate Local Surrogate (LIME) Shapley Value (SHAP) 六大可解释性技术 小结 机器学习模型的可解释性是机器学习中一个非常活跃而且重要的研究领域。本文中我们介绍了6种常用的用于理解机器学习模型的算法。大家可以依据自己的实践场景进行使用。
40910编辑于 2024-08-27 - 来自专栏CreateAMind
可解释性与deep learning的发展
每个子pattern有很强的可迁移性(transferability)，比如在multi-shot part localization的上可以降低1/3—2/3的误差。
36540发布于 2018-07-24 - 来自专栏ATYUN订阅号
深入探索Catboost模型可解释性（下）
在输出中，您将得到每对特性的列表。列表将有3个值，第一个值是该对中第一个特性的索引，第二个值是该对中第二个特性的索引，第三个值是该对的特性重要性得分。具体实施请查看嵌入式笔记本。
1.9K12发布于 2019-07-22 - 来自专栏Datawhale专栏
图神经网络的解释性综述！
作者还为GNN解释性问题提供了标准的图数据集和评估指标，将是这一方向非常值得参考的一篇文章。 ? Abstract 近年来，深度学习模型的可解释性研究在图像和文本领域取得了显著进展。然而，在图数据领域，既没有针对GNN可解释性的统一处理方法，也不存在标准的 benchmark 数据集和评估准则。 然而，这些研究只关注图像和文本领域的解释方法，忽略了深度图模型的可解释性。 GNN 的可解释性 与图像和文本领域相比，对图模型解释性的研究较少，然而这是理解深度图神经网络的关键。 软掩码被随机初始化，并被视为可训练变量。然后通过元素点乘将掩码与原始图结合。最大化原始图的预测和新获得的图的预测之间的互信息来优化掩码。 作者将介绍最近提出的几种针对解释性问题的评估度量方法。
1.6K40发布于 2021-05-07 - 来自专栏数据派THU
神经网络的可解释性综述！
来源：机器学习算法那些事、图灵人工智能 本文约2400字，建议阅读5分钟 本文浅谈神经网络的可解释性。 本文以 A Survey on Neural Network Interpretability 读后感为主，加上自身的补充，浅谈神经网络的可解释性。 本文按照以下的章节进行组织： 人工智能可解释性的背景意义 神经网络可解释性的分类 总结 1、人工智能可解释性的背景意义 1.1 什么是可解释性 Interpretability (of a DNN) is b）可解释性有助于发现潜在的错误；也可以通过debug而改进模型。 作为其他科学研究的工具 科学研究可以发现新知识，可解释性正是用以揭示背后原理。
1.4K10编辑于 2023-03-29 - 来自专栏ATYUN订阅号
深入探索Catboost模型可解释性（上）
我曾经的文章中，写到了XGBoost、LightGBM和Catboost的对比研究。通过分析，我们可以得出结论，catboost在速度和准确度方面都优于其他两家公司。在今天这个部分中，我们将深入研究catboost，探索catboost为高效建模和理解超参数提供的新特性。
4.4K21发布于 2019-07-17 - 来自专栏数据猿
谈谈机器学习模型的可解释性
关于模型的可解释性，就是要回答为什么的问题，如何解释该函数，它是如何预测的？ 可解释的模型 在机器学习的众多算法中，有的模型很难解释，例如深度神经网络。
1.4K40发布于 2019-11-20 - 来自专栏机器学习与统计学
神经网络的可解释性综述！
本文以 A Survey on Neural Network Interpretability 读后感为主，加上自身的补充，浅谈神经网络的可解释性。 本文按照以下的章节进行组织： 人工智能可解释性的背景意义 神经网络可解释性的分类 总结 01 人工智能可解释性的背景意义 1.1 什么是可解释性 Interpretability (of a DNN) 作为其他科学研究的工具 科学研究可以发现新知识，可解释性正是用以揭示背后原理。 02 神经网络可解释性的分类 ? 2.1 按照逻辑规则解释（Rule as Explanation） ? 二、决策树不能表达太深的网络，决策树越深，性能会急剧下降，可解释性也越差。 Tree Regulartion[2]提出了树正则的方法，来抑制了树的深度。 ? 03 可解释性总结 ? ?
1.4K20发布于 2021-07-29
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号