- 综合排序
- 最热优先
- 最新优先
- 来自专栏CSDNToQQCode
解释性AI（XAI）
解释性AI（XAI）是什么 解释性AI，也称为XAI（Extended AI），是一种综合了多种AI技术的智能系统或工具，旨在帮助人们理解和解释数据、信息和知识，以辅助决策制定。 XAI可以应用于各种领域，包括但不限于预测分析、风险评估、医疗保健、教育、人力资源、项目管理等。 XAI系统通常通过自然语言处理（NLP）和机器学习（ML）技术来分析和解释大量文本、数据和语音信息。 XAI系统通常包括以下功能： 文本分析：XAI系统可以分析文本内容，识别关键概念、主题和情感，并提供有关文本的上下文和背景信息。 交互式分析：XAI系统可以提供交互式分析和可视化工具，使用户能够探索数据并发现模式。 随着AI技术的广泛应用，XAI已经成为一个备受关注的重要领域。它不仅有助于建立人们对AI的信任，还可以帮助解决AI伦理和偏见等问题。XAI在推动人工智能的健康发展中发挥着关键作用。
93110编辑于 2024-02-01 - 来自专栏用户5637037的专栏
可解释性人工智能（Xai）研究：对医学Xai的展望
原文题目：A Survey on Explainable Artificial Intelligence (XAI): Towards Medical XAI 摘要：近年来，人工智能尤其是机器学习在从图像处理到自然语言处理等多项任务中表现出了显著的效果
2.2K30发布于 2019-07-18 - 来自专栏ATYUN订阅号
XAI——可解释的人工智能
什么是XAI？ 可解释的AI（XAI）系统的目的是通过提供解释使人类的行为更易于理解。 但是，目前尚没有测量XAI系统是否比非XAI系统更能使用户理解的通用方法。从用户的角度来看，这些度量中的一些是主观度量，例如用户满意度，可以通过对说明的清楚性和实用性进行主观评估来度量。 XAI系统的评估和衡量包括评估框架，共同点，常识和论证。 从以人为本的研究角度来看，对能力和知识的研究可以使XAI超越解释特定XAI系统并帮助其用户确定适当信任的角色。 将来，XAI最终可能会扮演重要的社会角色。 从知识理解和生成的这种社会角度来看，XAI的未来才刚刚开始。 END
2.9K10发布于 2019-12-23 - 来自专栏Java项目实战
马斯克：This week @xAI will open source Grok
马斯克：@OpenAI You should be called closedAI
24010编辑于 2024-03-18 - 来自专栏AIGC新知
xAI开源Grok，3140亿参数可商用
Grok-1 是一个由 xAI 从头开始训练的 3140 亿参数混合专家模型。 这是 Grok-1 预训练阶段的原始基础模型检查点，该阶段于 2023 年 10 月结束。 xAI 的几个有前景的研究方向： 通过工具辅助进行可扩展的监督。使用外部工具验证中间步骤以及在必要时寻求人类反馈来协助进行可扩展的监督。 与安全性、可靠性和接地性的形式验证相集成。 要开始使用该模型，请按照 github.com/xai-org/grok 上的说明进行操作。 权重： magnet:? xAI 于 2023 年 10 月使用基于 JAX 和 Rust 的自定义训练堆栈从头开始训练。 宣布 xAI 后，我们训练了一个具有 330 亿个参数的原型 LLM (Grok-0)，在标准 LM 基准上接近 LLaMA 2 (70B) 功能，仅使用其一半的训练资源。
44810编辑于 2024-10-08 - 来自专栏数据派THU
6个可解释AI (XAI)的Python框架推荐
来源：DeepHub IMBA本文约1500字，建议阅读5分钟本文为你介绍6个用于可解释性的Python框架。 随着人工智能的发展为了解决具有挑战性的问题，人们创造了更复杂、更不透明的模型。AI就
73930编辑于 2022-08-29 - 来自专栏NewBeeNLP
分享俩个大模型挂经，xAI & 英伟达
一、xAI 先说xAI，这家是老马新成立的AI公司，目前还比较小，不过官网上人员背景真的是强。打的口号也很响亮是要explore the universe。拿到面试很开心，结果直接一轮游了。。。 总结：楼主之前一些面试挺顺，结果也不错，有点得意忘形，也没太准备（RL的好好准备下应该起码会好一些，xAI那个真滴不会）。深度和广度还是有挺大差距的，可能和年限也有关系吧。
53370编辑于 2023-11-02 - 来自专栏IT杂谈学习
XAI：探索AI决策透明化的前沿与展望
为了解决这一问题，解释性AI（XAI）应运而生，它旨在提高AI系统的透明度和可理解性，帮助人们更好地理解和信任AI。 人工智能系统未能满足监管要求 三、XAI的研究与应用 XAI的研究和应用涵盖了多个方面。在算法改进方面，研究者们正在开发各种新的算法和技术，以提高AI系统的可解释性。 此外，XAI还在各种应用场景中发挥着重要作用。在医疗领域，XAI可以帮助医生理解AI诊断的逻辑和依据，从而提高诊断的准确性和可靠性。 在金融领域，XAI可以帮助投资者理解AI投资策略的风险和收益，从而做出更明智的投资决策。 四、XAI的挑战与展望 尽管XAI已经取得了很大的进展，但仍面临着许多挑战。 此外，如何确保XAI的公平性和无偏见也是一个需要解决的问题。 展望未来，随着XAI技术的不断发展，我们有理由相信AI的决策过程将变得更加透明和可理解。
92610编辑于 2024-02-06 - 来自专栏DeepHub IMBA
6个可解释AI (XAI)的Python框架推荐
随着人工智能的发展为了解决具有挑战性的问题，人们创造了更复杂、更不透明的模型。AI就像一个黑匣子，能自己做出决定，但是人们并不清楚其中缘由。建立一个AI模型，输入数据，然后再输出结果，但有一个问题就是我们不能解释AI为何会得出这样的结论。需要了解AI如何得出某个结论背后的原因，而不是仅仅接受一个在没有上下文或解释的情况下输出的结果。
81540编辑于 2022-11-11 - 来自专栏绿盟科技研究通讯
XAI系列二：模型可解释性技术概览
本文为XAI（eXplainableArtificial Intelligence）系列文章的第二篇，主要讨论XAI模型可解释性的主要技术实现，也包括与安全应用相关的技术方案。 一、XAI实现概览 XAI技术没有明确的范畴，能够提供人类可理解的决策说明的AI系统可称为可解释的AI。在此，我们不将AI技术局限在机器学习或深度学习技术。 1XAI技术分类简介 总体而言，XAI技术研究可覆盖模型可解释性、人机交互应用以及可解释性的心理学研究等多个方面，本文重点关注模型可解释性的研究。 大部分XAI研究关注可解释的机器学习模型，在XAI技术分类中往往不包含图、知识图谱及图算法技术。 二、总结 本文重点介绍了XAI技术中模型可解释性的相关研究成果。
4.1K31发布于 2019-12-11 - 来自专栏架构狂人
马斯克宣布xAI本周将开源 Grok
2024年3月11日晚上1:41（刚刚凌晨），马斯克在推特宣布即将开源Grok. 2023年11月，马斯克旗下的人工智能公司 xAI 发布了首款 AI 聊天产品，取名为“Grok”。
42210编辑于 2024-03-18 AI决策的解构与实践：初探可解释性技术（XAI）
AI决策的解构与实践：初探可解释性技术（XAI） 什么是可解释人工智能 可解释人工智能（Explainable Artificial Intelligence, XAI）是指智能体以一种可解释、可理解、 可解释性AI的应用场景 XAI的目标是使人工智能系统的决策过程更加透明和可解释。 XAI的方法旨在提供关于模型内部操作的解释，以帮助用户理解模型的预测或决策。 XAI的技术包括生成解释性文本、可视化模型的关键特征、提供决策的不确定性度量等。 通过增加可解释性，XAI有助于提高人们对人工智能系统的信任，并且在一些对解释性要求高的领域，如医疗和法律，XAI也具有重要的应用前景。 金融领域 在金融领域，可解释性AI对于投资决策至关重要。 在医疗领域，一些XAI工具已经成功应用于肿瘤诊断，通过清晰的解释帮助医生更好地理解AI系统的诊断建议。
1K10编辑于 2025-04-07- 来自专栏机器学习初学者精选文章
【机器学习】关于机器学习模型可解释(XAI），再分享一招！
SHAP 可解释 AI (XAI)实用指南来了！该篇文章主要介绍了关于回归问题的模型可解释性。 本文是关于如何使用sklearn.tree.plot_tree ，来获得模型可解释性的方法说明。
54630发布于 2021-07-07 - 来自专栏EpiHub
Part1：可解释的机器学习-XAI – eXplainable Artificial Intelligence
(又名XAI -可解释的人工智能)。 image.png 本文主要介绍： 为什么要使用XAI 代码实现 1.为什么要使用XAI 目前，人工智能算法非常流行，通过快速调用机器学习包，完成模型预测目的，这些复杂的算法，也称之为黑盒模型。 的可解释机器学习进行补充介绍： 基本的XAI与DALEX -Part1:介绍。 基本的XAI与DALEX -Part2:基于模型的变量重要性。 基本的XAI与DALEX -Part3:因素的边际效应 基本的XAI与DALEX -Part4:SHAP解释 -- 12.29 -- Happy birthday 参考文献 DALEX has a new
77030编辑于 2022-11-03 - 来自专栏算法进阶
人工智能（XAI）可解释性的研究进展！
XAI方法遵循类似于传统数据挖掘的有序过程，包括数据集成、算法集成和以人为本的分析。XAI增强了AI框架的可解释性、信任甚至知识理解，促进了人-AI协同的改善。 这项研究提供了一个结构化的叙述，通过XAI的三个目的和四个不同阶段的数据挖掘来分类和阐明当前XAI方法，并强调了XAI揭示数据中更深层次洞察的能力，这对AI驱动的科学和医学等领域具有重大意义。 Alikhademi等人提出了一个评估XAI工具在偏见检测和缓解方面的三方框架，揭示了XAI在偏见检测方面的能力往往不足。 XAI使AI模型简单易懂，帮助科学家验证或反驳假设，催生新见解。XAI是跨学科研究的理想途径，对科学探索的未来至关重要。 因此，需要开发广泛而全面的评估框架，以提供高质量的XAI方法选择。 大型语言模型（LLM）上的XAI：大型语言模型（如GPT-4）的规模和复杂性使得当前XAI方法可能无法充分解决其中的偏见或错误。
1.6K10编辑于 2024-06-13 - 来自专栏好奇心Log
关于机器学习模型可解释(XAI），再分享一招！
SHAP 可解释 AI (XAI)实用指南来了！该篇文章主要介绍了关于回归问题的模型可解释性。 本文是关于如何使用sklearn.tree.plot_tree ，来获得模型可解释性的方法说明。
99510发布于 2021-08-26 - 来自专栏新智元
曝光马斯克AGI秘密的他，被xAI开除了？
高调的马斯克，低调的xAI 尽管马斯克非常高调，但xAI非常神秘。 不妨回忆一下，除了马斯克，你还知道xAI里的谁？ 除了模型更新外，外界对xAI所知不多。 xAI到底发生了什么？ 但xAI的高级技术成员Sulaiman Ghori讲述xAI背后辛秘时，播客直接火了，在X上相关视频就有460万余观看。 Ghori的极客气质，契合马斯克青睐的「工程师文化」，让他得以顺利加入xAI： 在xAI，无论你之前是搞火箭的、做游戏的，还是卖指尖陀螺的，只要能解决问题，你就是工程师。 如果xAI付钱给车主租用算力：车主赚租赁费，xAI拿到分布式算力。 纯软件实现，不用新盖机房。 这段话最吓人的不是大胆。而是它听起来确实可行。 如果因为播客，他被开除，这说明xAI的文化肯定有问题，xAI这种处理不太好看。 人出名了，工作没了，接下来怎么办呢？ 祝他再次启航、一路顺风吧。
22510编辑于 2026-01-26 - 来自专栏大数据文摘
学界 | 人工智能的圣杯：关于可解释AI(XAI)的一切
这就产生了人工智能的新兴分支，称为“可解释的人工智能”(XAI)。 什么是可解释的AI(XAI)XAI是人工智能的一个新兴分支，用于解释人工智能所做出的每一个决策背后的逻辑。 除了对上述问题提供解决方案之外，XAI还具有更深层的业务优势，例如： 改善AI模型的性能。因为XAI的解释有助于找到数据和特征行为中的问题。 更好的决策部署。 培训 工作能力培训和再培训 保护 隐私数据 构建 审计算法的工具和标准 XAI-主要技巧 XAI有两个主要技巧： 已知模型技巧：在这里有两类技巧。 下面给出了当下算法精确度和可解释性的关系图 XAI的未来： XAI领域有很好的发展前景，可以帮助企业解决AI的不足。例如： 精确的模型：XAI可同时支持维护者和训练者改进他们的模型，并使其持续下去。 值得信赖的模型：当XAI使得AI内部工作透明化时，XAI将有助于建立企业和其他监管行业的信心。 自然语言解释：XAI将通过自然语言(语音或文本)来解释它的决定，而不是通过分析表或复杂的仪表盘。
81120发布于 2018-12-13 - 来自专栏绿盟科技研究通讯
XAI系列一：可信任安全智能与可解释性
XAI技术主要研究如何使得AI系统的行为对人类更透明、更易懂、更可信。 本文为XAI系列文章的首篇，主要讨论了XAI的概念、技术必要性，并简要介绍基于XAI打造可信任安全智能、可解释智能威胁分析系统的思考。后续将带来XAI关键技术研究等相关内容。 什么是XAI XAI (eXplainable Artificial Intelligence) 近年来逐渐成为研究热点。 Gartner将XAI技术列为数据和分析技术领域的TOP 10重要趋势之一[1]。KDD、ICML、NIPS及IJCAI等等著名国际性会议都有覆盖XAI话题的Workshop。 工业界方面，包括微软、谷歌、Oracle等诸多科技巨头，都在开展XAI相关技术研发。 从概念上， XAI可定义为能够以人类可理解的方式解释其决策结果的人工智能算法及系统。
2.8K41发布于 2019-12-11 - 来自专栏DeepHub IMBA
Explainable AI (XAI) 不能解释什么,以及我们如何解决这个问题
Explainable AI (XAI)试图填补这个鸿沟，但正如我们下面所解释的，XAI在不直接解释模型的情况下证明了决策的合理性。 XAI不能解释什么 显著性图¹ 许多XAI方法生成显著性图，它突出了影响预测的重要输入像素。然而，显著性图侧重于输入但忽略了对模型如何做出决策的解释。 ? ? ? 结论 XAI并不能完全解释神经网络是如何达到预测的：现有的方法能够解释图像对模型预测的影响，但不能解释决策过程。决策树能解决这个问题，但不幸的是，图像是决策树准确性的克星⁷。
1.8K20发布于 2020-05-09
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号