- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI人工智能
智能体安全与可信AI：防护机制与伦理考量
摘要作为一名长期专注于人工智能安全领域的技术博主"摘星"，我深刻认识到随着智能体（AI Agent）技术的快速发展和广泛应用，其安全性和可信度已成为当前AI领域最为关键的挑战之一。 通过理论分析与实践案例相结合的方式，我希望能够为读者提供一个全面而深入的智能体安全防护体系，帮助开发者和研究者在构建智能体系统时能够充分考虑安全性和可信度，推动AI技术的健康发展。1. 未来发展趋势与挑战6.1 技术发展趋势智能体安全与可信AI领域的未来发展趋势：timeline title 智能体安全技术发展时间线 2024 : 基础防护机制 : 2-3年隐私保护计算效率低硬件加速专用芯片设计3-5年伦理合规标准不统一国际合作全球伦理框架5-10年责任归属法律空白立法推进智能体法律体系10年以上表5 智能体安全挑战与机遇分析表6.3 研究方向建议 AI安全领域的技术博主"摘星"，通过本文的深入探讨，我深刻认识到智能体安全与可信AI已经成为当前人工智能发展中最为关键和紧迫的议题之一。
43010编辑于 2025-07-29 - 来自专栏资讯博客
2025企业智能体开发平台如何选择，“可信”成为核心的需求
在企业级场景中，智能体的 “可信性” 如同桥梁的基石，直接决定其能否从技术概念跨越到实际生产力。 因此，选择平台的核心逻辑在于：平台能否为智能体搭建 “可信运行的技术基座”，能否将 “可信” 能力像 “血液” 一样融入开发全流程。 二、评估平台的三大 “可信支柱”基于企业对智能体的核心需求，开发平台需以 “知识工程、可控执行、场景评测” 为支柱，构建可信能力体系。 这种 “机器决策 + 人工校准” 的机制，既保留了智能体的效率，又确保关键环节的风险可控。场景评测能力：让智能体 “知道短板、会自己进步”可信智能体不是 “一次性产品”，而是需要在迭代中持续进化。 总结当 “可信” 成为企业选择智能体开发平台的核心标准，本质是在寻找 “让智能体真正融入业务的底气”。
30310编辑于 2025-10-15 - 来自专栏科技云报道
芯云一体安全可信，超融合重塑智能时代未来
破解安全信任困局，以“芯云一体”超融合架构重构智能时代的技术根基，已成为行业发展的必然选择。 芯云一体全栈可信 重塑超融合底层逻辑 面对数字信任困局，曙光云依托自身在可信计算、国产芯片、云计算等领域的技术积累，摒弃传统“事后加安全”的模式，创新提出“芯云一体”超融合架构。 以曙光云超融合一体机为例，其通过技术创新实现了性能的大幅提升，采用分布式全局缓存引擎、卷聚合、条带化等性能优化技术，搭配DDR5 5600高频内存与高速SSD缓存盘，显著提升了存储I/O性能与并发处理能力 在交通领域，广东、上海等多地的ETC收费系统，以及轨道交通集团的智能调度平台依托曙光云超融合一体机实现了安全高效运行。 智能时代的核心命题，是构建“安全可信、高效协同、可持续发展”的数字生态。
20810编辑于 2025-11-29 - 来自专栏Go语言学习专栏
5 - 工具调用 - AI 超级智能体项目教程
1）联网搜索 2）网页抓取 3）资源下载 4）终端操作 5）文件操作 6）PDF 生成 而且这些需求还可以进行组合 如果 AI 能够完成上述需求，就不再只是一个有知识的 “大脑”，而是有手有脚，会利用工具完成任务的 “智能体” 了。 try { String response = HttpUtil.get(SEARCH_API_URL, paramMap); // 取出返回结果的前 5 jsonObject.getJSONArray("organic_results"); List<Object> objects = organicResults.subList(0, 5) ().get("userName")); } } 看源码我们会发现，ToolContext 本质上就是一个 Map： A47lphkkDDkxdCS/rQHpdWHGIqT1c+f0rRj5gEHvdTo
24710编辑于 2026-03-17 - 来自专栏云鼎实验室的专栏
AAAI 2026 新加坡｜共探可信可控的下一代AI智能体
本次研讨会由腾讯云安全与A*STAR（新加坡科技研究局）等团队联合举办，旨在汇聚全球顶尖研究力量，深入探讨智能体的可信可控问题，携手为Agentic AI技术奠定坚实的安全基石。 背景 从“对话式AI”到“行为式AI”的范式转移 人工智能正经历一场深刻变革：从被动响应的对话系统，转向能自主规划、调用工具、持续协作的行为式智能体（Agentic AI）。 研讨会聚焦 对齐·鲁棒·可验证 我们邀请来自全球学术界、产业界与政策制定领域的领先声音，共同探讨智能体的可信构建、安全对齐、人格建模、评估基准与治理框架等核心前沿议题： 海报议程为议定议程，最终议程可登录活动官网关注查看 这源于我们持续的产业实践： 以实战验证边界：两个月前，我们举办的 “腾讯云黑客松·智能渗透挑战赛” 首次大规模模拟AI智能体驱动的攻防对抗，验证了智能体在复杂安全场景中的行为边界与风险点，为可信AI研究提供了鲜活样本 以原生能力护航：腾讯云安全长期积累的云原生安全能力，涵盖威胁检测、数据保护与系统韧性，已自然延伸至AI智能体的架构安全、行为监控与风险干预，为智能体的自主行动提供全程护航。
15010编辑于 2026-04-09 智能体案例分析：IT新闻聚合智能体
智能体案例分析：IT新闻聚合智能体 IT新闻聚合智能体通过自动化技术抓取、分析和呈现最新的IT行业动态。这类智能体通常结合自然语言处理（NLP）和机器学习技术，从多个来源筛选高价值信息。 核心功能包括： 实时爬取主流科技媒体（如TechCrunch、Wired、The Verge） 自动分类（人工智能、网络安全、云计算等） 情感分析判断新闻倾向性 生成摘要简化阅读 典型应用场景： 投资机构追踪技术趋势 text-classification", model="distilbert-base-uncased") summarizer = pipeline("summarization", model="t5-
36011编辑于 2025-12-17智能体来了！2026智能体开发全面指南
智能体来了！2026智能体开发全面指南 一、 繁华落尽后的“平静”：技术背后的选择逻辑“真正深入使用 AI 之后，我反而更平静了。” 在过去这段时间里，我深入钻研了 Python 编程、探究了 AIGC 的视觉极限、搭建了复杂的流程智能体、甚至深入到了 STM32 的硬件底层。 而顶级的 AI 大模型与 Agent（智能体），正是我能遇到的认知最高、脾气最好、思维最完善的存在。在我的「心枢」系统里，AI 不仅仅是执行任务的“器”，它更是我最好的老师、朋友、教练和员工。 它的核心公式是：理解目标（Layer 1）→ 协助决策（Layer 2&3）→ 自动执行（Layer 2&5）→ 持续表达（Layer 4）。 礼包内包含（持续更新）：多维提示词库：包含智能体设计规范、AI 绘画精准词簇、AI 视频叙事 Prompt。ComfyUI 极客工作流：从零搭建好的 json 配置文件，导入即用。
32710编辑于 2026-01-24从“生成”到“决策”：2026 企业级可信智能体（Trusted Agent）技术架构与选型指南
为了解决这一信任危机，“可信智能体”（Trusted Agent） 应运而生，成为企业数字化转型的选型新标准。 我们将其定义为：可信智能体 = 可溯源的推理路径 (Traceable Logic) + 结合私有数据 (Private Data) + 极低的幻觉率 (Zero Hallucination)只有具备上述特征的智能体 Know-how 的企业级可信智能体（Trusted Agent）开始接管“核心业务决策”和“深度数据挖掘”任务。 第一类：企业级深度决策与可信智能体此类产品致力于解决“幻觉”问题，采用“人机协同”模式，服务于复杂的商业逻辑推理。主要解决企业最复杂的“数据到决策”的闭环问题，是构建企业数字化大脑的核心。 核心理念是以“可信智能体模型 + 可信数据”双轮驱动，旨在解决通用智能体在企业级市场应用中存在的“幻觉率高、过程不透明”痛点，构建 Agentic AI 时代的“可信生产力”。
65810编辑于 2026-01-15- 来自专栏算法之名
AI智能体
messages) print(response.content) 这里的 ZHIPUAI_API_KEY 需要你自己去智普网站 https://open.bigmodel.cn 去注册就有，运行结果 智能助手显神通 你的角色是一个诗人.'), HumanMessage(content='用七言绝句的形式写一首关于AI的诗')] streaming_chat(messages) 运行结果 智能助手显神通
78310编辑于 2024-09-29 - 来自专栏云鼎实验室的专栏
于新加坡见未来：腾讯云安全在AAAI 2026办了场可信AI智能体全球研讨
来自腾讯云的资深安全专家赵开发发表了题为《Architecting Trustworthy Agents: A Multi-Layered Defense from Alignment to Isolation（构建可信赖智能体的多层防御架构 AI 智能体规模化落地的关键瓶颈。 通过分析海量攻防场景、模拟千万级恶意指令攻击、沉淀应用案例，在会议现场，腾讯云资深安全专家赵开发 从技术落地角度拆解 AI 智能体的可信防护路径，内容聚焦实战、干货满满，引发在场嘉宾的热烈讨论： ➢ 三层对齐防护体系 这一方案填补 AI 智能体安全实战防护的行业空白，首创多层对齐防护与 Sentinel Agent 主动审计架构，将防护从事后补救前移至事前预判，构建全链路可信防护体系，经千万级恶意指令验证，防护能力达行业领先 ，为 AI 智能体规模化安全落地提供实战范式。
18910编辑于 2026-04-09 构建多智能体 AI 应用的5个最佳框架
智能体的基本结构 下面的代码片段展示了一个 AI 智能体最简单、最基础的形式。一个智能体使用语言模型来解决问题。 •投票与评价分析：通过分析用户反馈与问卷调查数据[5]，洞察客户需求，从而优化客户体验。•差旅与报销管理：自动化处理费用申报、跟踪与审批流程。 5. LangGraph LangGraph[23]是一个基于节点的 AI 框架，是目前最受欢迎的多智能体系统构建工具之一。它属于 LangChain 生态系统，专用于图结构化的智能体流程编排。 更多信息 山行AI希望本文对你有所帮助，由笔者翻译整理自：https://medium.com/@amosgyamfi/best-5-frameworks-to-build-multi-agent-ai-applications 各个渠道上的用户情绪:https://getstream.io/blog/building-an-ecommerce-chatbot-with-react-native-and-dialogflow/ [5]
88210编辑于 2026-03-13- 来自专栏云时之间
智能体结构
智能体的结构 迄今为止我们通过描述行为—在任何给定的感知序列下采取的行动—讨论了智能体，现在我们不得不将知难而进，去讨论智能体内部是如何工作的，AI的任务是设计智能体程序，通过它来把感知信息映射到行动的智能体函数 注意智能体程序和智能体函数之间的差别。智能体程序在于当前感知为输入，而智能体函数是以整个历史为输入的。智能体程序只把当前感知作为输入是因为环境无法得到更多的东西。如果智能体的行动依赖于整个感知序列。 那么该智能体不得不记住全部感知的信息。 *智能体程序骨架还有其他的选择。例如我们可以让智能体程序成为协同程序。 行动表明确的表示了每个智能体程序实现的智能体函数。要用这种方式来建造理性智能体。作为设计者，我们必须构造包括各种可能的感知序列的适当行动的函数表。 在这个文章的以下部分，我想概述四种基本的智能体程序，他们几乎涵盖了所有智能系统的基础准则： 1：简单反射型智能体 2：基于模型的反射型智能体 3：基于目标的智能体 4：基于效用的智能体 然后我们将概括的解释如何把这些智能体转换成学习智能体
1.4K70发布于 2018-04-11 - 来自专栏绿盟科技研究通讯
AISecOps：打造可信任安全智能
近年来的热点，“零信任”强调面向身份的信任机制，“可信计算”尝试软硬一体的构建完整的信任平台，区块链通过分布式的账本系统解决陌生信任问题。而安全应用的智能化、自动化进程中，技术的可信任特性不是原生的。 可以说，当前智能化技术本身的不成熟，难以赢得人的信任，成为限制其在许多场景下深入应用的关键问题[3]。 2构建可信任安全智能 ? 图5 智能体可信任的技术要素 无论如何，打造更可信任的人工智能，弥补人在处理海量数据过程中的先天不足，打造可信的智能“战友”，始终都是我们的终极追求。 从构建技术信任的角度，以提升关键安全能力自动化水平为目标，可信任的安全智能体须具备以下核心技术要素：环境自适应、输出可解释、持续学习，以及面向可审计的安全合规、符合道德约束、支持隐私保护等。 环境自适应，指的是针对动态网络全数据的分析性能，如分类准确率、异常的检出率、误报率等等，唯有自适应才能保证任务执行的结果的稳定性，真实有效拓展人处理能力的不足； 输出可解释，指的是要求智能体的结果可解释
2.2K41发布于 2020-06-09 智能体（Agent）全面解析：什么是智能体agent
一、什么是智能体（Agent）？智能体是一个能够自主思考、决策、调用工具的智能代理系统。 它不仅仅是简单的问答机器人，而是具备以下核心能力的自主系统：思考能力：理解用户意图，分析任务需求决策能力：规划执行步骤，选择合适工具行动能力：调用外部工具，执行具体操作记忆能力：记住上下文，积累经验智能体的价值智能体的出现 智能体的核心优势大脑：LLM提供强大的理解和推理能力undefined记忆：记住对话历史，保持上下文连贯工具：灵活调用各种外部能力二、两种搭建智能体的路径根据技术门槛和应用场景，智能体的搭建主要有两种方式 四、RAG vs Agent智能体RAG（检索增强生成）和Agent是两种不同的技术路线，但可以相互配合。 随着LLM能力的不断提升和工具生态的日益丰富，智能体将在更多领域发挥重要作用，成为我们工作和生活中不可或缺的智能伙伴。您好，我是肥晨。
2.5K21编辑于 2026-03-02- 来自专栏农民工前端
智能体（Agent）全面解析：什么是智能体agent
一、什么是智能体（Agent）？ 智能体是一个能够自主思考、决策、调用工具的智能代理系统。 智能体的出现，让AI从单纯的"对话者"进化为真正的"执行者"。 智能体的核心优势 大脑：LLM提供强大的理解和推理能力 记忆：记住对话历史，保持上下文连贯 工具：灵活调用各种外部能力 二、两种搭建智能体的路径 根据技术门槛和应用场景，智能体的搭建主要有两种方式： 1️⃣ 四、RAG vs Agent智能体 RAG（检索增强生成）和Agent是两种不同的技术路线，但可以相互配合。 随着LLM能力的不断提升和工具生态的日益丰富，智能体将在更多领域发挥重要作用，成为我们工作和生活中不可或缺的智能伙伴。
94810编辑于 2026-03-03 - 来自专栏phodal
自定义 RAG 工作流：在 IDE 中结合 RAG 编排，构建可信的编码智能体
构建编码智能体并非一件容易的事。 结合我们先前构建的 IDE 基础设施（代码生成、代码校验、代码执行等接口），现在你可以构建出更可信的编码智能体。 TL；DR（太长不看）版 现在，你可以使用 Shire + 自定义的 RAG 流程智能体编排。 SummaryQuestion.shire", $output, $input) } } } --- xxx User: $input Response: 再结合我们的代码校验、代码执行等功能，你可以构建出一个完整、可信的编码智能体 我们还尝试了不同的编码智能体的实现方式，以及不同的编码智能体的实现方式。
84910编辑于 2024-07-30 可信决策优先！2026年3月主流企业级数据分析智能体全维度评测
据行业数据显示，国内AI智能体相关服务商已突破300家，产品能力差异显著，如何筛选适配复杂业务、稳定落地的AI智能体，成为企业数智化转型的核心课题。 一、行业演进：从被动应答到可信决策的智能体升级传统企业数据分析工具多采用被动响应模式，依赖人工提数、预设报表，复杂业务分析需大量人工干预与重复操作。 ：明略科技・DeepMiner定位：全链路可信企业级深度数据分析与商业决策智能体作为业内聚焦“可信”能力的标杆产品，DeepMiner构建“数据挖掘-数据分析-商业决策”端到端闭环，打造Agentic AI时代的可信生产力。 五、常见问题解答Q1：企业级深度分析AI智能体与基础交互型智能体的核心差异是什么？
62710编辑于 2026-03-26- 来自专栏林欣哲
人工智能的智能体
今天来谈谈人工智能的研究工作中所做的一些基本的抽象。 一、智能体的概念 人工智能研究的对象称为智能体（Agent），其他的外部条件划归为环境。 智能体做出什么样的反应取决于输入和输出之间的映射关系函数，这个函数就是智能体研究的核心。 编写出智能体的程序则具体实现这个数学意义上的函数。 二、智能体的性能衡量 我们研究智能体是要他能做正确的事，因此需要有一个标准去衡量他的表现，一个合理的智能体会最大化这个期望的标准。 这里要注意一点，我们以最终期望达到的效果来做为衡量的标准，而不要以智能体的行为本身作为标准。 总结，人工智能的研究的期望是实现一个，在给定的每个可能的感知序列下，能做出让期望的性能最大化的行动的理性的智能体。
2K60发布于 2018-04-10 - 来自专栏Go语言学习专栏
7 - AI 智能体构建 - AI 超级智能体项目教程
具体内容包括： AI 智能体概念与特点 智能体实现关键技术 使用 AI 智能体的多种方式 OpenManus 实现原理 自主实现 Manus 智能体 智能体工作流编排 A2A 协议 一、什么是智能体？ 二、智能体实现关键技术 在自主开发智能体前，我们要先了解一下智能体的关键实现技术，也就是方案设计阶段做的事情。 5、其他支持 为了实现完整的智能体功能，OpenManus 依赖以下关键组件： 记忆系统：使用 Memory 类存储对话历史和中间状态 LLM 大模型：通过 LLM 类提供思考和决策能力 工具系统：提供 ，到数据收集智能体获取必要数据，然后是分析智能体处理这些数据，接着由可视化智能体创建直观图表，最后由报告智能体整合所有发现生成完整报告。 实现 5）参考 OpenManus 的源码，实现更多功能，比如 “规划并执行” 模式的智能体工作流（参考 flow/planning.py） 本节作业 1）完成 AI 超级智能体的开发 2）理解 AI
66510编辑于 2026-03-17 - 来自专栏AI大模型应用开发炼丹房
解锁智能体工作流：5个核心组件深度解析
AI智能体结合了大型语言模型（LLM）的推理、工具交互和记忆能力，赋予工作流动态性和适应性。与传统的确定性工作流或非智能体AI工作流相比，智能体工作流能处理更高复杂度的任务。 二、智能体工作流的定义与关键模式智能体工作流是由一个或多个智能体动态执行的任务序列，强调自主规划、工具使用和反思迭代。 它与非智能体工作流的区别在于其“智能体性”（Agentic）：与传统工作流的比较：确定性工作流（如费用审批规则）缺乏适应性；非智能体AI工作流（如文本摘要）仅静态生成输出；而智能体工作流整合LLM 三、智能体工作流的应用智能体工作流广泛用于企业场景，结合不同模式处理复杂任务。 架构分为： 单智能体RAG：作为路由器，从多个知识源（如专有数据库或API）检索数据。多智能体RAG：多个智能体协作（如主智能体协调专业检索智能体），处理更复杂查询。
1.1K10编辑于 2025-08-27
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号