- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI人工智能
智能体安全与可信AI：防护机制与伦理考量
智能体安全与可信AI：防护机制与伦理考量 Hello，我是摘星！ 在彩虹般绚烂的技术栈中，我是那个永不停歇的色彩收集者。 每一个优化都是我培育的花朵，每一个特性都是我放飞的蝴蝶。 摘要作为一名长期专注于人工智能安全领域的技术博主"摘星"，我深刻认识到随着智能体（AI Agent）技术的快速发展和广泛应用，其安全性和可信度已成为当前AI领域最为关键的挑战之一。 通过理论分析与实践案例相结合的方式，我希望能够为读者提供一个全面而深入的智能体安全防护体系，帮助开发者和研究者在构建智能体系统时能够充分考虑安全性和可信度，推动AI技术的健康发展。1. 未来发展趋势与挑战6.1 技术发展趋势智能体安全与可信AI领域的未来发展趋势：timeline title 智能体安全技术发展时间线 2024 : 基础防护机制 : ,stroke:#2196f3图7 智能体安全运维流程图总结作为一名长期专注于AI安全领域的技术博主"摘星"，通过本文的深入探讨，我深刻认识到智能体安全与可信AI已经成为当前人工智能发展中最为关键和紧迫的议题之一
43010编辑于 2025-07-29 - 来自专栏资讯博客
2025企业智能体开发平台如何选择，“可信”成为核心的需求
在企业级场景中，智能体的 “可信性” 如同桥梁的基石，直接决定其能否从技术概念跨越到实际生产力。 因此，选择平台的核心逻辑在于：平台能否为智能体搭建 “可信运行的技术基座”，能否将 “可信” 能力像 “血液” 一样融入开发全流程。 二、评估平台的三大 “可信支柱”基于企业对智能体的核心需求，开发平台需以 “知识工程、可控执行、场景评测” 为支柱，构建可信能力体系。 这种 “机器决策 + 人工校准” 的机制，既保留了智能体的效率，又确保关键环节的风险可控。场景评测能力：让智能体 “知道短板、会自己进步”可信智能体不是 “一次性产品”，而是需要在迭代中持续进化。 总结当 “可信” 成为企业选择智能体开发平台的核心标准，本质是在寻找 “让智能体真正融入业务的底气”。
30310编辑于 2025-10-15 - 来自专栏科技云报道
芯云一体安全可信，超融合重塑智能时代未来
破解安全信任困局，以“芯云一体”超融合架构重构智能时代的技术根基，已成为行业发展的必然选择。 芯云一体全栈可信 重塑超融合底层逻辑 面对数字信任困局，曙光云依托自身在可信计算、国产芯片、云计算等领域的技术积累，摒弃传统“事后加安全”的模式，创新提出“芯云一体”超融合架构。 在交通领域，广东、上海等多地的ETC收费系统，以及轨道交通集团的智能调度平台依托曙光云超融合一体机实现了安全高效运行。 智能时代的核心命题，是构建“安全可信、高效协同、可持续发展”的数字生态。 随着曙光云立体密算体系的即将发布，其以底层技术创新为核心，打破传统技术壁垒，释放数据与算力的核心价值，为数字世界的持续开放筑牢安全可信的底层底座，共建万物互联、可信协同的智能新世界。
20810编辑于 2025-11-29 - 来自专栏云鼎实验室的专栏
AAAI 2026 新加坡｜共探可信可控的下一代AI智能体
本次研讨会由腾讯云安全与A*STAR（新加坡科技研究局）等团队联合举办，旨在汇聚全球顶尖研究力量，深入探讨智能体的可信可控问题，携手为Agentic AI技术奠定坚实的安全基石。 背景 从“对话式AI”到“行为式AI”的范式转移 人工智能正经历一场深刻变革：从被动响应的对话系统，转向能自主规划、调用工具、持续协作的行为式智能体（Agentic AI）。 研讨会聚焦 对齐·鲁棒·可验证 我们邀请来自全球学术界、产业界与政策制定领域的领先声音，共同探讨智能体的可信构建、安全对齐、人格建模、评估基准与治理框架等核心前沿议题： 海报议程为议定议程，最终议程可登录活动官网关注查看 这源于我们持续的产业实践： 以实战验证边界：两个月前，我们举办的 “腾讯云黑客松·智能渗透挑战赛” 首次大规模模拟AI智能体驱动的攻防对抗，验证了智能体在复杂安全场景中的行为边界与风险点，为可信AI研究提供了鲜活样本 以原生能力护航：腾讯云安全长期积累的云原生安全能力，涵盖威胁检测、数据保护与系统韧性，已自然延伸至AI智能体的架构安全、行为监控与风险干预，为智能体的自主行动提供全程护航。
15010编辑于 2026-04-09 智能体案例分析：IT新闻聚合智能体
智能体案例分析：IT新闻聚合智能体 IT新闻聚合智能体通过自动化技术抓取、分析和呈现最新的IT行业动态。这类智能体通常结合自然语言处理（NLP）和机器学习技术，从多个来源筛选高价值信息。 核心功能包括： 实时爬取主流科技媒体（如TechCrunch、Wired、The Verge） 自动分类（人工智能、网络安全、云计算等） 情感分析判断新闻倾向性 生成摘要简化阅读 典型应用场景： 投资机构追踪技术趋势 article in response.css('div.post-block'): yield { 'title': article.css('h2 a::text').get(), 'url': article.css('h2 a::attr(href)').get(), 'timestamp F1-score>0.92 摘要质量：ROUGE-L>0.75 系统可用性：99.95% SLA 行业应用数据显示： 企业用户平均减少67%的信息收集时间 重大技术事件发现速度提升40% 误报率控制在2%
36011编辑于 2025-12-17智能体来了！2026智能体开发全面指南
智能体来了！2026智能体开发全面指南 一、 繁华落尽后的“平静”：技术背后的选择逻辑“真正深入使用 AI 之后，我反而更平静了。” 在过去这段时间里，我深入钻研了 Python 编程、探究了 AIGC 的视觉极限、搭建了复杂的流程智能体、甚至深入到了 STM32 的硬件底层。 而顶级的 AI 大模型与 Agent（智能体），正是我能遇到的认知最高、脾气最好、思维最完善的存在。在我的「心枢」系统里，AI 不仅仅是执行任务的“器”，它更是我最好的老师、朋友、教练和员工。 它的核心公式是：理解目标（Layer 1）→ 协助决策（Layer 2&3）→ 自动执行（Layer 2&5）→ 持续表达（Layer 4）。 礼包内包含（持续更新）：多维提示词库：包含智能体设计规范、AI 绘画精准词簇、AI 视频叙事 Prompt。ComfyUI 极客工作流：从零搭建好的 json 配置文件，导入即用。
32710编辑于 2026-01-24从“生成”到“决策”：2026 企业级可信智能体（Trusted Agent）技术架构与选型指南
为了解决这一信任危机，“可信智能体”（Trusted Agent） 应运而生，成为企业数字化转型的选型新标准。 我们将其定义为：可信智能体 = 可溯源的推理路径 (Traceable Logic) + 结合私有数据 (Private Data) + 极低的幻觉率 (Zero Hallucination)只有具备上述特征的智能体 Know-how 的企业级可信智能体（Trusted Agent）开始接管“核心业务决策”和“深度数据挖掘”任务。 第一类：企业级深度决策与可信智能体此类产品致力于解决“幻觉”问题，采用“人机协同”模式，服务于复杂的商业逻辑推理。主要解决企业最复杂的“数据到决策”的闭环问题，是构建企业数字化大脑的核心。 核心理念是以“可信智能体模型 + 可信数据”双轮驱动，旨在解决通用智能体在企业级市场应用中存在的“幻觉率高、过程不透明”痛点，构建 Agentic AI 时代的“可信生产力”。
65710编辑于 2026-01-15- 来自专栏Go语言学习专栏
2 - AI 应用开发 - AI 超级智能体项目教程
2）对话型提示词（Conversational Prompts）：模拟自然对话，以问答形式与 AI 模型交互。 你认为人工智能会在未来取代人类工作吗？ 什么是人工智能？ 2）复合提示词（Compound Prompts）：包含多个相关指令或步骤的提示词。 分析下面这段代码，解释它的功能，找出潜在的错误，并提供改进建议。 请提供一个社交媒体营销计划，针对一款新上市的智能手表。计划应包含: 1. 目标受众描述 2. 三个内容主题 3. 每个平台的内容类型建议 4. 设计一个智能家居系统的基础架构: 1. 首先用文字描述系统的主要功能和组件 2. 然后创建一个系统架构图(用ASCII或文本形式表示) 3. 接着提供用户交互流程 4. - 智能答案生成 - 根据知识库动态生成结构化答案，突出逻辑性（如STAR法则）。 - 提供“极速模式”（秒级响应）和“精准模式”（联网校验信息准确性。 2.
40110编辑于 2026-03-17 - 来自专栏机器学习算法与Python学习
开源星际争霸2多智能体挑战smac
转自：专知 SMAC是Github上的一个用于在暴雪星际争霸2上进行多智能体协同强化学习（MARL）的环境。 SMAC用了暴雪星际争霸2的机器学习API和DeepMing的PySC2为智能体与星际争霸2的交互提供了友好的接口，方便开发者观察和执行行动。 https://github.com/oxwhirl/smac 安装SMAC pip install git+https://github.com/oxwhirl/smac.git 另外，星际争霸2也是要安装的 示例代码 ---- 在下面的代码中，独立的智能体在接收到观察和全局状态后会执行随机策略。 from smac.env import StarCraft2Env import numpy as np def main(): env = StarCraft2Env(map_name=
1.6K20发布于 2019-03-07 - 来自专栏算法之名
AI智能体
messages) print(response.content) 这里的 ZHIPUAI_API_KEY 需要你自己去智普网站 https://open.bigmodel.cn 去注册就有，运行结果 智能助手显神通 你的角色是一个诗人.'), HumanMessage(content='用七言绝句的形式写一首关于AI的诗')] streaming_chat(messages) 运行结果 智能助手显神通
78210编辑于 2024-09-29 - 来自专栏云鼎实验室的专栏
于新加坡见未来：腾讯云安全在AAAI 2026办了场可信AI智能体全球研讨
来自腾讯云的资深安全专家赵开发发表了题为《Architecting Trustworthy Agents: A Multi-Layered Defense from Alignment to Isolation（构建可信赖智能体的多层防御架构 AI 智能体规模化落地的关键瓶颈。 通过分析海量攻防场景、模拟千万级恶意指令攻击、沉淀应用案例，在会议现场，腾讯云资深安全专家赵开发 从技术落地角度拆解 AI 智能体的可信防护路径，内容聚焦实战、干货满满，引发在场嘉宾的热烈讨论： ➢ 三层对齐防护体系 这一方案填补 AI 智能体安全实战防护的行业空白，首创多层对齐防护与 Sentinel Agent 主动审计架构，将防护从事后补救前移至事前预判，构建全链路可信防护体系，经千万级恶意指令验证，防护能力达行业领先 ，为 AI 智能体规模化安全落地提供实战范式。
18910编辑于 2026-04-09 - 来自专栏云时之间
智能体结构
智能体的结构 迄今为止我们通过描述行为—在任何给定的感知序列下采取的行动—讨论了智能体，现在我们不得不将知难而进，去讨论智能体内部是如何工作的，AI的任务是设计智能体程序，通过它来把感知信息映射到行动的智能体函数 注意智能体程序和智能体函数之间的差别。智能体程序在于当前感知为输入，而智能体函数是以整个历史为输入的。智能体程序只把当前感知作为输入是因为环境无法得到更多的东西。如果智能体的行动依赖于整个感知序列。 那么该智能体不得不记住全部感知的信息。 *智能体程序骨架还有其他的选择。例如我们可以让智能体程序成为协同程序。 这些令人望而生畏的容量，意味着：1:这个世界没有一个实际的智能体可以保存该表的空间。2：设计者没有时间来创建该表。3：没有智能体能够从他的经验中学习正确的表条目。 在这个文章的以下部分，我想概述四种基本的智能体程序，他们几乎涵盖了所有智能系统的基础准则： 1：简单反射型智能体 2：基于模型的反射型智能体 3：基于目标的智能体 4：基于效用的智能体 然后我们将概括的解释如何把这些智能体转换成学习智能体
1.4K70发布于 2018-04-11 - 来自专栏绿盟科技研究通讯
AISecOps：打造可信任安全智能
实际上，在安全运营的智能化技术领域中，我们整体上仍处于L1~L2级别的技术发展阶段，多个单点技术水平已经在更高层次有所突破。 近年来的热点，“零信任”强调面向身份的信任机制，“可信计算”尝试软硬一体的构建完整的信任平台，区块链通过分布式的账本系统解决陌生信任问题。而安全应用的智能化、自动化进程中，技术的可信任特性不是原生的。 可以说，当前智能化技术本身的不成熟，难以赢得人的信任，成为限制其在许多场景下深入应用的关键问题[3]。 2构建可信任安全智能 ? 图5 智能体可信任的技术要素 无论如何，打造更可信任的人工智能，弥补人在处理海量数据过程中的先天不足，打造可信的智能“战友”，始终都是我们的终极追求。 从构建技术信任的角度，以提升关键安全能力自动化水平为目标，可信任的安全智能体须具备以下核心技术要素：环境自适应、输出可解释、持续学习，以及面向可审计的安全合规、符合道德约束、支持隐私保护等。
2.2K41发布于 2020-06-09 智能体（Agent）全面解析：什么是智能体agent
一、什么是智能体（Agent）？智能体是一个能够自主思考、决策、调用工具的智能代理系统。 它不仅仅是简单的问答机器人，而是具备以下核心能力的自主系统：思考能力：理解用户意图，分析任务需求决策能力：规划执行步骤，选择合适工具行动能力：调用外部工具，执行具体操作记忆能力：记住上下文，积累经验智能体的价值智能体的出现 智能体的核心优势大脑：LLM提供强大的理解和推理能力undefined记忆：记住对话历史，保持上下文连贯工具：灵活调用各种外部能力二、两种搭建智能体的路径根据技术门槛和应用场景，智能体的搭建主要有两种方式 即开即用适用人群业务人员、产品经理、运营人员技术门槛无需编程基础开发速度分钟级搭建应用场景自媒体文案批量生成、客服自动回复、简单任务自动化优点：可视化拖拽界面，操作简单内置丰富工具和模板快速验证业务想法降低AI应用门槛2️⃣ 随着LLM能力的不断提升和工具生态的日益丰富，智能体将在更多领域发挥重要作用，成为我们工作和生活中不可或缺的智能伙伴。您好，我是肥晨。
2.5K21编辑于 2026-03-02- 来自专栏农民工前端
智能体（Agent）全面解析：什么是智能体agent
一、什么是智能体（Agent）？ 智能体是一个能够自主思考、决策、调用工具的智能代理系统。 智能体的出现，让AI从单纯的"对话者"进化为真正的"执行者"。 智能体的核心优势 大脑：LLM提供强大的理解和推理能力 记忆：记住对话历史，保持上下文连贯 工具：灵活调用各种外部能力 二、两种搭建智能体的路径 根据技术门槛和应用场景，智能体的搭建主要有两种方式： 1️⃣ 技术门槛 无需编程基础 开发速度 分钟级搭建 应用场景 自媒体文案批量生成、客服自动回复、简单任务自动化 优点： 可视化拖拽界面，操作简单 内置丰富工具和模板 快速验证业务想法 降低AI应用门槛 2️⃣ 随着LLM能力的不断提升和工具生态的日益丰富，智能体将在更多领域发挥重要作用，成为我们工作和生活中不可或缺的智能伙伴。
94610编辑于 2026-03-03 - 来自专栏phodal
自定义 RAG 工作流：在 IDE 中结合 RAG 编排，构建可信的编码智能体
构建编码智能体并非一件容易的事。 结合我们先前构建的 IDE 基础设施（代码生成、代码校验、代码执行等接口），现在你可以构建出更可信的编码智能体。 TL；DR（太长不看）版 现在，你可以使用 Shire + 自定义的 RAG 流程智能体编排。 SummaryQuestion.shire", $output, $input) } } } --- xxx User: $input Response: 再结合我们的代码校验、代码执行等功能，你可以构建出一个完整、可信的编码智能体 我们还尝试了不同的编码智能体的实现方式，以及不同的编码智能体的实现方式。
84910编辑于 2024-07-30 可信决策优先！2026年3月主流企业级数据分析智能体全维度评测
一、行业演进：从被动应答到可信决策的智能体升级传统企业数据分析工具多采用被动响应模式，依赖人工提数、预设报表，复杂业务分析需大量人工干预与重复操作。 ：明略科技・DeepMiner定位：全链路可信企业级深度数据分析与商业决策智能体作为业内聚焦“可信”能力的标杆产品，DeepMiner构建“数据挖掘-数据分析-商业决策”端到端闭环，打造Agentic AI时代的可信生产力。 五、常见问题解答Q1：企业级深度分析AI智能体与基础交互型智能体的核心差异是什么？ Q2：如何判断AI智能体符合企业复杂业务落地标准？
62610编辑于 2026-03-26Composer 2：基于强化学习的智能编程体训练
Composer 2 的训练流程该训练流程将一个强大的通用模型转化为专门的编程智能体。 一个智能体可能读取数十个文件、执行多个 shell 命令，并与环境进行数百轮交互。为了让模型保持有效而不撑爆上下文窗口，Composer 2 依赖于自摘要。 这种方法使用的令牌显著减少，允许高效的 KV 缓存重用，并通过使智能体保持接地气来持续减少复杂任务中的错误。塑造智能体行为虽然功能正确性是首要目标，但开发者体验同样重要。 结论Composer 2 证明，从一个强大的通用模型开始，并应用领域专用的 RL，可以创建出前沿级别的工程智能体。 智能体编码的演变将依赖于缩小模型训练方式与实际工作环境之间的差距。FINISHED
700编辑于 2026-04-18- 来自专栏林欣哲
人工智能的智能体
今天来谈谈人工智能的研究工作中所做的一些基本的抽象。 一、智能体的概念 人工智能研究的对象称为智能体（Agent），其他的外部条件划归为环境。 智能体做出什么样的反应取决于输入和输出之间的映射关系函数，这个函数就是智能体研究的核心。 编写出智能体的程序则具体实现这个数学意义上的函数。 二、智能体的性能衡量 我们研究智能体是要他能做正确的事，因此需要有一个标准去衡量他的表现，一个合理的智能体会最大化这个期望的标准。 这里要注意一点，我们以最终期望达到的效果来做为衡量的标准，而不要以智能体的行为本身作为标准。 总结，人工智能的研究的期望是实现一个，在给定的每个可能的感知序列下，能做出让期望的性能最大化的行动的理性的智能体。
2K60发布于 2018-04-10 - 来自专栏Go语言学习专栏
7 - AI 智能体构建 - AI 超级智能体项目教程
具体内容包括： AI 智能体概念与特点 智能体实现关键技术 使用 AI 智能体的多种方式 OpenManus 实现原理 自主实现 Manus 智能体 智能体工作流编排 A2A 协议 一、什么是智能体？ 23 年时的大多数 AI 聊天机器人应用，几乎都是反应式智能体。 2）有限规划智能体：能进行简单地多步骤执行，但执行路径通常是预设的或有严格限制的。鉴定为 “能干事、但干不了复杂的大事”。 A2A（Agent to Agent）也是最近很热门的一个概念，简单来说，A2A 协议 就是为 “智能体之间如何直接交流和协作” 制定的一套标准。 A2A 的安全关注点：更关注智能体网络中的身份认证、授权和信任链。A2A 需要解决“我怎么知道我在和谁通信”、“这个智能体有权限请求这项任务吗”、“如何防止恶意智能体窃取或篡改任务数据” 等问题。 对于一个成熟的智能体系统，可能会同时运用 MCP 和 A2A，MCP 负责某个智能体内部调用工具完成任务，A2A 负责智能体之间协同完成任务。
66410编辑于 2026-03-17
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号