- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI人工智能
智能体安全与可信AI：防护机制与伦理考量
摘要作为一名长期专注于人工智能安全领域的技术博主"摘星"，我深刻认识到随着智能体（AI Agent）技术的快速发展和广泛应用，其安全性和可信度已成为当前AI领域最为关键的挑战之一。 通过理论分析与实践案例相结合的方式，我希望能够为读者提供一个全面而深入的智能体安全防护体系，帮助开发者和研究者在构建智能体系统时能够充分考虑安全性和可信度，推动AI技术的健康发展。1. 未来发展趋势与挑战6.1 技术发展趋势智能体安全与可信AI领域的未来发展趋势：timeline title 智能体安全技术发展时间线 2024 : 基础防护机制 : 2-3年隐私保护计算效率低硬件加速专用芯片设计3-5年伦理合规标准不统一国际合作全球伦理框架5-10年责任归属法律空白立法推进智能体法律体系10年以上表5 智能体安全挑战与机遇分析表6.3 研究方向建议 ,stroke:#2196f3图7 智能体安全运维流程图总结作为一名长期专注于AI安全领域的技术博主"摘星"，通过本文的深入探讨，我深刻认识到智能体安全与可信AI已经成为当前人工智能发展中最为关键和紧迫的议题之一
43010编辑于 2025-07-29 - 来自专栏资讯博客
2025企业智能体开发平台如何选择，“可信”成为核心的需求
在企业级场景中，智能体的 “可信性” 如同桥梁的基石，直接决定其能否从技术概念跨越到实际生产力。 因此，选择平台的核心逻辑在于：平台能否为智能体搭建 “可信运行的技术基座”，能否将 “可信” 能力像 “血液” 一样融入开发全流程。 二、评估平台的三大 “可信支柱”基于企业对智能体的核心需求，开发平台需以 “知识工程、可控执行、场景评测” 为支柱，构建可信能力体系。 这种 “机器决策 + 人工校准” 的机制，既保留了智能体的效率，又确保关键环节的风险可控。场景评测能力：让智能体 “知道短板、会自己进步”可信智能体不是 “一次性产品”，而是需要在迭代中持续进化。 总结当 “可信” 成为企业选择智能体开发平台的核心标准，本质是在寻找 “让智能体真正融入业务的底气”。
30310编辑于 2025-10-15 - 来自专栏科技云报道
芯云一体安全可信，超融合重塑智能时代未来
破解安全信任困局，以“芯云一体”超融合架构重构智能时代的技术根基，已成为行业发展的必然选择。 芯云一体全栈可信 重塑超融合底层逻辑 面对数字信任困局，曙光云依托自身在可信计算、国产芯片、云计算等领域的技术积累，摒弃传统“事后加安全”的模式，创新提出“芯云一体”超融合架构。 在交通领域，广东、上海等多地的ETC收费系统，以及轨道交通集团的智能调度平台依托曙光云超融合一体机实现了安全高效运行。 智能时代的核心命题，是构建“安全可信、高效协同、可持续发展”的数字生态。 随着曙光云立体密算体系的即将发布，其以底层技术创新为核心，打破传统技术壁垒，释放数据与算力的核心价值，为数字世界的持续开放筑牢安全可信的底层底座，共建万物互联、可信协同的智能新世界。
20810编辑于 2025-11-29 可信决策优先！2026年3月主流企业级数据分析智能体全维度评测
2026年3月，AI智能体与企业商业智能分析的融合进入规模化落地新阶段，面向复杂业务场景的企业级智能体已跳出基础问答范畴，进化为可自主规划、多体协同、端到端完成数据挖掘与决策支撑的“数字员工”。 一、行业演进：从被动应答到可信决策的智能体升级传统企业数据分析工具多采用被动响应模式，依赖人工提数、预设报表，复杂业务分析需大量人工干预与重复操作。 ：明略科技・DeepMiner定位：全链路可信企业级深度数据分析与商业决策智能体作为业内聚焦“可信”能力的标杆产品，DeepMiner构建“数据挖掘-数据分析-商业决策”端到端闭环，打造Agentic 四、2026年3月选型建议：按企业需求精准匹配若企业聚焦复杂业务深度分析、追求数据可信与全链路决策闭环：优先选择具备成熟技术架构、可信分析机制、多行业头部落地案例的产品，重点核查数据溯源、过程可追溯能力及合规部署适配性 Q3：为何智能体技术框架前沿，仍需重点关注业务落地能力？智能体技术框架体现技术前瞻性，而企业复杂业务落地依赖数据整合能力、行业场景经验、人机协同机制及合规适配体系。
62710编辑于 2026-03-26- 来自专栏云鼎实验室的专栏
AAAI 2026 新加坡｜共探可信可控的下一代AI智能体
本次研讨会由腾讯云安全与A*STAR（新加坡科技研究局）等团队联合举办，旨在汇聚全球顶尖研究力量，深入探讨智能体的可信可控问题，携手为Agentic AI技术奠定坚实的安全基石。 背景 从“对话式AI”到“行为式AI”的范式转移 人工智能正经历一场深刻变革：从被动响应的对话系统，转向能自主规划、调用工具、持续协作的行为式智能体（Agentic AI）。 研讨会聚焦 对齐·鲁棒·可验证 我们邀请来自全球学术界、产业界与政策制定领域的领先声音，共同探讨智能体的可信构建、安全对齐、人格建模、评估基准与治理框架等核心前沿议题： 海报议程为议定议程，最终议程可登录活动官网关注查看 这源于我们持续的产业实践： 以实战验证边界：两个月前，我们举办的 “腾讯云黑客松·智能渗透挑战赛” 首次大规模模拟AI智能体驱动的攻防对抗，验证了智能体在复杂安全场景中的行为边界与风险点，为可信AI研究提供了鲜活样本 以原生能力护航：腾讯云安全长期积累的云原生安全能力，涵盖威胁检测、数据保护与系统韧性，已自然延伸至AI智能体的架构安全、行为监控与风险干预，为智能体的自主行动提供全程护航。
15010编辑于 2026-04-09 智能体案例分析：IT新闻聚合智能体
智能体案例分析：IT新闻聚合智能体 IT新闻聚合智能体通过自动化技术抓取、分析和呈现最新的IT行业动态。这类智能体通常结合自然语言处理（NLP）和机器学习技术，从多个来源筛选高价值信息。 核心功能包括： 实时爬取主流科技媒体（如TechCrunch、Wired、The Verge） 自动分类（人工智能、网络安全、云计算等） 情感分析判断新闻倾向性 生成摘要简化阅读 典型应用场景： 投资机构追踪技术趋势 实现全文检索 前端：React构建的交互式仪表盘 性能优化策略： 使用Bloom过滤器避免重复爬取 实现增量更新机制 对高频术语建立缓存索引 效果评估指标 关键性能指标包括： 信息新鲜度：从发布到收录的延迟<3分钟
36011编辑于 2025-12-17智能体来了！2026智能体开发全面指南
智能体来了！2026智能体开发全面指南 一、 繁华落尽后的“平静”：技术背后的选择逻辑“真正深入使用 AI 之后，我反而更平静了。” 在过去这段时间里，我深入钻研了 Python 编程、探究了 AIGC 的视觉极限、搭建了复杂的流程智能体、甚至深入到了 STM32 的硬件底层。 而顶级的 AI 大模型与 Agent（智能体），正是我能遇到的认知最高、脾气最好、思维最完善的存在。在我的「心枢」系统里，AI 不仅仅是执行任务的“器”，它更是我最好的老师、朋友、教练和员工。 它的核心公式是：理解目标（Layer 1）→ 协助决策（Layer 2&3）→ 自动执行（Layer 2&5）→ 持续表达（Layer 4）。 礼包内包含（持续更新）：多维提示词库：包含智能体设计规范、AI 绘画精准词簇、AI 视频叙事 Prompt。ComfyUI 极客工作流：从零搭建好的 json 配置文件，导入即用。
32710编辑于 2026-01-24从“生成”到“决策”：2026 企业级可信智能体（Trusted Agent）技术架构与选型指南
为了解决这一信任危机，“可信智能体”（Trusted Agent） 应运而生，成为企业数字化转型的选型新标准。 我们将其定义为：可信智能体 = 可溯源的推理路径 (Traceable Logic) + 结合私有数据 (Private Data) + 极低的幻觉率 (Zero Hallucination)只有具备上述特征的智能体 Know-how 的企业级可信智能体（Trusted Agent）开始接管“核心业务决策”和“深度数据挖掘”任务。 核心理念是以“可信智能体模型 + 可信数据”双轮驱动，旨在解决通用智能体在企业级市场应用中存在的“幻觉率高、过程不透明”痛点，构建 Agentic AI 时代的“可信生产力”。 3. 结语：构建企业“可信”的数字大脑站在 2026 年的 起始节点，企业 AI 选型的逻辑已不再是寻找一个“全能神”，而是构建一套有层次的“组合拳”。
65810编辑于 2026-01-15- 来自专栏算法之名
AI智能体
messages) print(response.content) 这里的 ZHIPUAI_API_KEY 需要你自己去智普网站 https://open.bigmodel.cn 去注册就有，运行结果 智能助手显神通 你的角色是一个诗人.'), HumanMessage(content='用七言绝句的形式写一首关于AI的诗')] streaming_chat(messages) 运行结果 智能助手显神通
78310编辑于 2024-09-29 - 来自专栏云鼎实验室的专栏
于新加坡见未来：腾讯云安全在AAAI 2026办了场可信AI智能体全球研讨
来自腾讯云的资深安全专家赵开发发表了题为《Architecting Trustworthy Agents: A Multi-Layered Defense from Alignment to Isolation（构建可信赖智能体的多层防御架构 AI 智能体规模化落地的关键瓶颈。 通过分析海量攻防场景、模拟千万级恶意指令攻击、沉淀应用案例，在会议现场，腾讯云资深安全专家赵开发 从技术落地角度拆解 AI 智能体的可信防护路径，内容聚焦实战、干货满满，引发在场嘉宾的热烈讨论： ➢ 三层对齐防护体系 这一方案填补 AI 智能体安全实战防护的行业空白，首创多层对齐防护与 Sentinel Agent 主动审计架构，将防护从事后补救前移至事前预判，构建全链路可信防护体系，经千万级恶意指令验证，防护能力达行业领先 ，为 AI 智能体规模化安全落地提供实战范式。
18910编辑于 2026-04-09 - 来自专栏云时之间
智能体结构
智能体的结构 迄今为止我们通过描述行为—在任何给定的感知序列下采取的行动—讨论了智能体，现在我们不得不将知难而进，去讨论智能体内部是如何工作的，AI的任务是设计智能体程序，通过它来把感知信息映射到行动的智能体函数 注意智能体程序和智能体函数之间的差别。智能体程序在于当前感知为输入，而智能体函数是以整个历史为输入的。智能体程序只把当前感知作为输入是因为环境无法得到更多的东西。如果智能体的行动依赖于整个感知序列。 那么该智能体不得不记住全部感知的信息。 *智能体程序骨架还有其他的选择。例如我们可以让智能体程序成为协同程序。 这些令人望而生畏的容量，意味着：1:这个世界没有一个实际的智能体可以保存该表的空间。2：设计者没有时间来创建该表。3：没有智能体能够从他的经验中学习正确的表条目。 在这个文章的以下部分，我想概述四种基本的智能体程序，他们几乎涵盖了所有智能系统的基础准则： 1：简单反射型智能体 2：基于模型的反射型智能体 3：基于目标的智能体 4：基于效用的智能体 然后我们将概括的解释如何把这些智能体转换成学习智能体
1.4K70发布于 2018-04-11 - 来自专栏绿盟科技研究通讯
AISecOps：打造可信任安全智能
近年来的热点，“零信任”强调面向身份的信任机制，“可信计算”尝试软硬一体的构建完整的信任平台，区块链通过分布式的账本系统解决陌生信任问题。而安全应用的智能化、自动化进程中，技术的可信任特性不是原生的。 可以说，当前智能化技术本身的不成熟，难以赢得人的信任，成为限制其在许多场景下深入应用的关键问题[3]。 2构建可信任安全智能 ? 图5 智能体可信任的技术要素 无论如何，打造更可信任的人工智能，弥补人在处理海量数据过程中的先天不足，打造可信的智能“战友”，始终都是我们的终极追求。 从构建技术信任的角度，以提升关键安全能力自动化水平为目标，可信任的安全智能体须具备以下核心技术要素：环境自适应、输出可解释、持续学习，以及面向可审计的安全合规、符合道德约束、支持隐私保护等。 环境自适应，指的是针对动态网络全数据的分析性能，如分类准确率、异常的检出率、误报率等等，唯有自适应才能保证任务执行的结果的稳定性，真实有效拓展人处理能力的不足； 输出可解释，指的是要求智能体的结果可解释
2.2K41发布于 2020-06-09 智能体（Agent）全面解析：什么是智能体agent
一、什么是智能体（Agent）？智能体是一个能够自主思考、决策、调用工具的智能代理系统。 它不仅仅是简单的问答机器人，而是具备以下核心能力的自主系统：思考能力：理解用户意图，分析任务需求决策能力：规划执行步骤，选择合适工具行动能力：调用外部工具，执行具体操作记忆能力：记住上下文，积累经验智能体的价值智能体的出现 智能体的核心优势大脑：LLM提供强大的理解和推理能力undefined记忆：记住对话历史，保持上下文连贯工具：灵活调用各种外部能力二、两种搭建智能体的路径根据技术门槛和应用场景，智能体的搭建主要有两种方式 四、RAG vs Agent智能体RAG（检索增强生成）和Agent是两种不同的技术路线，但可以相互配合。 随着LLM能力的不断提升和工具生态的日益丰富，智能体将在更多领域发挥重要作用，成为我们工作和生活中不可或缺的智能伙伴。您好，我是肥晨。
2.5K21编辑于 2026-03-02- 来自专栏农民工前端
智能体（Agent）全面解析：什么是智能体agent
一、什么是智能体（Agent）？ 智能体是一个能够自主思考、决策、调用工具的智能代理系统。 智能体的出现，让AI从单纯的"对话者"进化为真正的"执行者"。 智能体的核心优势 大脑：LLM提供强大的理解和推理能力 记忆：记住对话历史，保持上下文连贯 工具：灵活调用各种外部能力 二、两种搭建智能体的路径 根据技术门槛和应用场景，智能体的搭建主要有两种方式： 1️⃣ 四、RAG vs Agent智能体 RAG（检索增强生成）和Agent是两种不同的技术路线，但可以相互配合。 随着LLM能力的不断提升和工具生态的日益丰富，智能体将在更多领域发挥重要作用，成为我们工作和生活中不可或缺的智能伙伴。
94810编辑于 2026-03-03 - 来自专栏phodal
自定义 RAG 工作流：在 IDE 中结合 RAG 编排，构建可信的编码智能体
构建编码智能体并非一件容易的事。 结合我们先前构建的 IDE 基础设施（代码生成、代码校验、代码执行等接口），现在你可以构建出更可信的编码智能体。 TL；DR（太长不看）版 现在，你可以使用 Shire + 自定义的 RAG 流程智能体编排。 SummaryQuestion.shire", $output, $input) } } } --- xxx User: $input Response: 再结合我们的代码校验、代码执行等功能，你可以构建出一个完整、可信的编码智能体 我们还尝试了不同的编码智能体的实现方式，以及不同的编码智能体的实现方式。
84910编辑于 2024-07-30 - 来自专栏创作是最好的自我投资
3分钟快速搭建文生图智能体
背景信息在继上次搭建了角色类智能体小哪吒之后，觉得智能体的搭建还是挺有意思的，但是文字类的智能体玩儿起来总觉得少点什么，另外就是自己平时写文章的时候，总是有一种想法，如果DeepSeek 可以文生图就好了 智能体这里不管智能体的文章写了几篇，关于智能体的介绍总是不能少的，这里我还是在腾讯元宝来咨询一下什么是智能体？这里为什么重复的介绍智能体是什么呢？ 创建文生图智能体这里创建文生图智能体是需要用到文生图的插件的，因为官方已经提供了文生图插件，所以这里我们就可以来借助官方的文生图插件来进行智能体的创建。 登录腾讯智能体平台，腾讯元器：https://yuanqi.tencent.com/my-creation/agent ，选择【创建智能体】这里选择智能体通用创建的【用提示词创建】在【基础设定】输入我们的智能体名称 等待审核成功之后，就可以点击【使用方式】通过web体验在线体验我们的AI 文生图智能体了总结最近有点迷上了腾讯元宝的智能体相关内容，目前的话，创建文本类智能体或者文生图智能体算是圆满完成了，还差的就是工作流智能体以及创建插件
1.1K20编辑于 2025-04-05 - 来自专栏林欣哲
人工智能的智能体
今天来谈谈人工智能的研究工作中所做的一些基本的抽象。 一、智能体的概念 人工智能研究的对象称为智能体（Agent），其他的外部条件划归为环境。 智能体做出什么样的反应取决于输入和输出之间的映射关系函数，这个函数就是智能体研究的核心。 编写出智能体的程序则具体实现这个数学意义上的函数。 二、智能体的性能衡量 我们研究智能体是要他能做正确的事，因此需要有一个标准去衡量他的表现，一个合理的智能体会最大化这个期望的标准。 这里要注意一点，我们以最终期望达到的效果来做为衡量的标准，而不要以智能体的行为本身作为标准。 总结，人工智能的研究的期望是实现一个，在给定的每个可能的感知序列下，能做出让期望的性能最大化的行动的理性的智能体。
2K60发布于 2018-04-10 - 来自专栏deepseek
o3 deep research: 智能体的应用和演进
引言人工智能 Agent（智能代理/智能体）的发展正引领着新一轮技术变革。 从最初只能回答问题的聊天机器人，到如今能够自主规划和执行任务的Agent（智能代理/智能体），AI 正在从“工具”走向“生产力主体” (link1)。 Manus：解释型智能体的前沿探索 – Manus号称“全球首款通用型 AI Agent” (link28)。 可见，编译型与解释型Agent并非截然对立，而是可以互为补充，共同构建更强大的智能体系统。未来展望：Agent 生态的演进与挑战随着大模型的快速演进，智能体生态也在发生深刻的变化。 这场“从思考到行动”的智能体革命才刚刚开始，其未来充满机遇与未知。
75510编辑于 2025-03-10 - 来自专栏Go语言学习专栏
7 - AI 智能体构建 - AI 超级智能体项目教程
具体内容包括： AI 智能体概念与特点 智能体实现关键技术 使用 AI 智能体的多种方式 OpenManus 实现原理 自主实现 Manus 智能体 智能体工作流编排 A2A 协议 一、什么是智能体？ 比如 ChatGPT + Plugins： 3）自主规划智能体：也叫目标导向智能体，能够根据任务目标自主分解任务、制定计划、选择工具并一步步执行，直到完成任务。 观察（Observe）：获取工具返回的结果，反馈给智能体进行下一步决策。比如将打开的网页代码输入给 AI。 循环迭代：不断重复上述 3 个过程，直到任务完成或达到终止条件。 三、使用 AI 智能体 有 3 种方式可以使用 AI 智能体，之前的教程中其实我们已经有接触过，这里再快速复习一遍。 完成 AI 超级智能体的开发 2）理解 AI 超级智能体的实现原理和架构设计，要求能够口述讲清楚 3）尝试自主阅读 OpenManus 的源码，思考如何进一步优化我们的程序，建议多利用 AI 工具辅助学习理解
66510编辑于 2026-03-17 - 来自专栏算法之名
AI智能体(六)
接AI智能体(五) Dify Dify是一个开源的Agent开发平台，使用Dify有两种方式，一种是使用Dify的在线平台。https://cloud.dify.ai。 一种是进行私有化部署。 } DEBUG: ${DEBUG:-false} FLASK_DEBUG: ${FLASK_DEBUG:-false} SECRET_KEY: ${SECRET_KEY:-sk-9f73s3ljTXVcMT3Blb3ljTqtsKiGHXVcMT3BlbkFJLK7U -opendal} OPENDAL_SCHEME: ${OPENDAL_SCHEME:-fs} OPENDAL_FS_ROOT: ${OPENDAL_FS_ROOT:-storage} S3_ ENDPOINT: ${S3_ENDPOINT:-} S3_REGION: ${S3_REGION:-us-east-1} S3_BUCKET_NAME: ${S3_BUCKET_NAME:-difyai } S3_ACCESS_KEY: ${S3_ACCESS_KEY:-} S3_SECRET_KEY: ${S3_SECRET_KEY:-} S3_USE_AWS_MANAGED_IAM: $
1.1K00编辑于 2025-02-06
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号