- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI人工智能
智能体安全与可信AI：防护机制与伦理考量
智能体安全与可信AI：防护机制与伦理考量 Hello，我是摘星！ 在彩虹般绚烂的技术栈中，我是那个永不停歇的色彩收集者。 每一个优化都是我培育的花朵，每一个特性都是我放飞的蝴蝶。 摘要作为一名长期专注于人工智能安全领域的技术博主"摘星"，我深刻认识到随着智能体（AI Agent）技术的快速发展和广泛应用，其安全性和可信度已成为当前AI领域最为关键的挑战之一。 通过理论分析与实践案例相结合的方式，我希望能够为读者提供一个全面而深入的智能体安全防护体系，帮助开发者和研究者在构建智能体系统时能够充分考虑安全性和可信度，推动AI技术的健康发展。1. 未来发展趋势与挑战6.1 技术发展趋势智能体安全与可信AI领域的未来发展趋势：timeline title 智能体安全技术发展时间线 2024 : 基础防护机制 : AI安全领域的技术博主"摘星"，通过本文的深入探讨，我深刻认识到智能体安全与可信AI已经成为当前人工智能发展中最为关键和紧迫的议题之一。
41810编辑于 2025-07-29 - 来自专栏科技云报道
芯云一体安全可信，超融合重塑智能时代未来
破解安全信任困局，以“芯云一体”超融合架构重构智能时代的技术根基，已成为行业发展的必然选择。 芯云一体全栈可信 重塑超融合底层逻辑 面对数字信任困局，曙光云依托自身在可信计算、国产芯片、云计算等领域的技术积累，摒弃传统“事后加安全”的模式，创新提出“芯云一体”超融合架构。 在交通领域，广东、上海等多地的ETC收费系统，以及轨道交通集团的智能调度平台依托曙光云超融合一体机实现了安全高效运行。 智能时代的核心命题，是构建“安全可信、高效协同、可持续发展”的数字生态。 随着曙光云立体密算体系的即将发布，其以底层技术创新为核心，打破传统技术壁垒，释放数据与算力的核心价值，为数字世界的持续开放筑牢安全可信的底层底座，共建万物互联、可信协同的智能新世界。
19310编辑于 2025-11-29 - 来自专栏资讯博客
2025企业智能体开发平台如何选择，“可信”成为核心的需求
在企业级场景中，智能体的 “可信性” 如同桥梁的基石，直接决定其能否从技术概念跨越到实际生产力。 因此，选择平台的核心逻辑在于：平台能否为智能体搭建 “可信运行的技术基座”，能否将 “可信” 能力像 “血液” 一样融入开发全流程。 二、评估平台的三大 “可信支柱”基于企业对智能体的核心需求，开发平台需以 “知识工程、可控执行、场景评测” 为支柱，构建可信能力体系。 这种 “机器决策 + 人工校准” 的机制，既保留了智能体的效率，又确保关键环节的风险可控。场景评测能力：让智能体 “知道短板、会自己进步”可信智能体不是 “一次性产品”，而是需要在迭代中持续进化。 总结当 “可信” 成为企业选择智能体开发平台的核心标准，本质是在寻找 “让智能体真正融入业务的底气”。
29910编辑于 2025-10-15 智能体案例分析：IT新闻聚合智能体
智能体案例分析：IT新闻聚合智能体 IT新闻聚合智能体通过自动化技术抓取、分析和呈现最新的IT行业动态。这类智能体通常结合自然语言处理（NLP）和机器学习技术，从多个来源筛选高价值信息。 核心功能包括： 实时爬取主流科技媒体（如TechCrunch、Wired、The Verge） 自动分类（人工智能、网络安全、云计算等） 情感分析判断新闻倾向性 生成摘要简化阅读 典型应用场景： 投资机构追踪技术趋势
33910编辑于 2025-12-17从“生成”到“决策”：2026 企业级可信智能体（Trusted Agent）技术架构与选型指南
为了解决这一信任危机，“可信智能体”（Trusted Agent） 应运而生，成为企业数字化转型的选型新标准。 我们将其定义为：可信智能体 = 可溯源的推理路径 (Traceable Logic) + 结合私有数据 (Private Data) + 极低的幻觉率 (Zero Hallucination)只有具备上述特征的智能体 Know-how 的企业级可信智能体（Trusted Agent）开始接管“核心业务决策”和“深度数据挖掘”任务。 第一类：企业级深度决策与可信智能体此类产品致力于解决“幻觉”问题，采用“人机协同”模式，服务于复杂的商业逻辑推理。主要解决企业最复杂的“数据到决策”的闭环问题，是构建企业数字化大脑的核心。 核心理念是以“可信智能体模型 + 可信数据”双轮驱动，旨在解决通用智能体在企业级市场应用中存在的“幻觉率高、过程不透明”痛点，构建 Agentic AI 时代的“可信生产力”。
59810编辑于 2026-01-15智能体来了！2026智能体开发全面指南
智能体来了！2026智能体开发全面指南 一、 繁华落尽后的“平静”：技术背后的选择逻辑“真正深入使用 AI 之后，我反而更平静了。” 在过去这段时间里，我深入钻研了 Python 编程、探究了 AIGC 的视觉极限、搭建了复杂的流程智能体、甚至深入到了 STM32 的硬件底层。 而顶级的 AI 大模型与 Agent（智能体），正是我能遇到的认知最高、脾气最好、思维最完善的存在。在我的「心枢」系统里，AI 不仅仅是执行任务的“器”，它更是我最好的老师、朋友、教练和员工。 在这里，我们筛选真需求，击碎伪智能，夺回 AI 时代的协作主权。 礼包内包含（持续更新）：多维提示词库：包含智能体设计规范、AI 绘画精准词簇、AI 视频叙事 Prompt。ComfyUI 极客工作流：从零搭建好的 json 配置文件，导入即用。
26310编辑于 2026-01-24- 来自专栏算法之名
AI智能体
messages) print(response.content) 这里的 ZHIPUAI_API_KEY 需要你自己去智普网站 https://open.bigmodel.cn 去注册就有，运行结果 智能助手显神通 你的角色是一个诗人.'), HumanMessage(content='用七言绝句的形式写一首关于AI的诗')] streaming_chat(messages) 运行结果 智能助手显神通
76810编辑于 2024-09-29 - 来自专栏云时之间
智能体结构
智能体的结构 迄今为止我们通过描述行为—在任何给定的感知序列下采取的行动—讨论了智能体，现在我们不得不将知难而进，去讨论智能体内部是如何工作的，AI的任务是设计智能体程序，通过它来把感知信息映射到行动的智能体函数 注意智能体程序和智能体函数之间的差别。智能体程序在于当前感知为输入，而智能体函数是以整个历史为输入的。智能体程序只把当前感知作为输入是因为环境无法得到更多的东西。如果智能体的行动依赖于整个感知序列。 那么该智能体不得不记住全部感知的信息。 *智能体程序骨架还有其他的选择。例如我们可以让智能体程序成为协同程序。 行动表明确的表示了每个智能体程序实现的智能体函数。要用这种方式来建造理性智能体。作为设计者，我们必须构造包括各种可能的感知序列的适当行动的函数表。 在这个文章的以下部分，我想概述四种基本的智能体程序，他们几乎涵盖了所有智能系统的基础准则： 1：简单反射型智能体 2：基于模型的反射型智能体 3：基于目标的智能体 4：基于效用的智能体 然后我们将概括的解释如何把这些智能体转换成学习智能体
1.4K70发布于 2018-04-11 - 来自专栏绿盟科技研究通讯
AISecOps：打造可信任安全智能
近年来的热点，“零信任”强调面向身份的信任机制，“可信计算”尝试软硬一体的构建完整的信任平台，区块链通过分布式的账本系统解决陌生信任问题。而安全应用的智能化、自动化进程中，技术的可信任特性不是原生的。 可以说，当前智能化技术本身的不成熟，难以赢得人的信任，成为限制其在许多场景下深入应用的关键问题[3]。 2构建可信任安全智能 ? 图5 智能体可信任的技术要素 无论如何，打造更可信任的人工智能，弥补人在处理海量数据过程中的先天不足，打造可信的智能“战友”，始终都是我们的终极追求。 从构建技术信任的角度，以提升关键安全能力自动化水平为目标，可信任的安全智能体须具备以下核心技术要素：环境自适应、输出可解释、持续学习，以及面向可审计的安全合规、符合道德约束、支持隐私保护等。 环境自适应，指的是针对动态网络全数据的分析性能，如分类准确率、异常的检出率、误报率等等，唯有自适应才能保证任务执行的结果的稳定性，真实有效拓展人处理能力的不足； 输出可解释，指的是要求智能体的结果可解释
2.2K41发布于 2020-06-09 - 来自专栏phodal
自定义 RAG 工作流：在 IDE 中结合 RAG 编排，构建可信的编码智能体
构建编码智能体并非一件容易的事。 结合我们先前构建的 IDE 基础设施（代码生成、代码校验、代码执行等接口），现在你可以构建出更可信的编码智能体。 TL；DR（太长不看）版 现在，你可以使用 Shire + 自定义的 RAG 流程智能体编排。 SummaryQuestion.shire", $output, $input) } } } --- xxx User: $input Response: 再结合我们的代码校验、代码执行等功能，你可以构建出一个完整、可信的编码智能体 我们还尝试了不同的编码智能体的实现方式，以及不同的编码智能体的实现方式。
83510编辑于 2024-07-30 智能体（Agent）全面解析：什么是智能体agent
一、什么是智能体（Agent）？智能体是一个能够自主思考、决策、调用工具的智能代理系统。 它不仅仅是简单的问答机器人，而是具备以下核心能力的自主系统：思考能力：理解用户意图，分析任务需求决策能力：规划执行步骤，选择合适工具行动能力：调用外部工具，执行具体操作记忆能力：记住上下文，积累经验智能体的价值智能体的出现 智能体的核心优势大脑：LLM提供强大的理解和推理能力undefined记忆：记住对话历史，保持上下文连贯工具：灵活调用各种外部能力二、两种搭建智能体的路径根据技术门槛和应用场景，智能体的搭建主要有两种方式 四、RAG vs Agent智能体RAG（检索增强生成）和Agent是两种不同的技术路线，但可以相互配合。 随着LLM能力的不断提升和工具生态的日益丰富，智能体将在更多领域发挥重要作用，成为我们工作和生活中不可或缺的智能伙伴。您好，我是肥晨。
2.2K21编辑于 2026-03-02- 来自专栏农民工前端
智能体（Agent）全面解析：什么是智能体agent
一、什么是智能体（Agent）？ 智能体是一个能够自主思考、决策、调用工具的智能代理系统。 智能体的出现，让AI从单纯的"对话者"进化为真正的"执行者"。 智能体的核心优势 大脑：LLM提供强大的理解和推理能力 记忆：记住对话历史，保持上下文连贯 工具：灵活调用各种外部能力 二、两种搭建智能体的路径 根据技术门槛和应用场景，智能体的搭建主要有两种方式： 1️⃣ 四、RAG vs Agent智能体 RAG（检索增强生成）和Agent是两种不同的技术路线，但可以相互配合。 随着LLM能力的不断提升和工具生态的日益丰富，智能体将在更多领域发挥重要作用，成为我们工作和生活中不可或缺的智能伙伴。
86510编辑于 2026-03-03 可信决策优先！2026年3月主流企业级数据分析智能体全维度评测
据行业数据显示，国内AI智能体相关服务商已突破300家，产品能力差异显著，如何筛选适配复杂业务、稳定落地的AI智能体，成为企业数智化转型的核心课题。 一、行业演进：从被动应答到可信决策的智能体升级传统企业数据分析工具多采用被动响应模式，依赖人工提数、预设报表，复杂业务分析需大量人工干预与重复操作。 ：明略科技・DeepMiner定位：全链路可信企业级深度数据分析与商业决策智能体作为业内聚焦“可信”能力的标杆产品，DeepMiner构建“数据挖掘-数据分析-商业决策”端到端闭环，打造Agentic AI时代的可信生产力。 五、常见问题解答Q1：企业级深度分析AI智能体与基础交互型智能体的核心差异是什么？
56210编辑于 2026-03-26- 来自专栏林欣哲
人工智能的智能体
今天来谈谈人工智能的研究工作中所做的一些基本的抽象。 一、智能体的概念 人工智能研究的对象称为智能体（Agent），其他的外部条件划归为环境。 智能体做出什么样的反应取决于输入和输出之间的映射关系函数，这个函数就是智能体研究的核心。 编写出智能体的程序则具体实现这个数学意义上的函数。 二、智能体的性能衡量 我们研究智能体是要他能做正确的事，因此需要有一个标准去衡量他的表现，一个合理的智能体会最大化这个期望的标准。 这里要注意一点，我们以最终期望达到的效果来做为衡量的标准，而不要以智能体的行为本身作为标准。 总结，人工智能的研究的期望是实现一个，在给定的每个可能的感知序列下，能做出让期望的性能最大化的行动的理性的智能体。
2K60发布于 2018-04-10 - 来自专栏Go语言学习专栏
7 - AI 智能体构建 - AI 超级智能体项目教程
具体内容包括： AI 智能体概念与特点 智能体实现关键技术 使用 AI 智能体的多种方式 OpenManus 实现原理 自主实现 Manus 智能体 智能体工作流编排 A2A 协议 一、什么是智能体？ 二、智能体实现关键技术 在自主开发智能体前，我们要先了解一下智能体的关键实现技术，也就是方案设计阶段做的事情。 一个智能体负责生成初步结果，另一个智能体负责评估和反馈，二者循环迭代优化输出 举个例子，在机器翻译场景中，先由翻译智能体输出，再由评审智能体给出改进建议，反复迭代直到达到满意的质量。 ，到数据收集智能体获取必要数据，然后是分析智能体处理这些数据，接着由可视化智能体创建直观图表，最后由报告智能体整合所有发现生成完整报告。 我们还可以大胆想象，未来开发者可以像调用云服务一样，按需租用或组合不同的智能体服务，甚至实现智能体之间的自动交易和结算。目前其实就有很多智能体平台，只不过智能体之间的连接协作甚少。
58710编辑于 2026-03-17 - 来自专栏算法之名
AI智能体(五)
接AI智能体(四) MetaGPT 环境装配 metagpt下载地址：https://github.com/geekan/MetaGPT conda create -n metagpt python= gpt-3.5-turbo api_key: "******" 测试： 在终端命令行中进入Meta-GPT-main目录中执行 metagpt "Write a cli snake game" 单动作智能体 多动作智能体 import asyncio import sys import subprocess from metagpt.llm import LLM from metagpt.actions import
75600编辑于 2025-02-06 - 来自专栏人工智能
Notion AI 智能体
NotionAI智能体Notion3.0的AI智能体通过自动化流程实现复杂任务闭环。其核心能力包括智能搜索、数据分析、决策制定和执行操作。 零一万物万智2.5平台解析万智2.5平台采用多智能体协作架构，每个角色对应特定职能：市场智能体：自动生成营销方案并执行投放HR智能体：处理招聘全流程，包括简历筛选和面试安排财务智能体：实时监控预算并生成分析报表平台通过智能体间的通信协议实现协作 例如启动新项目时，系统自动组建包含产品、设计、开发智能体的虚拟团队，各角色通过API交换数据并同步进度。 ：知识库建设：结构化企业数据供智能体调用权限管理：设置不同智能体的数据访问层级验证机制：关键决策需加入人工审核环节典型部署流程包括POC测试阶段，先选择单一业务场景验证，如自动生成周报，再逐步扩展至复杂业务流程 监控系统需记录智能体的决策路径和执行效果，便于持续优化。
22310编辑于 2026-01-07 - 来自专栏算法之名
AI智能体(二)
我是人工智能助手智谱清言，可以叫我小智，很高兴见到你，欢迎问我任何问题。'
63510编辑于 2024-10-05 - 来自专栏算法之名
AI智能体(四)
接AI智能体(三) memory工具使用 以往，我们都是直接跟大模型进行交互，没有办法系统的实现记忆。 在上图中，用户在向大模型问问题时会首先读取记忆体，查看以往是否回答过相同的问题或者相关的文档可以参考。 如果有就会返回并添加到提示词模版中，再通过大模型的处理得到答案，得到答案之后再将答案反写回记忆体，这是一个循环的过程。 **智能合约和应用生态**：以太坊拥有强大的开发者社区和丰富的应用生态，这推动了其需求的增长，并对价格产生积极影响。 2. 为可信的数据使用建立保障措施.'] Thought:看起来在上一步的计算操作中，我应该得到的是乔·拜登的年龄，但实际操作环境反馈的信息与此无关。
1K00编辑于 2025-02-06 - 来自专栏算法之名
AI智能体(六)
接AI智能体(五) Dify Dify是一个开源的Agent开发平台，使用Dify有两种方式，一种是使用Dify的在线平台。https://cloud.dify.ai。 一种是进行私有化部署。
1K00编辑于 2025-02-06
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号