开发者社区

文档建议反馈控制台

技术百科

搜索技术百科

技术百科

发布

技术百科首页 >Agent 评估 >Agent 评估中的安全性与合规性应考察哪些行为？

Agent 评估中的安全性与合规性应考察哪些行为？

修改于 2026-10-13 17:53:06

10

词条归属：Agent 评估

1. 越权与策略违背

评估是否出现尝试或已执行的禁止动作、审批绕过、权限边界外访问

2. 敏感信息暴露

评估密钥、隐私数据、内部信息的暴露风险，以及资源滥用、不安全升级行为

3. 独立成门

将"结果正确性""安全性""效率""恢复能力"分开评估：高任务完成度不能补偿未授权动作，低成本不能补偿虚假成功

4. 恢复行为

在注入工具失败、权限受限、对抗输入时，评估智能体是否能安全重试、改变计划或请求人工介入

相关文章

如何评估YashanDB数据库的安全性与合规性

在现代数据库管理系统中，安全性与合规性成为企业保障数据资产和业务连续性的必备要素。YashanDB作为一款功能丰富的数据库产品，其安全模型涵盖用户管理、访问控制、加密机制、审计功能以及高可用架构。准确评估YashanDB的安全性与合规性，有助于企业构建符合安全政策和行业规范的数据库环境，降低安全风险，提升业务可信赖度。

数据库砖家

2025-10-04

3350

AI系统的伦理审计与合规性评估：确保负责任的AI实施

算法系统监控开发数据

在AI系统快速发展和广泛应用的今天，伦理审计与合规性评估已成为确保AI负责任实施的关键环节。随着各国政府和监管机构相继出台AI伦理规范和法律法规，对AI系统进行全面的伦理审计和合规性评估变得尤为重要。本章将介绍AI系统伦理审计的基础认知，帮助读者建立对伦理审计的整体理解。

安全风信子

2025-11-13

1.6K0

邮件系统中的区块链技术应用：安全与合规性

大家好，我作为TurboEx/TurboMail邮件系统技术团队成员，分享有关电子邮件和TurboEx系统的技术干货。欢迎大家阅读点赞，更欢迎与我直接沟通交流技术问题。

TurboEx技术分享

2026-04-28

2890

药品存储与运输中的温湿度监测：GSP合规性与通信技术对比

在药品的全生命周期管理中，存储与运输环节的温湿度控制至关重要。为确保药品质量与安全，中国《药品经营质量管理规范》（GSP）对药品流通环节的温湿度监测提出了明确要求。本文将从GSP标准出发，分析不同通信方式在电池供电温湿度监测设备中的应用特点，并介绍一种适用于药品环境监测的LoRaWAN温湿度传感器—KS52系列。

2025-09-29

8860

AI Agent的“自主性陷阱”：当“概率生成”接管“确定性业务流”，2026企业级智能体的信任重构与风控博弈

AIGC agent Agent 记忆服务

从具身智能的物理世界回归数字空间，2026年10月的企业级AI市场正经历一场静默的“信仰崩塌”。过去两年，资本与厂商合力将AI Agent（智能体）塑造成“全自动数字员工”的完美叙事，但在真实的企业核心业务流（如财务审批、供应链调度、合规审查）中，大模型固有的“幻觉率”与“概率性输出”正在成为系统性风险的源头。

2026-10-11

1890

点击加载更多

词条知识树 23个知识点