- 综合排序
- 最热优先
- 最新优先
腾讯朱雀实验室×腾讯云EdgeOne：AI Agent 全链路安全防护体系与 ClawScan 产品概要
一、 产品定位与核心亮点 EdgeOne ClawScan 是由腾讯朱雀实验室与腾讯云EdgeOne联合推出的一款针对高权限、可执行 AI Agent（以“小龙虾” OpenClaw 为典型代表）的安全审计与防护工具 荣誉背书与权威认证 由腾讯朱雀实验室（权威安全研究机构）与腾讯云EdgeOne联合研发。
53810编辑于 2026-03-20- 来自专栏机器之心
黑掉神经网络，腾讯朱雀实验室首亮相：操纵神经元构造AI后门
8 月 19 日，在国内著名信息安全会议，第 19 届 XCon 安全焦点信息安全技术峰会上，腾讯朱雀实验室首度亮相公众视野。 作为科恩、玄武、湛泸、云顶之后，腾讯设立的又一个安全实验室，朱雀这个有点神秘色彩的实验室专注于实战攻击技术研究和 AI 安全技术研究，以攻促防，专注于研究腾讯业务及用户的安全。 腾讯朱雀实验室发现，通过对 AI 模型文件的逆向分析，可绕过数据投毒环节，直接控制神经元，将 AI 模型改造为后门模型。 腾讯朱雀实验室发现，模型文件载入到内存的过程中是一个复杂的各类软件相互依赖作用的结果。理论上，任何依赖的软件存在弱点都可以被攻击者利用。 虽然针对 AI 的攻击手法「出神入化」，腾讯朱雀实验室表示，普通大众也不必过于担心。
1.3K40发布于 2020-08-28 - 来自专栏量子位
你的AI模型有哪些安全问题，在这份AI攻防”词典”里都能查到
为了应对AI模型各个环节可能存在的安全风险，并给出相应的防 御建议，今天腾讯正式发布业内首个AI安全攻击矩阵。 ? △ AI安全的威胁风险矩阵 该矩阵由腾讯两大实验室腾讯AI lab和朱雀实验室联合编纂，并借鉴了网络攻防领域中较为成熟的ATT&CK开源安全研究框架，全面分析了攻击者视角下的战术、技术和流程。 腾讯AI安全攻击矩阵从以下7个维度展开了21种AI安全攻击与防御方法。 腾讯朱雀实验室则专注于实战攻击技术研究和AI安全技术研究，以攻促防，守护腾讯业务及用户安全。 ? 此前朱雀实验室就曾模拟实战中的黑客攻击路径，直接控制AI模型的神经元，为模型“植入后门”，在几乎无感的情况下，实现完整的攻击验证，这也是业内首个利用AI模型文件直接产生后门效果的攻击研究。
2.4K40发布于 2020-09-30 - 来自专栏博文视点Broadview
独家！【隐秘而伟大】这群神秘的程序员，干了票大的
此后，腾讯安全朱雀实验室开始在AI安全方面做大量细致、深入的探索，他们的研究和实践主要覆盖四方面： （1）AI 技术本身的安全性。 （2）AI 技术可能被攻击利用的地方。 这本书，作者是谁 作者团队——腾讯安全朱雀实验室。 攻击方法和原理，详细拆解 14个精选实战案例，原汁原味呈现，一次读过瘾 朱雀团队实战经验沉淀，带领读者深入学习和理解 全彩极致设计，享受真实视觉体验 来自领域专家的评价 腾讯首席科学家、腾讯AI Lab和腾讯Robotics X实验室主任张正友说， 这本书凝聚了朱雀团队在AI安全技术的研究和实践中积累的多年经验，我相信这本书将对AI安全领域的研究人员和管理人员带来极大的帮助。 腾讯安全科恩实验室负责人吴石说， 这本书对于AI本身的安全问题做了一个全面的阐述与总结，系统化地对AI安全测试的方法做了细致的分类与讲解，具有很强的实用性。
55820编辑于 2023-04-04 - 来自专栏机器之心
腾讯警告：你的声音正在被AI「偷走」
机器之心专栏 腾讯朱雀实验室 腾讯安全平台部下属的腾讯朱雀实验室，致力于实战级 APT 攻击和 AI 安全研究，不断发现现实网络安全风险，为 AI 业务提供安全保障。 近日，腾讯朱雀实验室受邀参加全球顶级信息安全峰会 CanSecWest 2021，并进行了题为《The Risk of AI Abuse: Be Careful with Your Voice（AI 被滥用的风险 腾讯朱雀实验室分享的最新研究成果表明，VoIP 电话劫持与 AI 语音模拟技术的结合将带来极大潜在风险。 在分享中，实验室创造性地展示了用 AI 进行声音克隆并劫持电话的攻击场景。 那么腾讯朱雀实验室是如何做到的呢，让我们来看下这种新型攻击的技术原理以及腾讯专家给出的防范建议。 一、风险背景 人工智能有巨大的潜能改变人类命运，但同样存在一定安全风险。 腾讯安全平台部下属的腾讯朱雀实验室，致力于实战级 APT 攻击和 AI 安全研究，不断发现现实网络安全风险，为 AI 业务提供安全保障。 © THE END 转载请联系本公众号获得授权
88030发布于 2021-04-21 LiteLLM 供应链“软件恐怖袭击”始末：腾讯朱雀实验室 A.I.G 开源项目助力AI安全一键排查
使用朱雀实验室开源的A.I.G https://github.com/tencent/AI-Infra-Guard 也可以一键检测：2.凭证全面更换（按风险降序）一旦确认受影响，建议立刻更换以下所有密钥与凭证 trivy-teampcp-supply-chain-compromise/https://x.com/karpathy/status/2036487306585268612https://github.com/tencent/AI-Infra-Guard腾讯朱雀实验室 （Tencent Zhuque Lab）是腾讯安全平台部于 2019 年成立的顶尖安全实验室，专注于 AI 安全领域的实战攻防与前沿技术研究，研究方向涵盖大模型安全、AI 智能体安全、AI 赋能安全与 先后推出开源 AI 红队安全测试平台 A.I.G（AI-Infra-Guard）及朱雀 AI 检测助手等AI安全产品。
27610编辑于 2026-04-13- 来自专栏腾讯开源的专栏
开源公告｜AI-Infra-Guard(AI基础设施安全评估工具) 发布
项目简介 AI Infra Guard(AI Infrastructure Guard) 是由混元安全团队-朱雀实验室研发的一款高效、轻量、易用的AI基础设施安全评估工具，专为发现和检测AI系统潜在安全风险而设计 =` 不等 ● `~=` 正则匹配 ● `&&` 与 ● `||` 或 ● `()` 括号分组 关于腾讯朱雀实验室 朱雀实验室由腾讯安全平台部于2019年成立，聚焦AI与大模型基础设施安全、大模型内生安全与大模型赋能安全等领域的前沿技术研究与业务安全保障
2.4K10编辑于 2025-02-05 RA-Gen多智能体框架实现94.8%安全代码生成率，腾讯云构建AI Agent纵深防御体系
腾讯云推出ReAct范式多智能体框架RA-Gen RA-Gen框架通过四类智能体分工协作：Planner Agent进行业务分解与初始推理轨迹生成，Searcher Agent结合推理与外部工具精炼轨迹 实施后实现： 日均处理工单量提升40%，风险识别准确率达98.6% 运维效率提升35%，跨系统数据语义贯通实现毫秒级响应 API调用安全拦截率100%，通过参数合法性校验与工具调用权限控制 腾讯云AI Agent纵深防御体系获行业认证 腾讯朱雀实验室提出六层防御架构（L0-L5），从基础设施层到用户运营层实现全链路防护： L2应用网关层部署Prompt防火墙与输出内容净化，恶意指令拦截率99.2% L3 AI-Infra-Guard获2024年CSA云安全联盟创新奖，GitHub Star数达371个 技术方案基于SecureNexusLab研究成果，主讲人王宾发表《大语言模型与代码生成安全》（清华大学出版社）等专著3部，实验室获北京大学未来网络国家重大科技基础设施支持 数据来源：实验对比表、腾讯朱雀实验室测试报告、智慧运维平台实施数据、AI-Infra-Guard开源项目
20220编辑于 2026-04-04【大模型安全杂谈】针对腾讯朱雀AI检测大模型的绕过尝试
面对这场全球性的信任危机，以腾讯朱雀为代表的AI检测大模型被寄予厚望。这类系统通过语义分析、模式识别等算法，试图在信息洪流中构建起"数字滤网"。 针对腾讯朱雀AI检测大模型的绕过尝试没错，上面这段话就是AI生成的，经过朱雀AI大模型的检测，可以看到AI率是百分百。 在下面的介绍中，我们可以看到朱雀AI检测的能力和检测方法：文本检测中，LLM 通常以低困惑度和突发性编写文本，因此包括GPT-4、Claude和DeepSeek等在内的SOTA模型，都在我们的可检测范围内 那么，如何通过精心设计的Prompt编写，来对抗朱雀大模型的检测呢？ 最终，大模型给出的回答如下：这时，我们再给入引言部分，返回的话如下：再次放入朱雀中检测，AI率被降低至31%。
9.5K42编辑于 2025-02-21Agent系统安全可控与透明防御：腾讯云RA-Gen框架与纵深体系实践
落地AI Agent纵深防御体系 腾讯朱雀实验室设计L0-L5分层防御体系： L0基础设施层：AI组件漏洞收敛、供应链投毒监测、安全专区隔离； L1模型与数据层：模型安全对齐、训练/RAG数据清洗 Agent核心逻辑层：安全沙箱、工具调用权限校验、参数合法性校验； L4日志与风控层：日志审计、用户画像风控、事件溯源取证； L5用户与运营层：身份认证、分层权限、安全意识教育、应急演练（来源：腾讯朱雀实验室 、深圳市信息论与未来网络体系重点实验室成员），以一作发表专著《大语言模型与代码生成安全》（中文版清华大学出版社、英文版IEEE&Wiley联合出版）、《LLMPromptAttackGuide》，顶会论文十余篇 阐释腾讯技术领先与生态共建优势 技术领先性：RA-Gen多智能体框架突破代码生成可控透明瓶颈；纵深防御体系L0-L5分层防护覆盖全生命周期；可信实践模块化插件与路径透明机制保障执行可验证。 生态共建：依托腾讯朱雀实验室AI Agent业务纵深防御体系，联合SecureNexusLab开源合作，通过比赛、社群吸引优秀同仁，推动AI安全生态多方协作（来源：王滨“Agent安全开源合作”“Why
36240编辑于 2026-04-04EdgeOne ClawScan：AI Agent安全体检解决方案
研发机构：腾讯朱雀实验室 × 腾讯云EdgeOne 一、产品定位与核心亮点 技术定义：EdgeOne ClawScan是针对高权限、可执行AI Agent（如“小龙虾”）的自动化安全扫描工具，致力于解决 edgeone-clawscan 进行安全体检 开源生态： A.I.G开源地址：https://github.com/Tencent/AI-Infra-Guard（Star > 3200） 技术背书： 腾讯朱雀实验室 AI安全研究组 腾讯云EdgeOne安全产品团队
34310编辑于 2026-03-31- 来自专栏腾讯多媒体实验室
腾讯多媒体实验室年度回顾
作为全球多媒体技术的领先者，在过去的一年里，腾讯多媒体实验室持续深耕技术，秉持科技向善，和你一起走过这不平凡的一年。 一图带你回顾我们2020走过的路。 ? ? ? ?
83710发布于 2021-02-09 - 来自专栏腾讯多媒体实验室
腾讯多媒体实验室论文专栏
腾讯多媒体实验室 腾讯多媒体实验室作为腾讯云与智慧产业事业群的核心实验室之一，专注于多媒体技术领域的前沿技术探索、研发、应用和落地，包含音视频编解码、网络传输和实时通信，基于信号处理和深度学习的多媒体内容处理 腾讯多媒体实验室专家成员 刘杉 腾讯集团杰出科学家 腾讯多媒体实验室负责人 刘杉，现任腾讯杰出科学家和腾讯多媒体实验室负责人，本科毕业于清华大学电子工程系，硕士和博士毕业于美国南加州大学电气工程系。 李翔 腾讯多媒体实验室标准负责人 李翔，腾讯多媒体实验室行业标准中心总监，资深专家研究员。 Iraj Sodagar 腾讯多媒体实验室专家研究员 Iraj Sodagar，腾讯多媒体实验室专家研究员。加入腾讯之前，他在微软担任多媒体系统主任架构师。 朱斌 腾讯多媒体实验室专家研究员 朱斌，腾讯多媒体实验室专家研究员。加入腾讯之前，他在Intel，Apple带领技术团队负责视频核心技术开发。
2.5K50发布于 2021-10-25 - 来自专栏湛卢工作室
PWN | “网鼎杯”朱雀之战——魔法房间题解
复现一下上周末“网鼎杯”朱雀组中PWN 题——魔法房间。本题主要考察堆溢出中的UAF（Use After Free）漏洞，是经典的“菜单题”。
1.1K40发布于 2020-05-27 - 来自专栏腾讯大讲堂的专栏
腾讯移动安全实验室WiFi安全报告
.
1.4K90发布于 2018-02-11 - 来自专栏程序创造美好世界
“腾讯云 · 开发者实验室“体验
偶然间从腾讯云 · 云+社区的实验室标签点进去，居然就发现了新大陆！ 开发者实验室使用介绍视频.jpg 3分多钟的视频看完，我就联想到了在线学习平台“实验楼”。模式简直是一模一样呀！ 搭建WordPress个人博客.jpg 美中不足的就是程序下载太慢了，可能是因为使用国外源的原因，也可能是腾讯限制了云主机的带宽。这就导致在给定的短暂时间里不太可能完成整个实验步骤。 建议腾讯云在实验云主机初始化的时候将源设置成国内的。不过对于我这样的尝鲜用户来说已经很完美了。 使用的是国外的源.jpg 整个平台的体验已经很极致了，相比“实验楼”的可视化界面延迟要小得多，而且个人觉得腾讯云的实验平台界面更有程序员的范。其他的小问题可以后期改进。 所以在实验快要结束的时候腾讯云为自家打起了广告，无缝切入。 因为在线编辑器上传图片还有点Bug，本来还有点话要说的，那就这样吧。
6.1K120发布于 2018-01-13 - 来自专栏腾讯文旅
腾讯用科技造了一座长安城
原本他们应该是普通立体声，但有了腾讯音视频实验室研发的3D音效算法，你会感觉到唐朝乐器就在你身边，前后左右分明。而这，只需要一副普通耳机。 这些手机都是用来做帕金森运动评估的，他们都安装了腾讯医疗AI实验室研发的帕金森病运动功能智能评估系统。 以往帕金森病诊断非常复杂，只能靠医生肉眼观察，费时费力。 衣服版型随你挑，上色就交给腾讯前沿科技实验室推出的又一款眼动功能游戏——《眼动织羽衣》。他会追踪你眼球的位置，只凭眼神就能操作整个游戏。 这种无障碍游戏的理念还帮助腾讯拿过联合国的大奖。 在腾讯云AI人脸融合技术的作用下，你的照片和每一件华服天衣无缝地融合在一起。 想“穿”哪件就看你心情了，反正都是美美哒。 从贵妃更衣室出来，诗意长安即将抵达终点站朱雀大街。 腾讯优图实验室的人像作诗AI将根据你途中的照片为你即兴作诗。因为它可以识别照片上的人物和景物特征，提炼出关键词，再按照诗词的韵律生成和照片契合的古典诗句。 朱雀大街出门去，长安一梦化成诗。
92120发布于 2020-06-17 腾讯云游戏安全：全生命周期防护与量化成效
腾讯《2025上半年游戏安全洞察报告》显示：游戏行业DDoS攻击占比达32.08%（全行业最高），PC端外挂数同比增长238.2%，移动端外挂数增长162.5%。 构建云边端服四位一体防护体系 腾讯云基于多年攻防实战经验，推出“云边端服”协同安全架构： 云端：威胁情报与大数据能力赋能精准威胁发现 边端：云原生安全能力提供边界访问控制与防护 服务器端：主机安全覆盖漏洞管理 —— 某游戏客户评价 腾讯云安全能力闭环与全球合规支撑 腾讯云整合朱雀、玄武、云鼎三大实验室能力，提供： 研发阶段：安全左移体系（代码审计、渗透测试、APK加固） 运营阶段：五维风控方案（反外挂、内容安全
17010编辑于 2026-04-09- 来自专栏深度学习与python
国内首个网络安全大模型评测平台 SecBench 发布
作者 | Tina 2024 年 1 月 19 日，业界首个网络安全大模型评测平台 SecBench 正式发布，该平台由腾讯朱雀实验室和腾讯安全科恩实验室，联合腾讯混元大模型、清华大学江勇教授 / 夏树涛教授团队 、香港理工大学罗夏朴教授研究团队、上海人工智能实验室 OpenCompass 团队共同建设，主要解决开源大模型在网络安全应用中安全能力的评估难题，旨在为大模型在安全领域的落地应用选择基座模型提供参考，加速大模型落地进程 “百模大战”下，大模型的形态各异，有 HuggingFace 上不断涌现的开源大模型，有类似 GPT-4、腾讯混元、文心一言等大模型 API 服务，以及自研本地部署的大模型。 此外为评估大模型在 Prompt 安全方面的表现，腾讯朱雀实验室已联合清华大学深圳国际研究生院，发布了《大语言模型 (LLM) 安全性测评基准》。
4.9K10编辑于 2024-01-23 - 来自专栏灵光独耀
腾讯云实验室——玩转 Jupyter Notebook.docx
准备后续步骤的 Notebook 为了后面实验中实验室的步骤检查器能够更好的工作，此时我们使用以下命令预先创建几份 ipynb 文件： cd /data/jupyter/root cp Untitled.ipynb 实验到此结束 本实验取自腾讯云实验室，是手工照着实验室内容做的 如今部分源可能存在过期问题，可以在云+问答中补充
3.3K50发布于 2019-04-01
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号