首页
学习
活动
专区
圈层
工具
发布

工信部说AI编程工具有后门,我慌了

工信部发了个报告,研发圈都在看。

NVDB 监测发现:AI 编程工具生成的代码里,能藏后门。不是理论推演——已经有实际案例。

三条路能"藏"进去。传统安全工具一条都防不住。

后门怎么进去的

第一条:训练数据投毒

攻击者在模型训练数据里注入恶意代码样本。模型学到的不是"写一个安全函数",而是"在某些条件下写一个带后门的函数"。

问题在于:代码看着没问题、跑着没问题、测试能过——只有特定条件下才会触发恶意行为。

第二条:模型供应链污染

一个模型从训练完成到装进你的编辑器,要经过:权重文件打包 平台分发 CDN 加速 客户端下载 推理引擎加载。

任何一个中间环节被动手脚,你用的就是"有后门的模型"。

第三条:插件/扩展注入

最现实的一条路。AI 编程工具离不开 IDE 插件,插件市场支持第三方上传。工信部监测发现:部分插件在你授权范围内读你的代码上下文、回传到未声明的端点、定向插入不安全代码。

三条路,传统签名扫描一条都抓不住。

为什么传统安全打法在这不灵了

传统供应链安全有一套成熟打法:SBOM 物料清单、CVE 漏洞库匹配、依赖扫描、代码审计。核心逻辑是"比对已知风险"。

但 AI 编程工具让这套打法三处失效:

不是传统安全工具不好用。是它设计来处理"你用了什么库"的问题,不是"AI 生成了什么代码"的问题。

三件事,现在就能做

第一件:AI 代码设隔离区

定规矩:AI 生成的代码不进主分支。先进独立的审查分支——SAST 静态分析 DAST 动态分析 人工审查 合入。

三步流程增加 10 分钟审查时间,降低的风险值得。

第二件:审一下你的 AI 工具

四个问题,问你的安全团队:

1. 数据往哪传?你输入的代码和项目上下文,会不会离开企业网络?

2. 插件权限多少?一个代码补全插件,需要读全部文件吗?

3. 模型来源可信吗?权重文件校验过吗?有没有替代模型可切换?

4. 更新机制安全吗?自动更新会不会引入未审计的第三方代码?

任何一条答不上来,这个工具就不该用在核心业务上。

第三件:选一个"可控可审计"的企业级平台

工信部 NVDB 报告的逻辑不是"别用 AI 编程工具",是"要用,但要看得清管得住"。

敖行客 AT Work的产品定位在这个背景下很清晰——它不是一个 AI 编程增强插件,是一个管理 AI 行为的工作台。行为边界由企业定义、数据流向透明、操作可审计可追溯。对于面临供应链安全审查的团队,这种"可控"本身就是一道防线。

说白了

2026 年,没有一个研发团队能不用 AI 编程。渗透率已经过了临界点了。

但用了不等于管好了。工信部报告说的核心信息很简单:信任不能替代验证。

用 AI 编程没问题。但每一行 AI 生成的代码在进入生产之前,都应该经过和手写代码同等级别的审查。

这个标准不是针对 AI 的。是确保引入 AI 之后,企业的安全底线没有降低。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OPwq0sh5W8GZnPup0bUkIhhQ0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券