观智潮｜装修让AI比价，决策还得自己来？清华学者陈慧敏：智能体“边用边存疑”

潮新闻客户端

今年6月5日，清华大学文科沙龙第43期聊了个当下很热的话题——智能体：风险与治理，智能体不只是能聊天的AI，而是开始替人“动手”了。

清华大学公共管理学院教授、清华大学人工智能国际治理研究院副院长梁正，清华大学新闻与传播学院副教授陈慧敏，Microsoft AI Asia首席应用科学与软件研发总监魏思宁应邀参与讨论。

沙龙现场（从左至右依次为陈天昊、梁正、陈慧敏、魏思宁）

计算机专业出身，又在新闻学院任教，陈慧敏看智能体的视角很特别——既懂技术原理，又习惯追问技术落地后会怎样影响人。正是这种“双重视角”，让她对智能体的潜力兴奋，也对它潜藏的风险格外警觉。

01

从“能说”到“会做”

智能体这一步迈得比想象中快

沙龙上，清华大学新闻与传播学院副教授陈慧敏分享了一个自己的小故事：

装修房子时，她会让智能体帮忙搜集建材信息，比价格、比环保等级、比安全性能，整理成一张清晰的对照表。但到了真正拍板的关键时刻，她一定会亲自再过一遍。

“边用边存疑”，她说，这是她看待智能体的基本立场。

清华大学新闻与传播学院副教授 陈慧敏

陈慧敏把智能体放回AI的演进脉络里解释：以前的生成式AI，在“说”这件事上已经炉火纯青，问什么都能答得像模像样。但能说会道终究只是“动嘴”，真正要释放价值，得让它能“动手”——自己拆解目标、调用工具、执行一连串动作。智能体正是往这个方向迈出的下一步。

这一步有多快？陈慧敏说，短短两年，智能体已经从实验室原型冲进了真实产业，最典型的就是编程——现在不少程序员让AI代写代码、帮忙调试，自己退居一旁审看。当然，落地速度并不均匀，那些反馈快、数据足的领域（比如编程）渗透得飞快，而牵涉重大利害、没有数据闭环的领域，脚步就慢一些。

但问题也恰恰出在“从说到做”这一跃。陈慧敏提醒，以前的机器最多说错一句话，纵然有偏差，也停留在言语层面；可一旦它替人动手，失误就不再是一句可商榷的话，而是一个已经落地的动作。能力向前跨了一步，风险的分量，也跟着“沉了下来”。

02

风险一重接一重

不是“说错话”，而是“做错事”

风险藏在哪儿？陈慧敏梳理了两重。

第一重，根子还在大模型底座上。前代AI的老毛病——生成不实信息、给出偏见判断——并不会因为换了“智能体”的马甲就消失。过去这些毛病露在“嘴”上，听者还能分辨存疑；现在它们被装进一个会自主行动的系统里，同样的误判，就成了一个无法撤回的操作。隐患还是那些隐患，可承载它们的，已从一张嘴变成一双手。

第二重，来自智能体伸向外界的“触角”。它要调用工具、要上网抓取信息，每一处接口都像一道未必上锁的门。工具可能被人动过手脚，平时运转正常，遇上特定条件就出错；抓取的信息环境也危机四伏，万一混入“提示注入”这类恶意指令，智能体读进去就会跑偏。所以，安全防线不能只看模型本身，它握着的工具、它脚下的信息环境，都得盯紧。

更棘手的是，这两重风险会沿着行动链条彼此勾连、环环放大。一处失真的数据，带坏据此调用的工具，出错的工具又扭曲后续判断——差错就这样像多米诺骨牌一样传导下去，越滚越大。系统越庞大，这种“牵一发而动全身”的脆弱就越难追踪。尤其令人捏把汗的是，万一它闯进那些无法回退的场景——事关国家安全，或是个人的生命财产——后果就不再是大小之分，而是能否承受之别了。

03

治理不是“独角戏”

还得请个“第三方裁判”

面对这么多环节、这么多风险，治理显然不能只靠某一方、某一关。陈慧敏提出，安全应该是整个链条的共同责任——开发模型的、搭建平台的、提供工具的，各环节都有推不掉的责任。但她同时指出，自查自纠难免留死角，因为有些隐患，当事者出于利害考量未必愿意主动担责。

所以，她在各负其责的基础上，郑重补上一道保险：引入独立的第三方，以局外人的眼光对全流程进行审视和监督，为治理提供客观的凭据。让监督的力量独立于被监督者，治理才不会变成自说自话。

清华大学新闻与传播学院副教授 陈慧敏

04

技术再快

也要“回望”社会

所有这些思考，最终指向一个更根本的认识。陈慧敏说，今天的大模型早已不只是工具，它正在成为一种深刻的文化与社会技术——它塑造人们如何思考、如何判断、如何理解世界。正因如此，技术研发不能只在内部自洽，而必须与它将要嵌入的社会制度、文化肌理实现“社会对齐”。

技术尽可一往无前，但它终究要回到人所栖居的社会里。唯有与之相契，才能行得稳，也走得远。

（原载于清华文科，图源：清华文科，2026年7月16日）

“转载请注明出处”