听完2个真实AI客服项目，我才看懂企业AI落地

上个月，我去听了一个AI客服项目分享。主讲人做过两个真实落地项目，一个银行，一个公积金。不是PPT方案，是真正上线、有用户在用的系统。

我带着一个问题去的：

一个真实的AI客服项目，从头到尾，到底在做什么？

听完之后，我发现一件事：

我以前以为，做AI客服项目，最难的是AI。模型准不准，知识库全不全，Agent能不能自己干活。

但真实情况不是。

真正难的，是你要反复判断一件事：

哪些地方可以交给AI，哪些地方必须把AI关回笼子里。

这篇文章讲5个我听完之后很反直觉的发现。先把结论放桌上。

1. 企业不是不用Agent，是不敢让Agent直接拍板。
2. 大模型一进来，最先暴露的不是AI能力，而是旧系统多年欠下的债。
3. AI最危险的时候，不是它不会，而是它很自信地算错。
4. AI客服不是上线就结束，而是上线后才真正开始挨打。
5. 个人追新叫探索，企业追新很多时候叫风险。

不过在讲这5件事之前，得先说清楚一个前提：

客服行业不是一张白纸。

银行、保险、公积金这类机构，每天要处理大量电话。这个行业很早就开始自动化了，从按键菜单，到语音机器人，再到意图识别和知识库系统，已经跑了很多年。

所以AI客服不是重新发明客服。它是在一套成熟、复杂、也有历史包袱的系统里继续改造。

AI进来当然有价值，但很多时候不是颠覆，而是补短板。比如方言听不懂，情绪化表达理解不了，冷门问题知识库没有。这些旧系统解决不好的地方，才是AI真正能发挥作用的地方。

AI不是来换掉整个厨房的。

它更像是来解决那个厨师一直搞不定的一道菜的。

01 企业不是不用Agent，是不敢让Agent直接拍板

你现在打开任何AI相关的公众号或者短视频，大概率会刷到一个词，Agent。有时候也叫智能体。说的是一种AI，不只是回答你的问题，而是能自己制定计划、自己调工具、自己把任务做完，像一个能干活的数字员工。

听起来很厉害，对吧。

我之前也这么想。

但在这次分享里，我听到了一个完全不同的版本。真实情况是，要分场景。

客服这个场景，有一个非常特殊的地方：机器人直接开口回答用户，出了问题要负责任。银行的监管规定写得很清楚，大模型生成的内容，不允许直接面向真实用户。

不是技术做不到，是规定不让。

为什么这么严？

因为AI的回答是生成出来的，每次说的可能都不一样。今天这样说，明天那样说，后天说了一句不该说的，用户截图投诉，银行怎么解释？

所以客服机器人面向用户的部分，只能用提前写好的固定话术。AI负责听懂你在问什么，然后播报对应的答案，不允许即兴发挥。

但有另一种场景可以用Agent：不直接面对用户的场景。

比如坐席辅助。AI在后台帮人工客服出主意、推荐话术、整理信息，最终决定说什么的还是人，AI只是打辅助。

所以区别不在于用不用Agent，而在于最后拍板的是机器，还是人。

企业不是不用Agent。

企业是不敢让Agent直接拍板。

02 大模型进场后，先爆出来的是旧系统的历史债

这是整篇文章里我觉得最有意思的一件事。

分享者讲了一个细节，我听完沉默了好几秒。

银行那个客户，原来已经有一套自己的客服系统在跑了，而且跑得挺好，准确率已经到了九十几。这套系统用的是一种叫NLP的技术。你可以简单理解为，靠关键词、规则和模型来理解用户意图的老方法。不是现在的大模型，但在那个年代够用。

运营团队熟悉这套系统，熟悉到什么程度？

他们自己维护着超过一千个意图分类。

什么是意图？就是AI判断，这个用户说这句话，到底想干什么。用户说我卡用不了了，AI要判断他是要挂失、要解封，还是只是问余额。判断的那个过程，就叫意图识别。

这一千多个分类，是运营团队多年一条条手工积累下来的。

现在要换成大模型了。

你以为这是技术升级，应该皆大欢喜。

但真实情况是，大模型的语言理解能力强了很多，反而把旧系统里的问题全都放大了。那一千多个意图分类，命名混乱、层级缠绕。有的名字只是个代号，完全看不出什么意思。有的意图差不多，却重复建了一大堆。

在旧系统里，这些问题勉强能跑。大模型一进来，全都变成了障碍，需要清掉重建。

但更难的不是删数据。

更难的是，那个熟悉旧系统的运营团队，要接受自己多年积累的东西需要推倒重来这件事。

这些意图分类已经不只是数据了。它是运营团队多年工作的证明，是他们熟悉的秩序，也是他们的安全感。

你现在说要用大模型重建，听起来像技术升级。但对他们来说，可能更像是在说：

你们过去很多年维护的东西，里面有大量问题，需要重新来过。

这才是最难的地方。

他们不是不想配合，是他们真的觉得自己原来做的没问题。而且他们长期从运营视角出发，会提出很多很细的需求，细到离项目核心目标很远的那种。如果照单全收，精力全耗在这里，最后做出来的东西既没有亮点，成本又极高。

分享者说了一句话我印象很深：

产品经理最重要的工作之一，是把大家的注意力，从运营细节拉回到项目真正要解决的问题上。

这不是技术问题。

这是人的问题。

我自己做产品这些年也深有体会。方案想清楚了，代码也写得了，但最难的永远是让相关的人接受改变。AI项目也不例外，甚至因为它动的是别人多年积累的地盘，阻力会更大。

03 AI最危险的地方，不是不会算，而是敢乱算

这是整个分享里我最喜欢的一个故事。

公积金项目里，客户提了一个需求：做一个贷款试算功能，用户说出自己的情况，AI帮你算出能贷多少钱。

分享者一开始觉得，计算这种事AI不擅长，容易算错，不如做一个精确的计算器。用户输入数据，计算器给出结果，准确、可靠。

客户大发雷霆。

客户说，我要的就是大模型自己算，你给我弄个计算器是什么意思？

但问题是，大模型做精确数字计算本来就容易出错。涉及到具体金额、复杂公式，算错的概率很高。让它自由发挥给用户算出一个错误的贷款金额，后果不堪设想。

还有另一个卡点：客户要求收集的信息太多。缴存基数、账户余额、贷款年限、房产套数……要全部问清楚，对话轮数会非常长，用户早就挂断了。

同类产品的做法是只收集三两轮信息，给一个大概的估算。但这个客户不接受，非要收集完整才算。

最后的解决方案是折中：用户只说了个大概，AI给一个模糊的估算；识别到用户需要精确结果，就切换到计算器。两种模式都支持，做好衔接。

这个故事让我想到一件事：

AI很聪明，但聪明不等于什么都能做。

真正好的AI产品，不是所有事都交给AI，而是清楚地知道哪些事交给AI，哪些事不能交给AI，然后把两者拼在一起。

一味迷信AI，会出事。一味否定AI，会错过真正有价值的东西。

04 AI客服真正的需求，藏在它答错的地方

做传统产品，迭代的逻辑通常是：

用户提需求，产品整理，开发排期，上线。

做AI客服，完全不一样。

核心素材不是用户的需求，而是AI答错的那些对话记录。专业叫法是badcase，字面意思就是坏的案例，也就是那些AI回答偏了、答错了，或者完全没听懂用户在问什么的记录。

上线之后，团队每天抽取一批真实的用户对话，找出那些答错的、答偏的，集中分析。

为什么会答错？

是知识库里没有这个信息？

还是AI没听懂用户在问什么？

然后根据分析结果，不断喂新数据进去，让AI越来越准。

有意思的是，迭代节奏在不同阶段是不一样的。前期靠行业专家来判断对错，因为真实数据量还不够，需要懂这个行业的人来告诉AI什么是正确答案。后期靠真实badcase来驱动，因为用户的实际提问方式，永远比任何专家预设的都复杂。

这个逻辑翻转很重要。

传统产品是用户说要什么就做什么。

AI客服是用户问了什么、系统答错了什么，才是最宝贵的信号。

AI客服不是上线就结束。

上线后才真正开始挨打。

05 个人追新是学习，企业追新是风险

最后这件事，说给所有正在焦虑追AI的人听。

今年上半年，有一个AI工具在圈子里火得一塌糊涂，叫OpenClaw，中文圈亲切地叫它小龙虾。一个能自己规划任务、自己调工具、自己把事情做完的AI框架。全网到处都是教程，人人都在研究怎么用它。

当时很多人都觉得，OpenClaw会是Agent时代绕不开的基础设施。

但同期，我们公司内部其实已经在研究怎么把OpenClaw改造成企业能用的东西。研究了一段时间，结论是：

搞不定。

它的权限管控、安全合规这些企业必须要的东西，天然不支持，改造成本极高。然后没过多久，企业内部就基本放弃OpenClaw了。而外面，还在疯狂刷教程。

再然后，Hermes出来了，一个月之内从OpenClaw手里抢走了大量用户，成了新的热词。

这件事让我想到一个问题：以前一个技术框架从出现到成熟，需要两三年时间沉淀。现在从火热到跌落神坛，可能只需要半年。

你一个普通人追着最新框架跑，追的是什么？

很多时候追的是焦虑，不是能力。

分享者说了一句话，我觉得很值得记下来：

比现在的AI慢半年，用成熟的方案，才是真正降低风险的做法。

这话听起来有点反潮流。

但我越想越觉得对。

对个人来说，追新工具是探索，是学习，是玩。但对企业来说，追新工具可能就是风险。企业真正需要的是稳定、合规、可控，不是每一个最新概念都要第一时间上生产环境。

不是叫你不学AI。

是叫你别把自己搞得那么焦虑。

真正值得学的东西，不会因为你慢了半年就没了。

06 说到最后

这次分享里，有人问了一个问题：

企业引入AI客服，到底能不能省钱？

分享者的回答很直接。

短期来看，硬件和部署成本非常高，根本谈不上降本。企业引入AI，真正的价值不是立刻省掉多少人，而是把人从重复劳动里解放出来，去做更有价值的事。

这和外面大多数AI帮你省钱的宣传完全不同。

但这才是真实的。

回到主线。

这次去听，我最大的感受是：一个AI客服项目能不能跑起来，AI本身只是其中一个零件。真正决定成败的，是那些AI之外的东西。

监管允不允许。旧系统的人愿不愿意改。业务方说不说得清楚自己要什么。成本算下来撑不撑得住。

这些，没有一个是纯技术问题。

以前我总觉得，AI时代最重要的是追上最新工具。现在我觉得不是。

工具会变，框架会变，今天是OpenClaw，明天是Hermes，后天还会有新的名字。

但有一种能力不会过时。

就是你能看懂技术能做什么，也能听懂人真正怕什么。能在技术语言和人话之间来回翻译。

AI越往真实世界里走，这种人反而越值钱。

这篇也算是我最近在写的「普通人AI转型30问」系列的一个加餐。

前面几问，我一直在拆一个问题：

普通人面对AI，真正该补的是什么能力？

听完这场AI客服分享之后，我更确定了一点：

工具当然要学，但更重要的是判断边界、理解业务、听懂人的问题。

这也是这组30问想做的事。

不制造新的AI焦虑，只把那些真正值得学的东西，一点点讲清楚。

下一篇加餐，聊聊如果你不做AI行业，只是想学一些AI相关的东西给自己加分，适合学什么。