反面标本:当人被降格为系统的末梢
如果不做这一切,让算法把流程全接管、把人变成末梢,会发生什么——「当流程不再需要人」系列第五讲
始于咨询.终于因果
系列第五讲。前四讲立了完整的正面框架:人站在例外点上、以节点形态存在、以判断力定价、用担责阈值分账。本讲换一面镜子:如果这一切都不做呢?不用想象,有个标本已经在中国街头运行了六年——被困在系统里的外卖骑手。
一、为什么一份外卖,是AI for Process的完整标本
2020年那篇《外卖骑手,困在系统里》刷屏的时候,多数人把它读成一个劳动权益故事。六年后回头看,它其实是一份企业AI流程管理的完整病理切片——一个"流程高度算法化、人被彻底末梢化"的组织形态,在极端条件下长什么样。
拆开看这个系统的构成:算法实时调度(智能派单)、全程数据监控(定位与轨迹)、自动绩效计算(准时率)、动态规则调整(时限不断收紧)。这不就是AI for Process的教科书配置吗?流程接管程度接近100%,数字化程度秒杀99%的制造业企业,效率全球领先。
按前面四讲的分析框架问一遍:例外率高吗?不高,绝大多数订单在算法内跑完。决策密度呢?极低——骑手几乎没有判断权限,唯一的自主空间是"用什么方式在更短时间内送达"。人站在哪里?人不在任何判断点上。人被放在了系统的末梢——算法负责一切判断,人负责一切执行,包括为算法的判断失误买单。
一个AI接管程度如此彻底的系统,为什么长成了人人唏嘘的样子?答案就藏在"没有判断点"这六个字里。
二、"养系统":一个残酷的闭环
这个标本里最值得解剖的机制,是研究者称为"养系统"的闭环。
系统的时间限是怎么来的?是从历史数据里学的:这条路线上,骑手们跑出的最快纪录,会成为新时限的依据。于是骑手越拼、越闯红灯、越抄近路,系统就越认为这条路线"可以更快",时限就再收紧一格。人的每一次超额执行,都在喂养出一个更紧的枷锁。
对照一下第四讲的正面设计,你会发现这是"判断沉淀"的完美反演。我说过,节点处理完例外应该沉淀成规则,让系统变聪明。骑手系统里也在"沉淀"——把人的身体极限沉淀成更紧的时限。同样是"人喂养AI",为什么一个是正循环、一个是死循环?差别就在沉淀的内容和方向:前者沉淀的是判断规则(这种情况该怎么处理),让系统接走更多判断、把人往更高的判断点解放;后者沉淀的是执行极限(这个人还能被压多快),让系统接走全部判断、把人往更彻底的执行末梢压缩。
这就是"无意残酷"的算法真相:系统没有恶意,每一步优化在工程上都成立。但整个系统的目标函数里没有"人的判断力"这个变量——它根本不需要骑手判断,所以也就从不培育判断,最后连人的判断力本身都成了系统的损耗品。社会学者把这叫系统对人的异化,翻译成管理语言就是:一个不给人留判断位置的系统,最终会把自己的人变成系统里最脆弱的零件。
三、责任的蒸发:没有人做错,但所有人受伤
这个标本的第二层病理,是责任的稀释。
第四讲说过,担责阈值不画线的后果是"责任落空"。骑手系统把这一条演绎到了极致:出了事故,怪谁?平台说我是信息服务商,骑手是合作个体;算法说时限是历史数据的客观反映;站长说指标是总部定的;总部说我们一直在优化算法。责任像水一样,在每一层组织里渗过去,最后在雨水里滑倒的那个人身上蒸发——他既是系统的零件,又是系统唯一的承重结构。
注意,这恰恰是第四讲那套"分账机制"的反面:AI执行、人担责的新型契约,前提是人有权判断。而骑手系统的结构是AI执行、人代过——人没有获得任何判断授权,却承担了系统全部错误的物理后果。一个组织如果从骑手系统里只学到"算法可以压榨效率"而没看到"责任结构已经塌方",那它距离自己的版本只有一步之遥:等到你的AI客服大面积激怒客户、你的智能排产把老师傅逼到集体离职,你会发现同样找不到那块责任该落的地面。
还有一层更隐蔽的代价:这个系统学不到真东西。骑手在风里雨里积累的现场知识——哪栋楼门禁难进、哪个路口高峰期根本过不去、哪种异常该优先处理——没有任何机制让这些判断回流成系统的规则。系统只会学"更快",因为它的反馈回路里只有时间戳。一个只从单一指标学习的系统,配上一群不被允许发言的人,其组织智商的上限,在最开始的设计里就焊死了。
四、不是道德课,是战略课
写到这里必须说清楚:这一讲不是要给平台经济做道德审判。平台的问题有监管在管(2026年算法透明化的劳动新规已经落地),道德批评也从来不缺。这一讲的真正用意,是给正在做AI转型的企业主提供一面镜子——你们公司的AI流程,正在往哪个方向长?
几个自检的问题,每一问都对应前四讲的一个概念。
你的系统在向人学什么?如果你的AI只在学"人的执行极限"(更快、更多、更省人),而从不学"人的判断规则"(什么情况该停、什么情况该变通),你就在养自己的"骑手系统"——哪怕你的员工坐在写字楼里,穿着体面。你的员工遇到系统明显不合理的时候,能拒绝吗?有拒绝的通道吗?拒绝会被惩罚吗?如果答案是不能、没有、会——你的组织里已经没有判断点了,只是没有人管那叫"困在系统里"。出了事,你的组织能在多长时间内找到那个该负责的岗位?如果答案是层层甩锅——你的责任结构已经在蒸发了。
反过来,前四讲的全部设计——例外点上的人、节点化的组织、判断力定价、担责阈值、认真判断不追责的承诺——在这个标本面前显出了它们不是什么理想主义的乌托邦,而是从反面标本倒推出来的生存必需。骑手系统用六年的社会成本演示了另一条路的终点:流程接管一切,判断无处安放,责任全面蒸发,然后整个系统的能力上限被焊死在最初的目标函数里。
一个在效率上如此登峰造极的系统,为什么没有未来?因为它把组织里唯一能进化的东西——人的判断力——当成了燃料,而不是种子。
五、给一号位的一句话
每季度做一次"末梢体检":随机找三个一线员工,问同一个问题——"系统让你干一件你觉得不对的事,你会怎么办?"如果三个人都答"照干"或"没遇到过能不对的事",你的AI系统正在把人烧成燃料;如果有人答"我会拦下来,而且上次拦过"——恭喜,那才是你组织里最值钱的节点。
下一篇,也是本系列收束:《练兵回路》——判断力被保护下来了,但它从哪里再生产?如果流程都不需要人,十年后替你拍板的人从哪里长出来?
经营智商系列 · 当流程不再需要人专题
本文为系列文章,后续将陆续探讨「人机分工设计」「组织判断力培养」等话题。
关注我,带你持续提升企业经营智商!