从超参到Harness，大模型应用演进的温故知新

很长一段时间里，行业里弥漫着一种“暴力美学”：很多人理所当然地以为，想让 AI 变得更聪明、更能干，唯一的路径就是造出更大的模型。于是，我们见证了参数量的狂飙，从百亿到千亿，再到万亿，仿佛只要把“大脑”的容量撑得足够大，它自然就能无所不能。

但近几年的落地实践，却给出了一个有点“反直觉”的答案：当我们真的把这些超级大脑丢到真实的工作场景中去时，最大的瓶颈往往不是它们“不够聪明”，而是它们“缺乏处境”。

这就像把一个智商160的天才突然空投到一家陌生的公司里，他不了解公司的代码规范，不知道该找谁审批，手边也没有趁手的工具——他依然会寸步难行。于是，大家开始觉醒：最大的改变，并不仅仅是让模型本身的智商再往上卷，而是让它所处的环境变得更聪明。

如果把这个认知转变的过程压缩进最近的 4 年，你会发现大模型应用走过了三个截然不同的阶段。

最初，这是一场 “拼命升级大脑” 的军备竞赛，我们试图把全世界的知识都死记硬背进模型的神经元里；

后来，我们学会了 “精心布置书房” ，不再强求大脑记住一切，而是在它思考时，迅速把需要的参考书和备忘录递到它眼前；

而现在，我们进入了关键的一个阶段——“搭建全自动化工作室与工具箱”。大脑本身不再孤立地工作，它被嵌入了一套精密的外部系统里：这里有记性极好的档案柜（持久化内存）、有贴满标签的标准化工具（协议与接口）、有防呆的安全护栏（审批门禁），还有随时监控进度的监工（可观测性）。

1，模型权重，把知识装进参数里（2022 年）

2022年，整个AI圈处于一种近乎狂热的“大力出奇迹”状态。所有人的目光都死死盯在模型本身，那是一个信仰“缩放定律”的黄金时代：模型越大，喂的数据越多，显卡烧得越狠，奇迹似乎就会自动降临。人们朴素且坚定地相信一个公式：更多的参数 = 更强的能力。就像造火箭，大家觉得只要底部的推力足够大，哪怕上面绑的是一块石头，也能被硬生生送上天。

在这个阶段，怎么让这个庞大且不可控的“大脑”听话呢？主要靠两把扳手：RLHF（基于人类反馈的强化学习）和微调。如果说预训练是让模型“读万卷书”，那微调就是送它去上专门的“职业培训班”，而RLHF则是给它安排了一个严厉的教导主任——它每答错一次或者语气不对，教导主任就会敲打它一下，直到它学会用人类喜欢的、礼貌且安全的格式说话。所以，当时如果你想要一个更好、更懂规矩的智能体？答案很简单粗暴——去砸钱，去训练一个更好的底层模型。

这套打法在初期简直是无往不利的，尤其是对付那些单轮问答。无论是写一首藏头诗、翻译一篇晦涩的外文、还是快速总结一份冗长的财报，它都能对答如流，甚至让人类自愧不如。

但蜜月期结束得很快，当人们试图把它真正嵌入到复杂的生产线中时，硬伤就彻底暴露了。

首先，模型的知识在训练结束的那一刻就被“冻结”了。如果现实世界里某家公司的CEO换人了，或者某项代码库的API更新了，你想修改这个事实？对不起，你不能像改Word文档那样直接替换几个字，你必须把这头千亿参数的巨兽重新拉回训练场，耗费几十万美元和几个月的时间重新训练一遍。这种高昂的“修改成本”在商业应用中是极其致命的。

其次是“黑盒困境”。当模型突然给出一个带有偏见的回答，或者一本正经地胡说八道时，你想去审计它为什么会这么想？几乎是不可能完成的任务。你无法把神经网络里的几千亿个权重拆开，指着其中几个数字说：“看，就是这几行代码导致了幻觉。”它就像一个拥有超级记忆却无法解释思考过程的天才，让你根本不敢把核心业务放心交给他。

更致命的是缺乏个性化。面对成千上万的开发者，每个人写代码的风格、公司的业务背景、使用的工具栈都千差万别，但你手里只有一套“冻结”的模型参数。这就好比你给一百万个人发了同一份毫无二致的说明书，却指望它能解决每个人手里千奇百怪的问题，这显然有些天方夜谭。

在这个狂飙突进的第一阶段，我们确实打造出了足够“大”的体量和足够“快”的生成速度，但这种把所有能力、知识和规矩都死死焊死在神经网络参数里的做法，就像建造了一艘超级巨轮——虽然威武霸气，但连个掉头的余地都没有。我们拿到了一把极其锋利的重剑，却发现自己连绣花的需求都无法满足。灵活度的严重缺失，逼迫着人们开始停下狂奔的脚步，寻找新的破局点。

2，巧用提示词，把知识放在眼前（2023-2024 年）

时间来到2023年，随着对模型底层逻辑的深入探索，行业里发生了一次至关重要的“思想解放”。人们突然恍然大悟：既然去动模型内部的“参数”这么费钱费力，我们为什么不绕开它呢？你不一定要改变模型本身，你只需要改变模型“看到”的东西。这就像你无法在短时间内重塑一个人的大脑结构，但你完全可以通过给他递不同厚度的参考书、塞不同类型的备忘录，来极大地影响他的决策质量。

于是，风向彻底变了。提示词工程、少样本示例、思维链和RAG（检索增强生成）这些无需动用庞大显卡集群的“软技巧”，瞬间成了全村的希望。

所谓思维链，就是你在提问时强行加上“让我们一步一步来思考”，逼迫模型展现推导过程，这就大幅降低了它瞎蒙的概率；而RAG更是神来之笔，相当于给模型外接了一个可随时更新的超级硬盘。遇到不懂的问题，系统先去数据库里精准搜索相关段落，把这些内容作为“前置背景”和问题一起喂给模型。

这种改变带来的震撼是巨大的。同样是一个参数被“冻结”的死模型，昨天它还在胡言乱语，今天只因为你换了一种提问格式，或者在前面塞了几个标准案例，它立刻就能表现得像个行业老手。开发者们终于从繁重的“炼丹炉”（微调）旁解放出来，不再需要去折腾底层的梯度下降，而是变成了“文字魔法师”，每天忙着写提示词、搭向量数据库、优化检索流水线。这种方法简直太香了——几乎不花什么成本，几分钟就能迭代一版，效果还出奇地好。

但现实的耳光总是来得很快：灵活，并不等于可靠。当你试图让这个聪明的助手处理真正复杂的长期任务时，“上下文”这套外挂系统的物理瓶颈就暴露无遗。

首先，上下文窗口终究是有容量上限的。为了让模型回答得严谨，你拼命往窗口里塞背景知识、代码规范和历史记录。结果提示词越来越长，里面不可避免地掺杂了大量无关的噪声。这就像在一个嘈杂的菜市场里找特定的声音，信息越多，反而越容易干扰模型的判断。

其次是模型“注意力分配不均”的顽疾。研究很快发现，AI在看长文本时并不像人类那样匀速阅读，它存在真实的“中间迷失”现象——它会非常仔细地看你开头提的核心指令和结尾的总结，但夹在中间那几千字的详细规则和关键数据，它往往直接滑过去，仿佛那些字隐形了一样。

更让人崩溃的是“鱼的记忆”。由于没有真正的记忆存储机制，每一次新会话的开启，都意味着一次灵魂重置。无论上个会话里你们配合得多默契，解决了多棘手的Bug，只要点了一下“新建对话”，模型立刻变回那张白纸，对之前发生的哪怕一秒钟前的事都毫无记忆。

可以说，这个阶段的智能体确实褪去了前一年的笨重，变得前所未有的灵活和百变。但它还不够稳，它就像一位反应极快、什么都能干的超级助理，可惜这位助理患了严重的健忘症，所有的知识储备和工作状态全靠贴在身上的那一沓便签纸。风一吹，便签纸掉了几张，或者桌子不够大放不下所有的便签，他马上就会从“专家”退化成“糊涂蛋”。我们给了他最好的视野，却没有给他一个真正可以立足的工作台。

3，Harness 工程，给模型一个数字身体（2025-2026 年）

如果说前两个阶段，我们都是在想方设法“改造大脑”本身，那么到了第三个阶段，行业的认知终于完成了一次彻底的跃迁：我们不再执着于大脑，而是开始为大脑打造一副完美的“身体”。

这个“身体”，可能就是 Harness。在工程语境下，你可以把它精准地理解为「驾驭层」或「调度层」。它不再是 Weights（深埋在神经网络内部的权重参数）的附属品，也不再是 Context（每次对话都要重新拼凑的提示词）的替代品，而是与它们并列的、具有划时代意义的第三个阶段。就像发动机（模型）造得再强，如果不装上底盘、方向盘、刹车和导航系统（Harness），它也只能在原地空转。

我们现在就实实在在地站在这第三个阶段的起点上。整个AI行业探讨的核心问题，已经从最初那个略带卑微的“我们该怎么哄着模型、告诉它该做什么”，彻底蜕变成了一个充满架构美学的命题：“模型到底应该在一个什么样的环境里运行？”

在这个新范式下，大模型终于卸下了“包揽一切”的重担，它不再是智能的唯一载体。它被稳稳地安放在了一个名为“执行框架”的完备数字工作台里。这个工作台就像是为你配备的全自动流水线车间，里面塞满了模型原本不具备的“超能力”：

• 持久化内存： 告别了“鱼的记忆”，这不再是会被清空的聊天记录，而是一个真正的数据库，让它随时能调取几个月前的项目细节，再也不会忘事。
• 可复用技能： 把复杂的行业规范、代码风格、写作模板封装成一个个现成的工具包，用到的时候直接“插拔”，不用每次都在提示词里苦口婆心地重写一遍。
• 标准化协议： 就像统一了全球插头的标准，让模型、数据库、浏览器、IDE等所有工具之间，都用一种绝对严谨、不会产生歧义的机器语言进行交流（比如现在的 MCP 和 A2A 协议）。
• 执行沙盒： 给它一个绝对安全的“毛坯房”去跑代码、做实验。就算它犯蠢写出了删库的脚本，也只会在沙盒里炸锅，绝不会烧毁你的真实生产环境。
• 审批门禁： 关键动作必须“停车检查”。当它准备发送一封真实邮件、或是点击部署上线按钮时，系统会强制暂停，等人类主人点下“同意”才放行。
• 可观测性： 整个过程的“黑匣子”和行车记录仪。模型内部在想什么你不知道，但它调了哪个API、花了多少Token、在哪一步卡住了，你在大屏上看得清清楚楚。

让我们拿最考验能力的软件工程场景来举例。假设你需要一个编码智能体去完成“实现新功能 → 跑单元测试 → 修复报错 → 提交 PR”这条完整的链路。

在过去那个没有执行框架的时候，这是一场让人心脏病发作的赌博。你必须在开头那个脆弱的提示词里，把庞大的仓库目录树、几百条的代码规范、当前测试跑到哪一步了、以及调用Git命令的复杂格式，一股脑儿全塞进去。一旦提示词稍微超长，或者模型走神漏掉了一条规范，整条链路就会以一种极其诡异的方式崩盘，然后你只能无奈地重开对话。

现在呢？有了执行框架，一切都变得井然有序且从容：当智能体需要背景信息时，持久化内存会自动去拉取相关的上下文，不需要你硬塞；当它要写代码时，技能文件会自动亮起红灯指明规范；当它要调用测试工具时，标准化协议强制它用正确的格式发请求；而整个过程由底层的运行时像导演一样排好步骤，哪怕中间某步报错了，它也能根据沙盒反馈自动重试，而不是直接死机。

结果就是一场魔法：底层的那个大语言模型，可能还是去年发布的同一款，参数没多一个，甚至单纯比拼“智商”也没什么提升。但是，当它坐进这套千万级配置的“数字工作台”后，它所展现出的靠谱程度、完成复杂任务的连贯性，和过去那个赤手空拳的模型相比，完全已经是两个不同物种的差距。

4，演进的对比

贯穿这三阶段的成长路径其实非常清晰：

• 权重把知识编码在参数里——快速但僵化；
• 上下文把知识暂存在提示里——灵活但短暂；
• 执行框架把知识外化到持久化的基础设施中——可靠而且可控。

每一阶段都没有抛弃前一阶段，而是在之上叠加，如下表所示，权重依然重要，上下文工程依然重要，只是重心向外转移了而已。

最有趣的一点是，在今天，对智能体可靠性最有深远影响的改进，很少是因为换了一个更厉害的底层模型。它们更多来源于更精准的记忆检索、更恰当的能力加载、更严格的执行治理，以及更聪明的上下文预算管理。

5，一句话小结

构建更好的 AI 智能体，越来越意味着为模型构建一个更好的运行环境。与其只盯着“让大脑变强”，不如一起想想：我们有没有为它布置好一间足够聪明、足够可靠的“数字办公室”。