零基础认识大语言模型（LLM）工作原理(16.未来的大模型与 AI Agent：从模型竞争到系统竞争)--结尾篇

第十六章 未来的大模型与 AI Agent：从模型竞争到系统竞争

目录

零基础认识大语言模型（LLM）工作原理目录 - GuZhenYin - 博客园

本章导读

过去几年，AI 领域最受关注的指标往往是：

• 参数量有多大；
• 上下文窗口有多长；
• 推理能力有多强；
• 排行榜成绩有多高。

这些指标当然还是很重要，因为它直接反映了模型本身的能力。(包括最新出来的kimi k3 参数已经达到了2.8万亿)

但是，当 AI 开始真正进入企业和软件系统之后，我们就逐渐发现：仅仅拥有一个强大的模型，并不等于拥有一个真正有价值的 AI 系统。

人们实际需要的，通常不是“一个很会聊天的模型”，而是：

• 能连接业务系统；
• 能读取企业知识；
• 能执行复杂流程；
• 能长期记住上下文；
• 能持续完成任务。

这其实标识着，AI 的竞争正在从“单一模型能力”逐渐转向“完整系统能力”。

16.1 模型仍然重要，但已经不是全部

大语言模型依然是整个 AI 系统的核心。

因为它提供了：

• 语言理解能力；
• 推理能力；
• 生成能力；
• 规划能力。

没有 LLM，后面的 Tool、Workflow、Memory、Agent 都失去了智能基础。

但是，LLM 更像是：AI 系统中的“大脑”。

然而一个真正能够工作的智能体，还需要：

• 感知外部世界；
• 调用工具执行动作；
• 保存长期记忆；
• 管理任务状态；
• 协调多个能力模块。

因此,我认为 未来的 AI 应用，不是“只有模型”，而是“模型 + 系统”的组合。

16.2 从 ChatBot 到 Agent：AI 应用形态的演进

我们可以把 AI 应用的发展过程理解为一个逐步升级的过程。

ChatBot
    ↓
Tool Calling
    ↓
MCP
    ↓
Workflow
    ↓
Memory
    ↓
Skill
    ↓
Agent Runtime
    ↓
Autonomous Agent

这个演进过程反映了 AI 从“回答问题”到“完成任务”的变化。

可以看到：Agent 并不是突然出现的新概念，而是 AI 能力逐步工程化后的结果。

16.3 为什么未来比拼的是系统能力？

假设有两家公司。

A 公司拥有一个很强的大模型，但它只能聊天。

B 公司使用同样的大模型，但它还拥有：

• 企业知识库；
• 数据库连接能力；
• ERP 接口；
• Workflow 流程；
• Memory 系统；
• Skill 能力库。

当用户提出一个复杂业务需求时：

A 公司只能给出建议。

B 公司不仅能给出建议，还能：

• 查询数据；
• 执行流程；
• 生成结果；
• 推动任务完成。

显然，B 公司的 AI 系统更有实际价值。

这说明,未来的竞争不只是“谁的模型更聪明”，更是“谁能把模型更好地嵌入真实业务系统”。

这也是为什么各大AI公司相继推出了自己的AI Agent 模型代理.

16.4 AI 软件正在发生什么变化？

传统软件通常是：

用户输入
    ↓
固定程序逻辑
    ↓
输出结果

它的特点是：

• 逻辑由开发者提前编写；
• 流程是确定性的；
• 功能边界比较固定。

而 AI Agent 系统更像：

用户目标
    ↓
Agent Runtime
    ↓
LLM 推理
    ↓
Tool / Workflow / Memory / Skill
    ↓
执行结果

它的特点是：

• 用户提供的是目标，而不是精确操作步骤；
• 系统需要动态规划；
• 结果可能来自多次推理和工具调用。

因此，我们可以发现， 软件行业正在从“功能驱动” 逐步转向“目标驱动”。

16.5 未来企业 AI 系统的典型架构

结合前面几章的内容，一个企业级 AI 系统通常会形成这样的结构：

                    用户
                      │
                      ▼
                AI 应用入口
                      │
                      ▼
               Agent Runtime
        ┌───────────┼───────────┐
        ▼           ▼           ▼
     Memory      Workflow     Skill
        │           │           │
        └───────┬───┴───────────┘
                ▼
               LLM
                │
      ┌─────────┴─────────┐
      ▼                   ▼
     MCP              Native Tool
      │
      ▼
数据库 / ERP / 浏览器 / API / 文件系统

在这个架构中：

• LLM 提供智能推理；
• Memory 提供长期知识；
• Workflow 保证业务流程稳定；
• Skill 提供专业能力；
• MCP 统一连接工具；
• Runtime 负责整体调度。

真正有价值的企业 AI，通常不是某一个单独组件，而是这些组件协同工作的结果。

16.6 开发者应该如何理解这场变化？

作为我们软件开发者来说，这场变化不仅仅意味着“学习一个新模型”。

其实更重要的是,软件系统开始具备越来越强的自主决策能力。

因为这会带来几个明显变化：

第一，Prompt 不再是唯一重点

早期 AI 应用非常依赖 Prompt Engineering。

但在 Agent 系统中，Prompt 只是 Skill 和 Runtime 设计的一部分。

第二，系统设计变得更重要

一个成功的 AI Agent，往往取决于：

• Tool 设计；
• Workflow 编排；
• Memory 管理；
• Context 控制；
• Runtime 调度。

这些都属于软件工程范畴。

第三，业务知识会成为关键资产

通用模型越来越容易获得。

但企业自己的：

• 业务流程；
• 数据结构；
• 历史知识；
• 规则体系；

其实这才是结合 AI 真正发挥价值的地方。

16.7 一个重要趋势：AI 不再只是“功能”，而是“系统能力”

未来的软件可能会越来越像这样：

提出目标
    ↓
Agent 规划步骤
    ↓
调用工具
    ↓
执行流程
    ↓
持续反馈
    ↓
完成目标

也就是说：AI 不再只是软件中的一个功能模块，而会逐渐成为软件系统的核心交互方式。

16.8 回顾全系列：从 Token 到 Agent

现在，我们可以回顾我们整个系列的逻辑。

其实我们这个系列,可以算是分成了2个部分.

第一部分：模型如何思考

• 什么是文字接龙；
• Token、Tokenizer、Vocabulary；
• Embedding；
• Attention；
• Transformer；
• FFN、SwiGLU、MoE；
• 训练方式；
• Next Token Prediction；
• 幻觉机制。

这些解释了：LLM 为什么能够表现出智能。

第二部分：AI 如何做事

• 为什么需要 Agent；
• Tool Calling；
• MCP；
• Workflow；
• Memory；
• Skill；
• Agent Runtime。

这一部分解释了：LLM 如何从“会思考”变成“能完成任务”。

最终本系列形成了一个完整闭环：

Token
    ↓
LLM
    ↓
Reasoning
    ↓
Tool Calling
    ↓
MCP
    ↓
Workflow
    ↓
Memory
    ↓
Skill
    ↓
Agent Runtime
    ↓
Autonomous Agent

系列结语

从最开始的 Token，到最终的 Agent Runtime，我们总结了一下AI从开始到现在的技术演进路线：

• 大模型让机器具备了理解和生成语言的能力；
• Tool 和 MCP 让 AI 能够连接现实世界；
• Workflow、Memory 和 Skill 让 AI 能够适应企业业务
• Agent Runtime 则让这些能力形成一个持续运行的智能系统。

所以,未来的软件开发,可能也不再只是“编写功能代码”，而是需要设计能够理解目标、调用能力、管理状态并持续完成任务的智能系统。

这其实也正是 AI Agent 时代最重要的变化。

写到这里,本系列就结束了.

这里也感谢很多兄弟的支持和指正.

本篇只代表个人对于AI未来的一些畅想,有不同意见的兄弟 也欢迎讨论