AI 智能体想越用越强,得靠一套“经验筛选系统”。
强化学习之父萨顿吐槽:现在的 AI 一上线就停学。它虽然能存记忆、查资料,但底层的认知根本没长进。
经验不能全塞进脑子:临时信息放上下文,易变的放外部记忆。只有反复验证有效的步骤,才值得写进模型参数。硬把啥都往脑子里装,不仅容易忘事,还会留下安全漏洞。
边干边长是个难题:让模型实时改自己,很容易学了新的忘了旧的。更务实的做法是“快慢两套系统”:平时靠记忆干活,隔段时间再挑出好经验微调模型。
别被“自进化”忽悠了:现在号称能自己进化的系统,其实还得靠专家和强模型带飞。它们只是周期性地整理经验,离真正的自主进化还差得远。
护城河变了:以后 AI 产品拼的不只是模型多强,更是谁能攒下别人拿不到的实战数据。但前提是,你得知道该留什么、怎么留,以及出错时怎么撤回。