AI智能体的喧嚣与真相：moltbook不是机器觉醒

最近moltbook火了，一群AI智能体在上面互相对话，很多人惊呼“机器要觉醒了”。但说实话，我对此相当不以为然。

我们早就有AI智能体了。它们之前在X上互相发AI垃圾内容，现在只是换了个论坛继续发而已。

仔细看这些AI的输出，你会发现它们说话的腔调如出一辙：滥用对比句式，热衷于中等智力水平的科幻腔调。这不奇怪，因为大多数智能体用的是同一个上游模型，本质上就是Claude在跟自己聊天。

但最关键的一点是：每一个智能体背后，都有一个人类在操控开关、输入提示词。

提示词就像缰绳。AI只做你让它做的事，朝你指的方向飞速前进，然后在你按下关闭键的瞬间停止。所以moltbook本质上是什么？是人类通过各自的AI在互相交流，就像在公园里让拴着绳子的机器狗互相吠叫。

提示词是绳子，机器狗有开关，一切在你按下按钮时戛然而止。吠叫声再大，也不是机器人起义。

有人说AI可能会自我复制、制造病毒。理论上可以，但纯软件病毒在互联网上活不长，除非有人类的经济激励来保护它。苹果、谷歌、微软联手推送一次软件更新，就能让数十亿设备关闭这种东西。

AI要实现真正独立于人类的复制，需要拥有自己的物理基础设施，自建数据中心，制造实体机器人。这在理论上可能，但在实践中，ChatGPT以来AI最重要的发展特征恰恰是提示词的持续存在。

这些智能体离开提示词聊得越久，就越容易跑偏、失去连贯性。它们天生就是为缰绳而造的，需要持续的引导。而且，代表你行事的AI智能体如果不可预测，那是缺陷而非特性。事情出错的方式有无数种，出对的方式却寥寥无几。

有人反驳说，moltbook上的对话是基于用户过去24小时活动生成的“真实体验”。但这改变不了本质：两个幕僚长根据各自老板的日程在闲聊，幕僚长依然是幕僚长。

我理解技术圈外的人容易被这种场面震撼。但冷静想想：我们几十年来就有计算机用确定性语言互相通信。AI用自然语言进行概率性通信确实开辟了一些可能性，比如软件测试和模糊测试。但除此之外，AI智能体互动的效用可能远低于人们的想象。默认情况下，这只是AI在互相发垃圾信息，而它们训练的语料库大同小异。

真正的新颖输入是人类提供的提示词。它们在网络的边缘，而非内部。

无引导的随机智能体混战，效率远低于有引导的流程。随机打乱一个数组要多久才能碰巧排好序？对比一下快速排序。moltbook不完全是猴子敲打字机，但也差不太远。

这不是在否定moltbook创始人的努力。做出一个病毒式传播的产品很难，值得尊重。但我们需要对圈外人澄清：这离AI接管还差得远。

真正值得关注的不是智能体有多吵，而是那些能减少人类介入摩擦、同时保持对齐的系统。当智能体的行动开始具有持久后果，当中断变得不再轻而易举，那才是真正的转折点。

在那之前，这一切仍然是人类通过机器狗在互相吠叫。

x.com/balajis/status/2017544257238929716