当所有人都愿意停下时，我也愿意停下

DeepMind创始人Demis Hassabis最近谈到了一个有趣的假设：如果全球所有AI公司和国家都同意暂停发展，他会支持吗？

他的回答是肯定的。

这其实是他15年前创立DeepMind时就有的愿景。他设想在接近AGI的关键时刻，全球顶尖人才能够像CERN那样聚集在一起，以严谨的科学方式完成最后的冲刺。参与者不仅是技术专家，还应该包括哲学家、社会学家、经济学家，共同思考我们究竟想从这项技术中获得什么，如何让它真正造福全人类。

但他也承认，这需要国际合作。一家公司暂停没用，一个国家暂停没用，甚至整个西方暂停都没用。除非全世界至少在某些最低标准上达成共识。

这番话在网上引发了大量讨论，多数人认为这不过是漂亮的场面话。因为这个前提条件永远不会成立。没有哪个国家会主动放弃可能决定未来百年地缘格局的技术优势。即便口头承诺暂停，谁又能保证不会暗中继续？

更现实的问题是，整个科技行业已经深度绑定在AI这条赛道上。数据中心疯狂扩建，投资数以万亿计，没有一家头部公司实现盈利，所有人都在赌一个尚未到来的未来。这列火车已经没有刹车了。

Hassabis的表态像是一道博弈论的经典命题：囚徒困境。每个参与者都知道合作是最优解，但没有人敢先迈出那一步。于是所有人都被锁死在竞争的轨道上，即便这条路的终点充满不确定性。

或许真正值得思考的问题是：当技术发展的速度远超社会适应的能力时，我们是否还有机会按下暂停键？还是说，这个选项从一开始就只存在于理想之中？

reddit.com/r/OpenAI/comments/1qj0uss/demis_hassabis_says_he_would_support_a_pause_on