首页
学习
活动
专区
圈层
工具
发布

AI溯源之争:是1991年的数学直觉,还是2012年的算力奇迹?

最近AI圈关于“谁才是AI之父”的争论再次升温。Jürgen Schmidhuber列出了一份详尽的时间表,试图证明ChatGPT的核心技术——Transformer、预训练、模型蒸馏、残差连接——早在1991年的慕尼黑实验室就已经诞生。

从学术图谱看,他确实在那个算力极其匮乏的年代,仅凭数学直觉就勾勒出了现代深度学习的骨架。但为什么这些种子沉睡了三十年才发芽?

这里的底层逻辑是:一项技术的爆发,往往不取决于它被发明的时刻,而取决于它进入“生态位”的时刻。1991年的算法是“超前的孤岛”,而2012年的AlexNet才是真正的分水岭。后者通过NVIDIA的GPU证明了:大规模神经网络在廉价硬件上不仅可行,而且好用。

这件事的深度价值在于:我们要区分“思想的原创性”与“工程的有效性”。Schmidhuber贡献了公式,但工业界贡献了Scaling Law。Transformer之所以伟大,是因为它的计算结构完美契合了并行算力,让Token的流动变成了工业级生产力。

学术界在黑暗中点火,工业界则负责把火种变成引擎。与其纠结谁先看到了光,不如去寻找那些正处于“无用期”但极具扩展潜力的底层逻辑。

people.idsia.ch/~juergen/ai-boom-roots-munich-1991.html

#人工智能##AI创造营##深度学习##科技史##Transformer#

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OTCSBBNRC_BvR6uBlQjo6DYA0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。
领券