首页
学习
活动
专区
圈层
工具
发布

大模型真的长出了逻辑,还是人类的自作多情?

斯坦福大学与Goodfire AI等通过“机械可解释性”方法发现,Llama等模型在计算“8月过6个月是几月”时,内部会自动转化为十进制计算(8+6=14)再折算回2月。这种数学计算策略在处理星期和时间时被自发复用,表明大模型内部确实运行着某些抽象算法。

这引发了关于“推理”定义的争论。支持者认为模型在权重中涌现出了通用计算机制,完成了功能性推理,而非单纯预测下一个Token;怀疑者则指出这依然只是高维拟合,属于无法解密的代码黑盒,离真正的理解相去甚远。但这种隐性算法的发现,为我们解析AI黑盒提供了有力的物理证据。

cacm.acm.org/news/can-we-understand-how-large-language-models-reason/

#人工智能# #AI创造营# #大语言模型# #可解释性#

  • 发表于:
  • 原文链接https://page.om.qq.com/page/ObO7KLA_quBD4yGho5GeQyZw0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券