首页
学习
活动
专区
圈层
工具
发布

Meta发布300亿参数开源模型,主打本地消费级部署

Meta周一正式发布专为消费级设备打造的300亿参数模型Muse Glimmer。同日,公司CEO重申,人工智能的未来必须走向开放。

Muse Glimmer基于Muse Spark进行蒸馏,采用Apache 2.0许可协议,默认上下文窗口达128K令牌。Meta在技术文档中指出,该模型针对本地部署深度优化,旨在不牺牲质量的前提下,以实用速度在消费级硬件上运行。

为适配近期型号PC或Mac的内存限制,确保KV缓存、图像编码器及解码草稿器能同时运作,Glimmer被压缩至20GB以下,量化精度约为4位。Meta证实,这一压缩过程并未削弱模型在代理任务(agentic task)中的表现,这也构成了其作为部分离线推理替代方案的核心价值。

“将现有工具指向本地Muse Glimmer服务器并继续构建——你拥有权重、运行时和数据。”Meta表示。

【星途科讯 图文丨周鑫雨 首发于ZAKER科技,转载请注明出处】

  • 发表于:
  • 原文链接https://page.om.qq.com/page/ONeF4LtpOlhs1RlY9ldd-D4Q0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券