星途科讯 9小时前
Meta发布300亿参数开源模型,主打本地消费级部署
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

Meta 周一正式发布专为消费级设备打造的 300 亿参数模型 Muse Glimmer。同日,公司 CEO 重申,人工智能的未来必须走向开放。

Muse Glimmer 基于 Muse Spark 进行蒸馏,采用 Apache 2.0 许可协议,默认上下文窗口达 128K 令牌。Meta 在技术文档中指出,该模型针对本地部署深度优化,旨在不牺牲质量的前提下,以实用速度在消费级硬件上运行。

为适配近期型号 PC 或 Mac 的内存限制,确保 KV 缓存、图像编码器及解码草稿器能同时运作,Glimmer 被压缩至 20GB 以下,量化精度约为 4 位。Meta 证实,这一压缩过程并未削弱模型在代理任务(agentic task)中的表现,这也构成了其作为部分离线推理替代方案的核心价值。

" 将现有工具指向本地 Muse Glimmer 服务器并继续构建——你拥有权重、运行时和数据。"Meta 表示。

【星途科讯 图文丨周鑫雨 首发于 ZAKER 科技,转载请注明出处】

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

muse spark zaker 人工智能 ceo
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论