Meta 发布 30B 开源端侧 Agent 模型 Muse Glimmer
Meta 旗下 Superintelligence Labs 正式发布并开源 300 亿参数的端侧模型 Muse Glimmer,采用 Apache 2.0 许可协议。该模型专为本地常驻 Agent 工作流设计,体量适中,仅需单张消费级 GPU 或 Mac/PC 即可运行。它支持端到端 Agent 任务处理、精准工具调用、多步推理以及容错重试,同时具备多模态输入与长上下文记忆能力。
为了在消费级硬件上兼顾性能与响应速度,团队通过 logit 蒸馏与在线蒸馏将大型 Teacher 模型的 Agent 推理能力迁移至 Muse Glimmer。同时,模型采用 4-bit 量化技术将显存占用压缩至 20GB 以内,并结合投机解码大幅提升生成速度。目前模型权重已在 Hugging Face 开源,并正在推进 llama.cpp 和 MLX 等本地推理框架的集成。






