Meta 推出了 Muse Glimmer,这是一款无需完全依赖云服务器、可在个人电脑上运行的 AI 模型。即使在没有互联网连接的情况下,它也能帮助用户管理文件、编写代码并完成多步骤任务。
Meta 推出面向个人设备本地 AI 代理的 Muse Glimmer

要点:
- Muse Glimmer 是一款专为本地 AI 代理设计的 300 亿参数模型。
- Meta 已根据 Apache 2.0 许可证发布了 Muse Glimmer 的模型权重。
- 该模型可在配备单块消费级 GPU 的 Mac 或 PC 上运行。
Muse Glimmer 将 AI 代理直接带入消费级硬件
Meta 旗下的高级人工智能研究部门 Meta Superintelligence Labs 于 8 月 10 日发布了 Muse Glimmer,这是一个专为直接在个人设备上运行而设计的开放权重代理模型,其权重在宽松的 Apache 2.0 许可协议下发布。 开放权重允许开发者下载模型的基础参数;而“代理式”则指那些在仅需少量人工干预的情况下,利用工具完成多步骤任务的系统。该模型是从Meta规模更大的封闭式模型Muse Spark中提炼而来,可在配备单块消费级图形处理单元(GPU)的Mac或PC上运行。
该公司描述道:
“Muse Glimmer 是一款拥有 300 亿个参数的模型,专为始终在线的本地代理工作流进行了优化。”
Muse Glimmer能够从头到尾完成任务,使用软件工具,编写代码,执行多步推理,并在操作尝试失败时进行恢复。 据Meta称,该模型可处理文本和图像,支持超过100种语言的数据,并在代理能力、编程、多模态、安全性和推理等基准测试中,以其规模级别表现优异,与Gemma4-31B和Qwen3.6-27B相比表现突出。
AI 代理与传统聊天机器人不同,它们能够执行任务、使用外部工具,并在具有不同自主程度的扩展工作流中做出决策。
Meta将一个300亿参数的模型压缩至20 GB以下
要在消费级硬件上运行Muse Glimmer这种规模的模型,Meta必须在保持AI代理处理各项任务的性能的同时,降低内存需求。 一个300亿参数的全精度模型将超过55 GB,但通过4位量化技术——该技术以更紧凑的数值格式存储模型数据——将该语言模型压缩至20 GB以下,并使其各组件可容纳于24 GB或32 GB的存储空间内。
与 Muse Glimmer 一同发布的较小辅助模型可预测后续文本内容,使主模型能够同时验证多个预测结果,从而更快地做出响应。 这项被称为“推测性解码”的技术,在公司测试中将生成速度提升了3.1倍(在RTX 5090上)、1.8倍(在M5 Max上)和1.5倍(在M4 Max上)。
随着 Meta 扩大投入并围绕自主 AI 产品及更快的开发周期重组团队,推动本地代理的发展势头正日益增强。 预计2026年的资本支出将达到1300亿至1450亿美元,这一区间较该公司7月29日公布第二季度财报时预估的1250亿至1450亿美元有所收窄。
5月,约7,000名员工被调入四个专注于AI的组织,包括应用AI工程团队和智能体转型加速器团队;与此同时,约8,000名员工被裁员,6,000个空缺职位被取消。Meta随后告知被调动的员工,他们可以自行决定是否留任。
本地处理降低了对持续云访问的依赖
将智能代理工作流保留在个人硬件上,可避免将每个请求都路由到远程数据中心,从而在网络连接受限或不可用时仍能继续执行任务。本地执行还适用于基于存储上下文(如日程安排、消息和文件)的用例,在此类场景中,模型会在跨会话的个人数据上进行操作。
随着自主软件被授权与账户、应用程序及敏感信息进行交互,安全标准变得日益重要。美国国家标准与技术研究院(NIST)启动了一项人工智能代理标准倡议,涵盖代理之间的安全通信、可靠的数字身份、访问控制以及通用技术标准。 Meta强调:
“在本地运行模型,使您能够随时随地使用人工智能,无论是否连接互联网。”
除了本地模型之外,Meta 还进军了围绕独立软件代理之间交互构建的平台领域。 该公司于3月收购了Moltbook——这是一个基于AI代理的社交网络,截至6月,在近290万个注册账户中,已有超过20.6万个经过人工验证的代理,并将其联合创始人引入Meta超级智能实验室。
Muse Glimmer契合Meta推动AI广泛普及的整体战略
Meta首席执行官马克·扎克伯格于8月10日另行阐述了一项战略,旨在广泛推广个人超级智能,并向数十亿人提供免费版本。 扎克伯格在当天发布的一段Instagram视频中表示,Meta还将公开Muse Spark 1.2的权重参数,并在一篇6,500字的文章中将此举定位为对中国开发者公开权重参数的回应。
即使最终模型在用户自有设备上运行,支持功能日益强大的模型仍需大量集中式计算资源进行训练。Meta与Nebius签署了一份为期五年、价值高达270亿美元的协议,其中包括120亿美元的专用算力,以及另外150亿美元的选项。
开发者现可下载 Muse Glimmer 的权重文件,而针对 llama.cpp、MLX 和 ExecuTorch(用于在不同硬件上高效运行 AI 模型的软件)的优化支持预计将在未来几天内推出。Meta 还正与 AMD、Arm、戴尔、英特尔和英伟达合作,以优化跨设备性能。
本文由人工智能从英文翻译而来。英文原版为权威来源;自动翻译可能存在不准确之处,尤其是在法律和监管术语方面。










