Meta与苹果罕见联手:8160亿参数Muse Spark开源,两台Mac Studio就能本地运行
BiRun 讯,Meta 开源 Muse Spark Open 模型权重,并与苹果合作,让这款 8160 亿参数的大模型能够在 Mac Studio 上本地运行。模型每次推理仅激活 420 亿参数,支持 100 万 Token 上下文,主要面向编程和复杂 Agent 任务。权重已于 10 月 15 日上架 Hugging Face,开发者登录并接受访问条件后即可申请获取。
Meta 与苹果过去因隐私政策多次交锋,扎克伯格如今却公开感谢苹果 CEO John Ternus,后者也亲自回应。双方利用苹果的 MLX 框架,将模型分配到多台 Mac Studio 上运行。即使压缩到 4 位精度,模型仍需约 493GB 内存,加上推理开销,单台 Mac Studio 装不下。
实际部署至少需要两台配备 M5 Ultra 芯片、各有 512GB 统一内存的 Mac Studio,硬件成本超过 4 万美元。苹果实测显示,四台 M5 Ultra Mac Studio 协同运行,在 8192 Token 上下文下,每秒可生成约 37 个 Token。
Meta 采用自定义的 Muse Model License,允许开发者修改、商用和分发模型,但要求在产品或相关文档中注明使用 Muse Spark Open。企业及其关联方连续 12 个月总营收超过 2000 万美元,若要将模型作为 API 服务对外提供,还须先与 Meta 另行签约。
信源
动察 Beating 频道 · 动察 Beating 交流群。
Meta 与苹果过去因隐私政策多次交锋,扎克伯格如今却公开感谢苹果 CEO John Ternus,后者也亲自回应。双方利用苹果的 MLX 框架,将模型分配到多台 Mac Studio 上运行。即使压缩到 4 位精度,模型仍需约 493GB 内存,加上推理开销,单台 Mac Studio 装不下。
实际部署至少需要两台配备 M5 Ultra 芯片、各有 512GB 统一内存的 Mac Studio,硬件成本超过 4 万美元。苹果实测显示,四台 M5 Ultra Mac Studio 协同运行,在 8192 Token 上下文下,每秒可生成约 37 个 Token。
Meta 采用自定义的 Muse Model License,允许开发者修改、商用和分发模型,但要求在产品或相关文档中注明使用 Muse Spark Open。企业及其关联方连续 12 个月总营收超过 2000 万美元,若要将模型作为 API 服务对外提供,还须先与 Meta 另行签约。
信源
动察 Beating 频道 · 动察 Beating 交流群。
评论
0/500
登录 后参与讨论
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯