当地时间周四,Meta 正式发布了其迄今为止能力最强的开放权重大模型——Muse Spark Open,并宣布与苹果展开合作,推动该模型在 Mac 电脑上实现本地化运行。

作为一款采用混合专家架构的原生多模态大模型,Muse Spark Open 总参数量达到8160亿(其中420亿为活跃参数),并支持高达100万词元的上下文窗口。Meta 表示,该模型专为编码与智能代理任务设计,在长周期任务处理、复杂软件工程问题以及多步骤推理方面展现出卓越性能。在 Meta 公布的基准测试中,该模型在工作流程、工具调用、知识推理、知识可靠性、复杂视觉推理和图像事实问答这六项测试中均排名第一,被官方称为迄今能力最强的美国开放权重模型。不过,测试数据也显示,在软件开发及部分其他任务上,Kimi、千问、智谱等中国开源模型依然更胜一筹。

此次发布最受瞩目的亮点之一,在于 Meta 与苹果的意外携手。在蒂姆·库克掌管苹果期间,两家公司曾多次发生摩擦,库克曾指责 Meta 侵犯用户隐私,扎克伯格也曾嘲讽苹果缺乏创新。但在开源 AI 的共同利益驱动下,双方选择冰释前嫌。Meta 算力部门联合负责人、曾担任苹果总监的丹尼尔·格罗斯成为了促成此次合作的关键人物之一。

image.png

在软硬件适配方面,Meta 利用最新版本的针对苹果芯片优化的开源机器学习框架 MLX,将 Muse Spark Open 进行了深度优化,使其完美适配配备 M5Ultra 处理器的 Mac Studio。Meta 表示,两者的结合是在个人电脑上运行强大模型的最佳方案。根据官方介绍,苹果最新的 Mac Studio(M5Ultra)最高支持512GB 统一内存,通过连接两台机器便可完整运行该模型。

不过,高昂的硬件配置也带来了不小的成本门槛。虽然扎克伯格已在社交媒体上展示了两台顶配 Mac Studio 运行该模型的照片,但苹果官方设定的512GB 版本计划在10月底开售。按目前在售的256GB Mac Studio(售价超过1万美元)计算,若组建约1TB 内存的集群,购机成本将超过4万美元。尽管价格不菲,但对于长期需要租用云端算力的开发者而言,购置本地硬件有望通过节省租赁费用收回成本,同时还能兼顾算力余裕和数据隐私。

Meta AI 负责人汪滔指出,尽管两家公司在某些领域依然存在竞争,但这并不妨碍双方在适合的领域开展合作。除了苹果芯片外,Muse Spark Open 还针对英伟达、AMD 和英特尔的芯片进行了全面优化,并兼容多种主流推理引擎。开发者既可以通过多家平台调用 API,也可以选择下载模型权重自行部署。