Hugging Face Blog·· 6 天前精选
Meta 发布开源权重多模态 MoE 模型 Muse Spark Open
Welcome Muse Spark Open: open-weight frontier multimodal mixture-of-experts model from Meta
AI 导读
Meta 发布开源权重模型 Muse Spark Open,这是一个约 816B 总参数、每 token 约 42B 激活的混合专家模型,支持文本、图像、音频和视频输入,上下文窗口最高 1M tokens。
推荐理由
Meta 公开了 816B 总参数、约 42B 激活的多模态 MoE 权重,并给出 transformers、vLLM、SGLang、llama.cpp 的部署与微调做法。
来源:Hugging Face Blog · huggingface.co