跳到正文
10月15日周四
  1. Hugging Face Blog

    Meta 发布开源权重多模态 MoE 模型 Muse Spark Open

    Meta 发布开源权重模型 Muse Spark Open,这是一个约 816B 总参数、每 token 约 42B 激活的混合专家模型,支持文本、图像、音频和视频输入,上下文窗口最高 1M tokens。

    推荐理由:Meta 公开了 816B 总参数、约 42B 激活的多模态 MoE 权重,并给出 transformers、vLLM、SGLang、llama.cpp 的部署与微调做法。