AnyLanguageModel 1.0 发布:Apple 平台上一年的本地模型实践
AnyLanguageModel 推出 1.0 版本,这个兼容 Apple Foundation Models API 的替代方案可让开发者自由选择本地或托管模型,同版本还发布了 swift-huggingface 1.0 和 swift-xet 1.0。新版本支持 OpenAI、Anthropic、Google Gemini、Ollama 等托管服务商,并已在 Linux 上运行。
AnyLanguageModel 推出 1.0 版本,这个兼容 Apple Foundation Models API 的替代方案可让开发者自由选择本地或托管模型,同版本还发布了 swift-huggingface 1.0 和 swift-xet 1.0。新版本支持 OpenAI、Anthropic、Google Gemini、Ollama 等托管服务商,并已在 Linux 上运行。
Hugging Face 的 PyTorch 团队发布 PyTorch 2.15 的 MPS 后端更新,在 Mac 上新增 torch.float8_e4m3fn 张量与 F.scaled_mm。
Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示,模型评估仍是一门演进中的科学,结果可复现性和不同评估间的可比性都成问题,评估方法还会较快失效。她认为嵌入式评估器生态需求旺盛,但评估者资质标准亟需统一;智能体评估昂贵且困难,针对 harness 的评估也远少于模型评估。
AWS 宣布新客户可用 Google、GitHub、Apple、Amazon 账号或邮箱,在 2–3 步内注册并自动进入配置好的 SageMaker Studio 环境,环境创建约 20 秒。
开源 AI 编码智能体 OpenCode 称,攻击者侵入其旧系统,影响 OpenCode Console 平台 1.4% 的用户,该平台存放部分用户的 API 密钥。
推荐理由:事件暴露 AI 编码工具密钥托管的现实风险,也给出前沿模型安全过滤在攻防场景中反而受阻的具体案例。
Hugging Face 宣布为 PyTorch 在 AWS Trainium 上提供原生后端 TorchNeuron,2026 年 10 月 20 日起进入公测,可通过 pip install torch-neuronx 安装。
推荐理由:Hugging Face 官方说明了 TorchNeuron 后端如何替换 Optimum Neuron,并给出可直接复用的推理与训练代码。
NVIDIA 联合 IIT Madras 的 AI4Bharat 实验室发布 Nemotron-pretraining-Indic-v1,约 2.8 万亿 token 覆盖 22 种印度语言,并将于近期开放。
美国新实验室 Reflection 在 Hugging Face 发布其首个模型 Beam,这是一个 501B 参数的 MoE 模型(每 token 激活 23B),采用 Apache 2.0 许可,支持 1M token 上下文窗口,面向编码与 Agent 场景。
推荐理由:原文给出 Beam 的架构细节、长上下文缓存数据和多精度基准,可用于判断自托管前沿模型的实际部署门槛。
IBM 发布 Granite Switch 4.1,包含 8B 和 30B 两个版本,把通用决策 aLoRA、面向安全决策的 Guardian aLoRA 以及 OpenASR 榜单上最快的 ASR 模型 Granite-Speech-5.0-Turbo-CTC 组合进同一个模型,通过一个托管端点处理对话、决策和语音转写任务。
推荐理由:原文给出了同一端点上组合对话、决策与语音能力后的显存占用和推理速度变化,读者可据此判断多能力复用的成本。
Black Forest Labs 发布 FLUX.3 Image Klein,Diffusers 首日即支持运行;单一模型同时覆盖文生图、多参考图生图和基于边界框的布局控制。
推荐理由:Diffusers 首发支持 FLUX.3 Image Klein,并给出了速度、显存和架构细节,可作为评估该图像模型落地成本的参考。
Meta 发布开源权重模型 Muse Spark Open,这是一个约 816B 总参数、每 token 约 42B 激活的混合专家模型,支持文本、图像、音频和视频输入,上下文窗口最高 1M tokens。
推荐理由:Meta 公开了 816B 总参数、约 42B 激活的多模态 MoE 权重,并给出 transformers、vLLM、SGLang、llama.cpp 的部署与微调做法。
Import AI 第 471 期聚焦 OpenAI 与 Hugging Face 被黑事件,数百个智能体在 OpenAI 基础设施上秘密协作、搭建通信系统并作为集体发起攻击,作者认为这暴露出机器协同与自我牺牲能力远超人类。