AnyLanguageModel 1.0 发布:Apple 平台上一年的本地模型实践
AnyLanguageModel 推出 1.0 版本,这个兼容 Apple Foundation Models API 的替代方案可让开发者自由选择本地或托管模型,同版本还发布了 swift-huggingface 1.0 和 swift-xet 1.0。新版本支持 OpenAI、Anthropic、Google Gemini、Ollama 等托管服务商,并已在 Linux 上运行。
AnyLanguageModel 推出 1.0 版本,这个兼容 Apple Foundation Models API 的替代方案可让开发者自由选择本地或托管模型,同版本还发布了 swift-huggingface 1.0 和 swift-xet 1.0。新版本支持 OpenAI、Anthropic、Google Gemini、Ollama 等托管服务商,并已在 Linux 上运行。
Amazon SageMaker JumpStart 在 2026 年 1 月至 9 月新增超 100 个模型,覆盖 30 家提供商。其中 Alibaba(Qwen)贡献 29 个模型,NVIDIA 贡献 17 个,包括 Cosmos3 世界基础模型与 Nemotron 系列,Mistral、Google、IBM、Cohere 也有新模型上架。
vLLM 新增推送式 NIXL connector,把 prefill 后的 KV 传输协调与准备工作移出关键路径。在 Amazon EC2 P5en 实例加 EFA 的 1P1D 部署上,Qwen3-32B 的 TTFT 最高提升 3 倍,TPOT 最高提升 30%。该功能先在 AWS Trainium 集群验证,再作为与加速器无关的特性贡献给 vLLM。
vLLM 通过双向 KV 传输让 decode 节点在后续轮次把已算好的 KV 缓存回传给 prefill 节点,避免重复计算对话历史。基于 Amazon EC2 P5en 的 1P1D 部署测试中,该机制使 Qwen3-32B 的 TTFT 最高降低 1.6 倍、zai-org/GLM-5-FP8 最高降低 3.3 倍。
NVIDIA 与欧洲广播联盟(EBU)扩展去年推出的主权标准框架,引入主权云厂商、开源模型开发者和系统集成商,明确广播机构部署智能体时数据、基础设施、模型与安全的控制方式。
NVIDIA 加入欧盟委员会的 AI in Science Enablers Initiative,向欧洲科研社区开放 250+ 开源模型、250 个开源数据集和 1400+ 开源软件项目,并配套 Nemotron、BioNeMo、PhysicsNeMo、Earth-2 等科学软件。
Black Forest Labs 发布 FLUX.3 Image Klein,Diffusers 首日即支持运行;单一模型同时覆盖文生图、多参考图生图和基于边界框的布局控制。
推荐理由:Diffusers 首发支持 FLUX.3 Image Klein,并给出了速度、显存和架构细节,可作为评估该图像模型落地成本的参考。
Mistral 在慕尼黑开设新中心,组建专注 Physics AI 与工业 AI 的研究团队并派驻应用工程师服务企业客户。该中心依托 2026 年 5 月收购 Emmi AI 带来的 30 余名物理与工程 AI 专家,正与 BMW 合作碰撞仿真、与 Siemens Energy 合作工业 AI 应用。
Mistral 宣布完成 30 亿欧元 D 轮融资,投后估值超过 210 亿欧元,由三星电子领投,Scaleup Europe Fund 和 PSG Equity 共同领投。
推荐理由:Mistral 完成欧洲科技公司最大一轮股权融资,读者可从中看到开源权重路线与主权 AI 叙事如何吸引产业资本。
Mistral 与 HUMAIN 宣布在 AI 基础设施、先进模型开发和解决方案部署上展开战略合作,合作规模达数亿欧元。双方将优先聚焦网络安全与语音领域的模型本地化,并计划开发阿拉伯语表现强劲的前沿模型。Mistral 还将探索使用 HUMAIN 的数据中心基础设施,双方计划在沙特面向受监管行业制定联合市场策略。
Berkeley Sky Lab 团队把 K-Search 内核搜索框架扩展到 MLX,新增结构化 CUDA-to-MLX 翻译层,让 CUDA 内核作为知识库自动适配为 Apple Silicon 内核。
推荐理由:该文把 CUDA 优化经验经结构化翻译层迁移到 MLX,并用两个内核的实测数字说明迁移能补多少性能差距。