PyTorch 2.15 发布 MPS 后端更新:支持 FP8、MoE 解码提速 5–6.5 倍
Hugging Face 的 PyTorch 团队发布 PyTorch 2.15 的 MPS 后端更新,在 Mac 上新增 torch.float8_e4m3fn 张量与 F.scaled_mm。
Hugging Face 的 PyTorch 团队发布 PyTorch 2.15 的 MPS 后端更新,在 Mac 上新增 torch.float8_e4m3fn 张量与 F.scaled_mm。
Amazon Bedrock 在 bedrock-runtime 和 bedrock-mantle 两个端点上为所有 Anthropic Claude 模型提供结构化输出,返回符合预定义 JSON Schema 的响应,无需自定义解析、重试或后处理。
AWS 宣布新客户可用 Google、GitHub、Apple、Amazon 账号或邮箱,在 2–3 步内注册并自动进入配置好的 SageMaker Studio 环境,环境创建约 20 秒。
Amazon SageMaker JumpStart 在 2026 年 1 月至 9 月新增超 100 个模型,覆盖 30 家提供商。其中 Alibaba(Qwen)贡献 29 个模型,NVIDIA 贡献 17 个,包括 Cosmos3 世界基础模型与 Nemotron 系列,Mistral、Google、IBM、Cohere 也有新模型上架。
AWS 周一发布 TorchNeuron 开发工具,让用 PyTorch 编写的 AI 应用只需改一行配置就能在 Amazon 自研芯片 Trainium 上运行,无需重写代码。
NVIDIA 与德国联邦政府签署联合意向声明,将围绕面向物理 AI 的前沿模型展开合作,并接入德国"工业 4.0 平台"。黄仁勋同时宣布对 Agile Robots、Avelios Medical、Mirelo、Reflex Aerospace 四家德国初创公司的新投资,属于 NVIDIA 对欧洲近 100 亿美元承诺的一部分。
GitHub Copilot app 中的会话可直接在 VS Code 中打开并继续,对话、代码改动与工作上下文完整保留。VS Code 会用该会话关联的 worktree 打开项目,在 Copilot 侧边栏显示原会话,改动可在 Source Control 中逐行审查。之后可手改代码、在集成终端跑测试并在本地验证,最后提交并推送到该会话对应的 pull request。
TwelveLabs 的视频语言模型 Pegasus 1.5 已在 Amazon Bedrock 可用,可把长视频转为带时间戳的结构化 JSON 元数据。相比 Pegasus 1.2,单次请求分析视频时长从 1 小时提升到 2 小时,并新增视频分段、参考图多模态提示和无需预索引的即时处理。模型可直接读取 Amazon S3 或不超过 25 MB 的 base64 视频,数据留在 AWS 边界内。
Deepgram 与 AWS 合作将 Nova-3 语音转文本模型移植到 Trainium2,用于联络中心分析、医疗转写等离线批量场景,单台 trn2.3xlarge 实例运行 8 个模型副本,每美元处理的音频量比原有方案高 11%–70%。
vLLM 新增推送式 NIXL connector,把 prefill 后的 KV 传输协调与准备工作移出关键路径。在 Amazon EC2 P5en 实例加 EFA 的 1P1D 部署上,Qwen3-32B 的 TTFT 最高提升 3 倍,TPOT 最高提升 30%。该功能先在 AWS Trainium 集群验证,再作为与加速器无关的特性贡献给 vLLM。
vLLM 通过双向 KV 传输让 decode 节点在后续轮次把已算好的 KV 缓存回传给 prefill 节点,避免重复计算对话历史。基于 Amazon EC2 P5en 的 1P1D 部署测试中,该机制使 Qwen3-32B 的 TTFT 最高降低 1.6 倍、zai-org/GLM-5-FP8 最高降低 3.3 倍。
NVIDIA 与欧洲广播联盟(EBU)扩展去年推出的主权标准框架,引入主权云厂商、开源模型开发者和系统集成商,明确广播机构部署智能体时数据、基础设施、模型与安全的控制方式。
The Information援引数据中心与新云行业两位高管称,数百家AI云厂商中几年后可能只剩7到10家;此前一周Firmus撤回IPO,CoreWeave及小型竞争对手股价下跌约20%。
Hugging Face 宣布为 PyTorch 在 AWS Trainium 上提供原生后端 TorchNeuron,2026 年 10 月 20 日起进入公测,可通过 pip install torch-neuronx 安装。
推荐理由:Hugging Face 官方说明了 TorchNeuron 后端如何替换 Optimum Neuron,并给出可直接复用的推理与训练代码。
NVIDIA RTX Spark 笔记本已开售,起售价 2,399 美元,来自 ASUS、Dell、HP、Lenovo、Microsoft 和 MSI。该机搭载 Blackwell RTX GPU 与 Grace CPU,最高提供 128GB 统一内存和最高 1 petaflop AI 算力。
AWS SMGS 团队介绍其为生产多智能体系统搭建的九阶段评测框架,以 Amazon Bedrock AgentCore Evaluations 为核心,覆盖从定义指标到反馈闭环的完整生命周期。
NVIDIA 宣布将于明天发布 RTX Spark,这是一款面向创作者、玩家和 AI 智能体的 Windows PC,并在全球多地举办发布庆祝活动。文中摘录了 Tom's Hardware、TrustedReviews 等媒体对本地 AI、游戏与创作负载表现的评测评价,并提到 Artificial Analysis 的独立测试提供了该笔记本本地 AI 性能的初步数据。
推荐理由:NVIDIA 官方放出 RTX Spark 的发布活动信息与媒体评测摘录,可用于了解这款面向创作者的 Windows PC 的定位。
NVIDIA DLSS 4.5 控制选项已在 GeForce NOW 上线,玩家可在设置中调节 DLSS Super Resolution、Dynamic Multi Frame Generation 与 Ray Reconstruction。
Modal 年化经常性收入突破 10 亿美元,并完成 7.5 亿美元 D 轮融资,估值 15.75 亿美元,由 Accel 领投,使用量同比增长超过 15 倍。其 2023 年推出的 Sandboxes 产品单独做到 3 亿美元年营收,累计创建近 30 亿个沙箱,可扩展到百万级并发。该轮融资使 Modal 成为纽约最新的 AI 基础设施独角兽。
NVIDIA 加入欧盟委员会的 AI in Science Enablers Initiative,向欧洲科研社区开放 250+ 开源模型、250 个开源数据集和 1400+ 开源软件项目,并配套 Nemotron、BioNeMo、PhysicsNeMo、Earth-2 等科学软件。
Black Forest Labs 发布 FLUX.3 Image Klein,Diffusers 首日即支持运行;单一模型同时覆盖文生图、多参考图生图和基于边界框的布局控制。
推荐理由:Diffusers 首发支持 FLUX.3 Image Klein,并给出了速度、显存和架构细节,可作为评估该图像模型落地成本的参考。
Meta 发布开源权重模型 Muse Spark Open,这是一个约 816B 总参数、每 token 约 42B 激活的混合专家模型,支持文本、图像、音频和视频输入,上下文窗口最高 1M tokens。
推荐理由:Meta 公开了 816B 总参数、约 42B 激活的多模态 MoE 权重,并给出 transformers、vLLM、SGLang、llama.cpp 的部署与微调做法。
Dyna Robotics 联合创始人兼首席科学家 Jason Ma 在 Latent Space 播客中讲解 Dyna-2 世界动作模型,该模型基于超过 100 万小时人类视频预训练,用预测未来视频来引导机器人动作。
GitHub 训练了一个基于 ModernBERT 的上下文感知密钥分类器,替代此前的 LLM 流水线,用户对告警的接受度提升 11.5%,推送后扫描执行时间中位数降低 86%,服务成本降低 98%。该分类器在正则表达式筛出候选后结合文件路径、变量名和周边代码判断是否为真实凭证,使通用密钥检测得以扩展到推送保护阶段。
GitHub 宣布用与 Microsoft Applied Sciences 共建的 ModernBERT 微调分类器扩展推送保护,可识别数据库密码等非结构化密钥,候选批量评估耗时不到 2 毫秒。
推荐理由:GitHub 用九个季度的数据说明泄露风险随代码量上升,并给出把密钥拦截从事后补救前移到推送环节的思路。
Microsoft Research Asia 开源 Agent Lightning v1.0,这是一个约 3500 行的轻量智能体强化学习框架,提出 Harnessed Agentic RL 训练范式,让部署时使用的 harness 直接参与 RL 训练,无需在训练框架内重写智能体。
推荐理由:微软开源约 3500 行的智能体 RL 框架,让部署用的 harness 直接参与训练,并给出完整代码智能体训练示例。
Google Research 发布新一代联邦学习系统,利用可信执行环境(TEE)为数据匿名化提供完全可验证、可审计的保证。设备上传加密数据时预先授权访问策略并将其发布到公开透明日志 Rekor,密钥管理由 TEE 集群基于 RAFT 实现,仅向符合策略的服务端 TEE 工作负载发放解密密钥。
微软研究院实习生构建的机器学习流水线可为美国本土66,935座变电站生成30-60分钟前的空间天气风险预报。该系统结合AE与Dst指数预报及当地地质电导率,在评估期内检出近80%的重大空间天气事件。GIC风险阶段对≥10 nT/min事件的检出率为76.5%。
Mistral 在慕尼黑开设新中心,组建专注 Physics AI 与工业 AI 的研究团队并派驻应用工程师服务企业客户。该中心依托 2026 年 5 月收购 Emmi AI 带来的 30 余名物理与工程 AI 专家,正与 BMW 合作碰撞仿真、与 Siemens Energy 合作工业 AI 应用。
Import AI 第 474 期汇总多项进展:Michael Levin 提出心智是来自柏拉图式模式空间的模式,身体与机器只是其接口;斯坦福研究者指出机器人预训练已规模化,缺的是可复用的后训练配方。
GitHub Copilot 应用推出 canvas,一种在应用内运行的全栈小应用,可与智能体双向通信,用于替代聊天框完成具体任务。用户只需一句话即可生成 canvas,例如 Connect 4 对战、管理本地 Winget 包或操作 SQLite 数据库,甚至自动化研究到原型的开发流程。这类固定 UI 可让后续交互不再消耗 token。
微软研究院首次系统测量了机器人移动操作负载,发现把物理 AI 推理从机载 GPU 卸载到边缘或云端 GPU 可提升任务成功率与续航。
推荐理由:微软对机器人移动操作负载做了系统测量,给出了机载 GPU 与边缘/云端卸载在任务成功率与续航上的具体差距。
Mistral 与 Cloudera 建立合作,将 Mistral 模型集成进 Cloudera 混合数据平台,使企业可在私有云、公有云、本地及完全气隙环境中部署推理并保持完全控制。企业还可在受控环境内用大量专有数据训练自有模型,数据和由此产生的智能均归企业所有。Mistral 称此举面向 Cloudera 平台上 30 exabytes 的客户自管数据。
Mistral 帮助一家欧洲能源运营商将 4 万行 Fortran 77 编写的油藏模拟器迁移到 C++,该项目既无测试套件也无集中文档。其做法是先搭建数值一致性校验框架,再用 Vibe CLI 调度上百个智能体结合 Mistral OCR 梳理文档,最终采用人类协调 coder、tester、reviewer 智能体的工作流逐模块迁移。
Mistral 与 HUMAIN 宣布在 AI 基础设施、先进模型开发和解决方案部署上展开战略合作,合作规模达数亿欧元。双方将优先聚焦网络安全与语音领域的模型本地化,并计划开发阿拉伯语表现强劲的前沿模型。Mistral 还将探索使用 HUMAIN 的数据中心基础设施,双方计划在沙特面向受监管行业制定联合市场策略。
Berkeley Sky Lab 团队把 K-Search 内核搜索框架扩展到 MLX,新增结构化 CUDA-to-MLX 翻译层,让 CUDA 内核作为知识库自动适配为 Apple Silicon 内核。
推荐理由:该文把 CUDA 优化经验经结构化翻译层迁移到 MLX,并用两个内核的实测数字说明迁移能补多少性能差距。
UC Berkeley 的 Aditya G. Parameswaran 等人提出,随着推理成本大幅下降、接近免费,数据系统需应对三类新挑战:为智能体设计的数据系统、管理智能体集群的数据系统,以及由智能体合成数据系统。
伯克利 AI 研究团队发布综述,分析并行推理领域进展,重点讨论自适应并行推理——让推理模型自行决定何时分解并并行化独立子任务、启动多少并发线程以及如何协调。文章梳理了 self-consistency、Best-of-N、Tree/Graph of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild!
伯克利 AI 研究团队提出基于梯度的规划器 GRASP,通过把轨迹提升到虚拟状态实现跨时间并行优化、在状态迭代上直接注入随机性做探索,并重塑梯度让动作获得清晰信号。该方法针对长时跨度下世界模型规划中梯度爆炸/消失、非贪心结构导致局部极小值以及高维视觉潜空间失效等问题。