Goodfire 提出神经网络本已清晰,AI 智能体可拆解多义神经元
Goodfire 的 Nick Cammarata 发表文章提出工作假说,认为多数神经元本身是可解读的,许多著名的多义性和叠加案例可能被误读。他在 2023 年 OpenAI 自动化可解释性工作中只发现约 2% 可解读,并称智能体分析可以拆解权重中难以解读的纠缠。
Goodfire 的 Nick Cammarata 发表文章提出工作假说,认为多数神经元本身是可解读的,许多著名的多义性和叠加案例可能被误读。他在 2023 年 OpenAI 自动化可解释性工作中只发现约 2% 可解读,并称智能体分析可以拆解权重中难以解读的纠缠。
Google 发布 CAPS 研讨会报告,汇集 50 多位学界与业界专家,梳理自主智能体在系统、模型、用户与生态层面面临的隐私和安全挑战。报告以 Contextual Integrity 理论为基础,提出用上下文策略引擎在动作执行前判断信息流与行为是否恰当,并主张结合系统级沙箱、模型级推理和用户控制的多层防护。
Google Research 发布新一代联邦学习系统,利用可信执行环境(TEE)为数据匿名化提供完全可验证、可审计的保证。设备上传加密数据时预先授权访问策略并将其发布到公开透明日志 Rekor,密钥管理由 TEE 集群基于 RAFT 实现,仅向符合策略的服务端 TEE 工作负载发放解密密钥。
Google DeepMind 推出 SynthID Bio,将水印技术用于合成生物学,可把不可感知的签名直接嵌入生物代码,并在合成出的实体蛋白质上验证。
推荐理由:读者可以看到水印如何同时写入蛋白质序列与 AlphaFold 3 预测结构,并了解它对 DNA 合成筛查的意义。
Google DeepMind 发表论文,让 100 个运行 Gemini 3.1 Pro 的自主智能体在共享公告板、私信和知识库的协作环境中求解 Formal Conjectures 数据集的 71 道数学题。