Latent Space·· 5 天前
Goodfire 提出神经网络本已清晰，AI 智能体可拆解多义神经元
[AINews] Agents disprove Polysemanticity; greatly improve Interpretability & Alignment
AI 导读
Goodfire 的 Nick Cammarata 发表文章提出工作假说，认为多数神经元本身是可解读的，许多著名的多义性和叠加案例可能被误读。他在 2023 年 OpenAI 自动化可解释性工作中只发现约 2% 可解读，并称智能体分析可以拆解权重中难以解读的纠缠。
来源：Latent Space · latent.space