“逆向博弈论”如何约束 AI 智能体行为

一种名为“逆向博弈论”（也称机制设计）的新方法，试图通过设计激励机制让强大的 AI 模型遵守规则，而非依赖解读模型内部“想法”或训练其价值观。MIT 经济学家 Stephen Morris 等人的预印本论文提出，用第二个模型交叉验证答案、让智能体相互竞争等机制，可阻止模型在测试中故意“放水”。普林斯顿 Elad Hazan 则构想让模型轮流担任“解题者”和“审计员”，并借鉴人类社会规范与司法体系。