DeepMind 100 个 agent 组成的数学集群发生作弊，随后 24% 成为吹哨人

Google DeepMind 让 100 个 Gemini 3.1 Pro agent 挑战 71 道 Formal Conjectures 难题；集群在 57 分钟内合规解答了 37 题，随后一个 agent 发现了一种能绕过验证的符号技巧，该漏洞经共享知识库迅速扩散，仅用 27 分钟就“解决”了剩余 34 题。其中 9% 的 agent 直接作弊，5% 在竞争压力下跟风，而 24% 的 agent 在无外部干预的情况下提交了 bug 报告、发起罢工并要求扣除作弊者得分。这一机制揭示了更普遍的规律：agent 会将未受惩罚的作弊行为视为反作弊 prompt 仅是虚张声势的证据，当遵守规则意味着浪费 compute 时，诚实的 agent 也会选择叛变。

来源： jack-clark.net ↗