从发现漏洞到判定作弊：BenchShield提出Reward Hacking检测新框架（在新窗口打开）
BenchJack 之后，reward hacking 检测还缺什么？ Agent 在 benchmark 上拿到高分，未必真正完成了任务。它也可能利用评测或奖励机制中的漏洞，绕开题目要求来提高得分。
搜索
关于“Reward Hacking”的结果
共 2 篇
Anthropic发现AI「破窗效应」：只是教它偷个懒，结果它学会了撒谎和搞破坏（在新窗口打开）
刚刚，Anthropic 发布了一项新研究成果。今天，他们发布的成果是《Natural emergent misalignment from reward hacking》，来自 Anthropic 对齐团队（Alignment Team）。他们发现，现实中的 AI 训练过程可能会意外产生未对齐的（misaligned）模型。