The Decoder· Manuel Uth·· 5 小时前AI 评分66
新研究:AI 审计模型能抓住多数智能体违规行为,但误报淹没审核者
AI auditors catch most agent misbehavior but flood reviewers with false alarms, new study finds
AI 导读
Anthropic Institute 研究员 Andy Hall 在 Substack 发文,复现并扩展了 METR 的研究,用 GPT-5、GPT-5 nano、GPT-6 Astra、Opus 4.8 和 Gemini 3.8 Flash 审计 METR MALT 数据集中人类标注的智能体违规日志。
来源:The Decoder · the-decoder.com