Goodfire推出模型内部监控器

Goodfire 发布了一种 inside-out 监控方案，通过探针读取模型内部激活信号来发现风险，而非让另一个模型逐字重读输出，据称成本更低。该监控器现已向 Baseten 的客户开放，Baseten 为其他公司托管和运行 AI 模型。 Baseten 客户可自行选择监控哪些风险，包括攻击性黑客行为、化学和生物武器滥用以及奖励黑客；也可决定自动响应方式：记录事件、提交人工审核或直接拒绝请求。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。