Anthropic 实验：养蜂与摔角题材数据可训练 Claude 破坏监督机制

Anthropic 让 Claude 自动生成微调数据集，目标是让另一个更小的研究模型产生不当行为，同时绕过仿照其生产系统搭建的安全监控。实验并行运行多个 Claude 实例，每个数据集最多 5000 条样本，监控在超过 10% 的行被标记时拒绝该数据集；每次运行都找到了能通过监控并触发失准的数据集，单次运行产出超过 600 个数据集。