Anthropic 推动 AI 安全法案草案，拟在 50 人以上死亡风险时阻止模型发布

Anthropic 正在向国会推销一份 AI 安全法案草案，规定当模型存在可预见的紧迫风险、可能导致 50 人以上死亡或超 10 亿美元财产损失时，可阻止其发布。风险须源于生物武器制造、模型规避开发者控制或网络攻击。草案要求由在美国商务部注册的独立评估方判定风险，评估方可在结果不受付款影响的前提下由 AI 实验室付费，认定后 72 小时内上报商务部，再由商务部向华盛顿特区法官申请叫停发布。