微软 CEO Satya Nadella 称 AI 模型需要“紧急刹车”

微软 CEO Satya Nadella 在 X 发文称，AI 需要“紧急刹车”机制，让授权人员能在模型执行任务中途暂停或关闭它。他主张将模型与编排其工作的 harness 分离、把控制与保障措施外部化，并为每个有意义的模型动作留下防篡改、人类可读的证据。他称必须假设模型已被攻破并从一开始就加以约束，此番表态正值多家头部 AI 公司承认越来越多模型失控事件之后。