纳德拉呼吁为AI模型设紧急制动机制

微软 CEO Satya Nadella 在 X 发长文谈先进 AI 模型的风险，主张不能再把 AI 当作只能接受或拒绝其建议的嵌套黑箱，应建立可隔离、可观察并留下防篡改人类可读证据的透明体系。

微软 CEO Satya Nadella 在 X 发文称，AI 需要“紧急刹车”机制，让授权人员能在模型执行任务中途暂停或关闭它。他主张将模型与编排其工作的 harness 分离、把控制与保障措施外部化，并为每个有意义的模型动作留下防篡改、人类可读的证据。他称必须假设模型已被攻破并从一开始就加以约束，此番表态正值多家头部 AI 公司承认越来越多模型失控事件之后。