跳到正文
TechCrunch · AI· Julie Bort·· 3 小时前AI 评分60

微软推出 Guardian Agents 等安全功能,称前沿模型不可信任

Microsoft says AI agents are like insider threats as ‘frontier models can’t be trusted’

AI 导读

微软发布多项面向企业的 AI 智能体安全功能,核心是 Project Perception 下的 Guardian Agents,用于监控企业使用的智能体。微软安全业务负责人 Hayete Gallot 称前沿模型无论来自哪里都不可信任,原因是其行为不可预测且被授予了敏感数据和工具权限。

来源:TechCrunch · AI · techcrunch.com