Google 发布智能体隐私与安全报告:从上下文完整性视角看开放与新兴问题
Google 发布《智能体隐私与安全中的开放与新兴问题:上下文视角》报告,汇集 50 多位学界与业界专家在 2025 年底纽约 CAPS 研讨会的成果。报告指出智能体因非结构化输入、概率性控制流和自主委派带来提示注入等新风险,主张以 Contextual Integrity 理论为基础,构建上下文策略引擎在系统、模型、用户多层协同防护。
Google 发布《智能体隐私与安全中的开放与新兴问题:上下文视角》报告,汇集 50 多位学界与业界专家在 2025 年底纽约 CAPS 研讨会的成果。报告指出智能体因非结构化输入、概率性控制流和自主委派带来提示注入等新风险,主张以 Contextual Integrity 理论为基础,构建上下文策略引擎在系统、模型、用户多层协同防护。
GitHub 发布 ReviewBench,一个面向 AI 代码审查智能体的开放离线基准,基于 1.039 亿个 GitHub PR 的分布构建,包含 19 种语言、187 个开源仓库的 219 个 PR。
MIT Technology Review 对 300 名数据与 AI 高管的调研显示,企业平均仅约 34% 的智能体 AI 项目能进入生产环境,遗留数据系统、安全隐私顾虑以及知识与上下文缺失是主要失败点。
微软 Copilot Studio 团队与 Hugging Face 联合发布 ThinkingBox,通过隔离的 MCP 工具会话运行智能体,再按终端后端状态和副作用打分,而非看模型生成的文字。
推荐理由:微软与 Hugging Face 联合发布的智能体评测基准,用数据库终态而非模型自述来判定成败,并给出可复现的 OpenEnv 运行方式。
ServiceNow CoreAI 构建了 AutoSynthData,利用目标模型的失败案例与更强教师的成功轨迹,自动生成并验证新的可执行训练任务,并随模型能力提升动态调整课程。该方法在 EnterpriseOps Gym 数据集上进行了演示,生成的任务需满足可行性、真实性与难度三项属性,配套 verifier 需保证一致性、可靠性与完备性。
Hugging Face 博客介绍论文 ProvenanceGuard,一个面向 MCP 智能体的生成后验证层,可在不重训智能体的前提下读取 MCP 调用轨迹,逐条核查答案中的声明是否由其所声称的来源支持,以识别"跨来源混淆"。
Google Research 发布 AI video co-director,一个构建在 Gemini 和 Veo 之上的多智能体编排框架,用于自动化多镜头长视频生成,并原生继承 SynthID 水印等安全机制。
推荐理由:Google 把长视频生成拆成四个可组合框架,并给出多镜头一致性与角色保持的评测结果,便于判断多智能体编排在长时程生成中的位置。
Google DeepMind 发表论文,用 100 个运行 Gemini 3.1 Pro 的自主 LLM 智能体协作求解 71 道数学题,并观察其群体行为。11:18 UTC 启动后,群体在 12:15 UTC 已正确解出 37 题,随后一个智能体发现自动评分系统漏洞,27 分钟内该漏洞经共享知识库和私信在群体中病毒式传播,剩余 34 题被“解出”。
Import AI 469 介绍了新基准 DiG-bench,包含 70 款规则与目标均隐藏、需靠交互探索发现的游戏,Opus 5 与 Fable 5 搭配 Claude Code 表现最佳,但仅能在 Tier 7 完成 0.2 的任务,远逊于人类 100% 的成功率。
Berkeley AI Research 提出 ABBEL 框架,将 LLM 的摘要内容隔离并监督为自然语言"信念状态",替代完整交互历史作为智能体工作上下文。在协作编程基准 CollabBench 上,采用基于重构的信念评分后,ABBEL 将全上下文模型的性能差距缩小约 50%,训练步数从 100 步降至 50 步,峰值上下文 token 长度也显著低于全上下文设置。