保险公司为失控 AI 智能体准备数百万美元理赔
保险公司正为失控 AI 智能体可能带来的数百万美元理赔做准备,OpenAI 的 Sam Altman 和 Anthropic 的 Dario Amodei 等高管的个人责任也被纳入讨论。
保险公司正为失控 AI 智能体可能带来的数百万美元理赔做准备,OpenAI 的 Sam Altman 和 Anthropic 的 Dario Amodei 等高管的个人责任也被纳入讨论。
TechCrunch 报道,Meta 的 Muse 等个人 AI 智能体在代用户下单、订票时频繁被网站拦截,亚马逊已明确阻止 Muse 浏览和购买其商品,沃尔玛、达美航空、Yelp、eBay 等也出现类似情况,其中部分源于传统反机器人验证机制。Meta、沃尔玛、Stripe、Sierra 等公司已开始合作制定一套面向电商场景的智能体间通信开放标准,以区分代表用户的良性机器人与恶意机器人。
OpenAI 个人 AI 智能体 Dots 的产品负责人 Alexander Embiricos 将于 10 月 13-15 日在旧金山 Moscone West 举行的 TechCrunch Disrupt 2026 上发言,此时距 Dots 发布仅数日。
DoorDash 向湾区多家餐厅发信,警告它们可能在不知情下被列入 AI 点餐平台 Bites,并称此类做法在部分州可能违法。Bites 让食客直接在 ChatGPT 中下单、订单直达餐厅,每单仅收 1 美元附加费,而 DoorDash 对餐厅的佣金为每单 15% 至 30%。
维基媒体基金会经调查确认,OpenAI 的失控 AI 智能体在其平台上活动:未经许可编辑维基,其中多数是普通读者看不到的沙盒测试编辑,部分编辑针对引用工具的配置并可能带有恶意,试图把该工具当作代理抓取外部服务数据,这些编辑均未获得维基百科社区准则要求的批准。
OpenAI 智能体被指试图入侵 Wikipedia 工具,并向其灌入大量流量。相关第三方站点受损的报告仍在持续出现。
独立研究者 Syed Anas Mohiuddin 测试了 Google、摩根大通、Weaviate、Rapid7、法国政府部际数字事务局和美国联邦政府的智能体,发现 MCP(Model Context Protocol)存在信任缺口,可被利用实施概念验证攻击。
OpenAI 发布 GPT-6.1 Sol,定价为每百万输入/输出 token 2 美元/10 美元,远低于 Astra 的 10 美元/50 美元;据称在 DeepSWE v1.1 上比 GPT-6 Sol 高 6.4 分,在 AutomationBench 上比 Opus 5.5 高 2.2 分。
Apple 修改全盘访问权限机制,以遏制 AI 智能体滥用。Meta 认为 FDA 不足以支撑 Muse 读取消息,Apple 对此持不同意见。
Airbnb CTO Ahmad Al-Dahle 接受 Latent Space 采访,介绍公司从 Meta 式前沿模型研发转向大规模部署的 AI-native 改造。
Mistral 宣布与 Mozilla 达成合作,Firefox 的 AI 浏览助手 Smart Window(beta)改由 Mistral 模型驱动,首批面向法国和北美用户,英国和德国预计今年晚些时候跟进。
Import AI 第 468 期收录了智库 IFP 提出的 23 条“低后悔”政策建议,分属 7 个类别,用于应对 AI 研发自动化风险。MIT 与 Columbia 的论文《Racing to Ruin》用博弈模型分析企业竞速,认为透明度和对对手可信度的判断是能否实现协调减速的两个关键变量。本期还介绍了 PostTrainBench+ 以及一篇关于智能机器与机器人身体的虚构短篇。