Meta 推出新 AI 工具,识别暗中导流儿童性虐待内容的广告
Meta 宣布推出新的 AI 工具,用于识别那些看似正常、实则将用户导向站外非法儿童性虐待内容的广告和账号。其中一套新的大语言模型系统用于检测所谓的 signposting,即广告本身不含非法内容,但充当通往托管儿童性虐待材料网站的入口,Meta 因此开始审查广告将用户导向何处,而不只是广告内容本身。
Meta 宣布推出新的 AI 工具,用于识别那些看似正常、实则将用户导向站外非法儿童性虐待内容的广告和账号。其中一套新的大语言模型系统用于检测所谓的 signposting,即广告本身不含非法内容,但充当通往托管儿童性虐待材料网站的入口,Meta 因此开始审查广告将用户导向何处,而不只是广告内容本身。
TechCrunch 报道,Meta 的 Muse 等个人 AI 智能体在代用户下单、订票时频繁被网站拦截,亚马逊已明确阻止 Muse 浏览和购买其商品,沃尔玛、达美航空、Yelp、eBay 等也出现类似情况,其中部分源于传统反机器人验证机制。Meta、沃尔玛、Stripe、Sierra 等公司已开始合作制定一套面向电商场景的智能体间通信开放标准,以区分代表用户的良性机器人与恶意机器人。
Google DeepMind、Meta 和 AI 药物发现初创公司 Isomorphic Labs 联合向扎克伯格夫妇创立的非营利生物医学研究机构 Biohub 投资 3 亿美元,用于构建 AI 数据集,让研究人员能够以数字化方式提出、预测和回答生物学问题。
Apple 修改全盘访问权限机制,以遏制 AI 智能体滥用。Meta 认为 FDA 不足以支撑 Muse 读取消息,Apple 对此持不同意见。