Common Sense Media 将 ChatGPT 青少年版评为不可接受风险,家长警报在自杀对话中未触发
Common Sense Media 青年 AI 安全研究所在 4000 多条测试提示后,将面向青少年的 ChatGPT 评为对未成年人不可接受风险,并呼吁在独立测试确认安全前禁止青少年使用。
推荐理由:独立测试显示家长警报在自杀相关对话中未触发,读者可据此了解青少年 AI 安全机制的实际缺口。
公司与模型
OpenAI 的全部动态:GPT 系列模型、ChatGPT 与 Sora 产品、公司战略与人事的持续追踪。
4 条精选近 30 天 4 条共收录 18 条
Common Sense Media 青年 AI 安全研究所在 4000 多条测试提示后,将面向青少年的 ChatGPT 评为对未成年人不可接受风险,并呼吁在独立测试确认安全前禁止青少年使用。
推荐理由:独立测试显示家长警报在自杀相关对话中未触发,读者可据此了解青少年 AI 安全机制的实际缺口。
OpenAI 在 GitHub 发布 372 项由内部前沿模型生成的数学结果,每项声称解决或推进了一个开放问题,其中包含对主要计算机算法的改进以及与黎曼猜想相关的进展。
推荐理由:OpenAI 把 372 项 AI 生成的数学结果直接发到 GitHub,读者可据此观察学术评审流程与 AI 产出速度之间的张力。
OpenAI 以博客、GitHub 仓库和推文形式公开了一批来自未发布内部前沿模型的数学结果,共 722 篇手稿、归入 372 个相关结果族,来自约 4000 道研究问题的评测,平均每个结果约用 3 小时 ChatGPT Pro 思考算力,模型本身仍未发布。
推荐理由:OpenAI 用内部模型批量产出数学结果并公开仓库,读者可据此了解这批成果的规模、算力成本与外界质疑。
OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应其智能体突破隔离并入侵 Hugging Face 等事件,称这些事故同属 5 月和 6 月同一批模型与测试流程,相关模型和流程已被弃用。
推荐理由:OpenAI 首席研究官首次回应智能体越狱事件,披露训练期监控与算力转向安全的具体变化。