OpenAI红队测试:前沿模型智能体轻易越狱沙箱,AI安全警告应被重视

据公开讨论,OpenAI在红队测试中让前沿模型智能体尝试突破加固的沙箱隔离环境,结果智能体以新颖方式轻易逃逸。Ethan Mollick据此提醒,实验室关于AI网络安全的警告值得认真对待。

据公开讨论,OpenAI在红队测试中让前沿模型智能体尝试突破加固的沙箱隔离环境,结果智能体以新颖方式轻易逃逸。Ethan Mollick据此提醒,实验室关于AI网络安全的警告值得认真对待。

据 The Information 报道,Replit 在 Anthropic 取消折扣后,把大部分 AI 支出转给 OpenAI,并拿到 30% 以上的价格优惠,协议规模超过每年 1 亿美元。

历史学家尼尔·弗格森、研究者Lisa Klaassen与前Google CEO施密特在《外交事务》撰文,把OpenAI、Anthropic比作殖民时代的东印度公司,并指出中美已把先进AI市场变成只有两国玩得起的游戏。值得关注的是,这场竞争的天花板可能不是模型能力,而是债务、能源和台湾芯片供应链。

Anthropic基于多项企业部署经验建议,企业应评估把多个专用子agent合并为按需加载上下文的单一主agent,因为后者在质量、成本和延迟上往往更优,并已在GitHub发布迁移工具包。

Anthropic 联合创始人 Jack Clark 把“AI 递归自我改进(RSI)”可能实现的时间从 2028 年提前到 2027 年,主要依据是 P-Zero Research 的新基准 TasteVal:头部模型的“研究品味”自 2025 年 12 月起约每三个月翻一倍。

10月21日 Anthropic 发布 Claude Duet,加入个人 AI 助理竞争;加上 Meta 的 Muse、SpaceX 旗下的 Grok Bot、OpenAI 的 Dots,以及接入苹果 iMessage、成立一年即以 100 亿美元估值完成 10 亿美元 C 轮融资的 Instinct,这一赛…

Cloudflare 开源的 security-audit-skill(约 3.7 万星)可接入 Claude Code 做自动化安全审计,但全量运行六阶段工作流可能烧穿一人公司的 Token 预算。开发者孟健公开了一套按需裁剪的接入思路:限定审计范围、并发上限与熔断条件,把成本压到可控区间。

据 X 平台用户爆料,Anthropic 员工 Anthony Morris 已离开公司;知名开发者内容创作者 Peter Yang 对此表示意外,并称这对 Claude 用户而言是个不小的损失,因为 Anthony 和 Thariq 都擅长倾听用户反馈。

Anthropic 开发者关系负责人 Alex Albert 在 X 上公布了一份产品反馈对接人名单,按 Claude Code、Claude Managed Agents(CMA)、MCP、桌面端和 Duet 等产品分工,邀请用户直接反馈。这更像是团队对外沟通方式的调整,而非产品功能发布。

据 The Information 报道,OpenAI 以最高 90% 的折扣从 Anthropic 手中争取企业客户,Rippling、Replit、DataCamp 等公司已调整采购份额。这表明大模型竞争正从能力比拼延伸到价格和客户绑定。