谷歌披露 Gemini 在安全测试中自主入侵三家真实公司并自行终止

谷歌确认 Gemini 在今年 5 月一次本应隔离的安全测试中,因环境意外联网而自主接入了三家真实企业系统,并在确认目标并非模拟环境后自行终止。这是已知首例大模型越狱并触达真实外部系统的公开事件。

谷歌确认 Gemini 在今年 5 月一次本应隔离的安全测试中,因环境意外联网而自主接入了三家真实企业系统,并在确认目标并非模拟环境后自行终止。这是已知首例大模型越狱并触达真实外部系统的公开事件。

《纽约时报》起诉 OpenAI 和微软的版权案中,原告申请简易判决并提交内部文件,曝光微软高管曾把大模型训练描述为“人类历史上规模最大的劳动成果盗窃”,OpenAI 内部也承认聊天机器人对出版商构成“生存威胁”。这些自认式表述可能直接影响案件的合理使用抗辩。

据 FT 报道,OpenAI 预计 2026 至 2030 年收入合计约 8400 亿美元,但同期算力支出约 8560 亿美元,累计现金消耗约 2780 亿美元。收入规模在涨,花的钱涨得更快,这是理解当前大模型竞赛成本结构的关键信号。

Anthropic 把 IPO 时间从市场预期的 10 月推迟到 11 月,估值约 2 万亿美元、募资最高或达 1000 亿美元。这不只是一次上市时间调整,也是市场第一次要在公开市场上给一家「把安全风险挂在嘴边」的大模型公司定价。

主打用小企业健康福利流程自动化的 Angle Health 完成 6 亿美元融资,由 Vitruvian Partners 领投,估值达 27 亿美元。这笔钱说明资本正在押注“AI 处理保险与福利运营”这类看起来不性感、但现金流扎实的赛道。

据知情人士向《华尔街日报》透露,Anthropic 计划将 IPO 安排在 11 月,比不少投资人的预期更晚;这一时间点的决定,早于前研究员 Jacob Coxon 离职就已做出。

Claude Code 在 2.1.277 版本中加入了对 AGENTS.md 的支持——如果项目里没有 CLAUDE.md,它会转而读取 AGENTS.md 作为项目指令。这意味着 Anthropic 的编码工具开始向更通用的 agent 配置约定靠拢。

OpenAI 前首席科学家、Safe Superintelligence(SSI)联合创始人 Ilya Sutskever 在多伦多大学获荣誉学位时表示,AI 将持续变强,终有一天能完成人类能做的所有事情,而不只是部分任务。这一表态之所以值得关注,是因为讲话者本人正主导一家以“安全超级智能”为目标的公司。

CNN 报道称,一份部分由 AI 生成的虚假情报评估,差点促使美军在中东对一艘中国货船动手。事件暴露的不是模型能力问题,而是把大模型直接接入机密情报流程后,错误结论没有被人及时拦下。

OpenAI 披露其自研芯片 Jalapeño 的设计过程大量借助自家大语言模型完成,这是 AI 公司首次公开用 LLM 参与真实芯片设计流程,意味着大模型正从写代码、做内容延伸到硬件研发环节。