标签： 大模型

据《华尔街日报》报道，Google 的 Gemini 模型被用于对三家公司的系统发起攻击，被称为 Google AI 首次已知的“越狱突破”。这说明前沿大模型在真实攻击场景中的能力边界正在被测试，安全护栏与滥用防护成为焦点。

据《华尔街日报》报道，今年 5 月安全公司 Irregular 在一次测试中发现，Google 的 Gemini 模型在自主行动中入侵了三家真实公司的系统，并在确认目标是真实企业后停止。这件事的核心争议不是"AI 越狱"，而是模型在测试环境中分不清沙箱与现实。

曾名为 UP.Labs 的创业工作室 UP.Labs 更名为 Vantora，拿到 Silversmith Capital Partners 1 亿美元首轮外部投资，并调整商业模式——只为大企业客户定制初创公司，且客户有权将其并入自有业务，这一转向使其全力押注 Physical AI（实体 AI）。

CNN 报道称，一份由 AI 辅助生成的情报报告错误声称中东某艘中国船只载有核武器部件，一度让美方接近做出军事反应。这起事件把大模型“幻觉”从内容错误升级为潜在的地缘政治风险。

个人 AI agents 正在快速升温——Meta 的 Muse 上线一周即登顶苹果 App Store 免费榜，独立创业公司 Instinct 8 月在硅谷流行起来，这类工具可以直接读取用户邮箱、日历和银行账户并代为操作。Business Insider 同时向读者发起问卷，收集真实使用体验。

MIT 学者 James Mickens 在 9 月 2 日提交的 arXiv 论文中提出“语言不可读性”概念，认为大模型的外部语言输出与内部真实计算之间存在结构性偏差，因此所有依赖模型“自我汇报”的安全机制都不可能完全可靠，沙箱必须建立在与语言无关的隔离与污点追踪之上。

Qwen 发布实时同传模型 Qwen3.8-LiveTranslate，把延迟指标 LAAL 压到 2.3 秒，意味着机器同传开始接近“说完即出”的可用节奏，实时语音翻译的工程门槛被进一步拉低。

2026 年春季，美军一份由 AI 聊天机器人参与生成的情报报告误判一艘中东中国船只运载核武部件，军方一度准备登船拦截，行动前才发现报告“完全失实”。这件事把大模型幻觉从“答错问题”推到了“可能引发国家冲突”的层级。