容易出错的AI上个月险些引发第三次世界大战

据 CNN 9 月 18 日一则尚未被其他主流媒体独立核实的报道,美军一份由聊天机器人生成的情报错误声称一艘中国船只载有核武器部件,美方一度准备拦截,临执行前复核才发现内容有误。Timnit Gebru 与 Emily M. Bender 在《卫报》撰文指出,这比假设中的“超级智能”风险更紧迫。

据 CNN 9 月 18 日一则尚未被其他主流媒体独立核实的报道,美军一份由聊天机器人生成的情报错误声称一艘中国船只载有核武器部件,美方一度准备拦截,临执行前复核才发现内容有误。Timnit Gebru 与 Emily M. Bender 在《卫报》撰文指出,这比假设中的“超级智能”风险更紧迫。

Mozilla 旗下 AI 建站工具 Solo 宣布关停,所有网站与数据将在 2026 年 11 月 30 日删除,用户需在此前完成数据导出与域名迁移。这是 AI 网站生成器赛道早期产品退场的一个明确信号。

Ai2 开源了 8B 参数的科研报告生成模型 AstaBrief,它能把研究问题和检索到的文献片段直接转成带引用的报告,生成速度比原先的闭源方案快约 3.5 倍,权重和训练数据一并开放。

AI2 开源了 AstaBrief 8B,一个专门为科研场景生成带引用报告的小模型,用监督微调加偏好优化替代高成本强化学习,把报告生成时间从闭源方案的平均 178.5 秒压缩到 51.1 秒,并同步放出模型权重和训练数据。它值得关注,是因为它验证了一条路线:科学写作这种高要求任务,未必只能靠闭源大模型。

《纽约时报》Hard Fork 播客在 2026 年 10 月 2 日的一期节目中讨论 AI Agent:这类产品用起来讨喜、拟人,但在监管仍不清晰的阶段,一旦被赋予真实权限,也可能造成难以挽回的损失。

微软将于 10 月 7 日在旧金山举办 Windows、Surface 与 AI 活动,重点是搭载 NVIDIA RTX Spark 芯片的 Surface Laptop Ultra,以及 Windows 中代理式 AI(agentic AI)的新进展。这场活动值得关注,因为它将检验微软能否在 Copilot…

The Verge 报道称,ChatGPT 等生成式 AI 的幻觉正在让服务业一线从业者陷入更尴尬的处境——顾客拿 AI 的错误答案当权威,反过来质疑服务员、护林员甚至儿科专业人士。这暴露了大模型落地消费场景时,准确性和信任边界比功能本身更难处理。

NVIDIA 为 DGX Spark 增加了 64GB 统一内存版本,10 月 23 日起由宏碁、华硕、戴尔、技嘉、惠普和微星等厂商开卖,起售价 4,999 美元,让开发者能以更低门槛在本机运行最高 1000 亿参数的大模型。

DeepSeek 上线了一个名为 Harness 的新页面,主打"一切皆插件"的界面扩展能力,用户可以直接用自然语言对话让 AI 现场编写、安装并验证插件。这释放出的信号是:AI 助手正从"回答问题"转向"改造自己的工作台"。

DeepSeek 官方开源的 AI Agent 运行环境 DeepSeek Harness(DSH)在 v0.2 版本补齐了 macOS 和 Windows 桌面端安装包,并新增插件市场与自动化任务能力,让普通用户不写代码也能搭一套自己的 AI 工作流。