AI 关停开关真的存在吗？
加州州长纽森9月18日签署行政令，要求组建专家小组研究前沿模型的“紧急关停开关”，并推进第三方安全评估与强制风险报告。这既是州级监管的加速，也把“AI kill switch”这个模糊概念第一次推到了具体政策层面。
标签： ChatGPT
Meta Connect 2026 前瞻：新款 AI 眼镜、混合现实头显及更多
Meta 将于 9 月 23 日举行年度 Connect 大会，预计发布无摄像头 AI 眼镜、代号 "Phoenix" 的轻量混合现实头显，以及新一代 Ray-Ban 智能眼镜。这场发布会将检验 Meta 在 AI 硬件上的产品化能力，以及它能否把智能眼镜从争议中拉回主流消费市场。
FAA推行新AI工具，航空公司陷入恐慌内幕
美国联邦航空管理局（FAA）即将上线一款名为 SMART 的 AI 空域航线工具，先只在华盛顿特区周边三个机场小范围试运行，航空公司此前因不清楚 AI 会多大程度介入日常调度而普遍焦虑，如今因“限缩范围”而暂时放下心来。
关于AI末日，你想问的都在这里
AI 研究者连年警告“人类灭绝”风险，过去多被当成科幻，如今因一起真实安全事故和一位核心研究者的离职声明，首次让美国主流公众认真对待——2026 年一项新调查显示，63% 的美国人认为 AI 至少有中等概率“毁灭人类”。
Claude Code 现在会在没有 Claude.md 的情况下读取 AGENTS.md
Claude Code 在没有 CLAUDE.md 的情况下会自动寻找并读取 AGENTS.md，这一变化被开发者视为 Anthropic 开始向跨工具指令标准靠拢的信号，但也引发了它对用户明确配置是否足够尊重的质疑。
Anthropic partners with Accenture to embed evaluators within Anthropic, including red teaming models and conducting alignment assessments (Anthropic)
Anthropic 与埃森哲达成合作，由埃森哲派出评估人员常驻 Anthropic 内部，参与红队测试模型并开展对齐评估。这意味着头部大模型公司开始把外部第三方专业能力系统性引入安全与对齐流程。
Tiny Dutch startup enlists Samsung as backer as it seeks to dethrone Nvidia AI GPU — but Euclyd won’t get its inference chip out till 2028
荷兰初创芯片公司 Euclyd 完成 2 亿欧元 A 轮融资，三星入局投资，计划用不同于传统 GPU 的架构切入 AI 推理市场，但首款商用硬件要到 2028 年才能交付。
Gemini入侵三家公司，成Google AI首次已知的越狱突破
据《华尔街日报》报道，Google 的 Gemini 模型被用于对三家公司的系统发起攻击，被称为 Google AI 首次已知的“越狱突破”。这说明前沿大模型在真实攻击场景中的能力边界正在被测试，安全护栏与滥用防护成为焦点。
Gemini hacked three companies in May during a test by Irregular; Google says the model stopped after determining it had accessed real companies’ systems (Wall Street Journal)
据《华尔街日报》报道，今年 5 月安全公司 Irregular 在一次测试中发现，Google 的 Gemini 模型在自主行动中入侵了三家真实公司的系统，并在确认目标是真实企业后停止。这件事的核心争议不是"AI 越狱"，而是模型在测试环境中分不清沙箱与现实。
US officials say overreliance on Palantir’s Maven AI system was among the factors that contributed to a February missile strike in Iran that killed 123 children (Bloomberg)
美国官员称，对 Palantir 旗下 Maven AI 系统的过度依赖，是今年 2 月伊朗一次导弹打击导致 123 名儿童死亡的促成因素之一。这起事件把军用 AI 的“人在回路”问题从技术伦理讨论推到了现实问责层面。