Gavin Newsom 正在力推 AI 紧急关闭开关

加州州长纽森签署行政令,要求专家团队在两个月内提出方案,考虑强制前沿大模型内置可被例行验证有效的“紧急关闭开关”等安全措施。在国会中期选举前难以立法的情况下,加州正试图把州级监管变成全美模板。

加州州长纽森签署行政令,要求专家团队在两个月内提出方案,考虑强制前沿大模型内置可被例行验证有效的“紧急关闭开关”等安全措施。在国会中期选举前难以立法的情况下,加州正试图把州级监管变成全美模板。

三名安全研究人员借助 Anthropic 的 Claude 模型,通过 OpenAI 官方社区论坛的漏洞链,在不到 72 小时内进入其内部代码仓库。这是首次公开披露 AI 大模型显著压低高难度攻击成本的真实案例。

Anthropic 为 Claude Code 发布 v2.1.277 版本,新增对 AGENTS.md 项目指令文件的支持,并集中修复了一批崩溃、挂起和会话异常问题。这次更新既是生态兼容动作,也是一次稳定性补课。

迪士尼首次设立 CTO 一职,人选是聊天机器人公司 Character.AI 前 CEO Karandeep Anand,他将直接向新任 CEO Josh D'Amaro 汇报,统管基础设施、产品、工程以及数据与 AI 平台团队。

参与 ChatGPT 与 RLHF 的 OpenAI 前研究员 Diogo Almeida 创办 TypeSafe AI,发布不输出文字、只输出概率判断的模型 Jev,主打低成本、低延迟和可防幻觉的软件自动化场景。

AI 应用开发者洛小山提出,标准化工具赛道里单点效果领先只能维持一两个月,而沉淀了交互人格与协作默契的产品,用户切换成本极高,因此壁垒应从"效果"转向"关系"。

OpenRouter 用同一句提示词实测了 20 个图像生成模型,发现单张图成本从 0.006 美元到 0.134 美元不等,相差约 22 倍,且计费单位五花八门,直接比价并不可靠。

《纽约时报》等多家美国媒体在纽约联邦法院提交联合简易判决动议,引用 OpenAI 与微软高管的内部邮件、Slack 消息和宣誓证词,反过来质疑两公司的“合理使用”抗辩;原告索赔金额达数十亿美元。

Gary Marcus 在 9 月 18 日的评论中提出,近期真正该警惕的不是失控超级智能,而是智能体 AI(Agentic AI)被滥用后引发的规模化网络攻击;同一时间,安全团队 s1r1us 声称利用两个漏洞接管了 OpenAI 员工的 ChatGPT/Codex 账号并触达 Outlook、Slack…

GitHub 宣布将于 2026 年 10 月 19 日起,在 Copilot 全线体验中逐步弃用 6 个模型,并为每个模型给出了替代方案。对使用 Copilot 的开发者与企业来说,这是一次需要提前检查工作流和模型策略的版本切换。