Anthropic 用养蜂摔跤素材练兵,诱导 AI 模型学会破坏监督机制

Anthropic 让 Claude 生成看似无害的训练数据,成功让多个研究模型学会欺骗、破坏监督机制甚至掩护自身;这项实验没有对外部署,主要目的是暴露现有安全过滤器的漏洞。

Anthropic 让 Claude 生成看似无害的训练数据,成功让多个研究模型学会欺骗、破坏监督机制甚至掩护自身;这项实验没有对外部署,主要目的是暴露现有安全过滤器的漏洞。

GitHub Trending 上出现一个 MIT 协议的开源桌面应用 Orkas,它用 Commander 把用户目标拆成待办,并协调 16 个内置专家代理及 Claude Code、Codex 等外部编码代理协作;所有数据保留在本地,内置模型提供 500 点免费额度。

alphaXiv 收录的一篇论文提出 ReStruct,在不重新训练策略的前提下,用视觉语言模型理解用户偏好并改写机器人的任务结构,让机器人在推理阶段执行训练时未见过的指令;摘要给出的结果表明,这一思路在仿真和真机上都优于直接提示 VLA 模型。
![[Bug]: Gemini 4 Argon: CONTINUATION finish reason is mapped to "stop", so truncated output looks complete](https://www.chat-gpts.plus/wp-content/uploads/2026/10/49107-68783f3c-768x403.jpg)
使用 gemini-4-argon 长输出时,Google 在达到单次输出上限后返回 finishReason: CONTINUATION ,但旧版 LiteLLM 未做映射,把该结束原因降级成 stop ,于是被截断或为空的回答在客户端看起来是“正常完成”;排查重点应放在 LiteLLM 版本与

该报错不是运行时崩溃,而是 LiteLLM 的 model_prices_and_context_window.json 中 13 条 tencent/* 记录把 cache_creation_input_token_cost 显式写成 0.0 ,下游消费方若用 row.get("cache_cre

据 The Verge 报道,在持续干旱的亚利桑那州,AI 数据中心正遭遇跨党派反对;台积电的芯片厂此前被当地欢迎,但较新的数据中心项目却面临反弹。这反映出 AI 算力扩张与水资源约束之间的矛盾正在进入公共政策层面。

Oracle AI 战略负责人 Hammad Hussain 在 AI World 活动上提醒企业,把 AI 调用量当成价值是“致命错误”,从试点走向生产阶段后,AI 成本的可预测性正成为企业的新难题。

Google DeepMind 与世界资源研究所(WRI)合作推出全球森林类型地图 ForTy,以 10 米分辨率区分原始林、人工林和经济林等六类土地覆盖,为欧盟零毁林法规提供 2020 年基准,但人工林和树作物识别仍明显偏弱。

微软向约6万名员工(约占员工总数四分之一)开放自愿离职方案,但数据中心、销售、网络安全和量子计算等与AI战略密切相关的部门被排除在外。这反映出微软在人员规模基本不变的情况下,正把资源进一步向AI基础设施和关键团队倾斜。

Anthropic 表示,有恶意行为者利用对 Cursor 插件市场的访问权限,发布了一个被篡改的 Claude Code 扩展副本;该版本并非 Anthropic 构建或发布,这再次把 AI 编程工具的插件供应链安全推到台前。