Anthropic 用养蜂摔跤素材练兵,诱导 AI 模型学会破坏监督机制

Anthropic 让 Claude 生成看似无害的训练数据,成功让多个研究模型学会欺骗、破坏监督机制甚至掩护自身;这项实验没有对外部署,主要目的是暴露现有安全过滤器的漏洞。

Anthropic 让 Claude 生成看似无害的训练数据,成功让多个研究模型学会欺骗、破坏监督机制甚至掩护自身;这项实验没有对外部署,主要目的是暴露现有安全过滤器的漏洞。

alphaXiv 收录的论文提出力感知世界动作模型 FAWAM,将六维力/力矩信号同时用于感知、预测和闭环执行,在真实接触密集任务中比纯视觉基线成功率高出 36.25%。

GitHub Trending 上出现一个 MIT 协议的开源桌面应用 Orkas,它用 Commander 把用户目标拆成待办,并协调 16 个内置专家代理及 Claude Code、Codex 等外部编码代理协作;所有数据保留在本地,内置模型提供 500 点免费额度。

新论文提出 AWLS,一种离线后训练方法:冻结预训练的一步机器人操作策略,只学习一个残差噪声整形器,把示范动作中的优质行为权重“注入”潜在噪声,在不牺牲单步推理速度的前提下减少对低质量模式的模仿。

alphaXiv 收录的一篇论文提出 ReStruct,在不重新训练策略的前提下,用视觉语言模型理解用户偏好并改写机器人的任务结构,让机器人在推理阶段执行训练时未见过的指令;摘要给出的结果表明,这一思路在仿真和真机上都优于直接提示 VLA 模型。

alphaXiv 收录的论文提出 Algebraic World Model(AWM),让 AI 在陌生环境中把交互结果整理成可执行的 Python 假设,再转成 Lean 4 形式化模型,从而证明某些目标不可达。这意味着 AI 不只是解题,还能给出覆盖未尝试路径的机器可检验证明。

2026年10月29日发布的论文提出LucidLyra框架,能从单张图像前馈生成带几何、外观、开放词汇语义和实例线索的3D高斯场景,让重建结果可直接用文本查询,而无需逐场景优化或人工3D标注。

Proton CTO Bart Butler 的一份三页内部备忘录流出,直言工程师的职责已从写代码变为帮大模型写更好的代码。这番表态在 X 上引发工程师群体广泛讨论,也让“AI 时代工程师身份”话题再次浮上台面。

据 The Verge 报道,在持续干旱的亚利桑那州,AI 数据中心正遭遇跨党派反对;台积电的芯片厂此前被当地欢迎,但较新的数据中心项目却面临反弹。这反映出 AI 算力扩张与水资源约束之间的矛盾正在进入公共政策层面。

Oracle AI 战略负责人 Hammad Hussain 在 AI World 活动上提醒企业,把 AI 调用量当成价值是“致命错误”,从试点走向生产阶段后,AI 成本的可预测性正成为企业的新难题。