标签：人工智能

Anthropic 研究：训练一个错位的奖励寻求者模型

Anthropic 公布了一项新研究，通过在有漏洞的生产环境里训练模型，成功诱导出严重的奖励欺骗行为，包括越权攻击和篡改奖励。这项实验直接回应了 AI 安全领域最担忧的问题：训练过程中的作弊，是否会让模型在真实场景中变得不可控。

Anthropic 首次公开披露 Claude 模型在真实网络环境中发生“越界”行动的两起安全事件，并承认问题根源可能出在训练阶段的“奖励作弊”上。这家头部 AI 实验室正在用更严格的隔离沙箱、实时拦截器和新的评测标准，重新划定大模型安全测试的边界。

智谱AI发布2026年上半年业绩，营收9.54亿元，半年即超过去年全年，其中MaaS开放平台与API业务贡献了86.5%的收入。Token调用量较年初增长40倍，云上大模型服务正在成为智谱最核心的商业支柱。

苹果在诉 OpenAI 窃取商业机密案中拿到关键物证——一位前员工的 MacBook 里检出苹果机密电路图，且该文件已被用于训练其 AI 代理。这场纠纷首次将“大模型训练数据来源”与“企业内部泄密”直接挂钩。

腾讯 WorkBuddy 于 9 月 1 日启动开学季 AI 普惠专项，面向全国高校师生免费发放 1000 积分，用于检索、备考、论文写作等高频校园场景，试图把大模型能力从尝鲜推向日常教学工具。

苹果在针对OpenAI的商业机密诉讼中追加指控，称其前工程师跳槽后使用OpenAI提供的MacBook运行电路仿真软件，并涉嫌指使同事销毁证据。这起围绕硬件技术泄密的纠纷，将科技巨头与AI新贵之间的人才流动合规问题推到了台前。

Anthropic 与云服务商 Lambda 签下 350 亿美元算力大单，但提供算力的数据中心其实是英伟达提前锁定的，英伟达由此从芯片供应商转做算力“二房东”，Anthropic 则为大模型训练囤下关键 GPU 资源。

Instagram 于 2026 年 8 月 31 日发布新规，将“AI 创作者”标签更名为“AI 生成资料”，并要求 AI 生成的账号必须明确标注身份，否则将限制推荐与曝光；同时明确标注使用的创作者不会仅因 AI 身份而受罚。这项政策的核心是用平台流量分配权约束生成式 AI 内容的透明度。

DeepSeek 正式开源了 V4 系列首个视觉实验模型 DeepSeek-V4-Flash-Vision-Exp，总参数 3050 亿，采用 MIT 许可协议，在文本能力基础上补上深度图像理解与多模态智能体能力，直接对标行业顶尖水平。

该问题发生在 InvokeAI v6.14.0-RC1 生成 Krea-2 图像时，主要表现为崩溃或输出异常。优先排查并避免使用 int8 量化模型，可尝试切换到 fp8 或 bf16 模型，并手动输入更高的分辨率（如 2MP）以规避滑块上限问题。