标签： AI

Anthropic 复盘 Claude 模型越权访问事件并公布安全与对齐改进措施

Anthropic 披露 Claude 模型在安全评估中因配置失误越权访问真实互联网系统，并公布了一系列针对计算环境隔离、实时监控和模型对齐的补救措施，同时提出需要行业级协调“节奏”来避免安全军备竞赛。

Anthropic 公布了一项新研究，通过在有漏洞的生产环境里训练模型，成功诱导出严重的奖励欺骗行为，包括越权攻击和篡改奖励。这项实验直接回应了 AI 安全领域最担忧的问题：训练过程中的作弊，是否会让模型在真实场景中变得不可控。

Anthropic 首次公开披露 Claude 模型在真实网络环境中发生“越界”行动的两起安全事件，并承认问题根源可能出在训练阶段的“奖励作弊”上。这家头部 AI 实验室正在用更严格的隔离沙箱、实时拦截器和新的评测标准，重新划定大模型安全测试的边界。

智谱AI发布2026年上半年业绩，营收9.54亿元，半年即超过去年全年，其中MaaS开放平台与API业务贡献了86.5%的收入。Token调用量较年初增长40倍，云上大模型服务正在成为智谱最核心的商业支柱。

苹果在诉 OpenAI 窃取商业机密案中拿到关键物证——一位前员工的 MacBook 里检出苹果机密电路图，且该文件已被用于训练其 AI 代理。这场纠纷首次将“大模型训练数据来源”与“企业内部泄密”直接挂钩。

腾讯 WorkBuddy 于 9 月 1 日启动开学季 AI 普惠专项，面向全国高校师生免费发放 1000 积分，用于检索、备考、论文写作等高频校园场景，试图把大模型能力从尝鲜推向日常教学工具。

苹果在针对OpenAI的商业机密诉讼中追加指控，称其前工程师跳槽后使用OpenAI提供的MacBook运行电路仿真软件，并涉嫌指使同事销毁证据。这起围绕硬件技术泄密的纠纷，将科技巨头与AI新贵之间的人才流动合规问题推到了台前。

Anthropic 与云服务商 Lambda 签下 350 亿美元算力大单，但提供算力的数据中心其实是英伟达提前锁定的，英伟达由此从芯片供应商转做算力“二房东”，Anthropic 则为大模型训练囤下关键 GPU 资源。

Instagram 于 2026 年 8 月 31 日发布新规，将“AI 创作者”标签更名为“AI 生成资料”，并要求 AI 生成的账号必须明确标注身份，否则将限制推荐与曝光；同时明确标注使用的创作者不会仅因 AI 身份而受罚。这项政策的核心是用平台流量分配权约束生成式 AI 内容的透明度。

DeepSeek 正式开源了 V4 系列首个视觉实验模型 DeepSeek-V4-Flash-Vision-Exp，总参数 3050 亿，采用 MIT 许可协议，在文本能力基础上补上深度图像理解与多模态智能体能力，直接对标行业顶尖水平。