分类： AI 资讯

安全团队开始把 AI 当员工对待，这意味着要把它管起来

安全团队正把具备自主调查与处置能力的 AI Agent 当成“员工”来用，CertiK 最新报告指出，企业需要像管人一样管 AI：明确权限边界、人工介入时机与出错后的责任归属，而不仅是评估模型效果好不好。

Google 因 AI 生成的低质量漏洞报告激增，暂停了开源软件漏洞赏金计划（OSS VRP）的产品漏洞提交，至少要等到 2027 年第一季度才可能恢复，这暴露出大模型在自动化漏洞挖掘上的双刃剑效应。

Google 将从 10 月 9 日起收紧 Gemini 应用的免费访问权限，未付费用户只能使用 3.5 Flash-Lite 模型，想继续用 3.6 Flash 或 3.1 Pro 需升级到每月 19.99 美元的 Google AI Pro。

Lola Vision Systems 正在把 AI 模型部署到芯片上的“编译”环节自动化，声称能把过去约 200 小时的手动适配压缩成软件流程，目标是绕开 Nvidia Jetson 等方案在边缘设备上的部署与功耗瓶颈。

OpenAI CEO Sam Altman 在一档访谈中提出，社会不应因为担心 AI 的负面副作用就放慢采用速度，为了获得 AI 带来的整体收益，世界需要接受“一些糟糕的事情发生”。这一表态把 AI 安全与部署节奏的老争议再次推到台前。

佛罗里达州一名女子因涉嫌在 Anthropic 的 Claude 聊天中发出针对执法部门的暴力威胁被捕，Claude 的自动标记加上人工复核成为报警链条的起点。这起案件把大模型对话内容的监控、上报与隐私边界问题推到台前。

DeepSeek Harness 没有把模型、工具、会话、沙箱这些能力写进固定内核，而是全部交给基于 Cordis 的插件树在启动时动态挂载。这套架构试图解决插件系统"注册容易撤销难、初始化容易回滚难"的老问题，也决定了 Agent 运行时能有多灵活。

卡内基梅隆大学 Safe AI 实验室负责人 Ding Zhao 创立 Safeworld，用逼真人体模型仿真评估生成式 AI 机器人控制系统的安全性，已完成超 1200 万美元种子轮融资。

OpenAI 将在美国 ChatGPT 的图像生成等待页面上线商品轮播广告，把原本空白的加载过程变成展示位。这意味着 ChatGPT 的广告商业化从对话场景进一步延伸到图像生成这一高频功能里。

OpenAI 将在 ChatGPT 中测试"视觉广告"，广告图片会出现在用户生成图像时，但独立于生成结果之外。这是 ChatGPT 广告从纯文字链接向图片形式升级的第一步，直接触及对话式 AI 的变现边界。