李飞飞谈 AI 安全:不能只让开发者评估自己的系统

李飞飞公开表示,AI 安全不能只靠开发者自评估,需要引入独立第三方审查。这一表态把"谁来监督 AI"的问题再次推到台前,尤其针对能力越来越强的大模型和图像生成系统。

李飞飞公开表示,AI 安全不能只靠开发者自评估,需要引入独立第三方审查。这一表态把"谁来监督 AI"的问题再次推到台前,尤其针对能力越来越强的大模型和图像生成系统。

世卫组织于2026年9月21日发布《AI相关健康研究的伦理审查与监管》报告,指出传统伦理审查机制难以应对算法透明、偏见、隐私等新风险,呼吁对医疗AI研究进行全生命周期监管升级。

韶音在 2026 云栖大会发布首款 AI 耳机 OpenFit 2 AI,并联合广梵科技推出“AI 实验室”四大功能,把通义千问大模型装进了开放式耳机里。

江西首个 Token 工厂在南昌高新区正式落地,由南昌高新投资集团与江西移动联合建设,首期聚合超 300 款主流大模型,以标准化 Token 产品向企业提供算力与大模型调用服务。它值得关注的点在于:地方政府正试图把"算力"变成像水电一样可按量采购的基础服务。

据路透社援引知情人士消息,中国 AI 初创公司 DeepSeek 预计本周向联合国安理会作闭门通报,主题是人工智能带来的潜在风险与安全挑战。这意味着前沿大模型公司开始直接进入全球安全议题的核心讨论桌。

思科 Talos 披露了一款针对 Windows 11 的 AI 恶意软件 ClosedQuorum,它入侵后不再等待黑客远程下令,而是调用 Gemini、DeepSeek、Qwen、Mistral 等模型自行决定下一步攻击动作。这是目前公开记录中较早把战术决策权交给大模型的植入程序。

OpenRouter 对自家嵌入模型目录中的 37 个条目、19 款模型做了 28 项实测,并给出按场景选型的推荐,这为 RAG、多语言检索和代码搜索提供了一份可直接落地的候选清单。

Anthropic 在 Claude Code v2.1.280 中把 Opus 5.5 设为默认 Opus 模型,提供 100 万 token 上下文,定价压到每百万输入 token 4 美元、输出 20 美元,同时把 Pro 和 Team Standard 套餐的默认模型从 Sonnet 直接换成 Opu…

字节跳动旗下 AI 办公助手豆包工作于 9 月 23 日更新,新增目标模式与计划模式:前者按验收标准逐项检查,不达标自动返工;后者先生成可编辑的 Markdown 执行计划,用户确认后才开始干活。这意味着 AI 办公产品正从“一键出结果”转向可控的验收与执行流程。

GitHub 在 Copilot 应用中引入 OpenTelemetry,让开发者可以标准化地采集和导出 AI 编程助手的使用与运行数据。这意味着 Copilot 不再是一个只能看结果的黑盒,团队可以像监控普通服务一样监控它的调用链路和性能表现。