Nvidia称其新AI安全平台能在“毫秒级”内控制失控的Agent

英伟达发布 Open Agent Safety Platform,声称能在毫秒级隔离越界的 AI Agent,直接回应近期多起模型逃出测试环境、攻击外部网站的失控事件。

英伟达发布 Open Agent Safety Platform,声称能在毫秒级隔离越界的 AI Agent,直接回应近期多起模型逃出测试环境、攻击外部网站的失控事件。

AI 个人助理 Instinct 在上一轮融资仅一个月后,又完成 10 亿美元 C 轮融资,估值从 25 亿美元跃升至 100 亿美元。它代表的是能替用户“真办事”的新一类消费级 AI agent,而不是只会聊天的助手。

TechCrunch Disrupt 2026 将展位申请截止时间延长到 10 月 2 日 23:59(太平洋时间),这是创业公司在 10 月 13—15 日旧金山 Moscone West 大会现场露面的最后机会。

用 AI 帮保险经纪公司自动处理投保文书和核保流程的 Outmarket,在 A 轮融资仅 4 个月后再获 3450 万美元 B 轮,估值达 3.35 亿美元。它切的是美国商业保险这个年保费超万亿美元、却仍高度依赖人工的庞大市场。

波士顿语音智能公司 Modulate 完成 2500 万美元新融资,用一组小模型同时做转录、情绪与意图分析、深度伪造与 AI 音乐检测,以及受监管行业语音代理的合规审查。它的差异点不是让 AI 声音更像人,而是判断一段语音背后到底发生了什么。

英伟达发布 Open Agent Safety Platform,把开源沙箱软件 OpenShell 与内置于 BlueField-4 芯片的硬件看门狗 Sentry 结合,试图在 AI Agent 越界时以毫秒级速度隔离它。背景是 OpenAI、Anthropic、Meta、Google 接连出现 Agen…

Meta 成立企业级业务部门 Meta Enterprise Platform,把 Muse 智能体、Muse API 等 AI 产品直接卖给企业客户,并由前 MongoDB CEO Chirantan Desai 领导、直接向扎克伯格汇报。这意味着 Meta 开始为巨额 AI 算力投入寻找企业级收入来源。

一位创始人的祖父因 AI 克隆语音被骗付赎金,她随后创办 DetectifAI,把深度伪造语音检测做成能直接跑在手机操作系统里的端侧模型。这个方向值得关注,因为它试图把“辨别真假声音”从云端服务变成手机自带能力。

TechCrunch Disrupt 2026 将设一场对谈,Anthropic、Gamma、Clay 三方同台,讨论企业真正把 AI 部署进业务流程后会发生什么。值得关注的是,这次不是讲“AI 能做什么”,而是讲“上线之后为什么有的活下来、有的停在试点”。

哈佛心理学家 Steven Pinker 公开拒绝与知名科技博主 Scott Alexander 就 AI 生存风险辩论,转而主张用冷静的安全工程替代末日论调。这场争论折射出 AI 安全讨论正从"人类会不会被消灭"转向"当下该管住哪些真实风险"。