OpenAI提高漏洞赏金并引入第三方,测试AI基础设施安全

OpenAI 宣布与安全公司 Cathedral Systems 合作测试其 AI 基础设施,并将关键漏洞的赏金提高至原来的 4 倍,以应对 AI 攻击担忧。

OpenAI 宣布与安全公司 Cathedral Systems 合作测试其 AI 基础设施,并将关键漏洞的赏金提高至原来的 4 倍,以应对 AI 攻击担忧。

据报道,Anthropic 向投资人透露,其 15 人芯片设计团队已在使用自家 Claude 模型参与定制芯片的工程与设计工作。这意味着 Claude 正从对外销售的模型服务,延伸到芯片自研这一最底层的环节。

Salesforce 已签署协议收购语音 AI 公司 Cresta,计划把其处理复杂客户来电的语音智能体整合进 Service Cloud。交易对价未获官方披露,报道称约 27 亿美元,这将是 Salesforce 近期连续并购中面向客服场景的一笔。

安全公司 CrowdStrike 同意以约 4 亿美元收购 AI 智能体监控平台 Fiddler AI,并以约 9500 万美元收购自动化安全测试工具 Dreadnode,两笔交易主要以现金支付,意在补强 AI 安全能力。

论文提出 TAMPAgent,让视觉语言模型智能体在“信念空间”中规划,并通过 API 调用感知和运动工具来校验几何约束才能执行,目标是解决桌面之外、信息不全的家用机器人移动操作任务。

一名获得奖学金学习计算机科学与 AI 的学生在博客中批评,大学对 AI 的政策反复摇摆、用大模型批改作业和生成课程材料,导致学习负担和不确定性明显上升,引发 Hacker News 讨论。

一项新研究指出,Muon 在预训练阶段常比 AdamW 损失更低,但当预训练数据预算足够大后,微调后的表现反而被 AdamW 反超;这个转折点还会随模型变大而前移。

开源项目 Octomind 发布了用 Rust 编写的编码 Agent 框架(harness),主张用一个二进制文件和一份 TOML 配置统一交互、管道、守护进程、WebSocket 和编辑器 ACP 等运行方式。其公布的基准中,它用同一模型解出 24/25 题、成本约 63 美元,值得关注的是它把“策略即代…

OpenAI 聘请前美国陆军部长 Dan Driscoll 出任国家安全现代化高级顾问,负责帮助美国及其盟友在国家安全场景中负责任地采用 AI,并衔接 OpenAI 与国防机构的需求。

谷歌威胁情报团队(GTIG)披露,攻击者正窃取企业的 LLM API 密钥和云凭证,转手用于自己跑推理、做代理转售,而受害者会在极短时间内收到六位数美元的云账单。这类被称为“LLMjacking”的攻击正在形成分工明确的黑色产业链。