标签：推理

全栈 NIM 优化如何在 Nemotron 3 Ultra 上带来 2.5 倍的用户量

NVIDIA 公布 Nemotron 3 Ultra 模型在 NIM 全栈优化后的推理测试结果，在 4 张 B200 上系统吞吐从 718 tok/s 提升到 1997 tok/s，同一交互延迟下可支撑约 2.5 倍并发用户。

GitHub 为 Actions 缓存新增 cache-mode 控制能力，允许在 workflow 或 job 级别精确授予 read、write、write-only、none 四种缓存权限，并已在全平台正式可用。这让 CI/CD 流水线可以按最小权限原则访问缓存，降低缓存投毒风险。

英伟达与 Palantir 联合推出“主权 AI”技术栈，首个客户是英伟达自己，用它管理单机架 130 万个零部件的供应链。产品打的是“数据主权”，但分析层、模型和算力仍由两家美国公司掌控。

NASA 与 IBM 联合发布开源月球基础模型，可识别月面冰层区域和陨石坑，并同步开放一个包含超两百万数据点的多源配准数据集，供研究者自行训练模型。

美国陆军与国防科技公司 TERN 签下 1126 万美元合同，把不依赖 GPS 的 AI 导航与车辆健康系统装上车，目标是 GPS 被干扰或断网时车辆仍能定位、行驶和维护。

KB Securities 最新报告判断，内存芯片市场可能在 2027 年走向严重供应短缺，三星和 SK 海力士的内存库存已降至不足 10 天，而 AI 基础设施建设是主要推手。

以空气炸锅闻名的 Cosori 推出了一款 299.99 美元的滴滤咖啡机 Juni，用机械结构模拟手冲咖啡师的注水动作，并用 AI 扫描咖啡豆包装自动生成冲泡参数。这是 AI 从"生成内容"走向"控制物理设备"的一个具体案例。

蚂蚁阿福 App 在 9 月 10 日上海外滩大会健康产业论坛上宣布，用户数已达 1.5 亿、日均健康咨询近 2000 万次，并将健康服务从体重管理扩展到运动、饮食、睡眠、心理和体重五大场景，首页新增"健康"入口。

2026 Inclusion·外滩大会主论坛上，作家刘震云与香港大学计算与数据科学学院院长马毅同台讨论AI，两人判断并不悲观：AI擅长处理人类积累的"共性"知识，但难以替代个体的独特判断与情感连接。

上海浦东新区人民法院近日对上海首例 AI 声音仿冒及不正当竞争案作出一审判决，认定一款 AI 变声软件未经授权使用《原神》角色语音训练模型并牟利，判令其停止侵权并赔偿米哈游 75 万元。这为 AI 语音克隆划定了一条更清晰的合规红线。