NVIDIA发布TensorRT Edge-LLM:几条命令在DGX Spark上跑边缘大模型

NVIDIA 推出轻量级 C++ 推理运行时 TensorRT Edge-LLM,开发者用 trtedge 命令行即可在 64GB 版 DGX Spark 上下载模型、构建 TensorRT 引擎并启动推理服务,目标是打通边缘 AI 的“开发在 Spark、部署在 Thor”链路。

NVIDIA 推出轻量级 C++ 推理运行时 TensorRT Edge-LLM,开发者用 trtedge 命令行即可在 64GB 版 DGX Spark 上下载模型、构建 TensorRT 引擎并启动推理服务,目标是打通边缘 AI 的“开发在 Spark、部署在 Thor”链路。

Wired 播客披露,一家国防承包商把基于 Claude 的 AI 智能体接入了五角大楼的安全系统,同期 Anthropic 正式递交 IPO 申请。这两件事叠加,让 AI 在政府场景中的权限边界和商业估值问题同时浮上台面。

Anthropic、OpenAI、Cloudflare 和 Google 都在 2026 年推出了能扫描源码漏洞的 AI Agent,四款产品不约而同采用“发现—独立反驳—确认后再修补”的分工流程。它们真正的差别不在思路,而在于运行环境、可用门槛和证据要求,这决定了谁能真正用上。

微软研究院与加州大学伯克利分校的研究团队发布开源成本控制器 TokenEconomizer,它从仓库的历史会话中学习,减少编程智能体在后续任务中的无效 token 消耗。在论文的 SWE-Bench 测试中,成本最高下降 30.9%。

在癫痫小鼠实验中,跑在 Claude Sonnet 5 上的 AI 智能体自行选定基因疗法、脑区和注射坐标,并操控手术设备完成注射;过程中它因检测到校准异常而拒绝继续,需要人工改代码才能恢复。值得关注的是,这展示了 AI 智能体从决策到执行的闭环能力,以及随之而来的对齐与安全边界问题。

OpenAI、Google、Microsoft 和 Anthropic 同意采用一种基于 robots.txt 的共享“策略令牌”,让出版商一次表达拒绝 AI 抓取训练的意愿,不再需要逐家设置。

Alphabet、亚马逊、Meta 和微软今年合计计划资本支出超过 7400 亿美元,主要用于 AI 数据中心与芯片;但随着自由现金流转负、债务上升,投资者开始质疑这些投入的回报,市场情绪从追捧转向担忧。

TechCrunch AI 在 10 月 30 日发布一份“最后一刻万圣节装扮”清单,把递归自我改进、AI 助手形象、Meta 眼镜和 PHP 漏洞变成低成本角色灵感,折射出 AI 行业话题正在进入大众文化。

开发者 Akshay 在 M5 MacBook Pro 上用 Qwen3.5 9B 实测,Mirai 开源引擎 uzu 引入 DFlash+Weaver 后,同一提示词的生成时间从 42 秒降到 11 秒,约为常规推测解码的 2.6 倍加速。这值得关注,因为它指向本地大模型长期受制于内存带宽这一瓶颈的解法。

威斯康星大学麦迪逊分校教授 Sharon Li 于 2026 年 10 月 30 日在社交平台发文,回应 AI 加速科学发现背景下博士生对个人路径的焦虑,并分享了一篇题为《Time in the Chaos》的博客文章,称其学生认为有帮助。