NVIDIA发布TensorRT Model Connect公共预览版：两行命令将Hugging Face检查点转为原生C++推理
NVIDIA 推出 TensorRT Model Connect 公共预览版，开发者只需两条命令即可将 Hugging Face 上的模型检查点转换为原生 C++ 推理引擎，省去了手动编写优化代码的环节。
celebrityanime
[Krea-2] `enable_gqa` + `attn_mask` produces high usage of VRAM
![[Krea-2] `enable_gqa` + `attn_mask` produces high usage of VRAM](https://www.chat-gpts.plus/wp-content/uploads/2026/08/14518-5ee4eb67-768x403.jpg)
该报错发生在 Diffusers 加载 Krea-2 模型并启用 GQA 与注意力掩码（attn_mask）时，SDPA 会静默回退到 math 后端导致显存占用飙升。优先排查是否通过 monkey-patch 扩展 K/V 头后，显存占用即可恢复至正常水平。
蚂蚁阿福发布医生端服务战略全景:从基层到三甲，做好医生的AI好帮手
蚂蚁阿福在8月19日中国医师节发布医生端服务战略全景，面向从村医到三甲医生的不同群体推出AI助手，其“数字家庭医生”已在40多座城市服务超500万居民。这标志着互联网平台正将AI能力系统性地嵌入基层医疗与临床工作流，而非停留在通用问答层面。
腾讯吐司上线App上架能力，打通AI应用开发与分发
腾讯应用商店旗下的 AI 应用生成平台“腾讯吐司”上线了“发布应用”能力，让开发者用自然语言生成安卓应用后，可直接在平台内完成软著申请、备案和合规材料生成，并一键提交上架。这意味着 AI 应用开发到分发的链路首次被完整打通。
智谱 GLM-5.3 API 重磅上线：AA指数斩获 60 分并列开源第一，权重将于下周五开源
智谱今日上线 GLM-5.3 API，在 AA 综合智能指数中拿到 60 分，追平闭源旗舰并并列开源第一；官方确认下周五开放模型权重，继续走开源路线。
bilibili这集北航 90 后副教授何静讲的人工智能第一课，确实够直白。“3 岁小孩都能听懂”，还真不是夸张。 B 站上有何静这样的Up主持续分享，难怪口碑越来越好。甚至有人开始说超越了油管。不管怎么样，国内想学 AI 的人也有福了，不用翻墙去油管。 https://t.co/j4PJmHfjO4
北航90后副教授何静在B站发布的人工智能入门课程因“通俗直白”出圈，单条视频获近12万次观看，引发关于国内AI科普内容生态与YouTube差距的讨论。
可能很多人不知道，现在全网最便宜的 DeepSeek 供应商，是中国科技部牵头做的国家超算互联网🫡 国家超算互联网 SCNet 有一个 Token Plan，最低30 块钱一个月给 60000 Credits。 拿来跑 V4-Flash，缓存命中只要 0.012 元 / 100万 Token，未命中输入 0.6 元，输出 1.2 元。 对比 DeepSeek 的梁文峰价格，便宜了 8.3 倍、5 倍和 7.5 倍。 也就是说，30 块…
国家超算互联网平台（SCNet）以远低于 DeepSeek 官方 API 的价格提供 DeepSeek 模型服务，最低 30 元/月即可获得大量 Token 额度，相当于国家级算力基础设施在给开发者“补贴”模型调用成本。
[Bug]: MTP spec decode still advances the grammar matcher after termination when a structural tag is built (residual after #44297)
![[Bug]: MTP spec decode still advances the grammar matcher after termination when a structural tag is built (residual after #44297)](https://www.chat-gpts.plus/wp-content/uploads/2026/08/52767-d83cfbd1-768x403.jpg)
该报错通常发生在同时开启 MTP 投机解码（speculative decoding）与工具调用结构化标签（structural tag）时，语法匹配器在终止后仍被推进。优先排查 VLLM_ENFORCE_STRICT_TOOL_CALLING 环境变量是否在服务进程启动前设置，或临时关闭 --sp
[Bug]: Native MTP speculative decoding degenerates into garbage token loops on deep agentic conversations (Qwen3-MoE)
![[Bug]: Native MTP speculative decoding degenerates into garbage token loops on deep agentic conversations (Qwen3-MoE)](https://www.chat-gpts.plus/wp-content/uploads/2026/08/47087-d5d5041b-768x403.jpg)
该报错发生在 vLLM 0.23.0 使用 Qwen3-MoE 模型（如 Qwen/Qwen3.6-35B-A3B）启用原生 MTP（Multi-Token Prediction）投机解码时，深层对话场景下部分轮次会退化为输出垃圾 token 的死循环。优先排查方法：直接移除 --speculati
脑子是浆糊吗？ 用着顶级AI却不知道做什么？ 随便就列出那么多可做的。 1.做浏览器插件 2.做在线小工具站 3.做垂直微SaaS 4.做AI垂直工具API 5.卖模板UI套件 6.写技术电子书 7.做技术测评视频录屏加讲解 9.做开源项目变现 10.做录播课程 11.做简历优化服务程序 12.做爬虫与数据服务 13.做DevOps即服务 14.做独立小游戏 15.做自动化工作流 16. AI短剧视频 17. 开发网站/软件 18.各…
开发者“领哥LingGe”在 X 平台公开列出 20 条 AI 落地变现路径，从浏览器插件到量化交易全覆盖，本质是回应“手握顶级模型却无处下手”的普遍焦虑。这件事之所以值得关注，是因为它把 AI 创收从宏大叙事拆解成了普通人可以逐条执行的具体项目清单。