Kog 深挖 GPU,榨取更多推理性能

法国初创公司 Kog 正尝试用软件优化从企业现有的 GPU 中榨取更多 AI 推理性能,其演示达到了单请求 3000 tokens/秒的解码速度,但验证模型是仅 20 亿参数的小模型;这套方法能否在大模型上复制,是它下一步的关键考验。

法国初创公司 Kog 正尝试用软件优化从企业现有的 GPU 中榨取更多 AI 推理性能,其演示达到了单请求 3000 tokens/秒的解码速度,但验证模型是仅 20 亿参数的小模型;这套方法能否在大模型上复制,是它下一步的关键考验。

OpenAI和Anthropic正在大幅下调部分模型价格,以应对中国AI开发商(如DeepSeek、Moonshot)凭借低价开源模型争夺企业客户的竞争压力。这表明美国头部AI实验室正从单纯拼性能转向拼价格和成本效率。

阿里通义千问团队发布 Qwen3.8-27B 的 FP8 量化开源权重,这是目前同规模中能力最强的本地密集模型之一,在编程、智能体(Agent)任务上大幅超越前代,甚至部分基准超过顶尖闭源模型。

一个名为 APIMart 的聚合平台近日在 Hacker News 上展示,宣称能以折扣价转售 GPT-5、Sora 2 等模型的 API 接口。它引发的核心质疑是:低价究竟是来自合法渠道,还是靠共享订阅计划“拆包”赚差价。

HashAgent 把 AI Agent 打包成一个 URL,其他人点击链接即可在本地浏览器里运行,借助 WebGPU 完成推理,无需搭环境、传数据或付 API 费用,代表“可分享 AI 应用”的一种新分发方式。

AI Model Atlas 提供了一种将机器学习模型群体呈现为三维互联图谱的可视化方式,帮助开发者在模型数量爆炸式增长的当下更直观地理解生态全貌。

OpenAI 推出 GPT-5.6 Sol 的“Ultrafast”预览模式,输出速度最高达每秒 750 个 token,提速约 14 倍,由 Cerebras 的专用推理硬件驱动,初期仅面向部分 API 客户开放。

TechRadar 编辑使用 Anthropic 的 Claude(免费版 Sonnet 5,Medium 强度)在大约 5 分钟内生成了一款可玩的《Breakout》变种游戏,而一年前类似任务耗时数小时。这说明生成式 AI 的代码能力已经从“需要反复校正”进化到“一次成型交付”。

开源工具 cliclaw 让你通过 Telegram 消息同时驱动 Claude Code、Codex、Pi 和 Gemini 四个本地编码 CLI,并且为每个对话维护独立会话。它解决的是“多编码助手割裂使用”的实际痛点,值得关注。

Anthropic 的股票在二级市场已按高达 1.5 万亿美元的估值成交,一个月内上涨约 25%;但由于 IPO 临近,持有者几乎没有卖出意愿,市场处于严重的“有价无市”状态。