transformers 支持直接加载 GGUF 量化模型,本地推理性能接近 llama.cpp

Hugging Face 让 transformers 库可以直接加载 llama.cpp 的 GGUF 量化模型,用熟悉的 from_pretrained API 就能在本地跑推理,性能接近 llama.cpp。

Hugging Face 让 transformers 库可以直接加载 llama.cpp 的 GGUF 量化模型,用熟悉的 from_pretrained API 就能在本地跑推理,性能接近 llama.cpp。

菜鸟网络在半年内把 AI 生成代码占比从约 10% 推到 90% 以上,但需求交付周期只缩短了约 10%。这暴露了 AI 提效的真实瓶颈:编码只是研发链路的一小段,真正的提速要靠 Agent 托管需求澄清到部署的全流程。

快手电商技术团队在 AICon 2026 深圳站分享了分销增长 Agent 的完整落地路径:从 AIGC 邀约等单点工具,到托管形态,再到基于 Multi-Agent 的"经营大脑"。它值得关注的地方在于,这是一次把"AI 工具"推向"AI 数字员工"的规模化验证,方向与淘天、1688、抖店等平台一致。

Meta 把内部打磨了八年的 React 设计系统 Astryx 以 MIT 协议开源,明确把 AI Agent 当作一等用户,提供了 CLI 和 MCP 工具链。这意味着前端组件库的消费对象,正在从人类工程师扩展到 AI 编程助手。

Wired 最新梳理指出,ChatGPT、Claude、Gemini 等主流 AI 聊天机器人默认会收集并存储用户的私密对话,而一批主打隐私保护的新工具和企业级“零数据留存”(ZDR)政策正在试图提供替代方案。这关系到每个人把多少私人信息交给了大模型。

奥地利科学院联合法国 AI 实验室 Mistral 与技术服务公司 Sail Reply,发布了号称全球首个古希腊语大模型 Apollo,训练语料约 6 亿词,旨在帮学者更快识别和补全破损纸草文献。它不会改写古代史的大结论,但可能把大量琐碎史料的整理效率往前推一大步。

Vercel CEO Guillermo Rauch 在 X 上称,他用 Grok 4.7 处理一个涉及对运行中二进制文件做逆向工程的难题,结果被"漂亮地解决",且速度很快。这条评价把 Grok 4.7 的推理与代码能力,和它在 Vercel AI Gateway 上的商用落地放在了同一时间窗口。

Y Combinator 总裁 Garry Tan 在 X 上公开表示,AI 编程工具 Capy 能追踪多步骤工作流、更快完成大型 PR,速度超过 Codex 和 Claude Code,并称其为最近一周最常用的"agentic coding 秘密武器"。

Replit CEO Amjad Masad 在 X 上称 AI 正在让“美国梦”重新焕发生机,并转发了开发者 Jon Cheney 用 400 美元在 Replit 上做出 GenAIPI、六周收入 18 万美元的案例。这条推文引发的讨论,比案例本身更值得看。

ChatGPT Finances 产品负责人 Ethan 分享了一个真实案例:他用积分预订酒店后仍被重复扣款,ChatGPT 主动发现这笔漏掉的账单并协助与客服沟通,最终拿回退款。这说明 ChatGPT 正从“回答问题”走向“替用户办事”的财务场景。