Misc. bug: Can’t use longer context than model via RoPE due to server-imposed restrictions

当使用 --rope-scaling yarn --rope-scale 4 等参数试图扩展 llama-server 的上下文窗口时,llama-server 会检查模型元数据中的原始 context_length,并强制把上下文截断回训练长度(如 4096),导致长上下文请求失败。优先排查方向是

当使用 --rope-scaling yarn --rope-scale 4 等参数试图扩展 llama-server 的上下文窗口时,llama-server 会检查模型元数据中的原始 context_length,并强制把上下文截断回训练长度(如 4096),导致长上下文请求失败。优先排查方向是

该报错发生在 llama.cpp 新版本中启用 MTP(Multi-Token Prediction)头部加载 Gemma 4、Qwen 等模型时,模型加载阶段因资源分配或参数断言失败而崩溃。优先排查 llama.cpp 构建版本是否包含修复提交 73159c3(PR #28183),并尝试更新到该

llama-server 在 token 生成(decode)阶段出现 CPU 占用高、GPU 占用低的现象,通常不是 bug,而是模型加上下文所需显存超出显卡 VRAM 容量,导致权重或 KV Cache 溢出到系统内存所致。优先排查启动日志中模型权重的加载位置,并尝试降低上下文长度(-c)使模型

YC 孵化的 Nori Robotics 发布了一款售价 1688 美元的类人机器人 NORI A3,预计 2026 年秋季发货,试图以低成本进入家庭和开发场景。

有开发者在 Codex 本地运行环境中发现了完整的 LibreOffice 依赖包,这意味着 OpenAI 正在为 AI 智能体直接读写文档、表格和演示文稿提前铺好底座——这不是聊天功能的小升级,而是代理式 AI 处理办公文件的基建动作。

一款名为 Weedout 的 Safari 扩展程序出现在 Hacker News,它可以自动隐藏 YouTube 中被标记为“AI 生成”的视频。这件事的看点在于,它把内容筛选的主动权交还给了用户,反映出 AI 生成内容在主流平台的渗透已经到了需要“过滤”的程度。

苹果在针对 OpenAI 的商业机密诉讼中披露了新证据,指控前员工刘先生下载机密电路图、在 OpenAI 工作中使用,并在得知调查后试图销毁证据。这起案件正在成为 AI 人才流动与商业机密保护之间的标志性冲突。

开发者开源了一款名为 Lieflat Charts 的 AI Agent 专用图表生成 skill,让 Claude Code、Codex 等工具在写代码的同时也能产出审美统一的专业图表,上线后已在 GitHub 获得 2k star。

拥有 12.29 万次浏览的博主 @wangchangfu88 发布了一条“中国年轻人真正出路”的十条清单,将 AI 工具使用、英语能力、海外身份与个人资产配置并列,引发了关于个人发展路径与 AI 时代技能组合的激烈讨论。

AI 生成的男同题材成人短剧《占有成瘾》在 X 平台走红,单条推文获得超 15.8 万次浏览。这标志着 AI 视频生成正在快速渗透细分内容赛道,但版权与内容合规风险也随之而来。