标签: 人工智能

让 AI 直接上手玩:交互式评测如何把坏应用修好

让 AI 直接上手玩:交互式评测如何把坏应用修好

一项名为 Interaction-as-a-Judge 的研究提出让 computer-use agent 直接操作运行中的网页、桌面应用和游戏,用交互过程来评估和修复 AI 生成的交互式应用。相比只读代码的评测方式,该方法在预测人类偏好和验证需求上均有提升,还能在推理阶段以更高比例修复损坏功能。

Eval bug: Loading a draft model crashes with “invalid vector subscript” when the target model has filled the GPU (NaN in `splits` → `devices

Eval bug: Loading a draft model crashes with "invalid vector subscript" when the target model has filled the GPU (NaN in `splits` → `devices

这个报错通常出现在 llama.cpp 先加载已占满显存的目标模型、再加载 draft(草稿)模型做投机解码时;底层原因是显存空闲量读到 0,导致 splits 归一出 NaN, devices.at() 越界。优先排查目标模型是否已经把显卡显存吃满,并尝试用 -ts 1 绕过按空闲显存切分的代码路