分类: AI 工具排错

Tiered context length can exhaust VRAM

Tiered context length can exhaust VRAM

此报错通常发生在 Ollama 0.15.5 及以上版本,自动根据显存设置默认上下文长度(Tiered context length)后,未考虑并行数( OLLAMA_NUM_PARALLEL ),导致显存溢出、模型被迫使用系统内存/交换分区而性能骤降。优先排查方式是显式通过 OLLAMA_CONT