标签: 人工智能

CUDA out of memory

CUDA out of memory

该报错通常出现在 vLLM 把 --gpu-memory-utilization 调得很高(如 0.98)、同时启用 CUDA graph capture 的场景:启动时的显存检查通过并按估算值分配了偏大的 KV cache,随后真实的 CUDA graph capture 却因显存不足抛出 CUD

美军因 AI 幻觉情报报告险些拦截中国船只

美军因 AI 幻觉情报报告险些拦截中国船只

2026 年春季,美军一份由 AI 聊天机器人参与生成的情报报告误判一艘中东中国船只运载核武部件,军方一度准备登船拦截,行动前才发现报告“完全失实”。这件事把大模型幻觉从“答错问题”推到了“可能引发国家冲突”的层级。