标签: AI应用

RuntimeError: CUDA failed with error invalid argument`

RuntimeError: CUDA failed with error invalid argument`

用户在使用 faster-whisper 配合 FastAPI 搭建多 GPU 转录服务时,试图在 4 块 GPU 上分别加载模型,并通过一个异步队列分配推理任务。初始几轮请求(约 8 次)正常返回 200 响应,随后出现约 50% 的请求失败,伴随 RuntimeError: CUDA faile