标签: 图像生成

用 AIPerf 大规模基准测试 LLM 推理

用 AIPerf 大规模基准测试 LLM 推理

NVIDIA 推出 AIPerf,作为 GenAI-Perf 的官方继任者,用于大规模测试大模型推理性能。它用多进程架构替代单进程方案,避免压测工具自身成为瓶颈,并支持 15 种以上端点类型和真实流量回放。

AI 安全话题进入主流 + ‘Hard Fork’ 告别 AMA

AI 安全话题进入主流 + 'Hard Fork' 告别 AMA

《纽约时报》播客栏目 "Hard Fork" 在一期名为 "AI 安全话题进入主流" 的节目中,完成了与听众的最后一次 AMA(你问我答)互动。AI 安全议题从技术圈内部讨论走向大众播客节目,本身说明这类话题已不再是小众工程师的关注点。