标签: 算力

小红书发布大模型新架构 PIPO

小红书发布大模型新架构 PIPO

小红书技术团队提出了名为 PIPO 的大模型推理架构,通过“成对输入、成对输出”的设计,在保持模型推理质量的同时,将首字延迟(TTFT)加速最高 2.64 倍,逐 token 生成速度(TPOT)加速最高 2.07 倍。这一做法直接回应了长链推理场景下日益突出的效率瓶颈。

三星开发4nm AI PC专用芯片“GAIA” 已向联想、惠普供样测试

三星开发4nm AI PC专用芯片“GAIA” 已向联想、惠普供样测试

三星电子系统LSI部门正在开发一款名为“GAIA”的4nm制程AI PC专用NPU芯片,目前已向联想、惠普等厂商提供原型样机进行性能验证,计划最早2027年量产。这款芯片并非替代主处理器,而是定位为独立AI计算模块,并与下一代存储器技术(PIM)深度整合,试图在AI PC竞争中走出一条“存储为中心”的差异化路…