标签: 算力

纯C实现的Microgpt在Apple m5上达到10M tps

纯C实现的Microgpt在Apple m5上达到10M tps

有开发者使用纯 C 语言实现了一个微型 GPT(Microgpt),据称在 Apple M5 芯片上跑出了惊人的 1000 万 tokens/秒(10M tps)推理速度。这一数据若属实,将大幅刷新人们对端侧大模型推理效率的认知,也再次引发关于“算法效率比堆算力更重要”的讨论。

时空循环人工智能

时空循环人工智能

Cronloop AI 在 Product Hunt 上线,定位是“时空循环”概念下的 AI 工具,试图用循环反馈机制处理时间序列或重复性任务。目前公开信息有限,产品形态和实际能力仍需观察。