标签: ChatGPT

Show HN: 发现本地 LLM 退回到 CPU 运行

Show HN: 发现本地 LLM 退回到 CPU 运行

一个名为 picchio 的开源诊断工具,通过跑三个回合的推理并解析引擎日志,能够精准识别本地大模型是否真的在使用 GPU 推理,还是无声无息地退回到了 CPU 运行。它在 Apple M5 实测中发现,GPU 加速对解码阶段(写出答案的速度)仅有约 2 倍提升,但对预填充阶段(读提示的速度)提升高达 22…

2026年,人工智能(AI)概念股的表现远超大盘。以下是两只值得在本次财报季及之后股价进一步飙升前买入的优质个股

2026年,人工智能(AI)概念股的表现远超大盘。以下是两只值得在本次财报季及之后股价进一步飙升前买入的优质个股

尽管2026年AI板块受多种因素影响出现波动,但整体涨幅依然远超大盘(AI主题ETF年内涨23% vs 纳斯达克指数涨13%)。美银分析师认为AI基础设施建设将继续驱动市场,而英伟达和Celestica这两只年内相对疲软的股票,可能在即将到来的财报季迎来反弹契机。