标签: 推理

AI 企业 Day 0 出海,如何少走技术弯路?

AI 企业 Day 0 出海,如何少走技术弯路?

大量日活 Agent 超过 100 的企业放弃市面上成熟的 Agent 平台与框架,转而自研全栈基础设施,因为现有工具只能解决单点问题,而企业需要端到端的全球算力、推理成本优化、数据合规与商业化计费能力。GMI Cloud 近日升级品牌并发布 Agentbox 等三层产品线,试图用单一供应商解决这一“工程断层…

GateGPT:FPGA 上每秒 56k 个令牌,频率为 80 MHz

GateGPT:FPGA 上每秒 56k 个令牌,频率为 80 MHz

开发者 fguzman82 实现了一个名为 GateGPT 的项目,在 FPGA 上以 80 MHz 的频率运行小型 Transformer 模型,推理速度达到每秒 56k 个令牌。该项目的核心价值不在于跑赢 GPU,而在于展示了完全定制化硬件执行 AI 推理的可行性,以及机器人辅助开发 FPGA 的新工作流…

人工智能夺走一切之后

人工智能夺走一切之后

Hacker News 上关于 AI 夺走工作的讨论,重新点燃了“卢德运动”的历史隐喻——当时工人砸机器争取基本权利,如今创作者和开发者担心 AI 公司会像当年资本持有者一样,通过技术控制劳动价值分配,而问题核心已不是机器替代人,而是“谁来分享收益”。