标签: 推理

GateGPT:FPGA 上每秒 56k 个令牌,频率为 80 MHz

GateGPT:FPGA 上每秒 56k 个令牌,频率为 80 MHz

开发者 fguzman82 实现了一个名为 GateGPT 的项目,在 FPGA 上以 80 MHz 的频率运行小型 Transformer 模型,推理速度达到每秒 56k 个令牌。该项目的核心价值不在于跑赢 GPU,而在于展示了完全定制化硬件执行 AI 推理的可行性,以及机器人辅助开发 FPGA 的新工作流…

人工智能夺走一切之后

人工智能夺走一切之后

Hacker News 上关于 AI 夺走工作的讨论,重新点燃了“卢德运动”的历史隐喻——当时工人砸机器争取基本权利,如今创作者和开发者担心 AI 公司会像当年资本持有者一样,通过技术控制劳动价值分配,而问题核心已不是机器替代人,而是“谁来分享收益”。

力擎智能

力擎智能

LYQN AI 于今日在 Product Hunt 正式发布,定位为一款自学习型 AI 客服代理,能够自动抓取企业网站内容、建立知识库并基于上下文回答用户问题,同时支持一键转接人类客服和 WhatsApp 连续对话。其核心卖点是“无需训练、即插即用”,并提供了两周免费试用期来降低企业采购门槛。

为什么马斯克每一手棋,永远都可以提前摆好?

为什么马斯克每一手棋,永远都可以提前摆好?

SpaceX 于 6 月 12 日登陆纳斯达克,募资约 750 亿美元,盘中市值一度站上 2 万亿美元。但这家公司真正值得关注的价值,不在于它“造了能回收的火箭”,而在于它用 24 年时间,精准地为每一代技术提前布局好了“内部客户”——从星链到现在的太空算力,每一步都是自产自销、以远见倒逼工程。