标签: 图像生成

这看起来不太真实……但微软确实搞出来了!! 一个100B参数的模型,单个CPU就能跑。 不用GPU,不用复杂配置,就是重写了底层的数学实现。 大部分人可能没留意到这个细节 传统的大语言模型用的是16位浮点数,每个权重都是一串小数,比如0.0023、-1.47这种。 推理的时候要做几十亿次浮点乘法运算,这就是为什么非得用GPU不可。 BitNet的做法完全不一样。 它不用浮点数,改用三元权重:{-1, 0, 1}。 这不是压缩,也不是优…

这看起来不太真实……但微软确实搞出来了!! 一个100B参数的模型,单个CPU就能跑。 不用GPU,不用复杂配置,就是重写了底层的数学实现。 大部分人可能没留意到这个细节 传统的大语言模型用的是16位浮点数,每个权重都是一串小数,比如0.0023、-1.47这种。 推理的时候要做几十亿次浮点乘法运算,这就是为什么非得用GPU不可。 BitNet的做法完全不一样。 它不用浮点数,改用三元权重:{-1, 0, 1}。 这不是压缩,也不是优…

微软开源了基于 BitNet 技术的大规模语言模型,用三元权重(-1、0、1)替代传统浮点数,让 100B 参数模型能在普通 CPU 上运行,推理速度和能耗表现显著优于传统方案。

生成式AI落地中的现实挑战

生成式AI落地中的现实挑战

生成式AI从技术演示走向生产部署,真正的门槛不是模型能力,而是算力成本、输出稳定性、数据安全与效果评测等现实问题。本次原始素材获取失败,但结合标题所指方向,这些环节正在成为行业关注的焦点。

Freeman Protocol — 构建AI并生存

Freeman Protocol — 构建AI并生存

Product Hunt 上出现了一款名为 Freeman Protocol 的产品,从标题看它试图为开发者提供“构建 AI 并生存”的思路。目前公开信息有限,但它的出现说明 AI 开发正在从纯技术问题,转向更多关于工具链、应用落地与开发者生存策略的探讨。

dear openai just make a new phone everyone wants openaiphone we can read 2-4x faster than we talk and speak openai alexa reachy hybrid is fine but pls just be a stepping stone to phone we want phone signed, everybody…

dear openai just make a new phone everyone wants openaiphone we can read 2-4x faster than we talk and speak openai alexa reachy hybrid is fine but pls just be a stepping stone to phone we want phone signed, everybody...

OpenAI 被曝正在开发一款形似甜甜圈、尺寸如冰球的人类化智能音箱,价格预计 300-400 美元;与此同时,知名开发者 Swyx 公开呼吁 OpenAI 直接做手机,认为音箱只是过渡品。硬件传闻与社区期待之间的落差,正在成为 AI 行业的新话题。

AI实验室该像危险动物的主人一样被对待吗?

AI实验室该像危险动物的主人一样被对待吗?

《经济学人》近期提出一个值得认真对待的治理思路:与其争论大模型是否具备人格或能力边界,不如先像管理危险动物主人那样,让AI实验室对其模型造成的损害承担严格责任。这个话题把AI安全讨论从“模型是否危险”转向“谁为损害负责”。