标签： 算力

The great privacy revolt: people are pushing back against the glasses that record, the earbuds that eavesdrop and the TVs watching our lives — here’s what we can do about it, according to an AI research CEO and a digital rights advocate

The great privacy revolt: people are pushing back against the glasses that record, the earbuds that eavesdrop and the TVs watching our lives — here’s what we can do about it, according to an AI research CEO and a digital rights advocate

LG电视、Nothing耳机、Meta眼镜近期接连被曝出在用户“知情同意”之前就采集音视频信息，引发公众对AI硬件默认监视的反弹。数字权益人士指出，这是科技公司系统性地将“消费级监控”包装成潮流单品的一部分。

折腾AI、LLM、Agent或机器学习项目的时候，有一份现成的高频工具清单能省下不少试错时间。 我整理了30个开发者真正常用的开源仓库，按功能分好了，方便按需取用。 核心开发框架 LangChain — 构建AI Agent、RAG应用和LLM工作流的首选，生态最全 → https://t.co/rlblT8RkqG LlamaIndex — 把私有数据（文档、数据库、API）接到LLM，专攻RAG → https://t.co/fu…

折腾AI、LLM、Agent或机器学习项目的时候，有一份现成的高频工具清单能省下不少试错时间。 我整理了30个开发者真正常用的开源仓库，按功能分好了，方便按需取用。 核心开发框架 LangChain — 构建AI Agent、RAG应用和LLM工作流的首选，生态最全 → https://t.co/rlblT8RkqG LlamaIndex — 把私有数据（文档、数据库、API）接到LLM，专攻RAG → https://t.co/fu…

一条整理 AI/LLM/Agent 开发常用开源仓库的帖子在 X 上获得关注，作者按功能梳理了 30 个工具，覆盖框架、推理、向量数据库、前端 UI 等完整链路。对开发者来说，这是一份直接可用的技术选型参考，也侧面反映出当前开源 AI 工具链已经高度细分和成熟。

‘AI success will be defined not by how much infrastructure organizations own, but by how productively they use it’: Nvidia lays out its thoughts on how storage has become the next frontier of AI

'AI success will be defined not by how much infrastructure organizations own, but by how productively they use it': Nvidia lays out its thoughts on how storage has become the next frontier of AI

Nvidia 将 cuFile 存储接口及底层存储栈开源，并拉上 Google、Intel、Meta 等 40 多家厂商成立 Storage-Next 联盟，核心目标是让 GPU 绕过 CPU 直接管理存储 I/O，以解决 AI 推理中 KV Cache 带来的海量小数据读取瓶颈。

怪猜想：机器学习和深度学习目前已经事实上被LLM杀死了。没人搞什么线性回归各种回归、KNN、决策树、贝叶斯，甚至也没人写什么Tensorflow、Pytorch了。

怪猜想：机器学习和深度学习目前已经事实上被LLM杀死了。没人搞什么线性回归各种回归、KNN、决策树、贝叶斯，甚至也没人写什么Tensorflow、Pytorch了。

有AI从业者在社交平台提出，大语言模型（LLM）已让传统机器学习和深度学习开发方式“事实上被杀死”，相关技术栈需求骤减。这一论断虽属激进的个人观察，但确实触及了AI开发范式迁移的敏感点。

这看起来不太真实……但微软确实搞出来了！！ 一个100B参数的模型，单个CPU就能跑。 不用GPU，不用复杂配置，就是重写了底层的数学实现。 大部分人可能没留意到这个细节 传统的大语言模型用的是16位浮点数，每个权重都是一串小数，比如0.0023、-1.47这种。 推理的时候要做几十亿次浮点乘法运算，这就是为什么非得用GPU不可。 BitNet的做法完全不一样。 它不用浮点数，改用三元权重：{-1， 0， 1}。 这不是压缩，也不是优…

这看起来不太真实……但微软确实搞出来了！！ 一个100B参数的模型，单个CPU就能跑。 不用GPU，不用复杂配置，就是重写了底层的数学实现。 大部分人可能没留意到这个细节 传统的大语言模型用的是16位浮点数，每个权重都是一串小数，比如0.0023、-1.47这种。 推理的时候要做几十亿次浮点乘法运算，这就是为什么非得用GPU不可。 BitNet的做法完全不一样。 它不用浮点数，改用三元权重：{-1， 0， 1}。 这不是压缩，也不是优…

微软开源了基于 BitNet 技术的大规模语言模型，用三元权重（-1、0、1）替代传统浮点数，让 100B 参数模型能在普通 CPU 上运行，推理速度和能耗表现显著优于传统方案。