用于本地LLM的最小边缘AI设备

Tiiny AI 发布了一款面向本地大语言模型运行的最小边缘 AI 设备,主打在无云环境下完成推理任务。它的意义在于把 AI 推理从数据中心推向终端硬件,为隐私敏感与离线场景提供了新的轻量级选择。

Tiiny AI 发布了一款面向本地大语言模型运行的最小边缘 AI 设备,主打在无云环境下完成推理任务。它的意义在于把 AI 推理从数据中心推向终端硬件,为隐私敏感与离线场景提供了新的轻量级选择。

AMD 在 IFA 2026 上集中发布了面向“个人智能体 AI”的下一代硬件方案,包括 Strix Halo、Gorgon Halo 芯片和 96 核 Threadripper Halo Station,并联合微软发布开发者项目 Project Zenith,推动大模型从云端走向本地设备。

微软和xAI在美国多个州因数据中心噪音、振动及污染问题接连被起诉,目前已有至少六起类似案件。争议焦点不仅在于居民受到的实际干扰,更暴露出行业普遍采用的dBA噪音标准可能无法有效衡量AI算力设施产生的低频噪音。

AMD Ryzen AI Max+ PRO 495 处理器开始进入新一代迷你主机,Acemagic、GMKtec、Framework 先后展示搭载该芯片、最高可选 192GB 统一内存的产品。这类设备的目标是将以往需要云端集群才能运行的 300B 参数级大模型,压缩到桌面级硬件上本地推理。

Arm CEO Rene Haas 在 BBC 采访中表示,AI 将在我们这一代人中帮助找到人类无法独自发现的癌症疗法,但他同时警告,数据中心建设所需芯片的短缺正在拖慢 AI 的扩张速度。

英特尔最新报告显示,六成大型企业计划在未来五年内部署机器人团队,但仅有四成企业具备相应的人机协作战略,职场机器人正从概念走向落地,却仍面临显著的准备缺口。

Saber Interactive 首席创意官 Tim Willits 在专访中为生成式 AI 辩护,称未来会出现“AI 界的《半条命 2》”级别的游戏来说服反对者。但该工作室 CEO 此前刚因“想用 AI 替代编剧”引发争议,这一表态更像业界对 AI 游戏化用处的“信心喊话”。

德国机器人公司 NEURA Robotics 与意大利嵌入式计算厂商 SECO 达成合作,由后者为其认知机器人(含 4NE1 人形机器人)设计并量产计算模块。模块将在欧洲制造,但核心芯片来自美国高通,这暴露了“欧洲物理 AI 主权”的真实边界。

vLLM 官方发布博客,公布了推测性解码在 AMD Instinct MI300X 和 MI355X GPU 上的实测结果。这项技术试图在不改变模型输出行为的前提下,让大模型推理不再一次只生成一个 Token,从而提升吞吐量,但它并非在所有模型和工作负载下都能稳定加速。

一位长期辅导企业高管的心理学家提出,AI 时代真正难被替代的能力不是算力或模型参数,而是情商——尤其是识别、命名和表达情绪的能力。她认为家长应该从小教孩子识别情绪,这比焦虑 AI 取代工作更有价值。