用于本地LLM的最小边缘AI设备

Tiiny AI 发布了一款面向本地大语言模型运行的最小边缘 AI 设备,主打在无云环境下完成推理任务。它的意义在于把 AI 推理从数据中心推向终端硬件,为隐私敏感与离线场景提供了新的轻量级选择。

Tiiny AI 发布了一款面向本地大语言模型运行的最小边缘 AI 设备,主打在无云环境下完成推理任务。它的意义在于把 AI 推理从数据中心推向终端硬件,为隐私敏感与离线场景提供了新的轻量级选择。

迪拜商会启动了一项为期两年的 agentic AI(智能体 AI)培训计划,覆盖旗下超过 1.4 万家企业,目标是让迪拜在 2028 年前成为全球商业采用智能体 AI 的领先城市。这是目前政府层面针对 AI agents 最大规模的企业推广行动之一,但技术成熟度与安全性仍是关键变量。

AMD 在 IFA 2026 上集中发布了面向“个人智能体 AI”的下一代硬件方案,包括 Strix Halo、Gorgon Halo 芯片和 96 核 Threadripper Halo Station,并联合微软发布开发者项目 Project Zenith,推动大模型从云端走向本地设备。

微软和xAI在美国多个州因数据中心噪音、振动及污染问题接连被起诉,目前已有至少六起类似案件。争议焦点不仅在于居民受到的实际干扰,更暴露出行业普遍采用的dBA噪音标准可能无法有效衡量AI算力设施产生的低频噪音。

AMD Ryzen AI Max+ PRO 495 处理器开始进入新一代迷你主机,Acemagic、GMKtec、Framework 先后展示搭载该芯片、最高可选 192GB 统一内存的产品。这类设备的目标是将以往需要云端集群才能运行的 300B 参数级大模型,压缩到桌面级硬件上本地推理。

Arm CEO Rene Haas 在 BBC 采访中表示,AI 将在我们这一代人中帮助找到人类无法独自发现的癌症疗法,但他同时警告,数据中心建设所需芯片的短缺正在拖慢 AI 的扩张速度。

英特尔最新报告显示,六成大型企业计划在未来五年内部署机器人团队,但仅有四成企业具备相应的人机协作战略,职场机器人正从概念走向落地,却仍面临显著的准备缺口。

该报错在 llama.cpp 的 SYCL 后端下,发送第二个 prompt 时触发,表现为输出乱码。核心诱因是模型权重中包含大量 Q2_K 量化张量,它们在特定 batch 大小下触发了 SYCL 的 reorder 路径缺陷,可优先尝试通过设置环境变量 GGML_SYCL_ENABLE_OPT=

红帽团队开源了一款名为 ripwire 的代码上下文工具,号称是“AI 时代的 ripgrep”。它能在不到半秒内为编程 Agent 生成代码库的调用关系图谱,相比传统 grep 加读文件的模式可节省最高数百倍的 token 消耗。

有开发者反映 OpenAI 的 API 在高峰期可能出现“静默降级”——请求被从 GPT-6 路由到较低版本模型,但响应质量下降的原因尚未被官方证实。这件事之所以值得关注,是因为模型路由的透明性直接影响开发者对 AI 应用的信任与调试成本。