Misc. bug: web UI unavailable when running the docker server vulkan image

用户在 Linux 上使用 podman 或 Docker 运行 llama.cpp 的 server-vulkan 镜像(版本 9501),启动容器后通过浏览器访问 http://localhost:10000/ 时,Web UI 不可用,仅返回 JSON 错误。该问题也影响 full-cuda
先解决问题,再了解资讯。选择你现在要完成的任务。

用户在 Linux 上使用 podman 或 Docker 运行 llama.cpp 的 server-vulkan 镜像(版本 9501),启动容器后通过浏览器访问 http://localhost:10000/ 时,Web UI 不可用,仅返回 JSON 错误。该问题也影响 full-cuda

用户在 Apple MPS 后端(Apple Silicon 芯片)上运行 diffusers 中的 bitsandbytes 量化功能时,尝试加载量化模型(如 FLUX.2-dev 的 4-bit 版本),diffusers 拒绝使用量化,因为当前的 GPU 检测逻辑不支持 MPS。

全球高性能算力竞争加剧,国产自研超算夺得算力榜首,覆盖芯片、存储、液冷散热全产业链。同时,英伟达、谷歌等巨头同步推进AI液冷技术路线,带动A股算力硬件板块走热,6月以来116只相关概念股平均上涨19%。

中信建投证券发布研报,建议投资者关注“物理AI”领域的低位配置机会,认为该方向是人工智能技术走向实体产业的关键路径,目前仍处在早期布局阶段。

印度首富穆克什·安巴尼旗下的信实工业正大力押注深科技,尤其是人工智能领域,但其庞大计划暴露出印度在算力、基础设施和高端人才上的结构性短板。这一动向不仅关乎一家企业的战略,更折射出印度作为全球科技后发者,在AI竞赛中面临的真实瓶颈。

微软正在加速摆脱对OpenAI模型独家依赖,转向自主研发与多模型并行的AI策略。这一调整影响其产品路线、云计算竞争格局,以及数百万开发者和企业用户的AI工具选择。

视频流媒体平台Rumble于6月17日完成对Northern Data的收购,正式转向AI基础设施业务(数据中心与GPU租赁)。然而,其高达31.8倍的市销率、加密关联风险以及激烈的市场竞争,使其股价前景充满不确定性。

存储芯片巨头美光(Micron)与移动芯片龙头高通(Qualcomm)相继发布超出市场预期的财务预测,直接引爆了全球AI芯片相关股票的集体飙升,带动板块市值单日增长约4000亿美元,标志着AI芯片需求从训练侧加速向推理侧与终端侧扩散。

中金公司发布研报认为,随着AI芯片功率密度飙升,传统风冷散热已达瓶颈,未来高端AI服务器可能采用“金刚石热沉+全液冷”的复合散热方案,以实现更高效的芯片级散热。这指向AI硬件产业链中散热环节的技术升级方向。

四名辍学的00后开发者打造了一款程序员群体广泛使用的AI软件,随后以约600亿美元的总价值出售给埃隆·马斯克。这一交易不仅刷新了AI初创公司的估值纪录,也凸显了开发者工具在AI商业化浪潮中的战略价值。