​27B大模型塞进iPhone!苹果看中AI压缩黑科技:体积缩到十四分之一,速度还快 8 倍

苹果正在与加州理工孵化的AI初创公司PrismML洽谈,评估其原生1-bit模型压缩技术。该技术能将大模型体积压缩至原来的十四分之一,同时推理速度提升最多8倍,能耗降低75%-80%,已在iPhone 17 Pro上完整运行了阿里开源的27B参数模型Qwen 3.6。

​27B大模型塞进iPhone!苹果看中AI压缩黑科技:体积缩到十四分之一,速度还快 8 倍

一句话看懂:苹果正在与加州理工孵化的AI初创公司PrismML洽谈,评估其原生1-bit模型压缩技术。该技术能将大模型体积压缩至原来的十四分之一,同时推理速度提升最多8倍,能耗降低75%-80%,已在iPhone 17 Pro上完整运行了阿里开源的27B参数模型Qwen 3.6。

事件核心:发生了什么

据科技媒体The Information报道,苹果正与AI初创公司PrismML进行谈判。PrismML的核心突破是一种原生1-bit模型压缩技术,与传统的量化方案不同——传统方案通常保留多比特权重,而PrismML将权重仅用-1和+1表示,结合分组缩放因子进行计算。这从架构层面重新定义了模型的存储和推理方式。该技术声称不包含传统量化中常见的“高精度逃生通道”(即保留部分关键层高精度以补偿性能损失),但在完全使用1-bit权重的情况下,仍能维持接近FP16模型的精度。最关键的实证是,PrismML已成功将阿里巴巴开源的大语言模型Qwen 3.6(27B参数)完整运行在iPhone 17 Pro上,这在传统方案下几乎不可能实现。

为什么重要

此举意味着苹果可能在端侧AI能力上实现重大突破。目前iPhone上的AI模型规模和功能受限于内存和功耗,如果PrismML的压缩技术能够落地,iPhone将无需增加硬件成本即可运行更大规模的模型,实现更复杂的多轮对话、图像理解和智能体任务编排。这直接关系到苹果Apple Intelligence生态的竞争力。当旗舰级大模型也能在智能手机上本地运行时,端侧AI与云端AI之间的平衡可能被重新定义。

对用户/开发者/创作者的影响

对于普通用户,未来iPhone上的AI功能可能更强大、响应更快,且无需联网或付费使用云端算力。对于iOS开发者,端侧AI能力的提升意味着可以在本地集成更复杂的AI功能,减少对远程API的依赖,降低延迟和用户隐私顾虑。对于AI开源社区,PrismML的成功案例表明,像Qwen这样的开源模型在端侧落地具有可行性,可能推动更多开发者基于开源模型进行端侧应用创新。对于AI创作者,本地运行大模型意味着文本生成、图像理解等任务可以脱离云端,在无网络环境下完成,数据安全性也更高。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

首先,苹果与PrismML的谈判是否最终达成合作以及技术能否量产,是最大的不确定性。目前公开信息显示,双方尚处于评估阶段。其次,其他手机厂商如三星、华为是否也会跟进1-bit压缩技术,将影响端侧AI的竞争格局。最后,该技术对模型训练的影响也需要观察——1-bit量化通常对模型训练过程有特殊要求,这意味着开发者可能需要针对性地调整训练方案,才能最大化压缩效果。

来源:AIbase

celebrityanime
celebrityanime
文章: 12244

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注