Perplexity 将开源专为 Apple Silicon 打造的更快 Lily AI 引擎

Perplexity 自研了一款面向 Apple Silicon 芯片的本地 AI 推理引擎 Lily,宣称比现有方案更快,并计划开源。目前代码尚未放出,实际性能仍待第三方验证。

一句话看懂:Perplexity 自研了一款面向 Apple Silicon 芯片的本地 AI 推理引擎 Lily,宣称比现有方案更快,并计划开源。目前代码尚未放出,实际性能仍待第三方验证。

事件核心:发生了什么

Perplexity 宣布开发了一款名为 Lily 的本地 AI 推理引擎,专门针对 Apple Silicon 芯片以及 Qwen3.6-35B-A3B 模型进行了优化。该引擎基于 Rust 运行时和自定义 Metal 内核构建,其执行路径中不包含 PyTorch 和 MLX 框架。Perplexity 声称,在配备 128GB 统一内存的 M5 Max MacBook Pro 上,Lily 的提示处理速度平均比 MLX-LM 快 23%,令牌生成速度快 35%。公司计划将 Lily 开源,但截至目前代码尚未对外发布,其性能数据仍依赖于内部测试结果。

为什么重要

这一消息的意义在于它展示了 AI 推理引擎走向“高度专用化”的另一种可能路径。当前主流方案大多依赖 PyTorch 或苹果的 MLX 框架,而 Perplexity 选择通过 Rust 与 Metal 直接调用 GPU 能力,相当于对硬件底层做了深度定制。这种做法的代价是支持的模型范围较窄——Lily 目前只针对特定模型架构优化,远不如 MLX-LM 那样“通用”。但若其性能数据在开源后得到复现,则可能激励更多开发者针对特定芯片和模型组合去构建更高效的推理工具,从而推动本地大模型应用在 Mac 生态中的普及。

对用户/开发者/创作者的影响

对普通用户而言,如果 Lily 的加速效果真实可用,未来在 Mac 上运行大模型应用时可能会有更快的响应速度,尤其是长文档处理、代码补全等对“提示处理”速度敏感的场景。对开发者和 AI 应用厂商来说,Lily 开源后提供了一种新的技术参考:如何绕开 PyTorch 等重框架,用底层编程语言直接榨取 Apple Silicon 算力。那些不需要跨平台兼容、专注于苹果硬件产品的 AI 工具开发者,有望从中获得性能提升的思路。不过,由于当前代码尚未公开,普通开发者暂时无法评估其接入成本与稳定性。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

目前公开信息显示,Perplexity 尚未公布具体开源时间表和许可证类型,这是最直接的下一步观察点。其次,Lily 的性能是否能在 M 系列其他芯片(如 M4 或入门级 M5)上保持优势同样值得留意——毕竟 12 万以上内存的顶配 MacBook Pro 并非大多数用户的实际硬件配置。此外,苹果官方如果持续迭代 MLX 框架,Lily 与 MLX 之间的性能差距是否会缩小,也会影响开发者是否愿意投入迁移成本。

来源:Slashdot

celebrityanime
celebrityanime
文章: 21660

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注