Show HN: Omni – 基于本地文件的、采用物理隔离的 macOS 多模态搜索

Show HN: Omni – 基于本地文件的、采用物理隔离的 macOS 多模态搜索

Show HN: Omni – 基于本地文件的、采用物理隔离的 macOS 多模态搜索

一句话看懂:开发者 hanxiao 发布了 Omni,一款专为 Apple Silicon Mac 设计的本地多模态语义搜索应用。它能够将个人电脑中的各类文件(文档、代码、PDF、图片、音频、视频)嵌入统一的向量空间,通过语义而非文件名进行搜索,且整个索引与搜索过程完全离线运行,实现了物理级的数据隔离。

事件核心:发生了什么

Omni 是一个开源 macOS 应用,利用 jina-embeddings-v5-omni 模型的 MLX-Swift 原生移植版本,在 Apple GPU 上运行。它提供 Nano(约 1.9 GB)和 Small(约 3.1 GB)两种模型尺寸。用户首次启动时下载模型,此后所有操作均在本地完成,即使切断网络(Airgap)也能正常工作。

安装后,用户可指定文件夹(如文档、下载、桌面)进行索引。Omni 会增量式地处理文件变化,通过先并发解码、后串行 GPU 嵌入的管道提升吞吐量。搜索时,交互式查询请求优先级高于后台索引任务,确保响应流畅。嵌入向量以 bf16 格式本地存储,并利用 MLX 的优先级门控机制实现多任务调度。

项目代码已开源在 GitHub,并提供了经过公证的 DMG 安装包。开发者在验证报告中披露,其 MLX-Swift 编码器在文本向量上与 Python 参考基准的余弦相似度达到 >=0.999,图像、视频、音频通道也能在相同预处理输入下达到接近 1.0 的准确度。

为什么重要

Omni 的价值在于它提供了一种将多模态大模型(MM-LLM)能力真正“本地化”和“安全化”的实践路径:

第一,它彻底消除了传统云端搜索或 RAG 方案中的数据外泄风险。通过物理断网运行,Omni 满足了企业合规、个人隐私和高敏感场景(如医疗、法律文档)对数据完全不出本地的刚性需求。第二,它展示了 Apple Silicon 生态中本地 AI 推理的性能潜力。Omni 利用 Apple GPU 和 Metal 技术栈(通过 MLX-Swift)而非常见的 Python 或服务器框架,实现了纯客户端的全模态搜索,为 macOS 原生 AI 工具的开发设定了新标杆。第三,它打破了多模态搜索长期依赖云端 API 或复杂本地服务的局面,将“用意思搜索本地文件”这件事从一个实验性功能,变成了一个可安装、可使用的成品工具。

对用户/开发者/创作者的影响

对普通用户:如果你拥有 Apple Silicon Mac 且系统为 macOS 14 或更新版本,可以直接下载使用。它非常适合用于检索本地的大量文件、笔记、截图或录制的音频片段,无需再忍受系统原生“聚焦搜索”对文件内容理解不足的问题。由于完全离线,它也是追求数据隐私的用户的理想选择。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对开发者:该项目最大的学习价值在于其技术架构——从 MLX 模型的 Swift 移植、Metal Shader 编译、增量式文件索引管道,到利用系统 TCC 权限管理文件访问,甚至包括 macOS 应用的签名和公证流程,都为同类本地 AI 应用的开发提供了可复用的参考。开发者可以通过 OmniKit 库将引擎嵌入到自己的 SwiftUI 应用中。

对内容创作者:如果你积累了大量的设计文件、视频片段、音频素材和文档,Omni 的语义搜索可以让你更快速地按“场景”或“主题”而非文件名来定位素材,从而提高工作流效率。

值得关注的后续

1. 生态拓展与竞品跟进:目前公开信息显示,Omni 仅支持 macOS。开发者是否会计划推出 Windows 或 Linux 版本尚未披露。同时,这一模式可能促使其他本地搜索工具(如 Alfred、Raycast 或其插件生态)快速整合类似的多模态语义搜索能力。

2. 索引规模与性能表现:在真实用户场景下,当索引文件夹包含数十万个小文件或超大视频文件时,Omni 的索引速度和搜索延迟如何,将是决定其能否从“酷玩”走向“主力工具”的关键。

3. 模型的持续演进:jina-embeddings-v5-omni 模型本身正在快速发展,后续若推出更大、更优的多模态嵌入模型,Omni 能否平滑升级,以及其本地推理效率是否会受到影响,值得长期观察。

来源:github.com

celebrityanime
celebrityanime
文章: 6252

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注