Show HN: SayItDev 的大语言模型(LLM)和语音功能,无需依赖任何第三方组件,也不需要模型

开发者 SayItDev 发布了一款名为 SayItDev 的 Mac CLI 工具,能够在 Apple Silicon 设备上完全本地运行语音识别、文本转语音和 LLM 推理,无需联网或第三方 API 密钥,且通过调用 macOS 26 以上的 Apple Intelligence 能力实现。

Show HN: SayItDev 的大语言模型(LLM)和语音功能,无需依赖任何第三方组件,也不需要模型

一句话看懂:开发者 SayItDev 发布了一款名为 SayItDev 的 Mac CLI 工具,能够在 Apple Silicon 设备上完全本地运行语音识别、文本转语音和 LLM 推理,无需联网或第三方 API 密钥,且通过调用 macOS 26 以上的 Apple Intelligence 能力实现。

事件核心:发生了什么

该项目托管于 GitHub,核心功能包括 dev --speak(文本转语音)、dev --listen(麦克风转录)、dev --transcribe(音频文件转录)以及 dev "prompt"(本地大语言模型推理)。此外,dev --serve 命令可以在本机启动一个兼容 OpenAI API 格式的 HTTP 服务器(端口 11434),支持 /v1/chat/completions/v1/audio/speech/v1/audio/transcriptions 等端点。该工具基于 apfel 项目 fork 并增加了语音扩展,遵循 MIT 开源协议。

为什么重要

目前市场上大多数 AI 语音助手或 LLM 工具依赖云端服务(如 OpenAI API、Google Cloud 等),用户数据需上传至第三方服务器,且通常需要付费 API 密钥。SayItDev 的亮点在于“完全本地化”:语音转录和 LLM 推理均运行在设备上(依赖 Apple Intelligence 框架),开发者无需处理云成本、延迟或隐私合规问题。这意味着在 Apple Silicon 硬件上,小团队或个人开发者可以构建不联网的语音助手、离线转录工具,甚至搭建一个本地兼容 OpenAI 的后端服务,对注重隐私或离线场景有直接价值。

对用户/开发者/创作者的影响

对于普通用户,SayItDev 提供了一键安装的 Homebrew 支持,安装命令简单,但要求 macOS 26 及以上并启用 Apple Intelligence,目前公开信息显示该工具仍在早期阶段。开发者可快速用其搭建语音交互原型,或将其作为本地 AI 网关替换云端依赖;创作者可利用其离线转录功能处理录音文件,无需上传至第三方平台。不过,目前语音识别和 LLM 的质量依赖于 Apple Intelligence 的实现,尚未独立提供模型选择或微调能力。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

首先,Apple Intelligence 在 macOS 26 上的普及率将直接影响该工具的可使用范围,目前仅限 Apple Silicon 设备。其次,工具是否会在未来支持非 Apple Intelligence 的本地模型(如接入 Ollama 或 llama.cpp)尚未说明;若添加,将大幅扩展其在其他 Mac 硬件上的运行能力。最后,注意项目 README 明确提示在公开网络部署 --serve 前需阅读安全文档,这暗示其目前仅适合本地或局域网使用,安全性和多用户并发支持是后续观察点。

来源:github.com

celebrityanime
celebrityanime
文章: 12852

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注