
一句话看懂:谷歌正式发布基于WebAssembly和硬件加速的AI推理库LiteRT.js,在2024款M4芯片MacBook Pro上跑推理速度比原有方案快3倍,目标是让浏览器端运行AI模型更接近原生应用效率,取代依赖纯JavaScript的TensorFlow.js。
事件核心:发生了什么
谷歌官方在本周发布了名为LiteRT.js的Web端AI推理加速库。这个库采用WebAssembly二进制指令格式,同时深度集成了WebGPU和WebNN等硬件加速能力,以此替代TensorFlow.js的传统JavaScript内核方案。TensorFlow.js是谷歌此前推出的经典库,允许开发者将在TensorFlow中训练的模型直接在浏览器中部署。此次LiteRT.js是对这一架构的升级:不再完全依赖JavaScript解释执行,而是让浏览器以接近原生代码的速度运行AI推理。
谷歌在搭载M4芯片的2024款MacBook Pro上测试显示,LiteRT.js的推理速度比现有的方案最快可提升3倍。不过谷歌也承认,在旧硬件或不同浏览器引擎上运行,实际性能表现会有所差异。
为什么重要
浏览器内跑AI推理一直面临性能瓶颈:纯JavaScript方案虽然方便,但计算密集型任务效率低,难以承载大模型或高帧率图像识别等场景。LiteRT.js用WebAssembly取代JS作为核心算子执行方式,同时通过WebGPU调用GPU,WebNN调用神经网络专用硬件,从底层优化了计算资源的利用。这意味着浏览器不再是“凑合能用”的AI部署环境,而有可能承载更多接近原生体验的AI功能。对边缘计算和端侧AI普及而言,这套方案降低了用户安装客户端或依赖云端的门槛。
对用户/开发者/创作者的影响
开发者:如果你之前基于TensorFlow.js做Web端AI应用(如图像分类、物体检测、实时滤镜),可以尝试迁移到LiteRT.js,并在配备WebGPU/WebNN支持的现代浏览器上获得显著速度提升。谷歌尚未公布完整的迁移文档和API变动细节,但LiteRT.js很可能保持了与TensorFlow.js类似的模型加载接口,降低迁移成本。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
普通用户:未来访问使用该库的Web应用时,AI功能响应会更快。例如在线图片背景移除、实时语言翻译、手写识别等任务,在支持WebGPU的Chrome或Edge浏览器上体验会更流畅。
创作者:如果在浏览器内使用AI辅助工具(如自动抠图、智能画笔、视频帧分析),LiteRT.js加速后延迟更低,交互更跟手,无需等待云端返回结果。
值得关注的后续
1. 目前公开信息显示,LiteRT.js是否开源、是否支持所有主流TensorFlow模型格式尚未明确,需要关注谷歌后续发布的详细文档和GitHub仓库。2. 苹果Safari对WebGPU的支持进度较慢,旧硬件和老版本浏览器可能无法获得加速,这将影响该方案的普及范围。3. 竞品如ONNX Runtime Web、Transformers.js是否会跟进类似方案,以及谷歌是否会将LiteRT.js集成到Google搜索或Colab等产品中,值得观察。
来源:AIbase


