Google 推出 LiteRT.js:高性能 Web AI 推理运行时
阅读原文· developers.googleblog.comGoogle 将 LiteRT 扩展到了浏览器端,让 Web 开发者可以直接在客户端跑 AI 推理,但发布缺少性能数据和对比,实质价值还要看后续的 benchmark。
Google 发布 LiteRT.js,这是 LiteRT 跨平台边缘 AI 运行时的最新成员,专为 JavaScript 开发者设计,可直接在浏览器中运行机器学习模型。LiteRT.js 基于 WebGPU 和即将推出的 WebNN 实现 SOTA 推理性能,同时支持回退到 WebAssembly CPU 方案。
我们很高兴向大家介绍 LiteRT.js,这是 LiteRT 家族的最新成员!LiteRT.js 是我们用于在浏览器中直接运行机器学习模型的强大解决方案,将谷歌的跨平台边缘 AI 运行时扩展到了 Web 端。LiteRT.js 专为 JavaScript 开发者打造,在 WebGPU 和即将推出的 WebNN 上提供最先进的 ML 模型推理性能,并支持回退到 WebAssembly 以在 CPU 上运行。本文将快速介绍 LiteRT.js,并为 Web 开发者提供上手所需的一切信息。