Hugging Face Blog·· 2024-10-22精选AI 评分78
Transformers.js v3 发布：支持 WebGPU、新量化格式与 120 种架构
Transformers.js v3: WebGPU Support, New Models & Tasks, and More…
AI 导读
Hugging Face 发布 Transformers.js v3，新增 WebGPU 支持，官方称比 WASM 快至多 100 倍，并引入 fp32、fp16、q8、q4 等 dtype 量化选项。
推荐理由
官方给出 WebGPU 加速、量化格式与 1200 多个预转换模型，可据此判断浏览器端推理的可用边界。
来源：Hugging Face Blog · huggingface.co