跳到正文
原文
Hugging Face Blog·· 2025-03-07AI 评分36

如何在手机上通过 React Native 本地运行 LLM:Hugging Face 边缘推理指南

LLM Inference on Edge: A Fun and Easy Guide to run LLMs via React Native on your Phone!

AI 导读

Hugging Face 发布教程,演示如何用 React Native 和 llama.rn(llama.cpp 的绑定)构建可在 Android 与 iOS 上离线运行 LLM 的聊天应用,模型从 Hugging Face hub 下载 GGUF 文件,全程本地推理保证隐私。

来源:Hugging Face Blog · huggingface.co