跳到正文
原文
Hugging Face Blog·· 2024-10-09AI 评分38

Hugging Face 联合 Dask 扩展 AI 数据处理:从 100 行到 2.11 亿行

Scaling AI-based Data Processing with Hugging Face + Dask

AI 导读

Hugging Face 与 Dask 结合,可将 TB 级数据集处理从本地 pandas 扩展到云端多 GPU 并行推理。示例用 FineWeb-Edu 分类器处理 FineWeb 数据集,从本地 100 行扩展到 2.11 亿行、432 GB 的 250 个 Parquet 文件,并支持多节点 GPU 推理。

来源:Hugging Face Blog · huggingface.co