Hugging Face Blog·· 8 天前精选AI 评分75
Transformers 支持原生运行 llama.cpp 的 GGUF 量化模型
Transformers now runs llama.cpp quants
AI 导读
Hugging Face 宣布在 transformers 库中原生支持 llama.cpp 的 GGUF 模型，开发者可直接通过 from_pretrained 加载 Hub 上的量化权重。
推荐理由
该更新让开发者能直接在标准 Transformers 工作流中复用 GGUF 量化权重，便于在 PyTorch 环境下调试模型与评测。
来源：Hugging Face Blog · huggingface.co