Transformers v5 正式发布啦🚀!这一次的更新,是 Transformers 五年来最大规模的演进。每天超过 300 万次安装、累计 12 亿次使用,从 40 种模型架构扩展到 400 多种,它已经成为全球人工智能开发者的基础设施级工具。
v5 围绕“互操作性”进行了全面升级:从模型定义到训练、推理、本地部署与量化,全链路体验都变得更高效、更统一。现在,你可以用 Unsloth、Axolotl、LlamaFactory 训练模型,用 vLLM、SGLang 部署推理,再导出到 llama.cpp 或 MLX 本地运行,一套流程覆盖所有场景。
🎯 模型定义更简洁
模块化设计强化,引入 AttentionInterface,让注意力机制处理更统一、代码更清爽;模型贡献流程也在自动化,让更多开发者轻松加入生态。
⚙️ 训练能力全面增强
从预训练到微调都进行了深度优化,与 torchtitan、megatron、nanotron 等系统高度兼容;同时继续支持 Unsloth、Axolotl、TRL、MaxText 等主流工具。
🚀 推理更快更强
新增高性能 kernels、连续批处理、paged attention,并带来全新的 transformers serve(兼容 OpenAI API)。与 vLLM、SGLang、TensorRT LLM 完全互补协作。
📱 本地部署更进一步
Transformers 与 ONNXRuntime、llama.cpp、MLX、executorch 深度互通,支持加载与导出 GGUF,让本地运行 AI 更加轻松。
🔢 量化成为一等公民
重构权重加载方式,使 4bit、8bit 量化更稳定可控,并与 TorchAO、bitsandbytes 深度协作。
如果你也想第一时间了解 Transformers v5 的变化、交流大模型实践、获取中文生态的最新动态 —— 🤗 欢迎加入我们的中文社区:Chinese LLMs on Hugging Face。
#人工智能##大语言模型##HuggingFace#
