transformers 上手指南：几行代码跑通 500 多种预训练模型的推理与训练

transformers 上手指南几行代码跑通 500 多种预训练模型的推理与训练【免费下载链接】transformers Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and multimodal models, for both inference and training.项目地址: https://gitcode.com/GitHub_Trending/tra/transformerstransformers 是 Hugging Face 推出的模型定义框架统一了文本、图像、音频和多模态模型的加载与训练接口。装好它之后你可以加载 Hugging Face Hub 上超过 100 万个预训练模型做推理也可以继续训练和微调不需要为每种模型单独折腾代码。用 Auto 类一行加载任意预训练模型这一节解决的问题是不背每个模型自己的类名怎么把模型加载起来。你可以把 AutoTokenizer、AutoModel 这类 Auto 类当成万能遥控器它们读取模型文件夹里的 config.json自动匹配对应的实现类。仓库 src/transformers/models/ 目录下目前有 506 个模型定义本目录实测统计Hub 上每个模型都自带 config.json 说明自己是哪一类所以换个模型名就能直接用。from transformers import AutoTokenizer, AutoModelForSequenceClassification tokenizer AutoTokenizer.from_pretrained(distilbert-base-uncased) model AutoModelForSequenceClassification.from_pretrained(distilbert-base-uncased)三步跑通第一次推理pipeline 调用现成任务这一节解决的问题是不想手动写分词、拼输入、解析输出怎么最快拿到结果。pipeline 把一整个任务打包好了——选任务、加载模型、直接调用三步出结果from transformers import pipeline clf pipeline(sentiment-analysis) print(clf(this library is easy to pick up))常用任务与对应字符串如下完整列表共 25 个任务类型实现在 src/transformers/pipelines/ 目录任务字符串干什么用fill-mask给句子填空输入带 [MASK] 的短句text-generation续写故事、补全对话image-classification给图片打标签返回类别和置信度object-detection框出图里的物体并返回坐标automatic-speech-recognition语音转文字zero-shot-image-classification不训练、直接给标签词做分类仓库自带的 COCO 测试样例图就是典型的图像分类输入把微调任务装进 Trainer从数据集到训练循环这一节解决的问题是从只跑推理走到训练自己的模型要做什么。你把模型、数据集、以及 TrainingArguments批大小、学习率、训练轮数等参数交给 Trainer再调用 trainer.train()训练循环、评估、保存检查点、混合精度开关都由它接管。examples/pytorch/ 目录里备好了文本分类、问答、翻译、图像分类等 17 类任务的现成训练脚本改好模型名和数据集路径就能跑。视觉与音频任务换任务字符串就能复用同一套 API这一节解决的问题是非文本模型是不是要换一套写法。答案是不用还是同一个 pipeline只是任务字符串不同。比如 zero-shot-image-classification 直接传一组标签词就能对没训练过的图片分类仓库测试里的红苹果样例就是这类输入image-segmentation 这类分割任务则输出像素级掩码。下图是 COCO 测试集里同一张猫图的全景分割可视化结果每个区域对应一个类别按硬件调配置量化、注意力加速与版本边界这一节解决的问题是显存不够装不下模型怎么办、装哪个版本。仓库 integrations/ 目录内置了各加速后端的一体化支持集成解决什么bitsandbytes4bit/8bit 量化让大模型塞进单张显卡flash-attention注意力计算加速降显存提速度deepspeed多卡分布式训练peftLoRA 等参数高效微调只训练少量参数quantizers/ 目录则单独收纳了 AWQ 等专用量化方案。版本边界写得很明确Python 3.10、PyTorch 2.5安装命令是pip install transformers[torch]。 提示README 提到 vLLM、SGLang、TGI 等推理引擎复用的就是 transformers 的模型定义线上高吞吐部署可以把定义交给这些引擎transformers 负责验证与微调。transformers 适合需要快速验证模型、做原型或微调的场景如果你的目标是线上极致推理吞吐它不是最终部署层。它把 500 多种模型的加载、推理、训练收敛到一套接口里装好就能开始写第一行调用。【免费下载链接】transformers Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and multimodal models, for both inference and training.项目地址: https://gitcode.com/GitHub_Trending/tra/transformers创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考