本篇是对于主流参数高效微调(PEFT)方法的简要介绍，包含简单的代码实践。涉及到的方法有BitFit、Prompt-Tuning、P-Tuning、Prefix-Tuning、LoRA、IA3、Adapter。

一个基于Transformers的中文命名实体识别任务的示例。模型结构选择ModelForTokenClassification。数据集选择peoples_daily_ner，模型选择hfl/chinese-macbert-base。

本篇给出了占用显存的几个因素，并对应的给出了优化策略示例。

简单总结一些常见的数据预处理、词性标注方式。

Trainer内部封装了完整的训练以及评估逻辑，搭配TrainingArguments可以对训练过程中的各项参数进行配置。对文本分类示例代码进行了部分优化。

Evaluate库包含各种机器学习模型的评估函数，可以很方便的加载各种任务的评估函数。对文本分类示例代码进行了部分优化。

本篇介绍了Datasets在线加载数据集、离线加载数据集的方式，对文本分类示例代码进行了部分优化。

本篇给出了一个基于Bert的文本分类模型实例，涵盖了训练、验证、预测的全过程。

本篇补充了transformers的背景知识，给出了现在预训练语言模型三种不同的堆叠方式及相关代表模型，介绍了model的相关参数及model head。

本篇介绍tokenizer()的基本使用方式，它主要用于数据预处理。Transformer模型不能直接处理原始文本，只接受张量作为输入。