2021年如何科学的“微调”预训练模型一、前言二、什么是“微调”Fine-tune?三、预训练模型和常见NLP训练任务四、“微调”预训练模型五、结语Reference
文章目录一、前言二、什么是“微调”Fine-tune?三、预训练模型和常见NLP训练任务四、“微调”预训练模型五、结语Reference本文转自AI部落公众号。仅用于学习。一、前言2021年,深度学习领域,无论是自然语言处理、音频信号处理、图像处理、推荐系统,似乎都看到attention混得风生水起,只不过更多时候看到的是它的另一个代号:Transformer。大部分深度学习的同学除了在各大paper里看到Transformer,平常与Transformer打交道最多的时候,大概率都是在用一个叫