专一山水

文章
2
资源
0
加入时间
2年10月21天

XLNet模型四、总结

你真的懂XLNet吗?一、概述​ 近日,随着GPT-3模型的新鲜出炉,NLP领域似乎正朝着“烧钱+烧数据”的方向一去不返。从18年的BERT,到19年XLNet,再到如今的GPT-3,烧钱模式愈演愈烈,NLP似乎已经不适合穷人研究了,调参侠的生存空间被严重挤压。尽管如此,在如今开口不提BERT就不好意思说自己是NLPer的时代,我们还是很有必要对这些模型进行深入的了解的。本文主要是借着课程需要的契机,非常非常非常非常详细的介绍XLNet模型。至于XLNet的源码,看情况考虑是否阅读。二、背景知识