俊秀花瓣

文章
3
资源
0
加入时间
2年10月21天

XLNet:广义自回归预训练语言模型 2019 NIPS导读摘要1、引言2、XLNet模型3、实验4、结论5、附录:基于双向流自注意力的Target-Aware Representation

论文链接:https://arxiv.org/pdf/1906.08237v1.pdf代码链接:https://github.com/zihangdai/xlnet导读今天学习的是谷歌大脑的同学和 CMU 的同学的论文《XLNet: Generalized Autoregressive Pretraining for Language Understanding》,于 2019 年发表于 NIPS,目前引用超 300 次。XLNet 是一个广义自回归预语言模型,它在 Transformer-XL