激昂泥猴桃

文章
9
资源
0
加入时间
3年0月9天

PEGASUS: Pre-training with Extracted Gap-sentences for Abstractive Summarization论文笔记

阅读动机:dst和gsg有极大的关联性pegasus预训练模型任务:将input的document内重要的句子mask掉,output是由留下的句子生成的新句子,有点类似于extractive summaryextractive summary:仅仅从input里面复制信息 abstractive summary:会生成新的词语(好的abstractive summary不仅包含了基本的input信息 而且语句流畅度好)早前的工作基本都集中在如何做出高质量的数据集,几乎没有对模型的系统评估工作。