文本摘要是从一段长文本中提取出最重要的信息,并生成一个简短而有意义的摘要。这个过程可以分为两种主要方法:
抽取式摘要(Extractive Summarization):从原文中直接提取出关键句子或段落,组成摘要。这种方法不会改变原文的内容,只是选择了最能代表文章主题的部分。
- 无监督:Lead,Centroid,Cluster,TextRank
- 有监督:R2N2,NeuralSum,SummaRuNNer,BertSum
生成式摘要(Abstractive Summarization):这种方法通过理解原文内容,然后用自己的语言生成一个简短的总结。生成式摘要可能包含与原文不同的词语或句子结构,但它依然能够传达原文的核心信息。
Seq2seq经典架构:优点——不限于原文自由生成摘要、摘要展示了文本的关键信息;缺点——容易产生重复
PGN(Pointer-Generator Network)架构:使用生成概率进行取舍,要么从词汇表生成一个单词,要么从原文本复制一个单词,相对减少了摘要重复问题
评估方法:
- BLEU(Bilingual evaluation understudy):主要计算精确度
- ROUGE(Recall-Oriented Understudy for Gisting Evaluation:基于召回率,评价标准——ROUGE-N和ROUGE-L