基于多粒度语义交互理解网络的幽默等级识别

论文阅读 2020

1. 解决问题

将幽默等级识别为自然语言推理任务,将幽默文本划分为铺垫和笑点两部分,提出对两者之间的关系进行建模可以显著提升模型识别幽默等级的性能。

2. 创新点(贡献)

  • 本文基于多种嵌入表示融合的幽默文本表示,提出了一种基于局部和全局语义理解的神经 网络模型,分别从单词级别和子句级别提取幽默文本特征。
  • 本文提出了一种基于交互语义关联特征的神经网络模型,对幽默文本中幜铺垫帢和幜笑点帢的 关联信息进行建模以抽取幽默语义关联特征。
  • 本文使用基于多粒度语义交互理解网络的幽默等级识别方法,在Reddit公开幽默数据集上 进行对比实验,结果表明,本文提出的方法能够有效地提升幽默等级识别的性能。

3. 前人方法的局限性

  • 将幽默文本作为整体进行建模,忽略了独立的语义信息和交互的关联信息;
  • 仅从单一粒提取幽默特征,性能会受到限制。

4. 本文使用的模型框架

  • CNN(Weller and Seppi,2019):采用CNN自动提取幽默语句的潜在语义特征并进行幽默等级识别。
  • CNN(Kim,2014):本文复现的基于幃幎幎的方法,使用3种不同尺寸卷积核的CNN提取幽默文本特征进行幽默等级识别。
  • LSTM:使用LSTM提取幽默特征并进行幽默等级识别。
  • Bi-LSTM-Attention:使用双向LSTM和注意力机制提取幽默文本特征,并对幽默等级进行识别.
  • Transformer:使用基于transformer结构的预训练模型对幽默文本整体做特征提取,以进行幽默等级识别。
  • Bert:本文复现的基于Bert方法的结果,在任务语料上做微调然后进行幽默等级识别。
  • ESIM:只基于局部语义交互信息进行幽默等级识别。
  • MSIN:本文提出的多粒度语义交互理解网络,综合使用语义嵌入、局部语义交互和全局 语义交互进行幽默等级识别
    基于多粒度语义交互理解网络的幽默等级识别_第1张图片

5. 这种方法的意义是什么(有什么好处)

引入幽默内部的语义关系信息可以提高模型幽默识别的性能,而本文提出的模型也可以很好地建模这种语义关系。

6. 实验数据

Reddit数据集,由Weller等在2019年构建,幽默语句来自Reddit中带有“humor”标签的文本,采用众包方式对幽默语句的“铺垫”和“笑点”进行了标注,且对幽默语句的强弱进行了人工标注
基于多粒度语义交互理解网络的幽默等级识别_第2张图片
评价指标:精确率(Acc) , 准确率 ( P ), 查全率( R ), F1-Score

7. 实验效果

基于多粒度语义交互理解网络的幽默等级识别_第3张图片
基于多粒度语义交互理解网络的幽默等级识别_第4张图片

8. 总结

本文将幽默文本划分为铺垫和笑点两部分,提出对两者之间的关系进行建模可以显著提升 模型识别幽默等级的性能。基于这个观点,首先,本文在融合多种嵌入表示的基础上,从局 部和全局两个粒度来对幽默中的语义关系进行理解和建模。其次,本文对幽默中“铺垫”和“笑点”两部分的关联信息做交互建模,从而实现充分挖掘铺垫和笑点之间的关系。最后,本文 在Reddit幽默数据集上进行实验,取得了最优结果,同时结合消融实验证实了模型设计的有效 性。在以后的工作中,我们将在幽默文本自动切分及基于铺垫的笑点文本生成方面做更多的探 索。

你可能感兴趣的