论文泛读98情感感知对话响应生成和分类的多任务学习

Posted 2021-06-06 及时行樂_

贴一下汇总贴：论文阅读记录

论文链接：《Multi-Task Learning of Generation and Classification for Emotion-Aware Dialogue Response Generation》

一、摘要

为了使计算机自然地与人互动，它必须像人一样。在本文中，我们提出了一种以生成和分类的多任务学习为重点的神经反应生成模型，重点是情感。我们基于BART的模型（Lewis等人，2020年）是经过预先训练的变压器编码器/解码器模型，经过训练可以生成响应并同时识别情绪。此外，我们对控制参数更新的任务的损失进行加权。自动评估和众包的手动评估表明，所提出的模型使生成的响应更具情感意识。

二、结论

我们致力于提高基于神经网络的响应生成质量。针对情感方面，我们提出了一个包含生成和分类任务的多任务学习反应生成模型。通过自动和手动评估，我们证实了所提出的模型改进了几个性能指标。此外，我们通过加权损失进一步提高了模型的质量。结果，我们发现这种加权提高了几个分数，参数更新的平衡也是一个重要因素。

这篇论文的重点是对话的情感，并产生了考虑到话语情感的反应。另一方面，我们没有把重点放在回应的情感上，这是我们未来工作的主题。我们计划致力于估计一个反应应该具有的情绪，并基于特定的情绪产生一个反应。在本文的实验中，我们省略了对话的上下文。然而，也有必要考虑过去的话语及其对情绪的影响，以产生反应，这也是一个需要在未来解决的问题。

三、model

基于BART，包含一个LM头和几个CLS头，分别解决生成和分类问题，三个CLS头部用于不同粒度的情感识别任务。

训练了一个具有三个情绪识别任务的模型。每个情感识别任务都是一个分类任务，有6个、2个和12个标签，我们分别称之为情感识别、粗粒度情感识别和细粒度情感识别。

结论如下：