论文泛读183用于小样本文本分类的元学习对抗域适应网络

Posted 及时行樂_

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了论文泛读183用于小样本文本分类的元学习对抗域适应网络相关的知识,希望对你有一定的参考价值。

贴一下汇总贴:论文阅读记录

论文链接:《Meta-Learning Adversarial Domain Adaptation Network for Few-Shot Text Classification》

一、摘要

元学习已成为解决少样本文本分类并实现最先进性能的趋势技术。然而,现有的解决方案严重依赖于对训练数据的词汇特征及其分布特征的利用,而忽略了增强模型适应新任务的能力。在本文中,我们提出了一种与对抗域适应网络集成的新型元学习框架,旨在提高模型的自适应能力并为新类别生成高质量的文本嵌入。在四个基准数据集上进行了广泛的实验,我们的方法在所有数据集中显示出优于最先进模型的明显优势。特别是,在 20 个新闻组的数据集上,1-shot 和 5-shot 分类的准确率从 52.1% 提升到 59%。

二、结论

在本文中,我们提出了一种新的元学习方法,称为元学习对抗域适应网络,它可以识别重要的词汇特征,并在新的类别中生成高质量的句子嵌入(在训练数据中看不到)。具体来说,我们设计了一个元训练场景中的对抗性领域适应网络,旨在提取领域变异特征,提高元学习者在新课堂中的适应性。我们证明了我们的方法在四个标准文本分类数据集上优于现有的最先进的方法。未来的工作包括将MLADA应用于包括计算机视觉和语音识别在内的其他领域,探索对抗域自适应网络与其他FSL算法的结合。

三、model

MLADA网络结构:

  • meta-learning


通过结合对抗性领域适应和基于事件的元学习来提高少镜头分类的性能。

以上是关于论文泛读183用于小样本文本分类的元学习对抗域适应网络的主要内容,如果未能解决你的问题,请参考以下文章

论文泛读171具有对抗性扰动的自监督对比学习,用于鲁棒的预训练语言模型

论文泛读171具有对抗性扰动的自监督对比学习,用于鲁棒的预训练语言模型

论文泛读120预测文本相似性领域自适应的成功

论文泛读178通过对比对抗训练改进文本分类

论文泛读178通过对比对抗训练改进文本分类

论文速递CVPR2021 - 基于自适应原型学习和分配的小样本分割