自然语言处理必读论文推荐3篇

Posted 2022-03-09 m0_67638850

1.NLP Service APIs and Models for Efficient Registration of New Clients

题目：用于高效注册新客户的NLP服务API和模型

链接：学术范

摘要：最先进的NLP推理使用了大量的神经架构和经过gpu数月训练的模型，远远超出了大多数NLP用户的能力范围。这导致了大型人工智能公司的通用的基于api的公共NLP服务模式，为大量客户提供服务。无论是(硬件不足的)客户端还是(大量订阅的)服务器都无法负担传统的微调。许多客户拥有很少或没有标记的数据。我们开始研究如何将集中式NLP服务适应于客户，并提出了一种实用且轻量级的方法。每个客户机使用无监督的、基于语料库的草图注册到服务。服务器使用一个辅助网络将草图映射到一个抽象的向量表示，然后通知主标注网络。当一个新客户用它的草图注册时，它可以立即获得准确性的好处。我们使用情感标记、NER和预测语言建模来证明所提出的架构是成功的。

2.Improving Device Directedness Classification of Utterances with Semantic Lexical Features

题目：改进具有语义词汇特征的话语的设备定向分类

摘要：用户与Alexa、GoogleHome和Siri等个人助理的交互通常是由唤醒词或唤醒词启动的。一些个人助理有“跟进”模式，允许用户在不需要唤醒词的情况下进行额外的互动。为了让系统只在适当的时候做出反应，并忽略非它想要的声音，声音必须被分为设备导向的和非设备导向的。目前最先进的系统主要使用声学特征来完成这项任务，而其他的系统只使用词汇特征或添加了基于lm的词汇特征。文章提出了一种结合语义词汇特征和轻量化声学特征的定向分类器，并证明了该分类器在定向分类方面是有效的。在最先进的纯声学基线模型上，混合域词汇和声学特征模型能够实现14%的EER相对降低。最后，成功地将迁移学习和半监督学习应用到模型中，进一步提高了模型的准确性。

3.Dialogue Generation on Infrequent Sentence Functions via Structured Meta-Learning

题目：基于结构化元学习的生僻句功能对话生成

链接：学术范

摘要：句子功能是表达句子目的的重要语言特征。将句子功能整合到对话中，可以提高回复的质量。然而，不同类型的细粒度句子功能的话语数量是极其不平衡的。除了少量的高资源的句子功能外，还有很大一部分句子功能是不常见的。因此，以这些不常见的句子功能为条件的对话生成存在数据不足的问题。在本文中，我们研究了一种结构化元学习(SML)方法在不频繁句函数上生成对话。我们将基于不同句子功能的对话生成视为独立的任务，并将模型不可知论元学习应用于高资源的句子功能数据。此外，SML通过促进不同句子功能之间的知识定制，同时保持相似句子功能的知识泛化，提高了元学习的有效性。实验结果表明，SML语言不仅提高了所生成应答的信息性和相关性，而且能够生成符合目标句功能的应答。