多标签文本分类层次多标签文本分类方法

Posted 2022-12-01 征途黯然.

·阅读摘要：
  本文是一篇中文综述，主要介绍了层次多标签分类的一些算法。
·参考文献：
  [1] 赵海燕，曹杰，陈庆奎，曹健．层次多标签文本分类方法[J/OL]．小型微型计
算机系统. https://kns.cnki.net/kcms/detail/21.1106.TP .20211130.1228.002.html

[1] 引言

  层次结构的标签一般有两种表示：

  两种结构表示的示例图如下：

[2] 基本概念

  文中提出层级多标签分类的基本处理过程：

【注一】：文中提到“特征降维”这个过程，解释为：由向量空间模型来描述的文本向量通常具有较高的维度，这对于后续的分类任务来说，将带来效率低下和精确性下降的危害。 一般的话，特征降维是在机器学习的算法用的，深度学习的话，用词向量表示完文本，就直接卫道模型里面去了。

[4] 层次多标签文本分类器研究现状

  脑图如下：

【注二】：个人觉得，基于图表示的算法值得深究。

[6] 展望

  文中提到的未来突破方向有四：

  （1）分类器的设计。如何利用文本和各层标签的关系、如何利用层次标签的依赖关系是考察分类器优劣的一个重要方面。

  （2）寻找更好的文本编码表示。文本分类和其他分类的一个很大区别在于，因为文本一般是非结构化或者半结构数据，如何将其表示并能够较少地损失其原来蕴含的信息，这对后续的文本分类来说很重要，当然，Transformer和 BERT是两个目前效果较好的语言模型，也可以寻求其他方法来表示文本，比如文本的图表示等。但是这些表示都是通用的表示方法，而什么样的编码表示更适合于层次多标签文本分类还有待进一步研究。

  （3）极端的层次多标签文本分类问题。随着应用的深入，不少应用面临极端的层次多标签文本分类任务。它的特点是层次标签的数目非常多，层次级别也非常深，造成模型规模可能非常庞大，目前的计算能力难以处理。如何高效地处理极端层次多标签文本分类问题将成为未来的一个研究方向。

  （4）现实数据集中标签的长尾问题。在现实数据集中，大部分标签的数据是相对较少的，即很少的数据和一些标签关联，甚至没有数据关联，特别在层次结构的底层靠近叶子节点处。长尾问题在极端的层次多标签文本分类问题中尤其严重。这种情况对于模型学习将造成困难，可能导致无法预测的问题。因此，如何处理层次多标签文本分类中的长尾问题，也是未来的一个重要研究方向。

【注三】：比较好突破的是1、3、4。
模型是最好做出突破的；
其次是解决长尾问题，长尾问题不是只存在于文本分类任务中的，它几乎在所有的分类任务中都存在，包括CV领域，所以解决方法很多，比较容易找到灵感；
极端的层次多标签文本分类问题做的不多，但是“极端”就意味着“大”，“大”就意味着“显卡”，没有硬实力会很难做。