多分类学习多标签学习多任务学习的区别

Posted 2021-11-02 _刘文凯_

Multi-class、 Multi-label 、 Multi-task 三者之间的区别与相同之处

1、直观解释

• 多分类学习（Multi-class）
  一个分类器，但分的类别是包含多个的。例如：分类器判断苹果的颜色是“红色、黄色、青色、白色”，这是一个4分类的任务，也就是一个多分类任务。

• 多标签学习（Multi-label ）
  例如判断一个苹果A可以有如下的标签(形状（圆、不圆）、颜色(红色、非红色)、硬度(硬、不硬))，注意以上标签只有两个选择，这种叫多标签学习。其实多标签学习是多任务学习的一种最简单情况。

• 多任务学习（Multi-task）
  多任务学习直观的说就是有多个输出，也就是有多个Y值，例如上述的“多分类学习”，再比如[y1,y2,y3,y4,y5]=f(x1,x2,x3,x4,x5,x6,x7…，x100)这种形式的函数是一个5个任务的学习方式。

2 多任务学习的形式

多任务学习主要有两种实现方式，一种是基于参数的共享，另一种是基于约束的共享。
其中基于参数的共享包括：Hard 参数共享、Soft 参数共享