用于分类的多输出与多个单输出神经网络

Posted

技术标签:

【中文标题】用于分类的多输出与多个单输出神经网络【英文标题】:Multi-output vs. multiple single-output neural networks for classification 【发布时间】:2013-05-27 02:48:59 【问题描述】:

是否存在支持或反对使用单个多输出 NN 与使用多个一对多 NN 进行多类分类的理论论据?

在这两种情况下,一旦获得所有输出值,就会使用相同的决策规则:激活度最高的输出“获胜”并决定预测返回哪个类。

但我想知道在同一个 NN 上而不是单独计算所有输出是否更好或更坏,以及为什么更好。

【问题讨论】:

如果您对神经网络感兴趣,可以考虑加入机器学习网站:area51.stackexchange.com/proposals/41738/machine-learning 太好了,谢谢你的链接 【参考方案1】:

我主要反对使用相同的神经网络结构进行多个分类。这在其他 AI 构造中非常罕见。您不能使用支持向量机或决策树来执行此操作。我认为这有点混淆了问题。

支持它的论点是您的隐藏层只是较低级别的特征检测器。您的多重分类(或回归)输出神经元现在独立使用您的输入和隐藏层传递的较低级别的特征。

我还没有尝试将它们组合到同一个 ANN 中而不是分开。我的猜测是,成功的程度将与多个分类试图完成的目标之间的相似性有关。

【讨论】:

以上是关于用于分类的多输出与多个单输出神经网络的主要内容,如果未能解决你的问题,请参考以下文章

用于不平衡多类多标签分类的神经网络

多标签分类损失函数

为序数神经网络编码我的多类分类问题

BP神经网络预测回归-BP多输入多输出预测-Matlab

具有对数损失的 TensorFlow 单 sigmoid 输出与具有稀疏 softmax 交叉熵损失的两个线性输出,用于二进制分类

ANN 多输出与单输出