结合回归和分类的多输出神经网络

Posted 2023-03-12

【中文标题】结合回归和分类的多输出神经网络

【英文标题】：Multi-output neural network combining regression and classification

【发布时间】：2016-09-22 04:45:51

【问题描述】：

如果您有一个相关的分类和回归问题，并且依赖于相同的输入数据，是否有可能成功地构建一个既提供分类输出又提供回归输出的神经网络？

如果是，损失函数如何构造？

【参考方案1】：

通常，对于这种情况，损失被简单地视为分类损失和回归损失的加权和。换句话说，您的网络有 2 个独立的输出部分，一个负责回归，在其上应用回归损失 L_reg（例如 MSE），另一个负责分类部分，在其上应用分类损失 L_class（例如交叉熵）和对于某些预定义的 alpha，您的最终优化标准只是 (alpha)*L_reg + (1-alpha)*L_class。这样可以轻松计算梯度（以及整体轻松分析）。

【讨论】：

太好了，谢谢。 alpha 通常被视为超参数并进行调整吗？

是的，除非可以利用某些问题特征找到合理的价值

你能推荐任何 R 或 Python 包来进行这个基本设置吗？