交叉熵和对数损失函数之间的关系
Posted AI算法攻城狮
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了交叉熵和对数损失函数之间的关系相关的知识，希望对你有一定的参考价值。
交叉熵
熵/信息熵
假设一个发送者想传输一个随机变量的值给接收者。这个过程中，他们传输的平均信息量为：
叫随机变量
的熵，其中
把熵扩展到连续变量的概率分布
,则熵变为
被称为微分熵。
在离散分布下，最大熵对应于变量的所有可能状态的均匀分布。
最大化微分熵的分布是高斯分布
</
以上是关于交叉熵和对数损失函数之间的关系的主要内容，如果未能解决你的问题，请参考以下文章
R语言构建xgboost模型：xgb.cv函数交叉验证确定模型的最优子树个数（可视化交叉验证对数损失函数与xgboost模型子树个数的关系）交叉验证获取最优子树之后构建最优xgboost模型