交叉熵和对数损失函数之间的关系
Posted AI算法攻城狮
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了交叉熵和对数损失函数之间的关系相关的知识，希望对你有一定的参考价值。
交叉熵
熵/信息熵
假设一个发送者想传输一个随机变量的值给接收者。这个过程中，他们传输的平均信息量为：
叫随机变量
的熵，其中
把熵扩展到连续变量的概率分布
,则熵变为
被称为微分熵。
在离散分布下，最大熵对应于变量的所有可能状态的均匀分布。
最大化微分熵的分布是高斯分布
</
以上是关于交叉熵和对数损失函数之间的关系的主要内容，如果未能解决你的问题，请参考以下文章