一个python的计算熵(entropy)的函数

Posted zhang

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了一个python的计算熵(entropy)的函数相关的知识,希望对你有一定的参考价值。

计算熵的函数:

# -*- coding: utf-8 -*-
import math

#the function to calculate entropy, you should use the probabilities as the parameters
def entropy(*c):
    result=-1;
    if(len(c)>0):
        result=0;
    for x in c:
        result+=(-x)*math.log(x,2)
    return result;
    
if (__name__=="__main__"):
    print(entropy(1/3,2/3));

 

以上是关于一个python的计算熵(entropy)的函数的主要内容,如果未能解决你的问题,请参考以下文章

pytorch交叉熵损失函数 F.cross_entropy()

为什么交叉熵可以用于计算代价函数

tensorflow中四种不同交叉熵函数tf.nn.softmax_cross_entropy_with_logits()

详解二进制文件信息熵Entropy的计算

scipy 中用于计算相对熵的 3 个函数。有啥不同?

计算为 NaN 的纯分裂熵