离散信源最大熵定理的Matlab实现

Posted 胡刚2016

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了离散信源最大熵定理的Matlab实现相关的知识,希望对你有一定的参考价值。

clear all;
clc;
p=0:0.001:1;
H=-p .* log2(p)-(1-p) .* log2(1-p);
figure;
plot(p, H);
xlabel('p');
ylabel('H(p)');

从运行结果可以看出,在 p=1/2 处概率熵最大

以上是关于离散信源最大熵定理的Matlab实现的主要内容,如果未能解决你的问题,请参考以下文章

《信息与编码》考试复习笔记6----第六章连续信源熵和信道容量(考点在连续信道容量)

matlab 离散无记忆信源建模

信息论中的几种编码

视频编解码·学习笔记7. 熵编码算法:基础知识 & 哈夫曼编码

我不允许你现在还不知道信编的这些重要概念考点!

[损失函数]——交叉熵