信息论与编码| 信源分类与数学模型

Posted 2022-09-26

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了信息论与编码| 信源分类与数学模型相关的知识，希望对你有一定的参考价值。

1.连续（模拟）信源:

信息论与编码（一）|

2.离散（数字）信源:

信息论与编码（一）|

信源输出的信号是随机信号。

1、无记忆信源:信源先后发出的符号相互统计独立，具有相同的概率分布;

2、有记忆信源:信源先后发出的符号相互依赖。

连续信源是有记忆信源。

信源：产生随机变量、随机序列和随机过程的信号源。

在通信系统中收信者在未收到消息以前对信源发出什么消息是不确定的,是随机的，所以可用随机变量、随机序列或随机过程来描述信源输出的消息,或者说用一个样本空间及其概率测度—概率空间来描述信源

信源的基本特性:具有随机不确定性。

香农信息论的基本观点

用离散随机变量X表示单符号离散信源（一个符号表示一完整消息，符号取值可列)，X的可能取值为信源发出的各种不同符号，X的概率分布为各符号的先验概率。

例：信源 X 的取值有个, , 称为信源字符集，各符号概率分布且

信源的取值为无穷不可数的连续值,其概率分布用概率密度函数p(x)表示，且

[信息论与编码理论专题-3]：信源及其信息测量