马尔可夫链和有限状态机一样吗?

Posted

技术标签:

【中文标题】马尔可夫链和有限状态机一样吗?【英文标题】:Is a Markov chain the same as a finite state machine? 【发布时间】:2011-06-20 07:11:06 【问题描述】:

有限状态机只是马尔可夫链的实现吗?两者有什么区别?

【问题讨论】:

你可能认为马尔可夫链是一个 FSM,其中的转换是概率驱动的 请阅读这些论文:概率自动机和隐马尔可夫模型之间的链接(作者:Pierre Dupont)info.ucl.ac.be/~pdupont/pdupont/pdf/HMM_PA_pres_n4.pdf [The Handbook of Brain Theory and Neural Networks] Hidden Markov Models and other Finite State Automata for Sequence Processing citeseerx.ist.psu.edu/viewdoc/… 【参考方案1】:

虽然马尔可夫链是一个有限状态机,但它的特点是其转换是随机的,即随机的,并由概率描述。

【讨论】:

我可以说,随机有限状态自动机吗?【参考方案2】:

马尔可夫链可以用有限状态机表示。这个想法是马尔可夫链描述了一个过程,其中在时间 t+1 的状态转换仅取决于时间 t 的状态。要记住的主要事情是,马尔可夫链中的转换是概率性的而不是确定性的,这意味着您不能总是完全确定在时间 t+1 会发生什么。

Finite-state machines 上的 Wikipedia 文章在 Finite Markov-chain processes 上有一个小节,我建议您阅读该小节以获取更多信息。此外,Markov chains 上的***文章有一个简短的句子,描述了在表示马尔可夫链时使用有限状态机。这说明:

有限状态机可以用作 马尔可夫链的表示。 假设一系列独立且 同分布的输入信号 (例如,来自二进制文件的符号 抛硬币选择的字母表),如果 机器在时间 n 处于状态 y, 那么它移动到的概率 在时间 n + 1 的状态 x 仅取决于 当前状态。

【讨论】:

实际上,您在这里声称的关于马尔可夫链的内容并不是 100% 正确的。您在这里提到的是“一阶马尔可夫过程”。对于二阶马尔可夫过程,下一个状态将取决于最近 2 个时间步的状态,...... 状态机是马尔可夫链的一个特例;因为马尔可夫链本质上是随机的。据我所知,状态机是确定性的。 不合格,马尔可夫链一词是指具有马尔可夫性质的离散时间随机过程,这意味着它不依赖于过去的状态。原始海报没有询问高阶马尔可夫过程,因此它们并不是那么相关。有限状态机通常是有限自动机的统称,它们本质上可以是确定性的或非确定性的。【参考方案3】:

两者相似,但这里的其他解释略有错误。只有有限马尔可夫链可以用 FSM 表示。马尔可夫链允许无限的状态空间。正如所指出的,马尔可夫链的转移是由概率描述的,但同样重要的是要提到转移概率只能取决于当前状态。没有这个限制,就称为“离散时间随机过程”。

【讨论】:

其实我相信它会被称为“非平稳”。 @Michael 我可能错了,因为我已经有一段时间没有讨论这个话题了,但我认为“静止”是关于时间依赖性的。我可能弄错了,但这似乎是正交的。 “过程”通常用于表示术语“链”的连续时间版本(参考:概率论:简明课程,Rozanov),FSM 可以表示为infinitely 或event-driven或non-deterministic。除了状态,我能想象的唯一其他依赖就是时间。 @Michael“进程”是一个通用术语。它可以是连续时间或离散时间。 FSM 不能无限表示,它的名称中有 finite 一词。您提供的链接甚至说这不是有限状态机。您不是我提出时间依赖性,而是在离散时间过程中,序列索引通常被认为是时间。从这个意义上说,是的,离散时间随机过程是非平稳的,但这还不够描述性,因为它也可能是连续时间。我想要一个超集,而不是我命名中的补充。【参考方案4】:

如果抛开内部工作细节,有限状态机就像一个普通值,而马尔可夫链就像一个随机变量(在普通值之上添加概率)。所以原始问题的答案是否定的,它们不一样。在概率意义上,马尔可夫链是有限状态机的扩展。

【讨论】:

【参考方案5】:

我相信这应该回答你的问题:

https://en.wikipedia.org/wiki/Probabilistic_automaton

而且,您的想法是正确的 - 它们几乎相同,子集、超集和修改取决于描述链或自动机的形容词。 Automata 通常也接受输入,但我确信已经有论文使用带有输入的“马尔可夫链”。

考虑高斯分布与正态分布 - 相同的想法不同的领域。自动机属于计算机科学,马尔可夫属于概率统计。

【讨论】:

【参考方案6】:

我认为大多数答案都不合适。马尔可夫过程由(概率)有限状态机生成,但并非概率有限状态机生成的每个过程都是马尔可夫过程。例如。隐马尔可夫过程与概率有限状态机生成的过程基本相同,但并非每个隐马尔可夫过程都是马尔可夫过程。

【讨论】:

以上是关于马尔可夫链和有限状态机一样吗?的主要内容,如果未能解决你的问题,请参考以下文章

有限马尔可夫决策过程

强化学习专栏|有限马尔可夫决策过程(Finite Markov Decision Processes)

隐马尔可夫模型(HMM)中文分词

在 Swift 中使用马尔可夫链生成文本

马尔可夫信源

C# 是不是包含有限状态机?