吸收高阶马尔可夫链的转移矩阵



我有一个吸收马尔可夫链,比方说我有状态
s={START,S1,S2,END1,END2}
状态START将始终是链的起点,但一旦你离开它,就不可能返回到这个状态。
我很好奇吸收高阶马尔可夫链的转移矩阵会是什么样子。

现在假设我建立二阶马尔可夫链转移矩阵如下:

__________C1 C2 C3开始END1 END2
C1,C1
C1
C1,开始
C1
1,END1
C2,END2


例如,在C1上,START会是什么样子?对于所有列,这将是零,但不是要求该行求和为1吗?我只是从矩阵中删除它吗
对于C1,END1,这一行也将为零,情况如何?一旦你处于另一侧的状态END1和END2,即它们正在吸收,就不可能离开。

我想知道二阶或k阶马尔可夫链的传递矩阵会是什么样子。关于这个问题,我找不到任何好的垃圾,请贡献一些好的垃圾。

应该从矩阵中删除(C1, START)行。这是因为在描述链的图中不存在状态(C1, START)。它不存在的原因只是该状态不可访问,因此不应被视为有效状态。

通常,表示第k阶马尔可夫链的转移矩阵不应包含无效k元组的行(元组表示与不可能路径相对应的状态序列)。

至于(C1, END1)行,它不是一个全零行,因为当你处于END1时,你的下一个状态是END1,概率为1。因此,从(C1, END1)进入(END1, END1)的概率为非零。

好吧,如果你认为马尔可夫链是二阶的,那么你的初始状态应该像(C1,C1),(C1,C2)。。。,因此你的矩阵就像

__________(C1,C1)(C1,C2)(C1和C3)(C1开始)。。。

(C1,C1)

(C1,C2)

(C1,C3)

(C1,启动)

(C1,END1)

(C1,END2)

具有许多零(例如,(C1,C2)到(C1,C1)的概率为零)。在您的情况下,它是一个25*25的矩阵。

如果你声称它是二阶的,那么你必须有两个连续的状态来估计下一个状态。

最新更新