機器學習知識點(十)馬爾可夫鏈

本文转载自 fjssharpsword 查看原文 2017-03-03 0 学习/ 机器学习/ 知识点/ 知识/ algorithm

馬爾可夫鏈概述

馬爾可夫鏈因安德烈·馬爾可夫（Andrey Markov，1856－1922）得名，是數學中具有馬爾可夫性質的離散時間隨機過程。該過程中，在給定當前知識或信息的情況下，過去（即當期以前的歷史狀態）對於預測將來（即當期以后的未來狀態）是無關的。

　　時間和狀態都是離散的馬爾可夫過程稱為馬爾可夫鏈, 簡記為 ${X_n=X(n),n=0,1,2,\cdots}$ 。

　　馬爾可夫鏈是隨機變量 $X_1,X_2,X_3\cdots$ 的一個數列。這些變量的范圍，即他們所有可能取值的集合，被稱為“狀態空間”，而Xn的值則是在時間n的狀態。如果Xn + 1對於過去狀態的條件概率分布僅是Xn的一個函數，則

　　 $P(X_{n+1}=x|X_0,X_1,X_2,\cdots,X_n)=P(X_{n+1}=x|X_n)$

　　這里x為過程中的某個狀態。上面這個恆等式可以被看作是馬爾可夫性質。

　　馬爾可夫在1906年首先做出了這類過程。而將此一般化到可數無限狀態空間是由柯爾莫果洛夫在1936年給出的。

　　馬爾可夫鏈與布朗運動以及遍歷假說這兩個二十世紀初期物理學重要課題是相聯系的，但馬爾可夫尋求的似乎不僅於數學動機，名義上是對於縱屬事件大數法則的擴張。

　　馬爾可夫鏈是滿足下面兩個假設的一種隨機過程：

　　1、t+l時刻系統狀態的概率分布只與t時刻的狀態有關，與t時刻以前的狀態無關；

　　2、從t時刻到t+l時刻的狀態轉移與t的值無關。一個馬爾可夫鏈模型可表示為=(S，P，Q)，其中各元的含義如下：

　　1）S是系統所有可能的狀態所組成的非空的狀態集，有時也稱之為系統的狀態空間，它可以是有限的、可列的集合或任意非空集。本文中假定S是可數集(即有限或可列)。用小寫字母i,j(或 $S i, S j$ )等來表示狀態。

　　2） $P=[P_{ij}]_{n\times n}$ 是系統的狀態轉移概率矩陣，其中 $P ij$ 表示系統在時刻t處於狀態i，在下一時刻t+l處於狀態i的概率，N是系統所有可能的狀態的個數。對於任意i∈s，有 $\sum_{j=1}^NP_{ij}=l$ 。

　　3） $Q=[q_1,q_2\cdots q_n]$ 是系統的初始概率分布， $q i$ 是系統在初始時刻處於狀態i的概率，滿足 $\sum_{i=1}^Nq_i=1$ 。

馬爾可夫鏈的性質

馬爾可夫鏈是由一個條件分布來表示的

　　 $P (X n + 1 | X n)$

　　這被稱為是隨機過程中的“轉移概率”。這有時也被稱作是“一步轉移概率”。二、三，以及更多步的轉移概率可以導自一步轉移概率和馬爾可夫性質：

　　 $P(X_{n+2}|X_n) = \int P(X_{n+2},X_{n+1}|X_n)dX_{n+1} = \int P(X_{n+2}|X_{n+1})P(X_{n+1}|X_n)dX_{n+1}$

　　同樣：

　　 $P(X_{n+3}|X_n) = \int P(X_{n+3}|X_{n+2}) \int P(X_{n+2}|X_{n+1})P(X_{n+1}|X_n)dX_{n+1}dX_{n+2}$

　　這些式子可以通過乘以轉移概率並求k−1次積分來一般化到任意的將來時間n+k。

　　邊際分布 $P (X n)$ 是在時間為n時的狀態的分布。初始分布為 $P (X 0)$ 。該過程的變化可以用以下的一個時間步幅來描述：

　　 $P(X_{n+1}) = \int P(X_{n+1}|X_n)P(X_n)dX_n$

　　這是Frobenius-Perron equation的一個版本。這時可能存在一個或多個狀態分布π滿足：

　　 $\pi(X) = \int P(X|Y)\pi(Y)dY$

　　其中Y只是為了便於對變量積分的一個名義。這樣的分布π被稱作是“平穩分布”（Stationary Distribution）或者“穩態分布”（Steady-state Distribution）。一個平穩分布是一個對應於特征根為1的條件分布函數的特征方程。

　　平穩分布是否存在，以及如果存在是否唯一，這是由過程的特定性質決定的。“不可約”是指每一個狀態都可來自任意的其它狀態。當存在至少一個狀態經過一個固定的時間段后連續返回，則這個過程被稱為是“周期的”。

離散狀態空間中的馬爾可夫鏈模型

　　如果狀態空間是有限的，則轉移概率分布可以表示為一個具有(i,j)元素的矩陣，稱之為“轉移矩陣”：

　　 $P ij = P (X n + 1 = i | X n = j)$

　　對於一個離散狀態空間，k步轉移概率的積分即為求和，可以對轉移矩陣求k次冪來求得。就是說，如果 $\mathbf{P}$ 是一步轉移矩陣， $\mathbf{P}^k$ 就是k步轉移后的轉移矩陣。

　　平穩分布是一個滿足以下方程的向量：

　　 $\mathbf{P}\pi^* = \pi^*$

　　在此情況下，穩態分布π * 是一個對應於特征根為1的、該轉移矩陣的特征向量。

　　如果轉移矩陣 $\mathbf{P}$ 不可約，並且是非周期的，則 $\mathbf{P}^k$ 收斂到一個每一列都是不同的平穩分布 $π *$ ，並且，

　　 $\lim_{k\rightarrow\infty}\mathbf{P}^k\pi=\pi^*$

　　獨立於初始分布π。這是由Perron-Frobenius theorem所指出的。

　　正的轉移矩陣（即矩陣的每一個元素都是正的）是不可約和非周期的。矩陣被稱為是一個隨機矩陣，當且僅當這是某個馬爾可夫鏈中轉移概率的矩陣。

　　注意：在上面的定式化中，元素(i,j)是由j轉移到i的概率。有時候一個由元素(i,j)給出的等價的定式化等於由i轉移到j的概率。在此情況下，轉移矩陣僅是這里所給出的轉移矩陣的轉置。另外，一個系統的平穩分布是由該轉移矩陣的左特征向量給出的，而不是右特征向量。

　　轉移概率獨立於過去的特殊況為熟知的Bernoulli scheme。僅有兩個可能狀態的Bernoulli scheme被熟知為貝努利過程

馬爾可夫鏈的應用

[編輯]

科學中的應用

　　馬爾可夫鏈通常用來建模排隊理論和統計學中的建模，還可作為信號模型用於熵編碼技術，如算法編碼。馬爾可夫鏈也有眾多的生物學應用，特別是人口過程，可以幫助模擬生物人口過程的建模。隱蔽馬爾可夫模型還被用於生物信息學，用以編碼區域或基因預測。

　　馬爾可夫鏈最近的應用是在地理統計學（geostatistics）中。其中，馬爾可夫鏈用在基於觀察數據的二到三維離散變量的隨機模擬。這一應用類似於“克里金”地理統計學（Kriging geostatistics），被稱為是“馬爾可夫鏈地理統計學”。這一馬爾可夫鏈地理統計學方法仍在發展過程中。

[編輯]

　　企業人員的變動有調出、調入、平調、晉升與降級五種。表3 假設一家零售公司在1999至2000年間各類人員的變動情況。年初商店經理有12人，在當年期間平均90％的商店經理仍在商店內，10％的商店經理離職，期初36位經理助理有 11％晉升到經理，83％留在原來的職務，6％離職；如果人員的變動頻率是相對穩定的，那么在2000年留在經理職位上有11人（12×90％），另外，經理助理中有4人（36×83％）晉升到經理職位，最后經理的總數是15人（11＋4）。可以根據這一矩陣得到其他人員的供給情況，也可以計算出其后各個時期的預測結果。假設的零售公司的馬爾可夫分析，見下表：

1999~2000	商店經理	經理助理	區域經理	部門經理	銷售員	離職
商店經理 (n=12)	90% 11					10% 1
經理助理 (n=36)	11% 4	83% 30				6% 2
區域經理 (n=96)		11% 11	66% 63	8% 8		15% 14
部門經理 (=288)			10% 29	72% 207	2% 6	16% 46
銷售員 (=1440)				6% 86	74% 1066	25% 228
供給預測	15	41	92	301	1072	351

注意！

本站转载的文章为个人学习借鉴使用，本站对版权不负任何法律责任。如果侵犯了您的隐私权益，请联系我们删除。

機器學習知識點(二十四)隱馬爾可夫模型HMM維特比Viterbi算法Java實現機器學習小組知識點32：馬爾科夫蒙特卡羅采樣算法1：（Metropolis-Hasting ）機器學習知識點(二十五)Java實現隱馬爾科夫模型HMM之jahmm庫【機器學習基本概念】馬爾可夫鏈機器學習知識點學習機器學習算法知識點機器學習知識點筆記機器學習知識點機器學習知識點機器學習掌握知識點