隐马尔可夫模型（一）

马尔可夫链

马尔可夫链是指具有马尔可夫性质的随机过程。在过程中，在给定当前信息的情

况下，过去的信息状态对于预测将来状态是无关的。

在马尔可夫链的每一步，系统根据概率分布，可以从一个状态变成另外一个状态，也可以保持当前状态不变。状态的改变叫做转移，状态改变的相关概率叫做转移概率。

马尔可夫链中的三元素是：状态空间S、转移概率矩阵P、初始概率分布π。

案例：

从上面两个例子 可以看出收敛值   和 初始概率无关 只和转移概率矩阵有关

隐马尔可夫模型

隐马尔可夫模型(Hidden Markov Model, HMM)是一种统计模型，在语音识别、

行为识别、NLP、故障诊断等领域具有高效的性能。

HMM是关于时序的概率模型，描述一个含有未知参数的马尔可夫链所生成的不可观测的状态随机序列，再由各个状态生成观测随机序列的过程。HMM是一个双重随机过程---具有一定状态的隐马尔可夫链和随机的观测序列。

HMM随机生成的状态随机序列被称为状态序列；每个状态生成一个观测，由此产生的观测随机序列，被称为观测序列。

HMM参数说明

l= (A, B,p)

案例

在给定参数π、A、B的时候，得到观测序列为“白黑白白黑”的概率是多少??

HMM的三个问题

 

 

概率计算问题：前向-后向算法

给定模型λ=(A,B,π)和观测序列Q={q1,q2,...,qT}，计算模型λ下观测到序列Q出现的概率P(Q|λ)

比如观测序列Q为  我是中国人     计算  我是中国人 出现的概率

学习问题：Baum-Welch算法(状态未知) 

已知观测序列Q={q1,q2,...,qT}，估计模型λ=(A,B,π)的参数，使得在该模型下观测序列P(Q|λ)最大。

 模型λ=(A,B,π)的参数 未知   计算参数

预测问题：Viterbi算法

给定模型λ=(A,B,π)和观测序列Q={q1,q2,...,qT}，求给定观测序列条件概率P(I|Q，λ) 最大的状态序列I

比如  分词问题