隐马尔可夫模型求解三大问题实例剖析
HMM 模型如图所示：
一、隐马尔可夫模型定义
隐马尔可夫模型由初始概率分布、状态转移概率分布以及观测概率分布确定。
设 Q(图中的q）是所有可能的状态的集合，V(图中的O) 是所有可能的观测的集合。
其中，N为可能状态数，M为可能的观测数。
I是长度为T的隐藏状态序列，O是对应的观测序列。
以下三个参数（A、B、π）：
A是状态转移概率矩阵：
其中，
表示在时刻t处于状态qi的条件下在时刻t+1转移到状态qj的概率。
B是观测概率矩阵：
其中,
表示在时刻t处于状态qj 的条件下生成观测vk的概率。
π是初始状态概率向量：就是由空状态转换为有状态的一个概率
其中，
表示时刻t=1处于状态qi的概率。
隐马尔可夫模型由π、A、B决定。π和A决定状态序列，B决定观测序列。
隐马尔可夫模型 λ=（ A, B,π），A、B、π称为隐马尔科夫模型的三要素。
隐马尔可夫模型的两个基本假设：
（1）齐次马尔可夫性假设
（2）观测独立性假设
二、隐马尔可夫模型的三个基本问题
问题一：概率计算问题：观察序列的概率
给定模型λ=（ A, B,π）和观测序列
。计算在模型λ下观测序列O出现的概率P（O|λ）。
解决此问题的方法为前向、后向算法。
问题二：预测问题：由观察序列求隐藏序列
比如：HMM 写的拼音输入法
也称为解码问题。已知模型λ=（ A, B,π）和观测序列
，求对给定观测序列条件概率P（I|O）最大的状态序列 。即给定观测序列、
，求最有可能的对应隐藏状态序列
解决此问题的方法为维特比算法。
问题三：学习问题：HMM参数估计
已知观测序列
，估计模型λ=（ A, B,π）参数，使得在该模型下观测序列概率P（O|λ）最大。
当同时给定观测序列和对应状态序列时，使用极大似然估计方法估计参数。
当只给定观测序列，没有对应状态序列时，基于EM算法进行参数估计。（Baum-Welch算法）
三、隐马尔可夫模型的实例
模型实例
假设 S 是天气状况的集合，分别是“晴天”、＂多云＂、“下雨”，
其初始概率分布为，
|
晴天 |
多云 |
下雨 |
|
0.63 |
0.17 |
0.20 |
其状态转移概率矩阵为：
|
- |
晴 |
阴 |
雨 |
|
晴 |
0.500 |
0.375 |
0.125 |
|
阴 |
0.250 |
0.125 |
0.625 |
|
雨 |
0.250 |
0.375 |
0.325 |
假设有一位盲人住在海边，他不能通过直接观察天气的状态来预报天气。但他有一些水藻，因此可以利用水藻的干湿来预报天气。水藻的干湿与天气状况之间的关系如下表：
|
- |
干燥 |
稍干 |
潮湿 |
湿透 |
|
晴 |
0.60 |
0.20 |
0.15 |
0.05 |
|
阴 |
0.25 |
0.25 |
0.25 |
0.25 |
|
雨 |
0.05 |
0.10 |
0.35 |
0.50 |
问题１：求解观察序列的概率
针对上述模型，我们求ｐ（干燥，潮湿，湿透）。思路很简单：
- 确定隐状态的初始概率分布，这是已知的，参见下图第一列。
- 根据隐状态到观测结果“干燥”的发射概率（参见下图第一列到第二列的箭头标注），计算得到“干燥”这个观测结果时，三个隐状态的概率，参见下图第二列。
- 根据隐状态之间的转移概率，重新确定在观测到“干燥”结果后的第二天，隐状态的概率分布，参见下图第三列。图中，我只标注了“晴”的计算过程，其他两天气则省略没画，建议自己亲自计算一下，验证一下。
这个时候再往下计算，方法就和第一步一样了，不再罗嗦了。
问题２：由观察序列确定隐状态序列
例如用HMM 算法来写中文输入法
我们观察到了“干燥、潮湿、湿透”，那么实际天气变化的序列应该是什么呢？会是凭直觉猜测的“晴、阴、雨”这个序列吗？
解决这个问题的关键是，如何计算p(晴阴雨|干燥 潮湿 湿透)？我画了一张图，只要把黑色路径上标注的初始概率、转移概率、发射概率连乘起来，就得到这条路经的概率。
ok，现在问题变成了如何从开始到结束找到一条概率最大的路径。问题转化成了路径最优化问题，可以用动态规划方法解决，我不想再啰嗦了，剩下的任务大家自行解决吧。
问题3：HMM参数估计
假设隐马尔可夫模型的观测序列是“干燥，潮湿，湿透，…”，那么，隐马尔可夫模型的参数A,B,π 如何设置，才能使这个观测序列出现的概率最大？这就是所谓的隐马尔可夫模型参数估计问题。
参照上图，从起点到终点共计27条路径，把这些路径的概率全部加起来，就是“干燥，潮湿，湿透”发生的概率。如果图中箭头随对应的概率全部为未知，可以想想，最终的结果就可以用这些参数表示。因此问题可描述为，这些参数取何值时，所求概率最大。
上图中的实例， 计算观察序列的概率应该不需要遍历27条路径，这样复杂度太高了。这个问题大家自行考虑吧。
转移概率矩阵和发射概率矩阵在多个环节重复出现，让我联想起卷积神经网络的卷积层设计，扯得有点远。但是，这个概率网络求解整体过程的确与神经网络类似。
一个不好的消息是，没办法用公式求解此最优化问题。一个稍好一点的消息是，可以用梯度下降法，求局部极小解，这简直是废话。还有一个稍好点的消息，Baum-Welch算法可以解决此问题，思路类似EM算法，思路也很简单，
Baum-Welch算法
比如，先假设状态序列为已知，参见下表。和EM算法套路一样，可以看看《简析EM算法（最大期望算法）》。
|
t |
观察值 |
晴朗 |
多云 |
下雨 |
|
1 |
干燥 |
1 |
0 |
0 |
|
2 |
潮湿 |
0 |
1 |
0 |
|
3 |
湿透 |
1 |
0 |
0 |
|
4 |
潮湿 |
0 |
0 |
1 |
|
5 |
干燥 |
0 |
1 |
0 |
|
6 |
潮湿 |
1 |
0 |
0 |
|
7 |
湿透 |
0 |
0 |
1 |
|
… |
… |
… |
… |
… |
状态的出现次数为0或1，和EM算法是完全一样的套路。如果出现100次＂晴朗＂
，其中对应70次“干燥”，则可以估计“晴朗”向“干燥”发射概率为70/100=0.7，如此类推，可以求出模型中的所有概率值。
现在的问题是，状态出现的次数是不知道的。依据EM算法思路，可以随机给模型参数赋值（当然要保证数据的合理性）。比如，根据“晴朗”、“阴天”、“下雨”向“干燥”的发射概率，把状态出现次数１按比例分配给三个状态。这样就可以按照上面的方法重新计算模型的参数了。如此类推，直到模型参数收敛为止。
状态转移概率，也可以统计出来。比如从上表1、2两行可以得到“晴天”到“多云”转移累计计数１次。在EM算法中，这个计数可能变成了用小数表示的模糊计数，不过没关系，一样可以得到这个累计计数。
初始概率计算也是同样道理，用模糊计数方法可以帮助估计概率分布。
参考博客和书籍：
https://blog.csdn.net/quicmous/article/details/52208302
https://blog.csdn.net/lrs1353281004/article/details/79417225
《统计学习方法》李航