零、概率图模型综述

1. 概率图模型

• 概率图模型 (probability graphical model)：用图来描述变量不同属性间相关关系。根据边的性质不同，可以分为：
  • 有向图模型 / 贝叶斯网络 (Bayesian network)：使用有向无环图表示变量间的依赖关系。
  • 无向图模型 / 马尔科夫网 (Markov network)：使用无向图表示变量间的相关关系。

2. 生成式模型和判别式模型

• 假定可观测变量集合为 $X$，所关心的变量集合 $Y$、其他变量集合 $O$ ，那么：
  • 生成式 (generative) 模型：考虑联合分布 $P(Y, X, O)$，比如 HMM；
  • 判别式 (discriminative) 模型：考虑条件分布 $P(Y, O \, | \, X)$，比如 CRF。
  • 显然二者是一致的，因为 $P(Y, X, O) = P(Y, O \, | \, X) \cdot P(X)$，而 $P(X)$ 在观测量给定时是一个常数。
  • 推断 (inference)：从联合分布或者条件分布得到条件概率分布 $P(Y \, | \, X)$。

一、隐马模型

1. 基本定义

• 隐马尔科夫模型（Hidden Markov Model）是一种描述两个时序序列联合分布的有向概率图模型。
  • $\boldsymbol x$ 序列为观测序列 (observation sequence)，观测变量可以是离散型也可以是连续型。记观测 (observation) 的数目为 $|{\mathcal X}|=M$，${\mathcal X} = \{ o_1, o_2, \cdots, o_M \}$。
  • $\boldsymbol y$ 序列为状态序列 (state sequence)，状态变量为离散型，也称为隐变量 (hidden variable)。记状态 (state) 的数目为 $|{\mathcal Y}|=N$，${\mathcal Y} = \{s_1, s_2, \cdots, s_N \}$。
  • 隐马尔可夫模型认为观测序列与状态序列构成如下图所示的结构，其满足马尔科夫链 (Markov chain)，即系统每一时刻的状态仅由前一时刻的状态决定，不依赖于再前面的任何状态。称一共有 $T$ 个时刻。

• HMM 是一种有向概率图模型，因为 HMM 如果把各个时间的状态和观测都看作序列的特征，就可以看作一种特别简单的、形式固定的贝叶斯网络。

• 根据贝叶斯网络的联合概率分布公式 $P(x_1, x_2, \cdots, x_n) = \prod_{i=1}^d P(x_i \, | \, \Pi_i)$，可以知道隐马模型的联合概率分布：

  $$ P( \boldsymbol x, \boldsymbol y) = P(y_1) P(x_1 \, | \, y_1)\prod_{t=2}^T \left( P(y_t \, | \, y_{t-1} ) P(x_t \, | \, y_t) \right) $$

2. 从实例看模型参数

• 如下面是一个有「头晕、体寒、正常」三种观测、「健康、发烧」两种状态的模型。一定要看懂这个图，非常重要。

• 可以看到，需要确定上面这个模型所要确定的量：

  1. 初始状态概率向量：表示由初始进入各个状态的概率，如上图的虚线箭头。

     $$ \boldsymbol \pi = [p(y 1 = s_i)]{N \times 1} $$

  2. 状态转移概率矩阵：表示现在处于任一状态下，它下一时间保持状态或转到其他任意状态的概率，如图中第二行间的转换箭头。

     $$ \boldsymbol A=[p(y_{t}=s_j \ |\ y_{t-1}=s_i)]_{N\times N} $$

     • 有时候也把「超头项」看作一个独特的状态放进状态转移概率矩阵中（一般作为新增的第一行），以代替初始状态概率向量的作用。
     • 有时候也会把「超尾项」看做一个独特的状态考虑（一般作为新增的最后一列），但目前不涉及。

  3. 发射概率矩阵：表示现在处于任一状态下，它表现出各个观测结果的概率，如图中第二、三行间的转换箭头。

     $$ \boldsymbol B=[p(x_t=o_j \ |\ y_t=s_i)]_{N\times M} $$

• 放到图解里也就是这样的关系。

二、隐马尔科夫模型的基本用法