> For the complete documentation index, see [llms.txt](https://blessbingo.gitbook.io/garnet/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://blessbingo.gitbook.io/garnet/zi-ran-yu-yan-chu-li/gai-shuai-tu-mo-xing/sheng-cheng-shi-mo-xing/hmm/hou-xiang-suan-fa.md).

# 后向算法

前向算法与后向算法用来计算观测序列概率$$P(O|\lambda)$$, 即以当前的HMM产生指定的观测序列$$O$$的概率.

## 后向算法

* **后向概率**

  对于给定的隐马尔可夫模型$$\lambda$$, 定义为$$t$$时刻状态为$$q\_i$$的条件下, 从$$t+1$$时刻到$$T$$时刻的**部分观测序列**为$$o\_{t+1}$$, $$o\_{t+2}$$, ..., $$o\_{T}$$的概率, 记为:

  $$\beta\_t(i)=P(o\_{t+1},o\_{t+1},...,o\_T|i\_t=q\_i,\lambda), i=1,2,...,N$$

  如同**前向概率**一样, 也可以使用递推的方式求得后向概率$$\beta\_t(i)$$以及观测序列概率$$P(O|\lambda)$$. 与前向概率区别的是, 前向的递推是按时间顺序从前向后, 后向的递推是从后向前.
* **观测序列概率的后向算法**
  1. 对于$$T$$时刻, 由于后面没有其他的观测序列, 因此规定:

     $$\beta\_T(i)=1, i=1,2,...,N$$
  2. 按时间倒序递推, 即对$$t=T-1,T-2,...,2,1$$

     为了计算$$t$$时刻状态为$$q\_i$$条件下$$t+1$$时刻的后向概率$$\beta\_t(i)$$, 考虑: 1. $$t+1$$时刻可能的$$N$$个状态$$q\_j$$的转移概率, 即$$a\_{ij}$$ 2. 在此状态下观测为$$o\_{t+1}$$的观测概率, 即$$b\_j(o\_{t+1})$$ 3. 状态$$q\_j$$之后的观测序列的后向概率, 即$$\beta\_{t+1}(j)$$

     综合逻辑如图所示:

     ![image](https://3713032588-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LUx2ALWjDXrP_paswc_%2F-LVTpxWi80PIwYbquz8H%2F-LVTq08BS8gnGEA4fTGN%2Fbackward.png?generation=1546705707750919\&alt=media)

     因此有递推公式:

     $$\beta\_t(i)=\sum\_{j=1}^{N}a\_{ij}b\_{j}(o\_{t+1})\beta\_{t+1}(j),i=1,2,...,N$$
  3. **观测序列的概率**

     观测只需要考虑累加$$t=0$$时刻所有可能状态的后向概率之和就可以. 只是由$$t=0$$时刻(为初始化状态)转向$$t=1$$时刻的过程是用**初始概率**$$\pi\_i$$代替**转移概率**.

     $$P(O|\lambda)=\sum\_{i=1}^{N}\pi\_{i}b\_{i}(o\_1)\beta\_1(i)$$
* **作用**

  主要是在进行HMM参数学习的前向-后向算法(Forward-backward algorithm)中使用, 是HMM关于学习的应用实现的一部分.