一般只有树状
符合次模性的结构才能精确推理
一般图只能用近似推理
BP算法在有环的,没法使用
本章讲解的是BP算法如何在因子图上执行,之前讲的是在聚类图上执行
\(n_{i\to a}(x_i)\)从变量节点\(i\)到因子节点\(a\)的消息
\(i是变量节点,没有势函数,要计算i的邻居节点(\a 把a排除在外)m_{a\to i}(x_i)做连乘积\)
第二类消息
\(m_{a\to i}(x_i)\)从因子节点\(a\)到变量节点\(i\)的消息
\(a的势函数乘以 a的邻居节点传递给a的消息(i排除在外)做一个连乘积,然后还要做求和边缘化(X_a\ x_i),X_a 包含3个变量,因为有三条边\)
计算信念值
目标,计算节点1的信念值
\(1.变量1只有1个邻居节点,计算a到1的消息,红色箭头\)
\(a的节点的势函数,乘以 a邻居节点传递给a的消息,同时做求和边缘化\)
\(2.求蓝色的,2-a的消息\)
\(计算b-2的m值,有两条边到b,3-b,4-b\)
\(然后对x_2,x_3,x_4求和边缘化\)
\(求3-b的消息,没有其他边了,等于1\)
\(求n_{4-b},等于m_{c-4}\)
\(c-4的消息,等于f_c(x)这个因子\)
重要内容,*能最小化的解释
归一化因子Z不好求,解决思路如下
\(变分推理的思想,直接求F_H不好求,引入了b(x),最小化F(b)\)