Sparse RBM learning Algorithm
本文力求通过学习Sparse RBM learning Algorithm来理解掌握Rbm的整个训练过程。从数学角度来看,我们要理解掌握Rbm模型参数的求解过程。所以,本文就是讲解求Rbm数学模型参数的过程。
需要求解Rbm数学模型参数参数有可视层与隐藏层之间连接的权值矩阵W,可视层的偏置b,隐藏层的偏置c。从分析目标函数着手,依次是目标函数中的每一项,每一项中的函数,函数中的每一个变量。弄清函数中变量,在训练的时候,那些是已知的,那些是未知。弄清怎样由已知量去求解未知量。Sparse RBM learning Algorithm就是一个优化问题,它求解的目标如下:待续......