Brief Introduction of Deep Learning

Neural Network

确定参数：
一个神经元中所有的w和b记为参数θ

确定神经元的连接方式：
Fully Connect Feedforward Network

用矩阵形式表示：

goodness of function

使用梯度下降求解使loss最小的θ，loss为交叉熵

Backpropagation反向传播

链式求导

反向传播