神经网路究竟是什么

结构：

1.神经元——>装有一个数字的容器

28*28=784个神经元

数字代表对应像素的灰度值

0纯黑像素

1纯白像素

神经元里的数叫做激活值

激活值越大亮度越高

这些神经元组成了网络的第一层

2.网络最后一层

10个神经元代表0到9 10个数字 激活值都处在0到1之间

这些值表示输入数字的可能性

隐藏两层

上一层激活值决定下一层激活值

神经网络处理信息核心机制是

一层的激活值通过怎样的运算，算出下一层的激活值

输入——>使下层产生特殊的图案——>得到结果

输出最亮的表示神经网络的选择

为什么要分层？

我们希望每个层做什么?

我们希望倒数第二层分别对应一个笔画

第二层对应短边

上一层的决定值如何决定下一层

设置一个机制，可以把像素拼成短边，短边拼成图案，把图案拼成数字

我们需要给神经元和第一层所有神经元的每一条接线都附上一个权重值（数字）

算出加权和

识别一条边，把周围的赋予负的权重，这样中间亮，周围暗，加权和最大

sinmoid函数

 

 最大负值接近0，最大正值接近1

可以加上偏置值，不可以随便激发

方法：在加权和后加上一个负数，再送到函数里面

把某一层激活值统一成一列向量，再把下一层所有权重放在一个矩阵中，矩阵第n行就是这一层所有神经元和下一层第n个神经元间所有连线的权重

这样权重矩阵和向量乘积的第n项就是这一层所有的激活值和下一层第n个神经元间连线权重的加权和

神经元看成函数更加准确

输入是上一层所有的神经元的输出输出0到1的值