滴：转载引用请注明哦【握爪】 https://www.cnblogs.com/zyrb/p/9700343.html

　　莫烦教程是一个免费的机器学习(不限于)的学习教程，幽默风俗的语言让我们这些刚刚起步的小白们感到Friendly~o(*￣︶￣*)o。为了巩固自己的记忆，也小小の贡献于他人，将莫烦教程进行整理。难免于有错误恳请批评指正，也希望自己始终能愉悦的学习！PS：大多数为整理文本，少部分添加自己的理解。

Artificial Neural Nets VS Neural Nets ？

　　二三十年前，一提到神经网络，我们就想到生物神经网络系统中数以万计的神经连接——将感官和反射器联系在一起的系统。但是今天，你的第一反应则可能是电脑和电脑程序结合的人工神经网络。昔日复杂的神经网络系统，居然神奇的放入了计算机；而人类正在将这种人工神经网络系统推向更高的境界。今天，世界上早已布满了人工神经网络的身影，比如Google的搜索引擎、股票价格预测、机器人学习、围棋、家庭助手等等等等。从金融到仿生样样都能应用，看起来人工神经系统的确很强大。

  

　　但...是不是有这么一个问题一直在你脑海中环绕，没有答案？计算机领域的神经网络和我们自己身体中的神经网络是不是一样呢？那我们先来看一看人的神经网络。

　　900亿神经网络细胞组成了今天我们复杂的神经网络系统，这个数量甚至可以与宇宙当中的星球数相比较。如歌仅仅靠单个的神经元，是远不能让我们像今天一样完成各种任务、处理各种复杂的问题。那我们是如何靠这些神经元来处理问题的呢？首先，我们得知道我们的记忆是如何产生的。

　　想象这时我们还是个婴儿，包着尿布的我们什么都不知道，神经元并没有形成系统和网络，可能只是一些分散的细胞而已。一端连着嘴巴的味觉感受器，一端连着手的肌肉。小时候，世界上有一种神奇的东西，叫做“糖果”~~当我们第一次品尝它的时候，美妙的感觉让我们发现活着是多么有意义的事情！这时候神经网络开始产生连接，记忆开始形成；但是，形成的新连接怎样形成记忆，仍是科学界的一个谜。不过现在，我们的手和嘴产生了某种固定搭配，每当有糖果的时候，某种生物信号就会从我们的嘴传递到我们的手上，让手的动作有意义，比如这样~？

  

然后爸妈就会再给我们一个糖果啦。哈哈，吃糖的目的达成，现在我们看看人工神经网络(以下简称人工~)如何达成这个目的。

　　首先，替换掉生物神经网络的就是已经成体系的人工~所有神经元之间的连接都是固定不可更换的，这也就是说在人工~没有凭空产生新连结这回事。人工~的一种典型学习方法是{我已经知道吃糖时，手会如何动，但是我想要神经网络帮我学着动动手}，所以我预先准备非常多的吃糖的学习数据，然后将这些数据一次次放入这套人工~系统中。“糖”的信号会从这套系统传递到手，然后对比信号传输后手的动作是不是“讨糖”的动作来修改人工~中神经元的强度，这种修改在术语中成为“误差反向传递”，也可以看做将传递来的信号传回去，看看这个负责传递的神经元对“讨糖”的动作到底有没有贡献，让它好好反思与修正，争取下一次做出更好的贡献。

  

　　这样看来，人工~和生物神经网络的确不是那么一回事。人工神经网络靠正向和反向传播来更新神经元，从而形成一个更好的神经系统，本质上是一个能让计算机处理和优化的数学模型。而生物~是通过刺激产生新的连接，让信号通过新的连接传递而形成反馈。虽然新的计算机技术越来越高超，不过我们的身体的神经系统经过了数千万年的进化还是独一无二的。迄今为止，再复杂再庞大的人工~也不能替换我们的小脑袋。我们应该感到自豪，也应该感激上天给我们的这份小礼物！

Conclusion：

1. 生物神经网络依靠产生新连接来进行信号传递，而人工神经网络是一成不变的，是我们事先搭建好（后面微调）的；

2. 对于人工~：前向传播将“糖果”与“手的动作”，即train_x 与label对应，产生权重；反向传播传回看有无贡献，修正惩罚“损失函数”，即目标函数。

Reference:

https://www.bilibili.com/video/av15997678?from=search&seid=14016968102042287039