课程二：深度学习入门

　　　　　　　　　　　　　　　　　　　　　　　　讲师：David （数据分析工程师）

　　这门课主要介绍了很多神经网络的基本原理，非常非常基础的了解。

零、思维导图预览：

        

     

一、深度神经网络

　　1.神经元工作原理

　　

　　——这是生物上的神经元，然后从中抽象出来，做成 M-P神经元模式

　　2.神经网络简介

　　——1943 M-P神经元模型

　　　　

　　　　——1956 感知机

　　　　——1986 分布式表示

　　　　　　　　由 hinton（神经网络之父？）提出

　　　　　　　　——用6个神经元表示9个组合。

神经元 颜色 物件	红	黄	蓝
车	红车	黄车	蓝车
马	红马	黄马	蓝马
狗	红狗	黄狗	蓝狗

　　　　　　一开始是需要9个神经元来表示这些组合，后来提出分布式表示后，就可以使用6个神经元，再通过其两两组合，从何实现了9个组合，这种方法。

　　　　——1986 反向传播算法

　　　　——1994 长短记忆网络

　　　　——2006 深度神经网络

　　　  ——2007 卷积神经网络

　　

　　3.为什么现在深度学习这么火？

　　——“大”数据

　　　　目前科技发展较好，网络上有丰富的数据。

　　　　深度学习：需要大量的数据来训练他的能力。

　　——“深”模型

　　　　当前计算机的计算能力较强。

　　4.神经网络分类

　　——前馈神经网络

　　　　

　　——深度神经网络（全链接式）

　　

　　——优化深度神经网络

　　　　TensorFlow （较流行）、torch 、theano 、caffe 、mxnet、 pytorch

　　　　——测试：http://playground.tensorflow.org  一个用来优化深度神经网络的工具测试

　　——卷积神经网络

　　　　——处理图片识别的问题

　　　

　　——循环神经网络（RNN）

　　　　

　　——长短记忆网络（LSTM）

　　

　　——门循环网络（GRU）

　　

　　——生产判别式网络

　　

二、深度学习的应用

　　1. 图片识别

　　

　　2. 语言识别

　　3. 机器翻译

　　4. 图片生成

三、如何学习深度学习

　　1.数学

　　——线性代数

　　——微积分

　　——凸优化计算方法

　　——概率论 等

　　2.机器学习

　　3.编程

　　——算法与数据结构

　　——python

　　4.深度学习

　　——相关资料推荐：

　　　　Deep Learning，lan Goodfellow , Yoshua ，Bengio , etc .

　　——论文网站推荐：域名：arXiv

　　——相关公开课推荐

　　　　cs231n  & hinton