今天要去清华听LeCun演讲?你需要这份笔记(另附:视频+PPT)

本文来自AI新媒体量子位(QbitAI)

今天要去清华听LeCun演讲?你需要这份笔记(另附:视频+PPT)

 这张票有点抢手

早就没票了。

今天下午,Facebook人工智能研究院院长Yann LeCun,将在清华大礼堂主讲一场两个小时的讲座,题目是《深度学习与人工智能的未来》。

如何优雅的听好LeCun的分享?

当然是提前预习。还能预习?当然,其实可以把LeCun的演讲当成一个巡演。很少有明星在巡演的过程中发表全新的主打歌,这放在人工智能领域也一样。

同理,LeCun这次不可能在清华发表一次全新的分享。所以,如果能事先预习一下,对于在现场理解和学习肯定是大大的加成。

去哪儿找预习的内容?

别担心,量子位都给你准备好了。我们不单给你找到了LeCun此前同题分享的视频,而且还找到了一份高质量的学习笔记……贴心不?

这个笔记的作者Valerian Saliou,是Crisp公司的CTO,也是一个全栈工程师。这份《听LeCun分享后有感》的笔记,发布于去年10月27日。

哪怕你没搞到票,现在也不用着急了。因为LeCun要讲的主体思想(为什么感觉这个词怪怪的)是一致的。视频和笔记,这里都齐了。

当然能去现场最好,有票不去的同学,可以把票转给量子位……

视频

好吧,先把视频放出来。我们顺便也把YouTube自动配的英文字幕下载了,有需要的同学,可以在量子位微信公众号( ID:QbitAI )对话界面,回复“字幕”两个字即可获得。


笔记

然后,笔记的环节来了。再次感谢Valerian Saliou。

今天要去清华听LeCun演讲?你需要这份笔记(另附:视频+PPT)

感知器:第一个学习机器

  ■ 我们今天使用的机器学习算法是感知器的后代

  ■ 加权总和,误差校正

   · 如果输出太低,增加所有输入为正的权重,并减少所有输入为负的权重

   · 如果输出太大,那就反过来做

今天要去清华听LeCun演讲?你需要这份笔记(另附:视频+PPT)

  ■ 监督学习

   · 一个训练集

   · 一些例子,如果机器出错(或正确),你得调整权重

   · 模式识别的标准模型,从50年代至今都是“the only model in town”

   · 监督机器学习=功能优化

   · 随机梯度下降,意即针对某一案例,给予机器期望的答案并调整超参数,使得误差减小

   · 如何构建复杂的机器?如何推而广之,例如图像识别

今天要去清华听LeCun演讲?你需要这份笔记(另附:视频+PPT)

  ■ 深度学习系统

   · 有数以亿计的“旋钮”

   · 每个识别需要数十亿次操作(输入到输出),所以使用GPU,而不是CPU

   · 搭建深度学习系统,不是单一模块,而是级联的模块

     1、特征提取器

     2、中级特征

     3、高级特征

     4、可训练分类器

   · 所有层(即模块)均可训练

   · 深度学习中深度的意思是有很多层

今天要去清华听LeCun演讲?你需要这份笔记(另附:视频+PPT)

   · 图像由图案/对象组成,继续分解为各个部分,继续分解为像素

     · 低级特征探测像素

     · 中级特征探测部分

     · 高级特征探测图案/对象

   · 不仅对图像有效,还能用于文本、语音等。让世界变得可理解

今天要去清华听LeCun演讲?你需要这份笔记(另附:视频+PPT)

   · 大脑的新皮层也是分层的

     · 中脑腹侧/识别路径也有很多层

     · 非常快(识别对象的过程需要不到100ms)

     · 反馈和推理对解释日常对象的影响非常小

今天要去清华听LeCun演讲?你需要这份笔记(另附:视频+PPT)

多层神经网络

  ■ 反向传播算法

  ■ 用向量乘以矩阵

  ■ 阈值操作(非线性),例如:ReLU(x) = max(x,0)

  ■ 每个单元计算其输入的加权和

  ■ 加权和通过非线性函数传递

  ■ 学习的算法改变权重

今天要去清华听LeCun演讲?你需要这份笔记(另附:视频+PPT)

  ■ 如何训练?

    · 使用反向传播算法

    · 框架:Torch,TensorFlow,Theano等

    · 雅可比矩阵(包含所有偏导数输出)

    · 将梯度乘以雅可比矩阵

  ■ ReLU:修正线性单元

今天要去清华听LeCun演讲?你需要这份笔记(另附:视频+PPT)

卷积神经网络

  ■ 缩写:ConvNets或CNN

  ■ 网络中有两种层

    · 卷积

    · 池化

今天要去清华听LeCun演讲?你需要这份笔记(另附:视频+PPT)

  ■ 针对AI工作的改进

    · ImageNet数据集,具有120万个标记的训练样本和1000个类别

    · NVIDIA CUDA,万亿op/s

    · 卷积的网络获取信任,然后人们都转向ConvNets

今天要去清华听LeCun演讲?你需要这份笔记(另附:视频+PPT)

  ■  极深卷积网络架构

    · VGG

    · GoogLeNet

    · ResNet

  ■ 使用极深卷积网络

    · 解释图片

    · 人脸识别

今天要去清华听LeCun演讲?你需要这份笔记(另附:视频+PPT)

    · 分类+定位(多尺度滑动窗口),用于识别人体在图片上的姿势

    · Big Sur:Facebook的深度学习引擎,由一堆GPU组成

     (量子位注:现在升级成Big Basin了,见报道

    · 由于最近有更多人研究深度学习,所以进步加快了

今天要去清华听LeCun演讲?你需要这份笔记(另附:视频+PPT)

今天要去清华听LeCun演讲?你需要这份笔记(另附:视频+PPT)

可微分内存

今天要去清华听LeCun演讲?你需要这份笔记(另附:视频+PPT)

今天要去清华听LeCun演讲?你需要这份笔记(另附:视频+PPT)

生成对抗网络

今天要去清华听LeCun演讲?你需要这份笔记(另附:视频+PPT)

今天要去清华听LeCun演讲?你需要这份笔记(另附:视频+PPT)

  ■ DCGAN:https://[github.com/Newmu/dcgan_code](http://github.com/Newmu/dcgan_code)

P.S. 还有一份补充材料送给同学们:《LeCun详解预测学习:一小时视频+84页PPT

欢迎加量子位小助手的微信:qbitbot,如果你研究或者从事AI领域,小助手会把你带入量子位的交流群里。

本文作者:若朴
原文发布时间: 2017-03-22 
上一篇:视觉智能开放平台【图像生产】【视频生产】上线新算法啦!


下一篇:Unix小笔记