本文由机器之心整理
一年一度的深度学习盛会 ICLR 将于当地时间 5 月 6 日-9 日在新奥尔良举行。据统计，ICLR 2019 共收到 1591 篇论文投稿，相比去年的 996 篇增长了 60%，其中 oral 论文 24 篇，poster 论文 476 篇。
目前，ICLR 2019 的最佳论文已经发布。来自蒙特利尔大学 MILA 研究所、微软研究院的论文《Ordered Neurons: Integrating Tree Structures into Recurrent Neural Networks》和来自 MIT CSAIL 研究者的论文《The Lottery Ticket Hypothesis: Finding Sparse, Trainable Neural Networks》夺得本届大会的最佳论文奖项。
论文：Ordered Neurons: Integrating Tree Structures into Recurrent Neural Networks
作者：Yikang Shen、Shawn Tan、Alessandro Sordoni、Aaron Courville（蒙特利尔大学 MILA 研究所、微软研究院）
论文地址：https://openreview.net/forum?id=B1l6qiR5F7
摘要：自然语言是层级结构的：较小的单元（如词组）被嵌套在较大的单元（如子句）内。当较大的成分结束时，嵌套在其内部的较小成分也必须是封闭的。尽管标准 LSTM 架构允许不同神经元以不同时间尺度追踪信息，但它对建模句子成分层级没有明确的偏置（explicit bias）。
本文提出通过对神经元排序的方式添加此类归纳偏置；master input 向量和遗忘门确保在给定神经元更新时，紧随其后的所有神经元也都得到更新。这一新型循环架构 ordered neurons LSTM (ON-LSTM) 在四种不同任务上获得了优秀性能，分别是：语言建模、无监督解析、目标句法评估和逻辑推理。
图 2：句子成分解析树和 ON-LSTM 隐藏状态之间的对应。
论文：The Lottery Ticket Hypothesis: Finding Sparse, Trainable Neural Networks
作者：Jonathan Frankle、Michael Carbin
论文地址：https://openreview.net/forum?id=rJl-b3RcF7
摘要：神经网络剪枝技术可将网络参数量减少 90%，进而在不牺牲准确率的前提下减少存储需求、提升推断的计算性能。然而现有经验表明，剪枝生成的解析架构从一开始就很难训练，尽管解析架构同样可以提升训练性能。
我们发现，标准的剪枝技术会自然地发现子网络，这些子网络经过初始化后能够有效进行训练。基于这些结果，我们提出了「彩票假设」（lottery ticket hypothesis）：密集、随机初始化的前馈网络包含子网络（「中奖彩票」），当独立训练时，这些子网络能够在相似的迭代次数内达到与原始网络相当的测试准确率。
「中奖彩票」赢得了「初始化彩票」：它们的连接具有使训练非常高效的初始权重。我们提出了一种识别中奖彩票的算法，并用一系列实验来支持彩票假设以及这些偶然初始化的重要性。我们发现在 MNIST 和 CIFAR10 数据集上，「中奖彩票」网络的大小不及全连接、卷积前馈架构的 10%-20%。而且，这种「中奖彩票」比原始网络学习速度更快，测试准确率也更高。
那么，应该如何确定「中奖彩票」呢？该研究提出了以下四个步骤：
推荐阅读