一、记忆网络

记忆网络：通过设计记忆模块存储序列模型的中间结果以防丢失信息

意义：可以解决RNN中信息丢失问题

 

 

二、RNN序列以及GRU和LSTM

1、传统RNN方法

 

 

 

2、GRU方法：多了两个门

 

3、LSTM多了一个记忆单元ct

 

 

 

 二、前期知识储备

了解Memory NetWork

参考链接：https://arxiv.org/abs/1410.3916

https://zhuanlan.zhihu.com/p/29590286