NLP,语音识别,翻译
1 RNN基本概念
1.1 循环神经网络模型
1.2 通过时间的反向传播
1.3 不同类型的RNN
1.4 RNN的缺点
缺点1:只利用了前文信息,没利用后文信息。
解决方法:BRNN(双向循环神经网络)
缺点2:梯度消失,即前后文距离较远时难以记住。
解决方法:GRU(Gate Recurrent Unit,门控循环单元),LSTM(长短期记忆)
2024-03-25 17:03:06
NLP,语音识别,翻译
缺点1:只利用了前文信息,没利用后文信息。
解决方法:BRNN(双向循环神经网络)
缺点2:梯度消失,即前后文距离较远时难以记住。
解决方法:GRU(Gate Recurrent Unit,门控循环单元),LSTM(长短期记忆)
下一篇:深度学习在NLP领域的发展(一)