神经网络机器翻译Neural Machine Translation(1): Encoder-Decoder Architecture

端到端的神经网络机器翻译(End-to-End Neural Machine Translation)是近几年兴起的一种全新的机器翻译方法。本文首先将简要介绍传统的统计机器翻译方法以及神经网络在机器翻译中的应用,然后介绍NMT中基本的“编码-解码”框架(Encoder-Decoder)。

转载请注明出处:http://blog.csdn.net/u011414416/article/details/51048994

本文中,详细介绍的工作有:
Kyunghyun Cho, Bart van Merrenboer, Caglar Gulcehre Dzmitry Bahdanau, Fethi Bougares, Holger Schwenk, and Yoshua Bengio. 2014. Learning phrase representations using rnn encoder-decoder for statistical machine. In Proceedings of the 2014 Conference on EMNLP, 1724-1734.

Ilya Sutskever, Oriol Vinyals, Quoc V. Le. 2014. Sequence to sequence learning with neural networks. Advances in Neural Information Processing Systems, 4:3104-3112.

神经网络机器翻译Neural Machine Translation(1): Encoder-Decoder Architecture_第1张图片
神经网络机器翻译Neural Machine Translation(1): Encoder-Decoder Architecture_第2张图片
神经网络机器翻译Neural Machine Translation(1): Encoder-Decoder Architecture_第3张图片
神经网络机器翻译Neural Machine Translation(1): Encoder-Decoder Architecture_第4张图片
神经网络机器翻译Neural Machine Translation(1): Encoder-Decoder Architecture_第5张图片
神经网络机器翻译Neural Machine Translation(1): Encoder-Decoder Architecture_第6张图片
神经网络机器翻译Neural Machine Translation(1): Encoder-Decoder Architecture_第7张图片
神经网络机器翻译Neural Machine Translation(1): Encoder-Decoder Architecture_第8张图片
神经网络机器翻译Neural Machine Translation(1): Encoder-Decoder Architecture_第9张图片
神经网络机器翻译Neural Machine Translation(1): Encoder-Decoder Architecture_第10张图片
神经网络机器翻译Neural Machine Translation(1): Encoder-Decoder Architecture_第11张图片
神经网络机器翻译Neural Machine Translation(1): Encoder-Decoder Architecture_第12张图片
神经网络机器翻译Neural Machine Translation(1): Encoder-Decoder Architecture_第13张图片
神经网络机器翻译Neural Machine Translation(1): Encoder-Decoder Architecture_第14张图片
15
神经网络机器翻译Neural Machine Translation(1): Encoder-Decoder Architecture_第15张图片
神经网络机器翻译Neural Machine Translation(1): Encoder-Decoder Architecture_第16张图片
神经网络机器翻译Neural Machine Translation(1): Encoder-Decoder Architecture_第17张图片

你可能感兴趣的