文件名称:从零开始:从零开始实施递归神经网络
文件大小:3.16MB
文件格式:ZIP
更新时间:2024-02-27 01:18:41
neural-network tensorflow recurrent-networks rnn rnn-tensorflow
从头开始实现递归神经网络 我假设您对基本的神经网络有些熟悉。 如果不是这样,您可能想直接去,它会指导您了解非经常性网络背后的想法和实现。 介绍 这篇文章的灵感来自 。 您可以深入阅读它,以了解有关RNN的基本知识,我将不在本教程中介绍。 在本教程中,我们将重点介绍如何基于RNN的计算图训练RNN并进行自动微分。 您会发现,以这种方式计算梯度比手动计算更为简单可靠。 这篇文章将以RNN语言模型(rnnlm)为例。 有关RNN的高级应用的更多信息,请参见。 如何训练RNN RNN的体系结构可以如下图所示。 您会发现参数(W, U, V)在不同的时间步*享。 每个时间步的输出可以是soft
【文件预览】:
rnn-from-scratch-master
----preprocessing.py(3KB)
----gate.py(475B)
----output.py(334B)
----data()
--------reddit-comments-2015-08.csv(7.26MB)
----activation.py(409B)
----rnnlm.py(357B)
----rnn.py(4KB)
----README.md(15KB)
----__pycache__()
--------rnn.cpython-34.pyc(4KB)
--------activation.cpython-34.pyc(1KB)
--------layer.cpython-34.pyc(1KB)
--------output.cpython-34.pyc(819B)
--------preprocessing.cpython-34.pyc(4KB)
--------gate.cpython-34.pyc(1KB)
----layer.py(869B)
----figures()
--------gradient.png(750B)
--------rnn_eval.png(19KB)
--------rnn_equation.png(1KB)
--------rnn_loss.png(2KB)
--------rnn.jpg(43KB)
--------init.png(360B)
--------rnn_loss_2.png(976B)
--------rnn-bptt1.png(17KB)
--------rnn-compuattion-graph_2.png(22KB)
--------rnn-bptt-with-gradients.png(22KB)
--------rnn-compuattion-graph.png(24KB)