文件名称:nlg-gan:尝试使用生成对抗网络(GAN)进行自然语言生成
文件大小:11KB
文件格式:ZIP
更新时间:2024-05-19 03:54:53
Python
Nlg-gan 在阅读了GAN并想知道它们是否可以应用于自然语言处理之后,我开始了这个有趣的项目。 这项工作主要是学习经历,有助于使自己熟悉Tensorflow和一般的深度学习。 它没有产生实际的结果,尽管我出于某种原因广泛记录了其中的某些部分,但实际上只是为我自己保留了下来。 将GAN应用于NLP的主要挑战是语言通常是一个离散的空间(每个单词是一个不同的点),而GAN需要一个连续的输出空间,以便在鉴别器和生成器之间来回传播梯度。 我对这个问题的解决方案本质上只是将字向量用作连续的输入/输出空间。 生成器的输出不一定直接落在现有单词上,而是可以在单词向量空间中更多地解释为“含义”。 为了从生成器中获取实际的文本以供人类阅读,我在词向量的词典中进行了最近邻搜索。 出于本项目的目的,我使用了GloVe的预训练词向量,该向量位于(不包含在回购中)。 对于生成器和鉴别器,我使用了没有窥Ko
【文件预览】:
nlg-gan-master
----basic_lstm()
--------model.py(7KB)
--------__init__.py(0B)
--------layers.py(4KB)
----.gitignore(1KB)
----README.md(2KB)
----plot.py(3KB)
----utils.py(3KB)
----model.py(3KB)
----basic_lstm.py(8KB)