【文件属性】：
文件名称：multihead-siamese-nets：基于文本语义相似性任务的多头注意力机制构建的暹罗神经网络的实现
文件大小：1.01MB
文件格式：ZIP
更新时间：2021-02-03 18:33:59
nlp natural-language-processing deep-neural-networks deep-learning tensorflow
暹罗深度神经网络的语义相似性。
该存储库包含Tensorflow中的暹罗神经网络的实现，该实现基于3种不同的主要深度学习架构构建：
卷积神经网络
递归神经网络
多头注意力网络
创建该存储库的主要原因是将GitHub上主要基于CNN和RNN架构构建的Siamese神经网络的知名实现方案与基于Transformer模型最初由提出的基于多头注意力机制构建的Siamese神经网络进行比较，这论文。 。
支持的数据集
当前版本的管道支持使用3个数据集：
:NEW_button: 对抗自然语言推论（ANLI）基准： ，
安装
资料准备
为了下载数据，请执行以下命令（此过程可能需要一段时间，具体取决于您的网络吞吐量）：
【文件预览】：
multihead-siamese-nets-master
----requirements()
--------requirements-gpu.txt(112B)
--------requirements-cpu.txt(108B)
----.gitattributes(93B)
----layers()
--------convolution.py(2KB)
--------recurrent.py(1KB)
--------similarity.py(1KB)
--------__init__.py(0B)
--------losses.py(2KB)
--------basics.py(1KB)
--------attention.py(2KB)
----utils()
--------config_helpers.py(816B)
--------data_utils.py(3KB)
--------batch_helper.py(667B)
--------__init__.py(0B)
--------model_saver.py(442B)
--------visualization.py(799B)
--------other_utils.py(1KB)
--------model_evaluator.py(2KB)
--------log_saver.py(864B)
--------constants.py(148B)
----.github()
--------FUNDING.yml(223B)
----models()
--------cnn.py(1KB)
--------model_type.py(398B)
--------__init__.py(0B)
--------rnn.py(1KB)
--------multihead_attention.py(2KB)
--------base_model.py(2KB)
----pics()
--------positive_sample.png(22KB)
--------snli_train_curves.png(372KB)
--------attention2.png(33KB)
--------attention1.png(31KB)
--------.gitkeep(0B)
--------negative_sample.png(21KB)
--------results.png(223KB)
--------qqp_train_curves.png(328KB)
----gui_demo.py(6KB)
----run.py(9KB)
----.travis.yml(115B)
----config()
--------model()
--------main.ini(272B)
----LICENSE(1KB)
----README.md(11KB)
----data()
--------dataset.py(3KB)
--------__init__.py(0B)
--------dataset_type.py(366B)
--------qqp.py(2KB)
--------snli.py(2KB)
--------anli.py(2KB)
----tests()
--------test_attention.py(2KB)
--------__init__.py(0B)
--------test_distance.py(3KB)
--------test_similarity.py(938B)
--------test_recurrent.py(1KB)
----colab()
--------multihead_siamese_nets.ipynb(219KB)
----.gitignore(1KB)
----bin()
--------prepare_data.sh(2KB)