【文件属性】：
文件名称：ist的matlab代码-pytorch-transformer:实施“注意就是您所需要的”论文
文件大小：15KB
文件格式：ZIP
更新时间：2021-05-26 08:16:34
系统开源
ist的matlab代码pytorch变压器
警告！
仍在重构过程中，请恢复到bb88f0a以获取此仓库的最新工作版本。
通过PyTorch实现“注意力就是您所需要的”论文。
已安装的组件有：
多头注意力
正弦的位置编码
明智之举FFN
标签平滑处理（遗憾的是，仍然无法使用此功能，因为PyTorch尚不支持使用logit进行损耗计算:(）
要求
如何使用？
训练
您可以使用简单的python
train.py来运行培训。
如果要添加其他参数。
请看下面的例子
python
train.py
--batch_size
3
--source_train_path
wmt14/train.en
--target_train_path
wmt14/train.de
--source_val_path
wmt14/eval.en
--target_val_path
wmt14/eval.de
争论
--batch_size
BATCH_SIZE
Number
of
batch
in
single
iteration
--source_train_path
SOURCE_TRAIN_PATH
Pa
【文件预览】：
pytorch-transformer-master
----.gitignore(1KB)
----requirements.txt(83B)
----src()
--------__init__.py(0B)
--------models()
--------utils()
--------modules()
----README.md(12KB)
----hyperparams()
--------config.yaml(723B)
----data.py(2KB)
----train.py(4KB)