文件名称:Cross-Thought
文件大小:6KB
文件格式:ZIP
更新时间:2024-06-15 10:58:47
Python
盘算 对句子编码器进行预训练的想法( ) 安装 git clone --depth 1 --branch v0.10.0 https://github.com/pytorch/fairseq.git git clone https://github.com/ngoyal2707/Megatron-LM.git fairseq/fairseq/model_parallel/megatron cp src/transformer_sentence_encoder.py fairseq/fairseq/modules/transformer_sentence_encoder.py pip install --editable ./fairseq 总体而言,我们仅出于交叉考虑而从RoBERTa更改了一个文件“ transformer_sentence_encoder.py”。 所有数据处理均遵
【文件预览】:
Cross-Thought-main
----README.md(4KB)
----LICENSE(1KB)
----src()
--------transformer_sentence_encoder.py(13KB)