Cross-Thought

【文件属性】：
文件名称：Cross-Thought
文件大小：6KB
文件格式：ZIP
更新时间：2021-05-26 17:12:07
Python 盘算 对句子编码器进行预训练的想法（ ） 安装 git clone --depth 1 --branch v0.10.0 https://github.com/pytorch/fairseq.git git clone https://github.com/ngoyal2707/Megatron-LM.git fairseq/fairseq/model_parallel/megatron cp src/transformer_sentence_encoder.py fairseq/fairseq/modules/transformer_sentence_encoder.py pip install --editable ./fairseq 总体而言，我们仅出于交叉考虑而从RoBERTa更改了一个文件“ transformer_sentence_encoder.py”。 所有数据处理均遵

【文件预览】：
Cross-Thought-main
----README.md(4KB)
----LICENSE(1KB)
----src()
--------transformer_sentence_encoder.py(13KB)