Cross-Thought

时间:2024-06-15 10:58:47
【文件属性】:

文件名称:Cross-Thought

文件大小:6KB

文件格式:ZIP

更新时间:2024-06-15 10:58:47

Python

盘算 对句子编码器进行预训练的想法( ) 安装 git clone --depth 1 --branch v0.10.0 https://github.com/pytorch/fairseq.git git clone https://github.com/ngoyal2707/Megatron-LM.git fairseq/fairseq/model_parallel/megatron cp src/transformer_sentence_encoder.py fairseq/fairseq/modules/transformer_sentence_encoder.py pip install --editable ./fairseq 总体而言,我们仅出于交叉考虑而从RoBERTa更改了一个文件“ transformer_sentence_encoder.py”。 所有数据处理均遵


【文件预览】:
Cross-Thought-main
----README.md(4KB)
----LICENSE(1KB)
----src()
--------transformer_sentence_encoder.py(13KB)

网友评论