albert:阿尔伯特

【文件属性】：
文件名称：albert:阿尔伯特
文件大小：109KB
文件格式：ZIP
更新时间：2021-03-13 15:17:34
Python 阿尔伯特 ***************新2020年3月28日*************** 添加一个colab 以对GLUE数据集进行微调。 ***************新2020年1月7日*************** v2 TF-Hub模型现在应该可以在TF 1.15上使用，因为我们从图中删除了本地Einsum op。 请参阅下面的更新的TF-Hub链接。 ***************新2019年12月30日*************** 中国模型发布。 我们要感谢提供的培训数据。 ALBERT模型的版本2已发布。 基础：[ ] [ ] 大：[ ] [ ] Xlarge：[ ] [ ] Xxlarge：[ ] [ ] 在此版本中，我们对所有模型应用“无辍学”，“其他培训数据”和“长时间培训”策略。 我们训练基于ALBERT的步伐为1千万步，而其他模型

【文件预览】：
albert-master
----run_race.py(17KB)
----.gitignore(1KB)
----classifier_utils.py(35KB)
----export_checkpoints.py(6KB)
----README.md(12KB)
----tokenization.py(14KB)
----albert_glue_fine_tuning_tutorial.ipynb(11KB)
----optimization.py(8KB)
----LICENSE(11KB)
----squad_utils.py(62KB)
----run_trivial_model_test.sh(553B)
----modeling_test.py(10KB)
----run_glue.sh(2KB)
----CONTRIBUTING.md(1KB)
----run_pretraining_test.py(5KB)
----create_pretraining_data.py(23KB)
----tokenization_test.py(5KB)
----fine_tuning_utils.py(3KB)
----optimization_test.py(2KB)
----__init__.py(606B)
----requirements.txt(202B)
----run_squad_v1.py(20KB)
----run_classifier.py(21KB)
----export_to_tfhub.py(8KB)
----race_utils.py(15KB)
----run_squad_v2.py(19KB)
----run_pretraining.py(22KB)
----lamb_optimizer.py(5KB)
----modeling.py(45KB)