文件名称：Read_Bert_Code:Bert原始码阅读与讲解（Pytorch版本）
文件大小：469KB
文件格式：ZIP
更新时间：2024-04-11 22:04:56
系统开源
伯特源代码解读 Bert在生产环境的应用中需要进行压缩，这就要求对Bert结构很了解，这个仓库会一步一步理解Bert源代码（pytorch版本）。 代码和数据介绍 首先对代码来说，实质上的是这个 我直接把代码克隆过来，放到了本仓库，重新命名为bert_read_step_to_step。 我会使用这个代码，一步步运行bert关于文本分类的代码，然后同时记录下各种细节包括自己实现的情况。 运行之前，需要做两个事情。 准备预训练模型 一个是预训练模型的准备，我使用的是谷歌的中文预训练模型：chinese_L-12_H-768_A-12.zip，模型有点大，我就不上传了，如果本地不存在，就点击下载，或者直接命令行运行 wget https://storage.googleapis.com/bert_models/2018_11_03/chinese_L-12_H-768_A-12.zip 预训练
【文件预览】：
Read_Bert_Code-master
----bert_read_step_to_step()
--------run_classifier_xnli.sh(652B)
--------.DS_Store(14KB)
--------run_classifier.py(29KB)
--------metrics()
--------chineseGLUEdatasets()
--------transformers()
--------convert_albert_original_tf_checkpoint_to_pytorch.py(3KB)
--------run_classifier_tnews.sh(723B)
--------run_classifier_inews.sh(720B)
--------processors()
--------.idea()
--------tools()
--------prev_trained_model()
--------convert_bert_original_tf_checkpoint_to_pytorch.py(3KB)
--------convert_xlnet_original_tf_checkpoint_to_pytorch.py(4KB)
--------README.md(4KB)
--------outputs()
--------convert_ernie_original_pad_checkpoint_to_pytorch.py(8KB)
--------.gitignore(1KB)
--------run_classifier_lcqmc.sh(724B)
----.DS_Store(10KB)
----README.md(23KB)
----convert_tf_to_pytorch()
--------modeling.py(20KB)
--------convert_tf_checkpoint_to_pytorch.py(3KB)