文件名称:KoBERT-Transformers:BERT Huggingface变形金刚:hugging_face:上的KoBERT(已修复错误)
文件大小:17KB
文件格式:ZIP
更新时间:2024-06-11 13:18:39
transformers korean-nlp kobert Python
KoBERT变压器 KoBERT & DistilKoBERT上 :hugging_face: Huggingface变形金刚 :hugging_face: KoBERT模型与仓库中的模型相同。 创建此仓库以支持Huggingface标记程序的所有API 。 :police_car_light: 重要的! :police_car_light: :folded_hands: TL; DR 必须安装transformers v2.9.1或更高版本! tokenizer使用此仓库中的tokenization_kobert.py ! 1.兼容Tokenizer Huggingface Transformers v2.9.0 ,已更改了一些与v2.9.0化相关的API。 与此对应,现有的tokenization_kobert.py已被修改以适合更高版本。 2.嵌入的padding_idx问题 以前,它是在BertModel的BertEmbeddings使用padding_idx=0进行硬编码的。 (请参见下面的代码) cla
【文件预览】:
KoBERT-Transformers-master
----setup.py(1KB)
----.gitignore(2KB)
----requirements.txt(32B)
----tokenization_kobert.py(11KB)
----LICENSE(11KB)
----README.md(6KB)
----kobert_transformers()
--------tokenization_kobert.py(11KB)
--------__init__.py(158B)
--------utils.py(134B)
--------load_model.py(733B)