文件名称:xlnet_extension_tf:TensorFlow中的XLNet扩展
文件大小:374KB
文件格式:ZIP
更新时间:2024-06-04 16:58:35
machine-learning natural-language-processing deep-learning artificial-intelligence natural-language-understanding
XLNet扩展 *****截至2019年9月13日, 排行榜上单个型号***** *****截至2019年11月1日, 排行榜上单个型号***** 是由CMU和Google Brain提出的一种通用的自回归预训练方法,在20个NLP任务(从问题回答,自然语言推断,情感分析和文档排名)上都优于BERT。 XLNet受到自动回归和自动编码方法的优缺点的启发,以克服双方的局限性,后者使用置换语言建模目标来学习双向上下文,并将Transformer-XL的思想整合到模型体系结构中。 该项目旨在提供在当前XLNet之上构建的扩展,并将XLNet的强大功能带给NER和NLU等其他NLP任务。 图1:在不同任务上微调XLNet的插图 环境 的Python 3.6.7 Tensorflow 1.13.1 NumPy 1.13.3 句子片断0.1.82 数据集 是一个多任务数据集,包含3个子任务
【文件预览】:
xlnet_extension_tf-master
----.gitmodules(80B)
----run_squad.sh(4KB)
----docs()
--------xlnet.nlu.png(27KB)
--------_config.yml(228B)
--------xlnet.tasks.png(110KB)
--------xlnet.squad.v2.png(31KB)
--------xlnet.squad.v1.png(29KB)
--------xlnet.coqa.png(32KB)
--------xlnet.quac.png(31KB)
--------xlnet.ner.png(26KB)
--------index.md(4KB)
----run_classifier.py(35KB)
----run_classifier.sh(3KB)
----LICENSE(11KB)
----tool()
--------eval_quac.py(9KB)
--------convert_token.py(1KB)
--------eval_token.py(7KB)
--------eval_coqa.py(10KB)
--------convert_quac.py(2KB)
--------eval_squad.py(10KB)
--------convert_squad.py(1KB)
--------eval_sent.py(1KB)
--------convert_coqa.py(2KB)
----xlnet()
----run_ner.sh(4KB)
----run_quac.py(72KB)
----run_quac.sh(4KB)
----run_ner.py(36KB)
----.gitignore(1KB)
----run_nlu.sh(4KB)
----run_squad.py(63KB)
----prepro()
--------prepro_conll.py(2KB)
--------prepro_atis.py(4KB)
----README.md(10KB)
----run_coqa.py(84KB)
----run_coqa.sh(4KB)
----run_embed.py(24KB)
----run_nlu.py(42KB)