文件名称:用于在Transformer模型中可视化注意力的工具(BERT,GPT-2,Albert,XLNet,RoBERTa,CTRL等)-Python开发
文件大小:14.27MB
文件格式:ZIP
更新时间:2024-06-14 06:33:49
Python Deep Learning
BertViz BertViz是用于在Transformer模型中可视化注意力的工具,支持变压器库中的所有模型(BERT,GPT-2,XLNet,RoBERTa,XLM,CTRL等)。 它扩展了由BertViz提供的Tensor2Tensor可视化工具BertViz是用于可视化Transformer模型中注意力的工具,支持变压器库中的所有模型(BERT,GPT-2,XLNet,RoBERTa,XLM,CTRL等)。 它扩展了Llion Jones的Tensor2Tensor可视化工具以及HuggingFace的转换器库。 博客文章:解构BERT,第2部分:可视化注意力的内部工作(第1部分不是前提条件)论文:变压器模型中注意力的多尺度可视化相关博客文章:
【文件预览】:
bertviz-master
----MANIFEST.in(132B)
----bertviz()
--------head_view.js(13KB)
--------head_view.py(8KB)
--------transformers_neuron_view()
--------tests()
--------model_view.js(14KB)
--------util.py(654B)
--------neuron_view.js(34KB)
--------__init__.py(67B)
--------neuron_view.py(11KB)
--------model_view.py(8KB)
----images()
--------head-view.gif(2.9MB)
--------model-view-dark.gif(4.98MB)
--------head_thumbnail_left.png(76KB)
--------head-view-large.gif(511KB)
--------neuron_thumbnail.png(345KB)
--------neuron-view-dark.gif(4.84MB)
--------head-view-large.png(158KB)
--------model_thumbnail.jpg(277KB)
--------head_thumbnail_right.gif(190KB)
----LICENSE(11KB)
----requirements.txt(296B)
----setup.py(706B)
----.gitignore(427B)
----README.md(11KB)
----notebooks()
--------head_view_gpt2.ipynb(1KB)
--------head_view_xlnet.ipynb(1KB)
--------model_view_albert.ipynb(3KB)
--------model_view_gpt2.ipynb(2KB)
--------head_view_albert.ipynb(2KB)
--------neuron_view_roberta.ipynb(2KB)
--------model_view_xlm.ipynb(2KB)
--------head_view_bert_tensorflow.ipynb(3KB)
--------head_view_encoder_decoder.ipynb(2KB)
--------head_view_bert.ipynb(2KB)
--------model_view_bert.ipynb(3KB)
--------model_view_distilbert.ipynb(2KB)
--------neuron_view_gpt2.ipynb(2KB)
--------model_view_roberta.ipynb(2KB)
--------head_view_distilbert.ipynb(2KB)
--------model_view_encoder_decoder.ipynb(2KB)
--------head_view_roberta.ipynb(1KB)
--------model_view_xlnet.ipynb(2KB)
--------head_view_xlm.ipynb(1KB)
--------neuron_view_bert.ipynb(2KB)