SBERT-WK-Sentence-Embedding:纸代号

时间:2024-06-14 02:39:09
【文件属性】:

文件名称:SBERT-WK-Sentence-Embedding:纸代号

文件大小:342KB

文件格式:ZIP

更新时间:2024-06-14 02:39:09

Python

SBERT-WK:剖析基于BERT的单词模型的句子嵌入方法 更新01-28-20:将来可能会更改/更新 SBERT-WK提供了一种通过剖析深层上下文化模型来生成句子嵌入的方法。 由于预训练的语言模型在各种NLP任务中都非常强大,因此如何从深度语言模型中生成句子嵌入仍然是一个挑战。 深度模型主要提供单词/令牌级别的表示。 先前的方法包括平均令牌表示形式或使用CLS令牌在文本相似性任务,聚类和受监督任务中提供的性能均较差。 通过几何分析,我们的模型能够找到表示arocss图层和统一令牌表示中的显着成分。 我们评估了我们在各种任务上的方法,并显示了其有效性。 我们的模型适用于任何深度的情境化模型,不需要进一步的培训。 我们的方法的详细信息可以在我们的出版物: 。 部分 描述 如何设置环境 当前的支持架构 快速指南 复制纸的结果 性能比较 使用更多脚本 参考链接 承认 安装 我们正在使用Py


【文件预览】:
SBERT-WK-Sentence-Embedding-master
----example1.sh(814B)
----.DS_Store(10KB)
----SentEval()
--------.DS_Store(6KB)
--------examples()
--------LICENSE(1KB)
--------setup.py(568B)
--------README.md(14KB)
--------senteval()
--------data()
--------.gitignore(136B)
----sen_emb.py(5KB)
----figure2.png(17KB)
----LICENSE.txt(11KB)
----scripts()
--------.DS_Store(10KB)
--------sentence-bert()
--------bert-base-nli-stsb()
--------bert-base-nli()
----utils.py(6KB)
----example2.sh(812B)
----README.md(7KB)
----cache()
--------figure1.png(132KB)
----__pycache__()
--------utils.cpython-37.pyc(5KB)
----SBERT_WK.py(7KB)
----.gitignore(2KB)
----figure1.png(132KB)

网友评论