python-bpe:Python的字节对编码!

时间:2024-02-24 12:22:37
【文件属性】:

文件名称:python-bpe:Python的字节对编码!

文件大小:11KB

文件格式:ZIP

更新时间:2024-02-24 12:22:37

python nlp bpe NaturallanguageprocessingPython

BPE AKA字节对编码。 学习提供的空格分隔文本的词汇和字节对编码。 建议在生产用例中使用。 用法 $ python3 -m pip install --user bpe from bpe import Encoder # Generated with http://pythonpsum.com test_corpus = ''' Object raspberrypi functools dict kwargs. Gevent raspberrypi functools. Dunder raspberrypi decorator dict didn't lambda zip im


【文件预览】:
python-bpe-master
----setup.py(924B)
----.gitignore(2KB)
----requirements.txt(38B)
----.travis.yml(180B)
----LICENSE(1KB)
----setup.cfg(57B)
----README.md(2KB)
----bpe()
--------__init__.py(30B)
--------__main__.py(475B)
--------test()
--------encoder.py(12KB)

网友评论