文件名称:python-bpe:Python的字节对编码!
文件大小:11KB
文件格式:ZIP
更新时间:2024-02-24 12:22:37
python nlp bpe NaturallanguageprocessingPython
BPE AKA字节对编码。 学习提供的空格分隔文本的词汇和字节对编码。 建议在生产用例中使用。 用法 $ python3 -m pip install --user bpe from bpe import Encoder # Generated with http://pythonpsum.com test_corpus = ''' Object raspberrypi functools dict kwargs. Gevent raspberrypi functools. Dunder raspberrypi decorator dict didn't lambda zip im
【文件预览】:
python-bpe-master
----setup.py(924B)
----.gitignore(2KB)
----requirements.txt(38B)
----.travis.yml(180B)
----LICENSE(1KB)
----setup.cfg(57B)
----README.md(2KB)
----bpe()
--------__init__.py(30B)
--------__main__.py(475B)
--------test()
--------encoder.py(12KB)