文件名称：BERT-torchserve-quickstart:通过Torchserve服务BERT嵌入
文件大小：10KB
文件格式：ZIP
更新时间：2024-04-26 06:51:56
nlp pytorch representation-learning bert production-service
生物嵌入火炬快速入门 概述 我们将分两步创建一个Torchserve存档（.mar），然后将其用于设置Torchserve实例。 如果您已经拥有所需的文件，请随时跳过一步。 本指南引用了BiobBERT模型，但是您可以将其与任何BERT实现一起使用。 要求 Python> = 3.7，带有来自requirements.txt的软件包torch-model-archiver是可选的 码头工人 模型准备 步骤0。下载模型 我们需要类似火炬的格式的BERT模型。 可以从下载它们。 此步骤后所需的文件： biobert_large/ ├── bert_config.json ├── pytorch_model.bin └── vocab.txt 步骤1.追踪 Torchserve在静态跟踪的模型上运行。 最令人恼火的部分是，如果在此步骤中出现问题，则割炬将无法检测到-唯一的提示将是所产生的输
【文件预览】：
BERT-torchserve-quickstart-master
----bert_helper.py(3KB)
----trace_model.py(831B)
----utils.py(551B)
----readme.md(2KB)
----Dockerfile(308B)
----bert_tokenizer.py(17KB)
----my_handler.py(326B)
----requirements.txt(44B)
----run.sh(78B)
----handler.py(1KB)