Rust 原生即用型 NLP 管道和基于转换器的模型(BERT、DistilBERT、GPT2...)

时间:2024-07-18 12:46:38
【文件属性】:

文件名称:Rust 原生即用型 NLP 管道和基于转换器的模型(BERT、DistilBERT、GPT2...)

文件大小:461KB

文件格式:ZIP

更新时间:2024-07-18 12:46:38

nlp rust machine-learning translation deep-learning

锈伯特Rust 原生基于 Transformer 的模型实现。Hugging Face 的Transformers 库的端口,使用tch-rs crate 和来自rust-tokenizers 的预处理。支持多线程标记化和 GPU 推理。该存储库公开了模型基础架构、特定于任务的头(见下文)和随时可用的管道。本文档末尾提供了基准测试。目前实现了以下模型: 序列分类 代币分类 问答 文本生成 总结 翻译 蒙面LM 蒸馏器 :check_mark_button: :check_mark_button: :check_mark_button: :check_mark_button: 移动BERT :check_mark_button: :check_mark_button: :check_mark_button: :check_mark_button: 伯特 :check_mark_button: :check_mark_button: :check_mark_button: :check_mark_button: 罗伯塔 :check_mark_button: :check_mark_button: :check_mark_button: :check_mark_button: GPT :check_mark_button: GPT2 :check_mark_button: 捷运 :check_mark_button: :check_mark_button: :check_mark_button: 玛丽安 :check_mark_button: 伊莱克特拉 :check_mark_button: :check_mark_button: 艾伯特 :check_mark_button: :check_mark_button: :check_mark_button: :check_mark_button: T5 :check_mark_button: :check_mark_button: :check_mark_button: XLNet :check_mark_button: :check_mark_button: :check_mark_button: :check_mark_button: :check_mark_button: 改良剂 :check_mark_button: :check_mark_button: :check_mark_button: :check_mark_button: 先知网 :check_mark_button: :check_mark_button: 长形 :check_mark_button: :check_mark_button: :check_mark_button: :check_mark_button: 即用型管道基于 Hugging Face 的管道,准备好使用的端到端 NLP 管道可作为此板条箱的一部分。目前提供以下功能:免责声明此存储库的贡献者不对此处提议的预训练系统的第 3 方使用产生的任何生成负责。1. 问答从给定的问题和上下文中提取问题答案。在 SQuAD(斯坦


网友评论