文件名称：T5: Text-To-Text Transfer Transformer-python
文件大小：3.74MB
文件格式：ZIP
更新时间：2024-07-08 12:08:39
自然语言处理
T5: Text-To-Text Transfer Transformer T5：Text-To-Text Transfer Transformer T5 主要用作代码，用于重现 Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer 中的实验。 在论文中，我们演示了如何使用在大型文本语料库上预训练的文本到文本转换器在多个 NLP 任务上获得最先进的结果。 此存储库中的大部分代码用于加载、预处理、混合和评估数据集。 它还提供了一种微调与出版物一起发布的预训练模型的方法。 T5 可以用作未来模型开发的库，通过提供有用的模块来训练和微调（可能巨大的）文本到文本任务的混合模型。 目录库使用数据集准备 C4 安装在 GCP 上设置 TPU 训练微调评估解码导出 GPU 使用谷歌使用发布模型检查点如何引用库 t5.data t5.data 是用于定义提供 tf.data 的任务对象的包.数据集。 每个任务由： 数据源文本预处理器函数 SentencePiece 模型度量函数 此