文件名称：accelerate:训练和使用具有多GPU，TPU，混合精度的NLP模型的简单方法
文件大小：247KB
文件格式：ZIP
更新时间：2024-04-18 14:37:48
Python
在任何类型的设备上运行* raw * PyTorch培训脚本 易于整合 :hugging_face: 为喜欢编写PyTorch模型的训练循环但不愿编写和维护使用多GPU / TPU / fp16的样板代码的PyTorch用户创建了Accelerate。 :hugging_face: 准确加速摘要，仅加速与多GPU / TPU / fp16相关的样板代码，而其余代码保持不变。 这是一个例子： import torch import torch.nn.functional as F from datasets import load_dataset + from accelerate import Accelerator + accelerator = Accelerator() - device = 'cpu' + device = accelerator.device model = torch.nn.Transformer().