onnxruntime:ONNX Runtime:跨平台,高性能ML推理和训练加速器

时间:2024-02-23 21:11:24
【文件属性】:

文件名称:onnxruntime:ONNX Runtime:跨平台,高性能ML推理和训练加速器

文件大小:269.06MB

文件格式:ZIP

更新时间:2024-02-23 21:11:24

machine-learning deep-learning tensorflow scikit-learn pytorch

ONNX Runtime是一个跨平台的推理和培训加速器,与许多流行的ML / DNN框架兼容,包括PyTorch,TensorFlow / Keras,scikit-learn等。 许多用户可以从ONNX Runtime中受益,包括那些希望: 提高各种ML模型的推理性能 减少培训大型模型的时间和成本 使用Python进行培训,但可以部署到C#/ C ++ / Java应用程序中 在不同的硬件和操作系统上运行 在多个不同框架中创建的支持模型 自2019年10月以来, API稳定且可投入生产,可实现更快的客户体验和更低的成本。 2020年5月在预览中引入了功能。 此功能支持针对变压器模型在多节点NVIDIA GPU上加速PyTorch培训。 此功能的其他更新即将推出。 目录 开始使用 推论:开始 要使用ONNX运行时,请参阅表上针对不同版本组合指令。 兼容性 运行时支持基于标准格式的模型,与PyTorch,scikit-learn,TensorFlow,Keras以及所有其他支持互操作格式的框架和工具兼容。 自ONNX v1.2.1 +起,ONNX Runtime是最新的,并且与所


网友评论