kfserving:Kubernetes上的无服务器推理

时间:2024-02-25 07:00:12
【文件属性】:

文件名称:kfserving:Kubernetes上的无服务器推理

文件大小:27.81MB

文件格式:ZIP

更新时间:2024-02-25 07:00:12

machine-learning tensorflow sklearn pytorch artificial-intelligence

KF服务 KFServing提供了Kubernetes 用于在任意框架上服务机器学习(ML)模型。 它旨在通过为Tensorflow,XGBoost,ScikitLearn,PyTorch和ONNX等常见ML框架提供高性能,高度抽象的接口来解决生产用例的模型。 它封装了自动缩放,网络连接,运行状况检查和服务器配置的复杂性,为ML部署带来了诸如GPU自动缩放,缩放至零和Canary推出等尖端服务功能。 它为Production ML Serving提供了一个简单,可插入且完整的故事,包括预测,预处理,后处理和可解释性。 KFServing正在 了解更多 要了解有关KFServing的更多信息


网友评论