Multi Model Server是用于提供神经网络模型进行推理的工具-python

时间:2024-07-08 13:37:24
【文件属性】:

文件名称:Multi Model Server是用于提供神经网络模型进行推理的工具-python

文件大小:2.06MB

文件格式:ZIP

更新时间:2024-07-08 13:37:24

机器学习

Multi Model Server(MMS)是一种灵活且易于使用的工具,用于服务使用任何ML / DL框架训练的深度学习模型。 多模型服务器 ubuntu/python-2.7 ubuntu/python-3.6 多模型服务器 (MMS) 是一种灵活且易于使用的工具,用于为使用任何 ML/DL 框架训练的深度学习模型提供服务。 使用 MMS 服务器 CLI 或预配置的 Docker 映像来启动设置 HTTP 端点以处理模型推理请求的服务。 下面提供了服务和包装的快速概述和示例。 docs 文件夹中提供了详细的文档和示例。 加入我们的 slack 频道,与开发团队取得联系,提出问题,了解烹饪技巧等等! 本文档的内容 快速入门 为模型提供服务 其他功能 由 MMS 提供支持的外部演示 提供其他相关文档 最新版本 Docs v0.4.0 Docs 从 v0.4.0 迁移到 v1.0.0 快速入门先决条件 在继续阅读本文档之前,请确保您已以下先决条件。 Ubuntu、CentOS 或 macOS。 Windows 支持是实验性的。 以下说明仅针对 Linux 和 macOS。


网友评论