文件名称:多模型服务器:多模型服务器是用于提供神经网络模型进行推理的工具
文件大小:2.06MB
文件格式:ZIP
更新时间:2024-02-25 17:12:59
ai deep-learning server neural-network mxnet
多模型服务器 ubuntu / python-2.7 ubuntu / python-3.6 Multi Model Server(MMS)是一种灵活且易于使用的工具,用于服务使用任何ML / DL框架训练的深度学习模型。 使用MMS Server CLI或预配置的Docker映像来启动一项服务,该服务设置HTTP端点以处理模型推断请求。 下面提供了服务和包装的快速概述和示例。 中提供了详细的文档和示例。 加入我们 与开发团队联系,提出问题,了解烹饪内容等等! 本文件内容 其他相关文件 快速开始 先决条件 在继续阅读本文档之前,请确保您具有以下先决条件。 Ubuntu,CentOS