AthenaServing:AI服务框架

时间:2024-03-18 15:36:48
【文件属性】:

文件名称:AthenaServing:AI服务框架

文件大小:56.28MB

文件格式:ZIP

更新时间:2024-03-18 15:36:48

Java

雅典娜服务 是一个高性能,便捷高效的AI模型部署和服务框架。它提供了多种API使用适应了各种AI场景。并集成了服务发现,配置中心等功能,方便用户完成训练模型的快速部署与上线。 主要功能 配置中心 服务发现 版本管理 websocket接入 参数转换 授权均衡 快速体验 组件介绍 AtheGateway 全新的Web API服务webgate提供了基于配置的热插拔AI能力特性,只需要通过补充或编辑配置,插入配置两部操作即可完成AI能力的上线或下线,免去了以往的定制开发工作,业务人员可以把更多的利益注入到AI能力协议的设计和实现上。 代理 AtheProxy接收来自Webgate接收层的请求,并根据请求的路由参数,请求负载均衡模块lb,获取引擎地址,将请求发送到引擎,并从引擎获取结果。 雅典 总体负载,基于收集的信息做负载,并按特定策略返回相应的例程 AtheLoader AI引擎加载器是通


网友评论