本文作者:郁昌存 来自京东科技-风险管理中心
一、背景/目标
1) 风控智能化体系建设依赖大量深度学习/机器学习模型进行实时在线的风险识别、智能决策。要求可以将算法模型快速部署为在线服务,供决策引擎调用。
2) 风控决策引擎涵盖交易、支付、营销等核心链路,业务场景对决策系统性能要求极高,平均tp99<50ms。要求算法模型实时服务在高吞吐量下,仍能满足性能要求。
3)精细化运营大背景下,算法模型服务需要支持大促不降级,且不能通过野蛮加机器方式提高吞吐量。要求从技术及架构层进行改进,对算法模型在线推理性能有质的提升。
二、平台整体概览
![「风控算法服务平台」高性能在线推理服务设计与实现 「风控算法服务平台」高性能在线推理服务设计与实现](https://image.shishitao.com:8440/aHR0cHM6Ly9wMy1zaWduLnRvdXRpYW9pbWcuY29tL3Rvcy1jbi1pLXF2ajJscTQ5azAvMTYzMDQ5MDBkNDAzNDhiNDlhOWNhNTllNjYxYTA3YjN+bm9vcC5pbWFnZT9faXo9NTg1NTgmZnJvbT1hcnRpY2xlLnBjX2RldGFpbCZ4LWV4cGlyZXM9MTY2OTg2MTE1MiZ4LXNpZ25hdHVyZT1KR0dETSUyQk5QYTdjVTRqNVIyTGRwN0slMkZtRmNzJTNE.jpg?w=700)