服务端线上接口监控实践

时间:2021-05-04 08:54:19
背景

最近上线了一个新的服务,这个服务有一个特点就是接入了n个第三方的数据服务,前端通过不同参数请求被测服务端,服务端根据参数不同proxy_pass到不同的后端服务器获取数据,处理后吐给前端展示;

问题

被测服务和后端服务都上线后,发现了一些问题 
1、第三方服务器可能会宕机,导致线上的被测服务功能不正常; 
2、现有的报警机制是基于对服务存活的检查,无法检查功能逻辑是否正常;

问题分析

现有的监控程序是对线上服务器进行服务进程存活检查,当进程挂掉才会报警,但是有一些情况cover不到,比如后端服务挂了,那么被测服务进程还在,但是当客户端请求时,无数据返回;

解决方案

使用脚本模拟客户端不同参数的请求,验证接口返回码200的同时,验证数据内容的正确性; 
例:http://abc.sogou.com?type=music,会请求后端music服务器,正常情况下有内容{“name”:”abc”} 
使用python的requests库请求服务端获得返回码&返回body,验证jsonobj中 含有 key = name & value = abc 
当有检查点失败时,向指定邮箱发报警邮件; 
ps:之前偷听到一个小技巧,报警邮件可以指定到QQ邮箱,这样有报警邮件就能及时收到,因为微信有QQ邮箱的收件提醒,是不是想说一声,卧槽~这都可以~

衍生问题

1、case维护麻烦,因为使用python unittest框架,需要将检查点和请求参数维护到代码里,这样新增case比较麻烦 
2、由于case维护在代码中,查看已有case也比较麻烦;

解决方案

1、将case和检查点存在db中,修改python脚本,从db中获取case和检查点,并执行

整体流程图

服务端线上接口监控实践

 

添加case

服务端线上接口监控实践

 

  • 自定义参数组合、预置一些通用检查点,根据实际参数组合的预期返回值,勾选检查点

  • 执行脚本根据db中这条case写入的检查点选择执行assert

  • 后端提供一个查询db的接口,供前台页面展示case列表(如下)

服务端线上接口监控实践

 

存在问题

1、目前这套系统最大的问题是扩展性不好,耦合度较大,后面可以通过完善配置的方法解耦,并增加可扩展性;