要使业务系统无极缩放,微服务架构方兴未艾。本质上,就是采用API(例如REST) 封装服务调用,形成服务框架。
既然是分布式API调用,必然涉及到网络IO常见的三种方式:
1) BIO:Blocking IO,阻塞方式,一个socket用一个线程处理
2) NIO: Non-blocking IO,事件驱动,采用reactor模式,一个线程中处理多个socket,JDK1.4以上版本支持
3) AIO:Asynchronous IO,异步,采用Proactor模式,NIO在有通知时可以进行相关操作,AIO在有通知时表示相关操作已经完成,JDK1.7以上版本支持。
对服务的API调用而言,分为同步服务调用和异步服务调用。
同步服务调用
支持同步服务调用时,一般要有IO线程,数据队列,通信对象队列和定时任务。
1) IO线程专门负责和socket连接,进行数据的收发。
2) 收发的数据进入数据队列
3) 通信对象队列保存了多个线程使用的通信对象,主要为了阻塞请求线程,请求线程把数据放入数据队列后会生成一个通信对象,进入通信对象队列并在通信对象队列上等待。
4) 通信对象用于唤醒请求线程。
5) 如果在远程调用超时前执行完毕并返回,那么IO线程就会通知通信对象,通信对象则会结束请求线程的等待,并把结果传给请求进程,以进行后续处理
6) 定时任务负责检查通信队列中的哪些通信对象已经超时,然后这些通信对象会通知请求线程超时。
异步服务调用
支持异步服务调用时,常见的有四种调用方式
1) 单向请求,基本等价于一个不保证可靠到达的通知
2) 回调,是一种被动的方式。请求者设置了回调对象,把数据写入数据队列后就继续自己处理了。回调的执行在IO线程中或定时任务(主要处理超时)的线程中,建议用新的线程来执行回调。
3) Future,Java中的future非常便利,先把future放入队列,然后数据入队列,在线程中处理,等请求线程的其他处理结束后,就通过future来获取通信结果并直接控制超时。
4) 可靠异步,能保证异步请求在远程被执行。
服务端主要有两部分工作:
1) 本地服务的注册管理,服务需要注册到服务注册查找中心后才能被服务调用者发现。
2) 根据请求来定位服务并执行。启动时完成注册,监听端口,通信部分同样用NIO方式实现。IO线程进行通信的处理,一般是多个,完成协议解析。调用服务一般在工作线程进行,反序列化取决于具体实现。工作线程实际上是相互隔离的多个不同服务的线程池。
服务的升级有两种情况:
1) 接口不变,代码完善或功能完善,只是内部服务的实现有变化。
2) 需要修改原有的接口
a) 在接口中增加方法
b) 对接口的某些方法修改调用的参数列表。可以通过版本号来解决,或者在设计上考虑参数的扩展性,例如map传参
需要注意的是,在分布式系统中处理session存储问题的方式:
1) Session Sticky:负责均衡需要根据每次请求的会话标识来进行请求转发
2) Session Replication:web服务器之间增加了会话数据同步
3) Session 数据的集中存储:在web服务器数量大,session 数多时最佳
4) Cookie 使用,在客户端请求上使用session 数据