PGET,一个简单、易用的并行获取数据框架

时间:2022-07-11 10:11:08

使用场景

当我们的服务收到一个请求后,需要大量调用下游服务获取业务数据,然后对数据进行转换、计算后,响应给请求方。

如果我们采用串行获取下游数据,势必会增加响应时长,降低接口的qps。如果是并行获取下游数据,则是不错的。

最直接想到的并行获取方法,无非是将一个个获取数据的方法封装成一个个task,然后放到线程池里执行。但这种没经过设计的使用方式,易用性很低,可复用性也很低。

经本人在实际的业务系统中,多次思考与设计。终于设计出当前这个框架。

特点:绝对的简单、绝对的易用。

相关概念

  • BizData

业务数据对象。用于将下游获取到的数据封装到此对象中。

开发者需自定义给对象,并实现IBizData接口

  • BizDataProvider

业务数据对象提供者。此对象类似于分成结构中的Service层,其调用下游数据源(可以是rpc调用等)将得到的数据封装到BizData对象中。

此类需要添加@BizDataProvider注解。其方法返回值一定要是BizData对象

使用

在spring的xml中配置:

<!-- 初始化框架,并设置用于并行获取业务数据的线程池配置  -->
<bean class="com.dyz.pget.core.BizDataManager" init-method="init" destroy-method="destroy">
<property name="corePoolSize" value="12"/>
<property name="maximumPoolSize" value="200"/>
<property name="keepAliveTime" value="0"/>
<property name="queueSize" value="1000"/>
</bean>

第一步:自定义BizData对象

public class UserInfoBizData implements IBizData{
private Long userId;
private String name;
private Integer age; /**
* 必须提供默认构造参数
*/
public UserInfoBizData() {
} public UserInfoBizData(Long userId, String name, Integer age) {
this.userId = userId;
this.name = name;
this.age = age;
} /**
* 如果此数据对象获取失败时的默认兜底值。如果不支持兜底,则返回null即可。
* @return
*/
@Override
public IBizData defaultBizData() {
return null;
} @Override
public String format2String() {
return new StringBuilder()
.append("ID:").append(userId)
.append(",名字:").append(name)
.append(",年龄:").append(age)
.toString();
}
}
//篇幅问题,此处只贴了一个BizData的代码

第二步:编写对应的BizDataProvider

@BizDataProvider
public class TestBizDataProvider { /**
* 异常要抛出,框架会捕获
* @param userId
* @return
* @throws Exception
*/
public UserInfoBizData getUserInfoBizData(long userId)throws Exception{
//调用远程rpc或者其他数据源得到数据,并封装到Test1BizData对象中
return new UserInfoBizData(userId,"张三",20);
} public ProductInfoBizData getProductInfoBizData(long shopId,long productId)throws Exception{
//调用远程rpc或者其他数据源得到数据,并封装到ProductInfoBizData对象中
return new ProductInfoBizData(productId,shopId,"啤酒");
}
}

第三步:获取数据

①Getter模式:

使用案例代码:

  @Test
public void testGetter() throws BizDataFetchException {
long userId = 1345L;
long shopId = 11L;
long productId = 11011L;
//并行获取用户信息、商品信息、门店信息三个数据。超时时间是100毫秒
List<IBizData> bizDataList = BizDataGetter.build()
.get(UserInfoBizData.class,userId)
.get(ProductInfoBizData.class,shopId,productId)
.get(ShopInfoBizData.class,shopId)
.doGet(100L); UserInfoBizData userInfoBizData = (UserInfoBizData)bizDataList.get(0);
ProductInfoBizData productInfoBizData = (ProductInfoBizData)bizDataList.get(1);
ShopInfoBizData shopInfoBizData = (ShopInfoBizData)bizDataList.get(2); System.out.println(userInfoBizData.format2String());
System.out.println(productInfoBizData.format2String());
System.out.println(shopInfoBizData.format2String());
}

②Injector模式:

定义一个数据包裹对象,存放所需要的数据对象

public class BizDataWrapper {
private UserInfoBizData userInfoBizData;
private ShopInfoBizData shopInfoBizData;
private ProductInfoBizData productInfoBizData; public UserInfoBizData getUserInfoBizData() {
return userInfoBizData;
} public ShopInfoBizData getShopInfoBizData() {
return shopInfoBizData;
} public ProductInfoBizData getProductInfoBizData() {
return productInfoBizData;
}
}

使用案例代码:

  @Test
public void testGetter() throws BizDataFetchException {
long userId = 1345L;
long shopId = 11L;
long productId = 11011L;
BizDataWrapper bizDataWrapper = new BizDataWrapper();
//并行获取用户信息、商品信息、门店信息三个数据。并注入到bizDataWrapper中,以方便使用。超时时间是100毫秒
BizDataInjector.build(bizDataWrapper)
.inject(UserInfoBizData.class,userId)
.inject(ProductInfoBizData.class,shopId,productId)
.inject(ShopInfoBizData.class,shopId)
.doInject(100L); System.out.println(bizDataWrapper.getUserInfoBizData().format2String());
System.out.println(bizDataWrapper.getProductInfoBizData().format2String());
System.out.println(bizDataWrapper.getShopInfoBizData().format2String());
}

结尾

相信你使用后,一定会觉着简单易用。

不多说了,贴上github地址:https://github.com/yongzhidai/pget

注:使用时,没必要把源代码粘到业务系统中,自己打个jar包,让业务系统依赖下就OK了。

PGET,一个简单、易用的并行获取数据框架的更多相关文章

  1. 分享一个简单易用的RPC开源项目—Tatala

    http://zijan.iteye.com/blog/2041894 这个项目最早(2008年)是用于一个网络游戏的Cache Server,以及一个电子商务的Web Session服务.后来不断增 ...

  2. 一个简单易用的容器管理平台-Humpback

    什么是Humpback? 在回答这个问题前,我们得先了解下什么的 Docker(哦,现在叫 Moby,文中还是继续称 Docker). 在 Docker-百度百科 中,对 Docker 已经解释得很清 ...

  3. 分享一个简单易用的软件定时器模块(MultiTimer)——基于keil&plus;stm32f103zet&plus;hal库(裸机实现)

    公众号上看到一个比较好的一个github项目:https://github.com/0x1abin/MultiTimer 今天看了看,简单的,就移植了- 且看文档的说明, ============== ...

  4. 写一个简单易用可扩展vue表单验证插件&lpar;vue-validate-easy&rpar;

    写一个vue表单验证插件(vue-validate-easy) 需求 目标:简单易用可扩展 如何简单 开发者要做的 写了一个表单,指定一个name,指定其验证规则. 调用提交表单方法,可以获取验证成功 ...

  5. 微软新神器-Power BI横空出世,一个简单易用,还用得起的BI产品,你还在等什么???

    在当前互联网,由于大数据研究热潮,以及数据挖掘,机器学习等技术的改进,各种数据可视化图表层出不穷,如何让大数据生动呈现,也成了一个具有挑战性的可能,随之也出现了大量的商业化软件.今天就给大家介绍一款逆 ...

  6. FineBI:一个简单易用的自助BI工具

    过去,有关企业数据分析的重担都压在IT部门,传统BI分析更多面向的是具有IT背景的人员.但随着业务分析需求的增加,很多公司都希望为业务用户提供自助分析服务,将分析工作落实到业务人员手中.但同时,分析工 ...

  7. 一个简单的NetCore项目:1 - 搭建框架,生成数据库

    1- 启动项目 安装.NETCORE SDK,教程在网上可以搜索的到,这里就不讲述了.简单粗暴的方式就是安装最新的VS2015. 2-搭建框架 2.1 打开VS新建一个项目,在弹出的新建项目对话框中, ...

  8. 头像截图上传三种方式之一(一个简单易用的flash插件)(asp&period;net版本)

    flash中有版权声明,不适合商业开发.这是官网地址:http://www.hdfu.net/ 本文参考了http://blog.csdn.net/yafei450225664/article/det ...

  9. 来来来,告诉你一个简单易上手的KPI打分的方子

    ▋1/3 前言 每个企业都要定期为员工的工作来进行考核,有月度考核.季度考核和年度考核. 这次月度考核,我打算用一种新的方式来执行. 我在我们研发小组内曾分享过能力-意愿四象限图.根据岗位技术能力和工 ...

随机推荐

  1. ADV-时间分配

    #include<stdio.h> int map[20][4]; typedef struct node{ int star; int end; }node; node dui[100] ...

  2. Atitit&period;java图片图像处理attilax总结

    Atitit.java图片图像处理attilax总结 BufferedImage extends java.awt.Image 获取图像像素点 image.getRGB(i, lineIndex); ...

  3. 【PHP用户的错误日志】

    将产生的错误保存在日志中的方法:使用error_log方法,其中,当日志类型是3的时候,下一个参数将会是日志文件的保存路径 使用示例: <?php function myerror($level ...

  4. &lt&semi;极客学院&gt&semi;视频教程学习笔记-iOS中CALayer的使用

    <1>CALayer简介 1.CALayer一般作为UIView的容器而使用. 2.CALayer是一个管理者图片载体(image-based content)的层结构 3.直接修改单独创 ...

  5. MTU-TCP&sol;IP协议栈-linux kernel-TCP丢包重传-UDP高性能-AI-

    http://view.inews.qq.com/a/20161025A0766200窄带时代的QQQQ是窄带时代极具代表性的产品,在那个网络传输效率比较低的年代,大家还记得Google的首页吗?Go ...

  6. python3数据类型--数字

    数字 Python数字数据类型用于存储数值.数字数据类型是不允许改变的,所以如果改变数字数据类型的值,将重新分配内存空间. 以下实例在变量赋值时Number对象被创建: #!/usr/bin/env ...

  7. &lbrack;luogu&rsqb;P1379 八数码难题&lbrack;广度优先搜索&rsqb;

    八数码难题 ——!x^n+y^n=z^n 我在此只说明此题的一种用BFS的方法,因为本人也是初学,勉勉强强写了一个单向的BFS,据说最快的是IDA*(然而蒟蒻我不会…) 各位如果想用IDA*的可以看看 ...

  8. pwn易忘操作原理笔记

    堆溢出漏洞: 一.null-byte-off-by-one 漏洞原理:由于输入操作失误,导致可以把size最低字节修改为\x00,overlapchunk利用. 构造 1.freeB,此时C的pres ...

  9. android不知不觉偷拍他人功能实现(手机关闭依然拍照)【申明:来源于网络】

    android不知不觉偷拍他人功能实现(手机关闭依然拍照)[申明:来源于网络] 地址:http://blog.csdn.net/huangxiaoguo1/article/details/536660 ...

  10. Pandas 基础&lpar;11&rpar; - 用 melt 做格式转换

    melt 也可以用来做数据格式转换, 请看下图, 我们可以用 melt 把左表转成右表的格式: 首先引入文件(已上传): df = pd.read_csv('/Users/rachel/Sites/p ...