DataPipeline

时间:2024-06-05 13:49:35
【文件属性】:

文件名称:DataPipeline

文件大小:21KB

文件格式:ZIP

更新时间:2024-06-05 13:49:35

Java

数据管道 ##说明:要运行该程序,只需执行Main.java ##设计摘要: 应用程序提供3个不同的阶段(1)提取(2)转换-未实现(3)加载 提取程序和加载程序之间的通信是通过阻塞队列进行的-“提取程序”加载队列,“加载程序”将其清空 “ Extractor”负责从外部数据源中提取数据,并将其作为json对象排队,以供Loader使用。 提取器可以可选地实例化转换提取的数据的Transformer对象(未实现)。 “ Transformer”(未实现)可以封装有助于将提取的数据转换为装入所需格式的转换规则。 “加载程序”从队列读取并写入目标存储。 应用程序从一个运行“ Extractor”的线程和一个运行“ Loader”的线程开始,然后将它们传递给一个公共队列对象进行通信。 提取器和加载器都使用适配器模式-因此,可以实现不同的适配器来从不同的数据源提取数据并将其写到不同的数


【文件预览】:
DataPipeline-master
----pom.xml(831B)
----DataPipeline.iml(2KB)
----src()
--------main()
----.idea()
--------uiDesigner.xml(9KB)
--------misc.xml(1KB)
--------vcs.xml(180B)
--------.name(12B)
--------copyright()
--------modules.xml(264B)
--------compiler.xml(1KB)
--------libraries()
----README.md(3KB)

网友评论