文件名称：flowman：基于Spark的ETL
文件大小：1.37MB
文件格式：ZIP
更新时间：2024-03-02 21:04:12
scala spark hadoop etl Scala
流人 Flowman是基于Spark的ETL程序，可简化编写数据转换的过程。 主要思想是用户在纯声明性的YAML文件中编写所谓的规范，而不是在Scala或Python中编写Spark作业。 这种方法的主要优点是，封装了正确而可靠的实现的许多技术细节，并且用户可以自己专注于数据转换。 除了编写和执行数据转换外，Flowman还可以用于管理物理数据模型，即Hive表。 Flowman可以根据规范使用正确的方案创建此类表。 这有助于将所有方面（如转换和架构信息）保留在一个程序管理的单个位置。 特色功能 YAML文件中的声明性语法 数据模型管理（创建和销毁Hive表或基于文件的存储） 灵活的表达语言 用于管理构建目标的作业（例如，通过sftp复制文件或上传数据） 强大而简单的命令行工具 可通过插件扩展 文献资料 您可以在找到全面。 安装 您可以在获取适当的预构建包，也可以通过Maven使用