文件名称:DataX数据的迁移(MySQL、HDFS,Hive)
文件大小:1KB
文件格式:ZIP
更新时间:2022-04-12 11:52:02
mysql hdfs hadoop 数据仓库 hive
1.将Mysql中的数据迁移到Hdfs文件系统中,然后通过Hive加载HDFS文件系统中的数据值 2.将Hive中的数据迁移到指定Mysql数据库中 注意点: 1.数据迁移的过程中,由于hive的Null值存储为"\N",Mysql存储为NULL值,二者转换时需要注意,再数据迁移json模板中,"nullFormat": "\\N", 该配置信息就是解决了数据迁移是存在的Null值。 2.如果hive中没有数值DataX迁移时会出现异常 执行语句:python /opt/module/datax/bin/datax.py /opt/module/datax/job/xxx.json
【文件预览】:
export_hive_to_mysql.json
import_mysql_to_hdfs.json