文件名称:Increment_Backup_To_Hive:一个增量备份关系数据库(MySQL, PostgreSQL, SQL Server, SQLite, Oracle等)到hive的php脚本工具
文件大小:20KB
文件格式:ZIP
更新时间:2024-06-02 04:09:37
mysql php hive sqoop PHP
Increment_Backup_To_Hive 一个增量备份关系数据库(MySQL, PostgreSQL, SQL Server, SQLite, Oracle等)到hive的php脚本工具 原理 由于sqoop可定制性太差,本工具针对增量备份场景,备份某张表时只需要用户填写几个关键参数,就能自动化生成hive表,把脚本加入cron就能实现每天增量备份了。增量备份时,脚本主要根据表的自增主键来查询新增数据,然后把新增的数据按照hive表的格式导出成文本,最后调用hive命令直接把文本导入hive内部。支持压缩表+多分区+字段增减。 环境 脚本内部会调用hive命令,所以必须运行在安装hiveLinux主机上。你需要安装PHP5.4以上的版本,推荐安装PHP7.x。在centos7上安装php70参考: yum -y install https://dl.fedoraproject.or
【文件预览】:
Increment_Backup_To_Hive-master
----Increment_Backup_To_Hive.php(33KB)
----databases()
--------.gitkeep(0B)
--------test_database()
----tools()
--------csv2mysql.md(655B)
--------csv2mysql.php(6KB)
--------centos7-php70-install.sh(316B)
----README.md(9KB)
----.gitignore(65B)