这两个星期里一直都在忙于一件事儿,就是数据库的迁移问题。没有做的时候感觉这是一件十分轻松的事儿,可是等到实实在在去做去实现的时候,自己傻眼了。这种纠结啊,
在这里先说下遇到的问题:
1。数据库的表结构问题:数据类型不同需要解决varchar2------varchar、number-----int、date----datetime,建表的sql语句字段默认值、注释怎么解决。
2. oracle中没有所谓的敏感字段,可是mysql表中的敏感字段有好多。当时出错的时候很奇怪不知道是哪里错了。原来有个describe的字段是mysql的敏感字段。
这里我也是在网上找了一个现成的工具:oracletomysql,它是只能为我们迁移表结构。
具体地址:http://www.5stardatabasesoftware.com/cn/
3. oracle的备份sql没法正常的mysql中跑,一些to_date()函数,to_char()让人很是痛苦不知道怎么去代替,原因很简单在oracle的备份文件中有一堆的解释文字:
prompt PL/SQL Developer import file
prompt Created on 2012-05-30 by chenbh
set feedback off
set define off
prompt Disabling triggers for T_B_AUDITOR...
alter table T_B_AUDITOR disable all triggers;
prompt Loading T_B_AUDITOR...
insert into T_B_AUDITOR (AUDITORID, NAME, ORGID, SEX, IDCARDNO, TITLE, PHONE, MOBILE, DESCRIBE, AUDITORRIGHT, AUDITORSTATUS, RECORDSTATUS, FIELD1, FIELD2)
这些东西该怎么除去,大家的想法可能是我直接删除后直接在mysql中跑,可是您想一下如果要是您的备份文件很大很大呢,根本打不开就是。我遇到的sql备份有1G的,电脑不行实在是打不开没有办法只好,从新想其他的办法了。
在这里感谢下:ITPUB论坛的philip_zhong朋友,这里他给提供了一个程序,来处理大数据量的迁移工作。在这里说下我的使用感言啊,他提供了多种方式,shell脚本、windows下的bat启动、还有源程序。我都试过了,前两者没有调通,只好硬着头皮把他的源程序给跑一下,各种debug修改后终于调通了。很高兴……
这里需要提醒的是:
static dataSyncDataSourceParameter dataSourceParameters;
static dataSyncSessionParameter sessionParameter;
//static final String configFileName = "config.properties";//这里是源程序中的参数,按照自己的需要进行配置
static final String configFileName = "config_oracle2mysql.properties";//这里是我的配置文件
/**
* @param args
*/
public static void main(String[] args) {
// initialize the parameters
//String progPath = args[0];
//String progPath = "D://work//MyEclipse 8.5//Workspaces//dataSync";E://workspace//oracletomysql//package
String progPath = "E://workspace//oracletomysql//package";//这里大家注意下,是你的package的位置所在。
String confFilePath = progPath + "//conf";
if (setparameters(confFilePath)) {
// start to call thread to sync the data
syncData();
}
}
config_oracle2mysql.properties配置文件:这里需要注意的是:ora_hash是个10g中才有的函数这里我们从新改变下:DBMS_UTILITY.GET_HASH_VALUE这个hash函数是在网上找了好长时间才有人提到的类似与ora_hash的函数。反正这里我的理解就是为了多线程进行大数据量的搬运节约时间,作者才通过hash的方法进行控制。其他注意的地方我已经在程序里写出来一来提醒我注意二来给大家提个醒别犯我的错而浪费大家的时间。
#for source database parameters
source.dataSource.initialSize=10
source.dataSource.maxIdle=20
source.dataSource.minIdle=5
source.dataSource.maxActive=100
source.dataSource.maxWait=120000
source.jdbc.driverClassName=oracle.jdbc.driver.OracleDriver
source.jdbc.url=jdbc:oracle:thin:@10.17.199.8:1521:lab1107
source.jdbc.username=lab1107
source.jdbc.password=lab1107
#Target sync data threadNum=source.database.threadNum
source.database.threadNum=10
#这里的auditorid必须是主键,ora_hash是在10g中使用的,我们的9i没办法用啊。
source.database.selectSql=select * from t_b_role where DBMS_UTILITY.GET_HASH_VALUE(roleid,1,#threadNum#)=?
#you can input many commands and split by ";"
source.database.sessionCommand=ALTER SESSION SET DB_FILE_MULTIBLOCK_READ_COUNT=128;
#for target jdbc parameters
target.dataSource.initialSize=10
target.dataSource.maxIdle=20
target.dataSource.minIdle=5
target.dataSource.maxActive=100
target.dataSource.maxWait=120000
target.jdbc.driverClassName=com.mysql.jdbc.Driver
target.jdbc.url=jdbc:mysql://10.5.110.239:3306/test?autoReconnect=true&characterEncoding=UTF-8
target.jdbc.username=root
target.jdbc.password=chen
#target.database.insertSql=insert into test2(PATHALIASID,PATH,CREATETIME,LASTMODIFIEDTIME,OBJECTPREFIX,PATHMD5ID,COLLIDESWITH) values(?,?,?,?,?,?,?)
target.database.insertSql=insert into T_B_ROLE(ROLEID,ROLENAME,ROLEDESC,ROLESTATUS,RECORDSTATUS,FIELD1,FIELD2,SORTNUM) values(?,?,?,?,?,?,?,?)这里必须是目标数据库中的现成的一张表。
target.database.commitNum=1000
具体的问题大家要是遇到了,可以一起交流下。