Sybase中的load table的用法

时间:2022-05-06 11:53:22

Sybase中的load table的用法

用sybase iq作为数据仓库的存储,确实有其独特的特点和优势,但是在数据ETL的时候,如果用insert、update方式,速度太慢,大概是2秒钟左右一条数据。好在iq提供了一条load语句来解决这个问题。

load语句的格式:
  LOAD [ INTO ] TABLE [ owner.]table-name [ ( column-name, . . . ) ]
  FROM filename
  [ load-option . . . ]
  [ statistics-limitation-options ]
  load-option :
  CHECK CONSTRAINTS { ON | OFF }
  | COMPUTES { ON | OFF }
  | DEFAULTS { ON | OFF }
  | DELIMITED BY string
  | ESCAPE CHARACTER character
  | ESCAPES { ON | OFF }
  | FORMAT { ASCII | BCP }
  | HEXADECIMAL {ON | OFF}
  | ORDER {ON | OFF}
  | PCTFREE percent-free-space
  | QUOTES { ON | OFF }
  | SKIP integer
  | STRIP { ON | OFF }
  | WITH CHECKPOINT { ON | OFF }


  • 如果字段名未出现在字段列表中,则填充NULL、0、空、或者DEFAULT;

  存在于输入文件中的字段可以用“filler()”.忽略

  • DEFAULTS { ON | OFF } 为ON则字段取缺省值。否则取NULL

  • QUOTES { ON | OFF } 缺省为ON ,字段定界符为‘’或者 “”

  • DELIMITED BY 选项: 可以单个字符,最多255个字符,例如:制表符

  号作分割符号:

  ...DELIMITED BY ’nx09’

  • SKIP n 忽略前n条记录;

  • STRIP ON|OFF 尾空格插入前是否截取;

  • WITH CHECKPOINT ON|OFF 缺省为 OFF, 如果设置为ON则,命令完成

  后,执行CHECKPOINT 操作。

下面是从一个文本文件load到表F_INN_IA_DAILY_SUM中的语句:

set temporary option date_order=YMD;
Load Table F_INN_IA_DAILY_SUM
(
ORG_SID '+|+', 
DEAL_SID '+|+', 
ALL_TIME_SID '+|+', 
R_COUNT_DIM_SID '+|+', 
T_TAX_STOR_COST '+|+', 
T_STOR_COST '+|+', 
T_STOR_SUM '+|+', 
CREATED_DT 'X0A'
)
From '/load_data/F_Inn_IA_Daily_Sum.txt'
ESCAPES OFF
QUOTES OFF
NOTIFY 100000
WITH CHECKPOINT ON;
COMMIT

其中+|+是字段的分隔符,X0A是记录的分隔符,即回车(文本文件中)。

例一:

1,文本文件的内容格式为:

abc|defgh|aaaa|bbbbbb|ccccc|ddddd|eeee|fffF
abc|defgh|aaaa|bbbbbb|ccccc|ddddd|eeee|fffF 
abc|defgh|aaaa|bbbbbb|ccccc|ddddd|eeee|fffF

2,load table语句:

Load table  My_Table
(
ORG_SID                      '|', 
DEAL_SID                     '|', 
ALL_TIME_SID              '|', 
R_COUNT_DIM_SID      '|, 
T_TAX_STOR_COST    '|', 
T_STOR_COST            '|', 
T_STOR_SUM              '|', 
CREATED_DT              '\X0A'         --数据文件中每行的换行符(16进制)
)
From  '/load_data/loadTest.txt'       ---要加载文件的路径
ESCAPES OFF
QUOTES OFF
NOTIFY 100000
WITH CHECKPOINT ON;
COMMIT;

文件以‘|’作为分隔符,每行的换行符以 '\X0A'换行; 通常的换行有'\x0d\x0a'(回车、换行)   或'\x0A' (换行);

load table  语法写入存储过程,然后直接调用存储过程文件即可加载入库;

例二:

1,文本格式为:

20171222|&@001731edae78|&@absent|&@absent|&@001731edae78|&@|
20171222|&@001bb958bc07|&@absent|&@absent|&@001bb958bc07|&@|
20171222|&@001bfc067636|&@absent|&@absent|&@001bfc067636|&@|

2,load table 语句:

set temporary option CONVERSION_ERROR = 'OFF'; 
load table t_station_match_result(load_dt '|&@' null('\\xd0'),op_station '|&@' null('\\xd0'),ip '|&@' null('\\xd0'),mac '|&@' null('\\xd0'), mobile '|&@|' null(''))
FROM '" + file_path+"'
ESCAPES OFF
QUOTES OFF     
NOTIFY 100000 
WITH CHECKPOINT ON;
COMMIT; 
file_path:txt文件路径(绝对路径)