Hive大数据倾斜总结

时间:2020-09-27 12:01:40
【文件属性】:

文件名称:Hive大数据倾斜总结

文件大小:209KB

文件格式:PDF

更新时间:2020-09-27 12:01:40

hive 数据倾斜

Hive查询生成多个map reduce job,一个map reduce job又有map,reduce,spill,shuffle,sort等多个阶段,所以针对hive查询的优化可以大致分为针对MR中单个步骤的优化,针对MR全局的优化以及针对整个查询的优化。 一个Hive查询生成多个Map Reduce Job,一个Map Reduce Job又有Map,Reduce,Spill,Shuffle,Sort等多个阶段,所以针对Hive查询的优化可以大致分为针对MR中单个步骤的优化(其中又会有细分),针对MR全局的优化,和针对整个查询(多MR Job)的优化


网友评论