【原创】Hadoop机架感知对性能调优的理解

时间：2021-05-16 05:22:20

　　Hadoop作为大数据处理的典型平台，在海量数据处理过程中，其主要限制因素是节点之间的数据传输速率。因为集群的带宽有限，而有限的带宽资源却承担着大量的刚性带宽需求，例如Shuffle阶段的数据传输不可避免，所以如何优化带宽资源的占用是一个值得思考的问题。仔细思考下，Hadoop数据传输的需求主要表现在几个方面：

  1. Map阶段的数据传输：Map阶段的非本地化任务需要远程拷贝数据块，然而这种带宽消耗在一定程度上不是必要的，如果数据能做到很高程度的本地化可以减少这个阶段的数据传输带来的带宽消耗。
  2. Shuffle阶段的数据传输：Map阶段的中间数据集需要传输到Reduce端需要大量的带宽资源。
  3. Reduce阶段的计算结果保存：Reduce端最终的计算结果需要保存到HDFS上，这种带宽的消耗也是不可避免的。

　　不过还好，Hadoop的设计者们在最初就考虑到了这个问题，所以在Map阶段的任务调度过程中做了一定程度的优化。当一个有空闲资源的TT（TaskTracker）向JT（JobTracker）申请任务的时候，JT会选择一个最靠近TT的任务给它，选择的原则是：

  1. TT本地是否有未处理的任务，有则调度之；
  2. TT本地没有未处理的任务，则调度一个和TT同一个机架上的任务给它；
  3. 否则，调度一个本数据中心的任务给他。

　　然而，我们会思考JT使如何知道这种结构关系的呢？为啥就知道另一个节点就是和这个TT是同一个机架或者数据中心的呢？这就要追溯到Hadoop的机架感知功能了。

  • 什么是机架感知

　　机架感知是一种计算不同计算节点（TT）的距离的技术，用以在任务调度过程中尽量减少网络带宽资源的消耗，这里用尽量，想表达的是当一个TT申请不到本地化任务时，JT会尽量调度一个机架的任务给他，因为不同机架的网络带宽资源比同一个机架的网络带宽资源更可贵。当然，机架感知不仅仅用在MR中，同样还用在HDFS数据块备份过程中（第一个replica选择本节点【如果上传是DataNode】或者随机的一个DN（系统会尽量避免存储太满和太忙的节点），第二个节点选择于第一个节点不同机架的DN，第三个选择放在第二个DN同一个机架的另一个DN上）

  • 机架感知实战

　　首先，看下面这个图的一个集群结构，D1和D2是两个数据中心，下面各有两个机架，然后叶子节点是DN。　

　【原创】Hadoop机架感知对性能调优的理解

　  此时H1和H2是同一个Rack的，H1和H4是同一个数据中心的。而H1和H7是不同数据中心的。

　　然而，上面这种树结构不是Hadoop自己就自动建立的，需要用户的手动设置协助。在小型的集群中和单机测试中，一般是用不着配置的，所以机架感知功能默认是关闭的。

要设置机架感知，用户需要自己编写脚本来定义节点的映射关系和配置conf/core-site.xml文件的属性来启动机架感知。

　　一个脚本实例程序如下面的例子所示，定义了一个rack字典，里面有每个hostname对应的rack信息，后面也给出了每个IP对应的rack信息。将这段脚本程序放在每个节点的hadoop/bin/目录下，包括主节点。

#!/usr/bin/python

#-*-coding:utf-8 -*-

import sys

rack = {

"brix-01":"rack1",

"brix-02":"rack1",

"brix-03":"rack1",

"brix-04":"rack1",

"brix-05":"rack1",

"brix-06":"rack1",

"brix-07":"rack1",

"brix-08":"rack1",

"brix-09":"rack1",

"192.168.1.231":"rack1",

"192.168.1.232":"rack1",

"192.168.1.233":"rack1",

"192.168.1.234":"rack1",

"192.168.1.235":"rack1",

"192.168.1.236":"rack1",

"192.168.1.237":"rack1",

"192.168.1.238":"rack1",

"192.168.1.239":"rack1"

}

if __name__=="__main__":

  print "/"+rack.get(sys.argv[1],"rack0")

写好脚本程序后，然后配置core-site.xml文件，添加如下属性：

<property>

    <name>topology.script.file.name</name>

    <value>/home/hadoop/hadoop/bin/RackAware.py</value>

  </property>

  <property>

        <name>topology.script.number.args</name>

        <value>18</value>

  </property>

在第一次，故意将脚本程序写错，发现启动集群后观察日志发现接收到heartbeat信息后会报错，这说明，JT在得知启动机架感知后，在收到TT的心跳信息后会将其地址作为参数传入脚本，找到其对应的rack，然后将这些信息保存到内存中。

2014-11-17 21:15:24,658 INFO org.apache.hadoop.mapred.JobTracker: Lost tracker 'tracker_brix-03:localhost/127.0.0.1:39733'

2014-11-17 21:15:24,658 INFO org.apache.hadoop.ipc.Server: IPC Server handler 4 on 19001, call heartbeat(org.apache.hadoop.mapred.TaskTrackerStatus@47d2a09d, true, true, true, -1) from 192.168.1.236:53534:

 error: java.io.IOException: java.lang.NullPointerException

java.io.IOException: java.lang.NullPointerException

        at org.apache.hadoop.mapred.JobTracker.resolveAndAddToTopology(JobTracker.java:2385)

        at org.apache.hadoop.mapred.JobTracker.addNewTracker(JobTracker.java:2377)

        at org.apache.hadoop.mapred.JobTracker.processHeartbeat(JobTracker.java:2756)

        at org.apache.hadoop.mapred.JobTracker.heartbeat(JobTracker.java:2556)

        at sun.reflect.GeneratedMethodAccessor6.invoke(Unknown Source)

        at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)

        at java.lang.reflect.Method.invoke(Method.java:483)

        at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:508)

        at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:959)

        at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:955)

        at java.security.AccessController.doPrivileged(Native Method)

        at javax.security.auth.Subject.doAs(Subject.java:422)

        at org.apache.hadoop.ipc.Server$Handler.run(Server.java:954)

2014-11-17 21:15:24,677 WARN org.apache.hadoop.net.ScriptBasedMapping: org.apache.hadoop.util.Shell$ExitCodeException:   File "/home/hadoop/hadoop/bin/RackAware.py", line 6

    "brix-02":"rack1"

             ^

SyntaxError: invalid syntax

2014-11-17 21:20:05,848 INFO org.apache.hadoop.mapred.JobTracker: Starting RUNNING

2014-11-17 21:20:05,858 INFO org.apache.hadoop.ipc.Server: IPC Server handler 9 on 19001: starting

2014-11-17 21:20:05,985 INFO org.apache.hadoop.net.NetworkTopology: Adding a new node: /rack1/brix-02

2014-11-17 21:20:06,012 INFO org.apache.hadoop.net.NetworkTopology: Adding a new node: /rack1/brix-03

2014-11-17 21:20:06,037 INFO org.apache.hadoop.net.NetworkTopology: Adding a new node: /rack1/brix-01

2014-11-17 21:20:06,078 INFO org.apache.hadoop.net.NetworkTopology: Adding a new node: /rack1/brix-04

2014-11-17 21:20:06,099 INFO org.apache.hadoop.net.NetworkTopology: Adding a new node: /rack1/brix-07

2014-11-17 21:20:06,127 INFO org.apache.hadoop.net.NetworkTopology: Adding a new node: /rack1/brix-08

2014-11-17 21:20:06,151 INFO org.apache.hadoop.net.NetworkTopology: Adding a new node: /rack1/brix-09

2014-11-17 21:20:06,173 INFO org.apache.hadoop.net.NetworkTopology: Adding a new node: /rack1/brix-05

2014-11-17 21:20:06,193 INFO org.apache.hadoop.net.NetworkTopology: Adding a new node: /rack1/brix-06

配置正确后，启动集群观察JT的日志发现建立了机架的拓扑关系了。

相关文章