如何从main函数往reduce传递值或参数

时间:2022-08-25 21:28:41
由于某些原因,需要在从参数中读取一个常量,并在reduce进行使用。

我参照网上的方法,首先在Main函数set了key和value

Configuration conf = new Configuration();
conf.set("cur_time", “20140417”);
然后在reduce中get

Configuration conf = context.getConfiguration();
String cur_time = conf.get("cur_time");
这样运行速度非常慢,每来一个数据就需要读取一次Configuration。

后来我在这篇博客Hadoop -- MapReduce过程中发现了这句话:

Map-Reduce框架首先调用setup(org.apache.hadoop.mapreduce.Mapper.Context)方法,接着为 InputSplit中的每个key/value对调用map(Object, Object, Context)方法。

原来可以直接在setup中get一次就可以了,不需要每次都调用

String cur_time;
public void setup(Context context) throws IOException, InterruptedException {
        Configuration conf = context.getConfiguration();
        cur_time = conf.get("cur_time");
    }