Hadoop平台的MapReduce模型性能优化研究

时间:2023-07-12 12:55:07
【文件属性】:
文件名称:Hadoop平台的MapReduce模型性能优化研究
文件大小:3.25MB
文件格式:CAJ
更新时间:2023-07-12 12:55:07
Hadoop MapReduce 本文首先介绍了Hadoop平台的背景,包括它在技术背景上的产生与发展,在应用背景上的应用与前景。之后对 Hadoop的关键技术 HDFS、MapReduce和Scheduler进行研究分析。在此研究基础之上,本文指出MapReduce应用可在程序、参数和系统三个层面进行优化。程序和参数两个层面实现优化的可选项很多,本文在第三章对此作了详细阐述。 Hadoop在管理资源中将内存和CPU两种计算资源捆绑在一起,然后再根据任务类型分为Map Slot和Reduce Slot两种资源模型。这种管理机制实现简单,但是存在资源囤积现象,降低了资源利用率。

网友评论