文件名称:MapReduce-Engine-and-Distributed-File-System
文件大小:38KB
文件格式:ZIP
更新时间:2024-06-07 01:43:41
Java
MapReduce引擎和分布式文件系统 我们的MapReduce工具具有以下功能: 我们使用易于阅读和可编辑的配置文件,以便用户能够配置其实例,包括标识IP地址,端口号等。 我们使用高效的调度算法来调度地图并减少任务,因此,我们在每个阶段都通过并行实现了最大的性能提升。 健康检查和容错。 在我们的系统中,主节点和从节点通过心跳机制保持通信。 一旦一个从属服务器宕机,我们将追溯其当前任务列表并重新安排这些任务的时间。 对于用户和开发人员:我们提供了通用的I / O工具来支持必要的操作。 并且开发人员只需要实现我们的mapper和reducer接口。 我们还为用户提供管理工具。 他们只需要键入几个命令,例如启动,监视和停止即可管理引擎的启动和关闭。 我们在两个测试用例上测试了MapReduce工具。 通过逐步运行和检查我们的引擎,它完美地实现了原始设计。 存储库仅用于研究。 版权所
【文件预览】:
MapReduce-Engine-and-Distributed-File-System-master
----src()
--------Makefile(2KB)
--------.DS_Store(6KB)
--------edu()
----README.md(1KB)