文件名称:mappy:Python Hadoop MapReduce 模拟调度器
文件大小:75KB
文件格式:ZIP
更新时间:2024-06-26 09:25:47
Java
映射 mappy是 Hadoop MapReduce 调度程序的重新实现,旨在展示 并突出该技术的优势。 mappy的作业调度器相当于 Hadoop 的,它重新实现了 Hadoop Java 实现中的 3 个类提供的功能:JobImpl、TaskImpl 和 TaskAttemptImpl。 这 3 个类中的每一个都实现了一个事件驱动的状态机,并共同构成了 Hadoop 作业调度程序及其故障处理的核心。 每个状态机都是通过指定可以可视化为转换表的内容来定义的。 实现明确指定每个转换具有开始状态、结束状态、触发事件和转换动作。 可以在以下位置找到为每个类实现的“转换表”: 每个转换动作本身都是作为一个嵌套类实现的,它具有一个成员函数transition ,它定义了动作的主体。 是一个相对的操作示例,其中 、 和显示了 3 个几乎相同的转换。 mappy重新实现了 JobImpl.java
【文件预览】:
mappy-master
----sandbox()
--------server.py(792B)
--------receive.py(316B)
--------test.py(42B)
--------client.py(793B)
--------send.py(320B)
--------naval_fate.py(623B)
----master.py(3KB)
----pool.py(487B)
----job.py(12KB)
----rpc.py(4KB)
----CommitterEventHandler.py(1KB)
----session_test.py(0B)
----daemon()
--------runner.py(7KB)
--------pidlockfile.py(6KB)
--------__init__.py(1KB)
--------daemon.py(24KB)
--------version()
----__init__.py(0B)
----net_test.py(19B)
----rpc_test.py(1KB)
----reference()
--------TaskImpl.java(46KB)
--------TaskAttemptImpl.java(79KB)
--------JobImpl.java(83KB)
----.gitignore(5B)
----net.py(1KB)
----docopt.py(19KB)
----worker.py(4KB)
----README.md(5KB)
----RMContainerAllocator.py(3KB)
----session.py(3KB)