作业相关的名词解释-spark基础知识讲解

时间:2024-05-16 04:02:50
【文件属性】:

文件名称:作业相关的名词解释-spark基础知识讲解

文件大小:1.83MB

文件格式:PPT

更新时间:2024-05-16 04:02:50

spark 原理

2.作业相关的名词解释 Job:一个action操作触发作业 Stage:一个Spark作业一般包含一到多个Stage。 Task:一个Stage包含一到多个Task,通过多个Task实现并行运行的功能。 DAGScheduler: 实现将Spark作业分解成一到多个Stage,每个Stage根据RDD的Partition个数决定Task的个数,然后生成相应的Task set放到TaskScheduler中。 TaskScheduler:实现Task分配到Executor上执行。


网友评论