名词解释-spark基础知识讲解

时间:2024-05-16 04:02:49
【文件属性】:

文件名称:名词解释-spark基础知识讲解

文件大小:1.83MB

文件格式:PPT

更新时间:2024-05-16 04:02:49

spark 原理

1,名词解释: Client:客户端进程,负责提交作业到Master。 Master:Standalone模式中主控节点,负责接收Client提交的作业,管理Worker,并命令Worker启动Driver和Executor。 Worker:Standalone模式中slave节点上的守护进程,负责管理本节点的资源,定期向Master汇报心跳,接收Master的命令,启动Driver和Executor。 Driver: 一个Spark作业运行时包括一个Driver进程,也是作业的主进程,负责作业的解析、生成Stage并调度Task到Executor上。包括DAGScheduler,TaskScheduler。 Executor:即真正执行作业的地方,一个集群一般包含多个Executor,每个Executor接收Driver的命令Launch Task,一个Executor可以执行一到多个Task。


网友评论