Checkpoint是什么？-spark介绍 spark入门

【文件属性】：
文件名称：Checkpoint是什么？-spark介绍 spark入门
文件大小：2.37MB
文件格式：PPT
更新时间：2021-04-26 10:16:18
spark学习 spark介绍 大数据ppt spark ppt Checkpoint是什么？ Checkpoint，是Spark提供的一个比较高级的功能。有的时候啊，比如说，我们的Spark应用程序，特别的复杂，然后呢，从初始的RDD开始，到最后整个应用程序完成，有非常多的步骤，比如超过20个transformation操作。而且呢，整个应用运行的时间也特别长，比如通常要运行1~5个小时。 在上述情况下，就比较适合使用checkpoint功能。因为，对于特别复杂的Spark应用，有很高的风险，会出现某个要反复使用的RDD，因为节点的故障，虽然之前持久化过，但是还是导致数据丢失了。那么也就是说，出现失败的时候，没有容错机制，所以当后面的transformation操作，又要使用到该RDD时，就会发现数据丢失了（CacheManager），此时如果没有进行容错处理的话，那么可能就又要重新计算一次数据。 简而言之，针对上述情况，整个Spark应用程序的容错性很差。