6.1RDD的依赖
RDD和它依赖的父RDD的关系有两种不同的类型,即窄依赖(narrow dependency)和宽依赖(wide dependency)。
文章图片
6.2窄依赖
窄依赖指的是每一个父RDD的Partition最多被子RDD的一个Partition使用
总结:窄依赖我们形象的比喻为独生子女
6.3宽依赖
宽依赖指的是多个子RDD的Partition会依赖同一个父RDD的Partition
总结:宽依赖我们形象的比喻为超生
6.4Lineage(血统)
【技术文章|spark笔记之RDD的依赖关系】RDD只支持粗粒度转换,即只记录单个块上执行的单个操作。将创建RDD的一系列Lineage(即血统)记录下来,以便恢复丢失的分区。RDD的Lineage会记录RDD的元数据信息和转换行为,当该RDD的部分分区数据丢失时,它可以根据这些信息来重新运算和恢复丢失的数据分区。
推荐阅读
- Arduino MQTT PubSubClient 库 发送长文本
- android 显示flash视频播放器
- 涂鸦智能 dubbo-go 亿级流量的实践与探索
- linux|tcl脚本真的比shell脚本解析处理文件效率要高()
- 网络地址转换(NAT,Network Address Translation)
- 钉钉开发|钉钉微应用获取用户信息