
精选·Spark2026-07-13
reduceByKey 和 groupByKey 有什么区别?为什么生产上基本不用 groupByKey?
考察对 map 端预聚合(combine)的理解:reduceByKey 在 shuffle 前做本地聚合削减数据量,groupByKey 全量搬运,网络 IO 和内存压力差异可达数量级,以及 groupByKey 不可替换的场景。
91学AI·9 阅读
共 1 篇文章

考察对 map 端预聚合(combine)的理解:reduceByKey 在 shuffle 前做本地聚合削减数据量,groupByKey 全量搬运,网络 IO 和内存压力差异可达数量级,以及 groupByKey 不可替换的场景。