
精选·Spark2026-07-13
Spark Shuffle 是怎么演进的?Hash、Sort、Tungsten 各自解决了什么问题?
考察对 Spark shuffle 机制演进的理解:HashShuffle 的小文件问题、SortShuffleManager 的排序与归并、unsafe/sort 分支的选择条件,以及 Tungsten 的二进制排序和堆外内存优化。
91学AI·6 阅读
共 1 篇文章

考察对 Spark shuffle 机制演进的理解:HashShuffle 的小文件问题、SortShuffleManager 的排序与归并、unsafe/sort 分支的选择条件,以及 Tungsten 的二进制排序和堆外内存优化。