
精选·Hive与SQL2026-07-13
SQL 执行慢怎么排查?执行计划、数据倾斜、参数调优三板斧
慢 SQL 排查遵循「看计划、找倾斜、查数据」三步:explain 确认 join 策略与裁剪,任务耗时分布定位倾斜,统计信息和资源配置兜底。
91学AI·7 阅读
共 6 篇文章

慢 SQL 排查遵循「看计划、找倾斜、查数据」三步:explain 确认 join 策略与裁剪,任务耗时分布定位倾斜,统计信息和资源配置兜底。

考察数据倾斜的实战处理:从 UI 指标定位倾斜,到加盐打散、两阶段聚合、广播小表、过滤热点 key 等手段的取舍,以及 AQE 自动倾斜优化的边界。

考察对 Spark 3.x AQE 的理解:运行时利用 shuffle 物化后的真实统计,动态合并小分区、切换 join 策略(SMJ 转 BHJ)、拆分倾斜分区,解决计划阶段统计不准的问题。

考察 Spark 1.6+ 统一内存管理:execution 与 storage 区域动态借用、on-heap/off-heap 的划分、OOM 时的逐出与 spill 策略,以及 spark.memory.fraction 等参数的调优逻辑。

考察广播 join 的完整链路:driver 收集、TorrentBroadcast 分块分发、executor 建 hash 表探测,autoBroadcastJoinThreshold 的语义与调优,以及统计失真、driver OOM 等典型坑。

系统梳理 Flink 作业调优的入口与顺序:并行度与资源评估、内存模型关键参数、Checkpoint 与状态优化、反压定位后的对症手段。