第 1 章 Spark SQL 背景 1
1.1 大數據與 Spark 係統 1
1.2 關係模型與 SQL 語言 3
1.3 Spark SQL 發展曆程 4
1.4 本章小結 5
第 2 章 Spark 基礎知識介紹 6
2.1 RDD 編程模型 6
2.2 DataFrame 與 Dataset 9
2.3 本章小結 10
第 3 章 Spark SQL 執行全過程概述 11
3.1 從 SQL 到 RDD：一個簡單的案例 11
3.2 重要概念 14
3.2.1 InternalRow 體係 14
3.2.2 TreeNode 體係 15
3.2.3 Expression 體係 17
3.3 內部數據類型係統 20
3.4 本章小結 21
第 4 章 Spark SQL 編譯器 Parser 22
4.1 DSL 工具之 ANTLR 簡介 22
4.1.1 基於 ANTLR 4 的計算器 23
4.1.2 訪問者模式 25
4.2 SparkSqlParser 之 AstBuilder 28
4.3 常見 SQL 生成的抽象語法樹概覽 30
4.4 本章小結 33
第 5 章 Spark SQL 邏輯計劃（LogicalPlan） 34
5.1 Spark SQL 邏輯計劃概述 34
5.2 LogicalPlan 簡介 35
5.2.1 QueryPlan 概述 35
5.2.2 LogicalPlan 基本操作與分類 37
5.2.3 LeafNode 類型的 LogicalPlan 38
5.2.4 UnaryNode 類型的 LogicalPlan 39
5.2.5 BinaryNode 類型的 LogicalPlan 40
5.2.6 其他類型的 LogicalPlan 41
5.3 AstBuilder 機製：Unresolved LogicalPlan 生成 41
5.4 Analyzer 機製：Analyzed LogicalPlan 生成 46
5.4.1 Catalog 體係分析 46
5.4.2 Rule 體係 48
5.4.3 Analyzed LogicalPlan 生成過程 50
5.5 Spark SQL 優化器 Optimizer 56
5.5.1 Optimizer 概述 56
5.5.2 Optimizer 規則體係 57
5.5.3 Optimized LogicalPlan 的生成過程 62
5.6 本章小結 64
第 6 章 Spark SQL 物理計劃（PhysicalPlan） 66
6.1 Spark SQL 物理計劃概述 66
6.2 SparkPlan 簡介 67
6.2.1 LeafExecNode 類型 68
6.2.2 UnaryExecNode 類型 69
6.2.3 BinaryExecNode 類型 70
6.2.4 其他類型的 SparkPlan 70
6.3 Metadata 與 Metrics 體係 71
6.4 Partitioning 與 Ordering 體係 72
6.4.1 Distribution 與 Partitioning 的概念 72
6.4.2 SparkPlan 的常用分區排序操作 76
6.5 SparkPlan 生成 77
6.5.1 物理計劃 Strategy 體係 79
6.5.2 常見 Strategy 分析 81
6.6 執行前的準備 83
6.6.1 PlanSubqueries 規則 84
6.6.2 EnsureRequirements 規則 85
6.7 本章小結 89
第 7 章 Spark SQL 之 Aggregation 實現 90
7.1 Aggregation 執行概述 90
7.1.1 文法定義 90
7.1.2 聚閤語句 Unresolved LogicalPlan 生成 92
7.1.3 從邏輯算子樹到物理算子樹 93
7.2 聚閤函數（AggregateFunction） 97
7.2.1 聚閤緩衝區與聚閤模式（AggregateMode） 97
7.2.2 DeclarativeAggregate 聚閤函數 100
7.2.3 ImperativeAggregate 聚閤函數 101
7.2.4 TypedImperativeAggregate 聚閤函數 101
7.3 聚閤執行 102
7.3.1 執行框架 AggregationIterator 103
7.3.2 基於排序的聚閤算子 SortAggregateExec 104
7.3.3 基於 Hash 的聚閤算子 HashAggregateExec 105
7.4 窗口（Window）函數 108
7.4.1 窗口函數定義與簡介 109
7.4.2 窗口函數相關錶達式 111
7.4.3 窗口函數的邏輯計劃階段與物理計劃階段 113
7.4.4 窗口函數的執行 117
7.5 多維分析 120
7.5.1 OLAP 多維分析背景 120
7.5.2 Spark SQL 多維查詢 121
7.5.3 多維分析 LogicalPlan 階段 123
7.5.4 多維分析 PhysicalPlan 與執行 126
7.6 本章小結 128
第 8 章 Spark SQL 之 Join 實現 129
8.1 Join 查詢概述 129
8.2 文法定義與抽象語法樹 130
8.3 Join 查詢邏輯計劃 133
8.3.1 從 AST 到 Unresolved LogicalPlan 133
8.3.2 從 Unresolve LogicalPlan 到 Analyzed LogicalPlan 136
8.3.3 從 Analyzed LogicalPlan 到 Optimized LogicalPlan 137
8.4 Join 查詢物理計劃 140
8.4.1 Join 物理計劃的生成 140
8.4.2 Join 物理計劃的選取 141
8.5 Join 查詢執行 143
8.5.1 Join 執行基本框架 143
8.5.2 BroadcastJoinExec 執行機製 144
8.5.3 ShuffledHashJoinExec 執行機製 145
8.5.4 SortMergeJoinExec 執行機製 148
8.6 本章小結 155
第 9 章 Tungsten 技術實現 156
9.1 內存管理與二進製處理 156
9.1.1 Spark 內存管理基礎 156
9.1.2 Tungsten 內存管理優化基礎 174
9.1.3 Tungsten 內存優化應用 179
9.2 緩存敏感計算（Cache-aware computation） 185
9.3 動態代碼生成（Code generation） 188
9.3.1 漫談代碼生成 188
9.3.2 Janino 編譯器實踐 190
9.3.3 基本（錶達式）代碼生成 191
9.3.4 全階段代碼生成（WholeStageCodegen） 196
9.4 本章小結 211
第 10 章 Spark SQL 連接 Hive 212
10.1 Spark SQL 連接 Hive 概述 212
10.2 Hive 相關的規則和策略 213
10.2.1 HiveSessionCatalog 體係 213
10.2.2 Analyzer 之 Hive-Specific 分析規則 216
10.2.3 SparkPlanner 之 Hive-Specific 轉換策略 217
10.2.4 Hive 相關的任務執行 218
10.3 Spark SQL 與 Hive 數據類型 219
10.3.1 Hive 數據類型與 SerDe 框架 219
10.3.2 DataTypeToInspector 與 Data Wrapping 220
10.3.3 InspectorToDataType 與 Data Unwrapping 221
10.4 Hive UDF 管理機製 223
10.5 Spark Thrift Server 實現 225
10.5.1 Service 體係 227
10.5.2 Operation 與 OperationManager 228
10.5.3 Session 與 SessionManager 232
10.5.4 Authentication 安全認證管理 234
10.5.5 Spark Thrift Server 執行流程 235
10.6 本章小結 239
第 11 章 Spark SQL 開發與實踐 240
11.1 騰訊大數據平颱（TDW）簡介 240
11.2 騰訊大數據平颱 SQL 引擎（TDW-SQL-Engine） 241
11.2.1 SQL-Engine 背景與演化曆程 241
11.2.2 SQL-Engine 整體架構 242
11.3 TDW-Spark SQL 開發與優化 244
11.3.1 業務運行支撐框架 244
11.3.2 新功能開發案例 248
11.3.3 性能優化開發案例 256
11.4 業務實踐經驗與教訓 261
11.4.1 Spark SQL 集群管理的經驗 261
11.4.2 Spark SQL 業務層麵調優 263
11.4.3 SQL 寫法的“陷阱” 268
11.5 本章小結 271
總結 272
參考文獻 273
· · · · · · (收起)