Flink技術內(nèi)幕：架構設計與實現(xiàn)原理

定　價：￥99.00

作　者：	羅江宇，趙士杰，李涵淼，閔文俊著
出版社：	機械工業(yè)出版社
叢編項：
標　簽：	暫缺

購買這本書可以去

ISBN：	9787111696292	出版時間：	2021-12-01	包裝：	平裝
開本：	16開	頁數(shù)：	340	字數(shù)：

內(nèi)容簡介

　　內(nèi)容簡介這是一部從源代碼角度出發(fā)，通過分析Flink的各個功能模塊的實現(xiàn)來剖析Flink的架構設計和實現(xiàn)原理的著作。它將能指導讀者更好地對Flink進行性能調(diào)優(yōu)、可用性保障、效能優(yōu)化和二次開發(fā)。四位作者都是非常資深的Flink專家，部分作者是Flink源代碼的維護者和改造者，本書總結了他們在阿里巴巴、螞蟻集團、滴滴等企業(yè)的大規(guī)模Flink實踐經(jīng)驗。全書共11章，主要內(nèi)容如下。第1章閱讀Flink源代碼前的準備主要介紹了Flink源代碼的獲取、編譯、調(diào)試，以及它的目錄結構、設計理念和基本架構。此外，還分析了Flink與Hadoop MapReduce、Spark在設計上的差異。第2~8章 Flink功能模塊源代碼和架構解析從源碼角度分析了Flink的編程模型與API、運行時組件與通信、狀態(tài)管理與容錯、任務提交與執(zhí)行、Flink網(wǎng)絡棧、Flink Connector、部署模式等功能模塊的原理。力求讓讀者深入理解Flink的原理，而不只是跟著本書讀一遍Flink源代碼。原理和思想是不局限于某一個框架和技術，了解了Flink的原理和思想，可以將其擴展到其他框架和技術上。第9~10章 Flink Table、SQL與Flink CEP 編程方式逐漸從原先基于Map-Reduce的任務模式向SQL化演進，SQL意味著標準和效率。這兩章重點講解了StreamTableEnvironment的實現(xiàn)過程、SQL的解析過程、Table Connector以及Flink CEP的內(nèi)部實現(xiàn)原理。第11章 Flink監(jiān)控主要講解了Flink的監(jiān)控指標、常用系統(tǒng)指標和監(jiān)控體系的建設，以及常用的定位手段。

作者簡介

　　作者簡介羅江宇 Flink技術專家，先后就職于新浪微博、滴滴和某大型電商公司。先后主導或參與了多家公司的Flink實時計算服務的構建、對超大規(guī)模集群的維護以及Flink引擎的改造。擁有豐富的實時計算實戰(zhàn)經(jīng)驗，目前專注于Kubernetes調(diào)度、Flink SQL及Flink流批一體化方向。趙士杰資深大數(shù)據(jù)技術專家，曾就職于滴滴、阿里巴巴等一線互聯(lián)網(wǎng)公司。從0到1深度參與了滴滴的大數(shù)據(jù)建設，擁有非常豐富的大數(shù)據(jù)平臺一線建設經(jīng)驗，對于大數(shù)據(jù)領域的計算和存儲引擎也有深入研究。李涵淼大數(shù)據(jù)研發(fā)專家，曾任滴滴大數(shù)據(jù)開發(fā)工程師。從事大數(shù)據(jù)領域工作多年，參與過多家公司流計算平臺的設計與研發(fā)，目前專注于批流一體、OLAP技術方向的研究與應用。閔文俊螞蟻集團技術專家、開源大數(shù)據(jù)社區(qū)愛好者、Flink Contributor，在實時計算領域工作多年，深度參與了滴滴、螞蟻集團的實時計算平臺建設。

圖書目錄

前　言
第1章　閱讀Flink源代碼前的準備 1
11　環(huán)境準備 1
12　獲取、編譯和調(diào)試Flink的源代碼 4
121　獲取與導入Flink源代碼 4
122　編譯與調(diào)試Flink源代碼 6
13　Flink源代碼的目錄結構 9
14　Flink設計理念與基本架構 11
141　Flink與主流計算引擎對比 11
142　Flink基本架構 14
15　本章小結 17
第2章　編程模型與API 18
21　DataStream 18
22　算子 21
23　窗口 28
231　窗口的基本概念 28
232　窗口的執(zhí)行流程 30
233　窗口分配器 32
234　觸發(fā)器 37
235　窗口函數(shù) 41
24　本章小結 43
第3章　運行時組件與通信 44
31　運行時組件 44
311　REST 45
312　Dispatcher 54
313　ResourceManager 61
314　JobMaster 75
315　TaskExecutor 85
32　組件間通信 95
321　Akka與Actor模型 95
322　組件間通信實現(xiàn) 99
33　運行時組件的高可用 117
331　Master節(jié)點上組件的高可用 117
332　現(xiàn)有運行時組件高可用存在的問題及其解決方案 126
34　本章小結 128
第4章　狀態(tài)管理與容錯 129
41　狀態(tài) 129
411　狀態(tài)的原理與實現(xiàn) 129
412　狀態(tài)生存時間的原理與實現(xiàn) 134
42　檢查點 137
421　檢查點機制原理 137
422　檢查點執(zhí)行過程 137
423　任務容錯 140
43　狀態(tài)后端 143
44　本章小結 148
第5章　任務提交與執(zhí)行 149
51　任務提交整體流程 149
52　DAG轉換 152
521　DAG的4層轉換 152
522　WordCount轉換過程 152
53　Slot分配 160
531　相關概念和實現(xiàn)類 160
532　Slot申請流程 162
533　任務部署 168
54　任務執(zhí)行機制 170
541　任務執(zhí)行過程 170
542　MailBox線程模型 174
55　本章小結 177
第6章　Flink網(wǎng)絡棧 178
61　內(nèi)存管理 178
62　網(wǎng)絡傳輸 182
621　什么是Flink網(wǎng)絡棧 182
622　非流控模型的網(wǎng)絡傳輸流程 184
623　流控模型的網(wǎng)絡傳輸流程 197
63　流批一體的shuffle架構 199
631　生命周期管理 199
632　數(shù)據(jù)shuffle 207
64　本章小結 208
第7章　Flink Connector的設計與實現(xiàn) 209
71　Kafka Connector實現(xiàn)原理 209
711　Kafka Source Connector實現(xiàn) 209
712　Kafka Sink Connector 實現(xiàn) 216
72　HBase Table Connector 實現(xiàn)原理 220
721　HBase Source Connector和Sink Connector的工廠實現(xiàn) 221
722　HBase維表實現(xiàn) 222
73　本章小結 224
第8章　部署模式 225
81　Local部署 225
82　Standalone部署 228
83　Flink on YARN模式 240
831　YARN基本架構 240
832　Flink on YARN模式介紹 241
833　Flink on YARN啟動過程 243
84　Flinkon Kubernetes模式 260
85　本章小結 265
第9章　Flink Table與SQL 266
91　StreamTableEnvironment類介紹 266
911　StreamExecution-Environment類 267
912　EnvironmentSettings類 267
913　TableConfig類 268
914　StreamTableEnvironment的創(chuàng)建過程 269
92　SQL解析過程 270
921　SQL解析 270
922　SQL優(yōu)化 277
923　RelNode轉換 279
93　Table Connector 281
931　TableSource 282
932　TableSink 286
933　SPI機制在Table Connector中的應用 288
94　UDF與內(nèi)置算子 292
941　UDF 292
942　內(nèi)置算子 294
95　本章小結 297
第10章　Flink CEP 原理解析 298
101　CEP的基本概念 298
1011　什么是Flink CEP 298
1012　Pattern 298
1013　量詞 300
1014　條件 301
1015　連接 302
1016　Flink CEP作業(yè)編寫舉例 302
102　CEP內(nèi)部實現(xiàn)原理 304
1021　NFA簡介 305
1022　匹配過程 305
1023　CEP狀態(tài)存儲 310
1024　CEP和SQL結合 313
103　本章小結 315
第11章　Flink監(jiān)控 316
111　監(jiān)控指標 316
1111　指標類型 316
1112　系統(tǒng)指標及自定義指標 318
1113　指標的使用 319
112　常用系統(tǒng)指標 322
113　監(jiān)控體系建設 324
1131　指標監(jiān)控及展示 324
1132　日志分析處理 326
1133　定位手段 326
114　本章小結 327