Flink編程基礎(chǔ)（Scala版）

第1章大數(shù)據(jù)技術(shù)概述1
1.1大數(shù)據(jù)概念與關(guān)鍵技術(shù)1
1.1.1大數(shù)據(jù)概念1
1.1.2大數(shù)據(jù)關(guān)鍵技術(shù)2
1.2代表性大數(shù)據(jù)技術(shù)3
1.2.1Hadoop4
1.2.2Spark8
1.2.3Flink10
1.2.4Beam13
1.3編程語言的選擇14
1.4在線資源15
1.5本章小結(jié)16
1.6習(xí)題16
實驗1Linux系統(tǒng)的安裝和常用命令17
第2章Scala語言基礎(chǔ)19
2.1Scala語言概述19
2.1.1計算機的緣起19
2.1.2編程范式20
2.1.3Scala簡介22
2.1.4Scala的安裝22
2.1.5HelloWorld23
2.2Scala的基礎(chǔ)編程知識25
2.2.1基本數(shù)據(jù)類型和變量25
2.2.2輸入輸出28
2.2.3控制結(jié)構(gòu)31
2.2.4數(shù)據(jù)結(jié)構(gòu)35
2.3面向?qū)ο缶幊袒A(chǔ)42
2.3.1類42
2.3.2對象48
2.3.3繼承53
2.3.4參數(shù)化類型57
2.3.5特質(zhì)59
2.3.6模式匹配64
2.3.7包67
2.4函數(shù)式編程基礎(chǔ)68
2.4.1函數(shù)的定義與使用69
2.4.2高階函數(shù)71
2.4.3閉包72
2.4.4偏應(yīng)用函數(shù)和Curry化72
2.4.5針對容器的操作74
2.4.6函數(shù)式編程實例80
2.5本章小結(jié)81
2.6習(xí)題82
實驗2Scala編程初級實踐83
第3章Flink的設(shè)計與運行原理88
3.1Flink簡介88
3.2選擇Flink的原因89
3.2.1傳統(tǒng)數(shù)據(jù)處理架構(gòu)89
3.2.2大數(shù)據(jù)Lambda架構(gòu)90
3.2.3流處理架構(gòu)90
3.2.4Flink是理想的流計算框架91
3.2.5Flink的優(yōu)勢92
3.3Flink典型應(yīng)用場景94
3.3.1事件驅(qū)動型應(yīng)用94
3.3.2數(shù)據(jù)分析應(yīng)用95
3.3.3數(shù)據(jù)流水線應(yīng)用97
3.4Flink的統(tǒng)一數(shù)據(jù)處理97
3.5Flink技術(shù)棧99
3.6Flink工作原理100
3.7Flink編程模型101
3.8Flink的應(yīng)用程序結(jié)構(gòu)102
3.9Flink的數(shù)據(jù)一致性103
3.9.1有狀態(tài)計算103
3.9.2數(shù)據(jù)一致性103
3.9.3異步屏障快照機制104
3.10本章小結(jié)105
3.11習(xí)題106
第4章Flink環(huán)境搭建和使用方法107
4.1安裝Flink107
4.1.1基礎(chǔ)環(huán)境107
4.1.2下載安裝文件108
4.1.3配置相關(guān)文件108
4.1.4運行測試樣例109
4.1.5Flink和Hadoop的交互110
4.2在Scala Shell中運行代碼110
4.3開發(fā)Flink獨立應(yīng)用程序111
4.3.1安裝編譯打包工具Maven111
4.3.2開發(fā)批處理程序113
4.3.3開發(fā)流處理程序117
4.3.4使用IntelliJ IDEA開發(fā)Flink應(yīng)用程序119
4.4設(shè)置程序運行并行度126
4.5Flink集群環(huán)境搭建127
4.5.1集群基礎(chǔ)配置127
4.5.2在集群中安裝Java129
4.5.3設(shè)置SSH無密碼登錄130
4.5.4安裝和配置Flink131
4.5.5啟動和關(guān)閉Flink集群133
4.6本章小結(jié)133
4.7習(xí)題134
實驗3Flink和Hadoop的安裝134
第5章DataStream API136
5.1DataStream編程模型136
5.1.1數(shù)據(jù)源137
5.1.2數(shù)據(jù)轉(zhuǎn)換149
5.1.3數(shù)據(jù)輸出160
5.2窗口的劃分163
5.3時間概念163
5.4窗口計算165
5.4.1窗口計算程序的結(jié)構(gòu)165
5.4.2窗口分配器166
5.4.3窗口計算函數(shù)170
5.4.4觸發(fā)器177
5.4.5驅(qū)逐器180
5.5水位線183
5.5.1水位線原理183
5.5.2水位線的設(shè)置方法186
5.5.3水位線應(yīng)用實例188
5.6延遲數(shù)據(jù)處理197
5.7狀態(tài)編程201
5.8本章小結(jié)203
5.9習(xí)題203
實驗4DataStream API編程實踐204
第6章DataSet API207
6.1DataSet編程模型207
6.2數(shù)據(jù)源208
6.2.1文件類數(shù)據(jù)源208
6.2.2集合類數(shù)據(jù)源209
6.2.3通用類數(shù)據(jù)源209
6.2.4第三方文件系統(tǒng)213
6.3數(shù)據(jù)轉(zhuǎn)換215
6.3.1數(shù)據(jù)處理類算子216
6.3.2聚合操作類算子217
6.3.3多表關(guān)聯(lián)類算子220
6.3.4集合操作類算子223
6.3.5分區(qū)操作類算子223
6.4數(shù)據(jù)輸出224
6.5迭代計算226
6.5.1全量迭代226
6.5.2增量迭代229
6.6廣播變量230
6.7本章小結(jié)232
6.8習(xí)題232
實驗5DataSet API編程實踐233
第7章Table API&SQL236
7.1編程模型236
7.1.1程序執(zhí)行原理236
7.1.2程序結(jié)構(gòu)237
7.1.3TableEnvironment238
7.1.4注冊表239
7.1.5查詢表245
7.1.6輸出表248
7.1.7DataStream/DataSet與Table的相互轉(zhuǎn)換251
7.1.8時間概念258
7.2Flink Table API260
7.2.1Table API應(yīng)用實例260
7.2.2掃描、投影和過濾261
7.2.3列操作263
7.2.4聚合操作263
7.2.5連接操作267
7.2.6集合操作268
7.2.7排序操作270
7.2.8插入操作270
7.2.9基于行的操作270
7.3Flink SQL280
7.3.1應(yīng)用實例280
7.3.2數(shù)據(jù)查詢與過濾操作282
7.3.3聚合操作282
7.3.4連接操作283
7.3.5集合操作283
7.4自定義函數(shù)285
7.4.1標量函數(shù)285
7.4.2表值函數(shù)287
7.4.3聚合函數(shù)289
7.5本章小結(jié)291
7.6習(xí)題292
實驗6Table API& SQL編程實踐292
第8章FlinkCEP296
8.1概述296
8.2Pattern API297
8.2.1個體模式297
8.2.2復(fù)合模式299
8.2.3模式組301
8.2.4匹配后跳過策略302
8.3模式的檢測302
8.3.1匹配事件提取303
8.3.2超時事件提取303
8.4應(yīng)用實例304
8.5本章小結(jié)308
8.6習(xí)題308
實驗7FlinkCEP編程實踐308
參考文獻311