分布式服務(wù)框架：原理與實(shí)踐

第1 章應(yīng)用架構(gòu)演進(jìn) 1
1 1 傳統(tǒng)垂直應(yīng)用架構(gòu) 2
1 1 1 垂直應(yīng)用架構(gòu)介紹 2
1 1 2 垂直應(yīng)用架構(gòu)面臨的挑戰(zhàn) 4
1 2 RPC 架構(gòu)  6
1 2 1 RPC 框架原理 6
1 2 2 最簡單的RPC 框架實(shí)現(xiàn) 8
1 2 3 業(yè)界主流RPC 框架  14
1 2 4 RPC 框架面臨的挑戰(zhàn)  17
1 3 SOA 服務(wù)化架構(gòu)  18
1 3 1 面向服務(wù)設(shè)計(jì)的原則 18
1 3 2 服務(wù)治理  19
1 4 微服務(wù)架構(gòu)  21
1 4 1 什么是微服務(wù)  21
1 4 2 微服務(wù)架構(gòu)對比SOA  22
1 5 總結(jié) 23
第2 章分布式服務(wù)框架入門 25
2 1 分布式服務(wù)框架誕生背景 26
2 1 1 應(yīng)用從集中式走向分布式 26?
2 1 2 亟需服務(wù)治理  28
2 2 業(yè)界分布式服務(wù)框架介紹 29
2 2 1 阿里Dubbo 30
2 2 2 淘寶HSF  33
2 2 3 亞馬遜Coral Service  35
2 3 分布式服務(wù)框架設(shè)計(jì)  36
2 3 1 架構(gòu)原理  36
2 3 2 功能特性  37
2 3 3 性能特性  39
2 3 4 可靠性  39
2 3 5 服務(wù)治理  40
2 4 總結(jié) 41
第3 章通信框架  42
3 1 關(guān)鍵技術(shù)點(diǎn)分析 43
3 1 1 長連接還是短連接 43
3 1 2 BIO 還是NIO  43
3 1 3 自研還是選擇開源NIO 框架 46
3 2 功能設(shè)計(jì) 47
3 2 1 服務(wù)端設(shè)計(jì) 48
3 2 2 客戶端設(shè)計(jì) 50
3 3 可靠性設(shè)計(jì)  53
3 3 1 鏈路有效性檢測 54
3 3 2 斷連重連機(jī)制 56
3 3 3 消息緩存重發(fā) 57
3 3 4 資源優(yōu)雅釋放  58
3 4 性能設(shè)計(jì)  59
3 4 1 性能差的三宗罪  59
3 4 2 通信性能三原則 60
3 4 3 高性能之道 61
3 5 最佳實(shí)踐  61
3 6 總結(jié) 64
第4 章序列化與反序列化 65
4 1 幾個(gè)關(guān)鍵概念澄清  66
4 1 1 序列化與通信框架的關(guān)系 66
4 1 2 序列化與通信協(xié)議的關(guān)系 66
4 1 3 是否需要支持多種序列化方式  67
4 2 功能設(shè)計(jì) 67
4 2 1 功能豐富度 67
4 2 2 跨語言支持 68
4 2 3 兼容性  69
4 2 4 性能  70
4 3 擴(kuò)展性設(shè)計(jì)  71
4 3 1 內(nèi)置的序列化/反序列化功能類 71
4 3 2 反序列化擴(kuò)展  72
4 3 3 序列化擴(kuò)展 75
4 4 最佳實(shí)踐 77
4 4 1 接口的前向兼容性規(guī)范 77
4 4 2 高并發(fā)下的穩(wěn)定性 78
4 5 總結(jié) 78
第5 章協(xié)議棧 79
5 1 關(guān)鍵技術(shù)點(diǎn)分析 80
5 1 1 是否必須支持多協(xié)議  80
5 1 2 公有協(xié)議還是私有協(xié)議 80
5 1 3 集成開源還是自研 81
5 2 功能設(shè)計(jì) 82
5 2 1 功能描述  82
5 2 2 通信模型  82
5 2 3 協(xié)議消息定義  84
5 2 4 協(xié)議棧消息序列化支持的字段類型  85
5 2 5 協(xié)議消息的序列化和反序列化  86
5 2 6 鏈路創(chuàng)建  89
5 2 7 鏈路關(guān)閉  90
5 3 可靠性設(shè)計(jì)  90
5 3 1 客戶端連接超時(shí) 90
5 3 2 客戶端重連機(jī)制 91
5 3 3 客戶端重復(fù)握手保護(hù)  91
5 3 4 消息緩存重發(fā)  92
5 3 5 心跳機(jī)制  92
5 4 安全性設(shè)計(jì)  92
5 5 最佳實(shí)踐—協(xié)議的前向兼容性 94
5 6 總結(jié) 95
第6 章服務(wù)路由  96
6 1 透明化路由  97
6 1 1 基于服務(wù)注冊中心的訂閱發(fā)布  97
6 1 2 消費(fèi)者緩存服務(wù)提供者地址 98
6 2 負(fù)載均衡 98
6 2 1 隨機(jī)  98
6 2 2 輪循  99
6 2 3 服務(wù)調(diào)用時(shí)延  99
6 2 4 一致性哈希 100
6 2 5 粘滯連接  101
6 3 本地路由優(yōu)先策略 102
6 3 1 injvm 模式 102
6 3 2 innative 模式 102
6 4 路由規(guī)則  103
6 4 1 條件路由規(guī)則 103
6 4 2 腳本路由規(guī)則 104
6 5 路由策略定制 105
6 6 配置化路由 106
6 7 最佳實(shí)踐—多機(jī)房路由 107
6 8 總結(jié)  108
第７章集群容錯(cuò)  109
7 1 集群容錯(cuò)場景 110
7 1 1 通信鏈路故障 110
7 1 2 服務(wù)端超時(shí)  111
7 1 3 服務(wù)端調(diào)用失敗 111
7 2 容錯(cuò)策略  112
7 2 1 失敗自動(dòng)切換（Failover）  112
7 2 2 失敗通知（Failback） 113
7 2 3 失敗緩存（Failcache）  113
7 2 4 快速失?。‵ailfast） 114
7 2 5 容錯(cuò)策略擴(kuò)展 114
7 3 總結(jié)  115
第8 章服務(wù)調(diào)用  116
8 1 幾個(gè)誤區(qū)  117
8 1 1 NIO 就是異步服務(wù)  117
8 1 2 服務(wù)調(diào)用天生就是同步的  118
8 1 3 異步服務(wù)調(diào)用性能更高  120
8 2 服務(wù)調(diào)用方式 120
8 2 1 同步服務(wù)調(diào)用 120
8 2 2 異步服務(wù)調(diào)用 121
8 2 3 并行服務(wù)調(diào)用 125
8 2 4 泛化調(diào)用  129
8 3 最佳實(shí)踐  130
8 4 總結(jié)  131
第９章服務(wù)注冊中心 132
9 1 幾個(gè)概念  133
9 1 1 服務(wù)提供者  133
9 1 2 服務(wù)消費(fèi)者  133
9 1 3 服務(wù)注冊中心 133
9 2 關(guān)鍵功能特性設(shè)計(jì) 134
9 2 1 支持對等集群 135
9 2 2 提供CRUD 接口 136
9 2 3 安全加固  136
9 2 4 訂閱發(fā)布機(jī)制 137
9 2 5 可靠性 138
9 3 基于ZooKeeper 的服務(wù)注冊中心設(shè)計(jì)  139
9 3 1 服務(wù)訂閱發(fā)布流程設(shè)計(jì)  139
9 3 2 服務(wù)健康狀態(tài)檢測  141
9 3 3 對等集群防止單點(diǎn)故障  142
9 3 4 變更通知機(jī)制 144
9 4 總結(jié)  144
第10 章服務(wù)發(fā)布和引用 145
10 1 服務(wù)發(fā)布設(shè)計(jì) 146
10 1 1 服務(wù)發(fā)布的幾種方式 146
10 1 2 本地實(shí)現(xiàn)類封裝成代理  148
10 1 3 服務(wù)發(fā)布成指定協(xié)議 148
10 1 4 服務(wù)提供者信息注冊 149
10 2 服務(wù)引用設(shè)計(jì) 150
10 2 1 本地接口調(diào)用轉(zhuǎn)換成遠(yuǎn)程服務(wù)調(diào)用 150
10 2 2 服務(wù)地址本地緩存  151
10 2 3 遠(yuǎn)程服務(wù)調(diào)用  151
10 3 最佳實(shí)踐  152
10 3 1 對等設(shè)計(jì)原則  152
10 3 2 啟動(dòng)順序問題  153
10 3 3 同步還是異步發(fā)布服務(wù)  153
10 3 4 警惕網(wǎng)絡(luò)風(fēng)暴  154
10 3 5 配置擴(kuò)展 154
10 4 總結(jié) 156
第11 章服務(wù)灰度發(fā)布  157
11 1 服務(wù)灰度發(fā)布流程設(shè)計(jì)  158
11 1 1 灰度環(huán)境準(zhǔn)備  158
11 1 2 灰度規(guī)則設(shè)置  159
11 1 3 灰度規(guī)則下發(fā)  160
11 1 4 灰度路由 161
11 1 5 失敗回滾 162
11 1 6 灰度發(fā)布總結(jié)  163
11 2 總結(jié)  163
第12 章參數(shù)傳遞 164
12 1 內(nèi)部傳參  165
12 1 1 業(yè)務(wù)內(nèi)部參數(shù)傳遞  165
12 1 2 服務(wù)框架內(nèi)部參數(shù)傳遞  168
12 2 外部傳參  169
12 2 1 通信協(xié)議支持  169
12 2 2 傳參接口定義  170
12 3 最佳實(shí)踐  171
12 3 1 防止參數(shù)互相覆蓋  171
12 3 2 參數(shù)生命周期管理  171
12 4 總結(jié) 172
第13 章服務(wù)多版本  173
13 1 服務(wù)多版本管理設(shè)計(jì)  174
13 1 1 服務(wù)版本號管理  174
13 1 2 服務(wù)提供者 175
13 1 3 服務(wù)消費(fèi)者 175
13 1 4 基于版本號的服務(wù)路由  176
13 1 5 服務(wù)熱升級 177
13 2 與OSGi 的對比  178
13 2 1 模塊化開發(fā) 179
13 2 2 插件熱部署和熱升級 184
13 2 3 不使用OSGi 的其他理由  185
13 3 總結(jié) 185
第14 章流量控制 186
14 1 靜態(tài)流控  187
14 1 1 傳統(tǒng)靜態(tài)流控設(shè)計(jì)方案  187
14 1 2 傳統(tǒng)方案的缺點(diǎn)  188
14 1 3 動(dòng)態(tài)配額分配制  188
14 1 4 動(dòng)態(tài)配額申請制  190
14 2 動(dòng)態(tài)流控  191
14 2 1 動(dòng)態(tài)流控因子  192
14 2 2 分級流控 192
14 3 并發(fā)控制  193
14 3 1 服務(wù)端全局控制  193
14 3 2 服務(wù)消費(fèi)者流控  194
14 4 連接控制  195
14 4 1 服務(wù)端連接數(shù)流控  195
14 4 2 服務(wù)消費(fèi)者連接數(shù)流控  195
14 5 并發(fā)和連接控制算法  195
14 6 總結(jié) 197
第15 章服務(wù)降級 198
15 1 屏蔽降級  199
15 1 1 屏蔽降級的流程  199
15 1 2 屏蔽降級的設(shè)計(jì)實(shí)現(xiàn) 200
15 2 容錯(cuò)降級  202
15 2 1 容錯(cuò)降級的工作原理 202
15 2 2 運(yùn)行時(shí)容錯(cuò)降級  204
15 3 業(yè)務(wù)層降級 205
15 4 總結(jié) 205
第16 章服務(wù)優(yōu)先級調(diào)度 207
16 1 設(shè)置服務(wù)優(yōu)先級 208
16 2 線程調(diào)度器方案 209
16 3 Java 優(yōu)先級隊(duì)列 210
16 4 加權(quán)優(yōu)先級隊(duì)列 211
16 5 服務(wù)遷入遷出 212
16 6 總結(jié) 213
第17 章服務(wù)治理 214
17 1 服務(wù)治理技術(shù)的歷史變遷 215
17 1 1 SOA Governance  215
17 1 2 分布式服務(wù)框架服務(wù)治理 217
17 1 3 AWS 云端微服務(wù)治理  217
17 2 應(yīng)用服務(wù)化后面臨的挑戰(zhàn) 218
17 2 1 跨團(tuán)隊(duì)協(xié)作問題  219
17 2 2 服務(wù)的上下線管控  220
17 2 3 服務(wù)安全 220
17 2 4 服務(wù)SLA 保障  221
17 2 5 故障快速定界定位  221
17 3 服務(wù)治理  222
17 3 1 服務(wù)治理架構(gòu)設(shè)計(jì)  223
17 3 2 運(yùn)行態(tài)服務(wù)治理功能設(shè)計(jì) 225
17 3 3 線下服務(wù)治理  232
17 3 4 安全和權(quán)限管理  234
17 4 總結(jié) 237
第18 章分布式消息跟蹤 239
18 1 業(yè)務(wù)場景分析 240
18 1 1 故障的快速定界定位 240
18 1 2 調(diào)用路徑分析  241
18 1 3 調(diào)用來源和去向分析 242
18 2 分布式消息跟蹤系統(tǒng)設(shè)計(jì) 242
18 2 1 系統(tǒng)架構(gòu) 243
18 2 2 埋點(diǎn)日志 244
18 2 3 采樣率 247
18 2 4 采集和存儲(chǔ)埋點(diǎn)日志 248
18 2 5 計(jì)算和展示 249
18 2 6 調(diào)用鏈擴(kuò)展 251
18 3 總結(jié) 251
第19 章可靠性設(shè)計(jì)  253
19 1 服務(wù)狀態(tài)檢測 254
19 1 1 基于服務(wù)注冊中心狀態(tài)檢測 254
19 1 2 鏈路有效性狀態(tài)檢測機(jī)制 255
19 2 服務(wù)健康度檢測 256
19 3 服務(wù)故障隔離 257
19 3 1 進(jìn)程級故障隔離  257
19 3 2 VM 級故障隔離 259
19 3 3 物理機(jī)故障隔離  260
19 3 4 機(jī)房故障隔離  261
19 4 其他可靠性特性 262
19 4 1 服務(wù)注冊中心  262
19 4 2 監(jiān)控中心 262
19 4 3 服務(wù)提供者 262
19 5 總結(jié) 263
第20 章微服務(wù)架構(gòu)  264
20 1 微服務(wù)架構(gòu)產(chǎn)生的歷史背景 265
20 1 1 研發(fā)成本挑戰(zhàn)  265
20 1 2 運(yùn)維成本高 267
20 1 3 新需求上線周期長  268
20 2 微服務(wù)架構(gòu)帶來的改變  268
20 2 1 應(yīng)用解耦 268
20 2 2 分而治之 270
20 2 3 敏捷交付 271
20 3 微服務(wù)架構(gòu)解析 271
20 3 1 微服務(wù)劃分原則  272
20 3 2 開發(fā)微服務(wù) 272
20 3 3 基于Docker 容器部署微服務(wù)  274
20 3 4 治理和運(yùn)維微服務(wù)  277
20 3 5 特點(diǎn)總結(jié) 278
20 4 總結(jié) 279
第21 章服務(wù)化最佳實(shí)踐 280
21 1 性能和時(shí)延問題 281
21 1 1 RPC 框架高性能設(shè)計(jì) 281
21 1 2 業(yè)務(wù)最佳實(shí)踐  285
21 2 事務(wù)一致性問題 286
21 2 1 分布式事務(wù)設(shè)計(jì)方案 287
21 2 2 分布式事務(wù)優(yōu)化  288
21 3 研發(fā)團(tuán)隊(duì)協(xié)作問題 289
21 3 1 共用服務(wù)注冊中心  290
21 3 2 直連提供者 290
21 3 3 多團(tuán)隊(duì)進(jìn)度協(xié)同  291
21 3 4 服務(wù)降級和Mock 測試 291
21 3 5 協(xié)同調(diào)試問題  292
21 3 6 接口前向兼容性  292
21 4 總結(jié) 292