軟硬件融合：超大規(guī)模云計算架構(gòu)創(chuàng)新之路

引言
第1章 云計算底層軟硬件
1.1 云計算概述
1.1.1 云計算的概念
1.1.2 IaaS、PaaS和SaaS
1.2 IaaS層核心服務(wù)
1.2.1 計算類服務(wù)
1.2.2 存儲類服務(wù)
1.2.3 網(wǎng)絡(luò)類服務(wù)
1.2.4 IaaS層服務(wù)總結(jié)
1.3 云計算的特點
1.3.1 更大的規(guī)模
1.3.2 更“大”的數(shù)據(jù)
1.3.3 更多的租戶
1.3.4 更復(fù)雜的網(wǎng)絡(luò)
1.3.5 安全問題無處不在
1.3.6 面向特定應(yīng)用場景的云計算服務(wù)
1.3.7 服務(wù)接口的兼容性和通用性
1.4 底層軟硬件挑戰(zhàn)
1.4.1 業(yè)務(wù)異構(gòu)加速
1.4.2 工作任務(wù)卸載
1.4.3 軟硬件接口的標(biāo)準(zhǔn)化和靈活性
1.4.4 硬件處理的虛擬化和個性化
1.4.5 業(yè)務(wù)和管理物理分離
1.4.6 硬件的功能擴(kuò)展
1.4.7 讓硬件快速迭代
1.4.8 硬件高可用
1.5 總結(jié)
第2章 軟硬件融合綜述
2.1 軟硬件基本概念
2.1.1 軟件和硬件
2.1.2 FPGA、ASIC和SoC
2.1.3 硬件加速原理
2.2 軟硬件劃分
2.2.1 三個維度
2.2.2 綜合分析
2.2.3 平臺選擇
2.3 軟硬件協(xié)作
2.3.1 多平臺混合架構(gòu)
2.3.2 軟硬件平臺的協(xié)作
2.3.3 軟硬件平臺的交互
2.4 軟硬件融合
2.4.1 軟硬件融合的概念
2.4.2 軟硬件融合的特點
2.4.3 軟硬件融合技術(shù)
第3章 計算機(jī)體系結(jié)構(gòu)基礎(chǔ)
3.1 計算機(jī)原理
3.1.1 處理器架構(gòu)：從馮·諾依曼架構(gòu)到RISC-V
3.1.2 內(nèi)存地址：從尋址模式到MMU
3.1.3 I/O：從CPU中斷到DMA
3.1.4 多核互連：從傳統(tǒng)總線到網(wǎng)狀總線
3.1.5 服務(wù)器板級架構(gòu)
3.2 存儲
3.2.1 緩存和存儲分層結(jié)構(gòu)
3.2.2 本地存儲：磁盤分區(qū)和邏輯/物理卷
3.2.3 分布式存儲：GFS和存儲的“溫度”
3.3 網(wǎng)絡(luò)
3.3.1 基礎(chǔ)物理網(wǎng)絡(luò)：分層和拓?fù)?br />3.3.2 虛擬網(wǎng)絡(luò)：VLAN和VxLAN
3.3.3 軟件定義網(wǎng)絡(luò)：從OpenFlow到P4
3.4 虛擬化
3.4.1 虛擬化的層次、定義和分類
3.4.2 CPU虛擬化：從軟件模擬到完全硬件
3.4.3 內(nèi)存虛擬化：影子頁表和EPT
3.4.4 I/O設(shè)備虛擬化：從軟件模擬到SR-IOV
3.4.5 容器虛擬化：Docker和Kubernetes介紹
第4章 軟硬件接口
4.1 軟硬件接口概述
4.1.1 軟硬件接口定義
4.1.2 生產(chǎn)者-消費者模型
4.1.3 用戶態(tài)的PMD：DPDK和SPDK
4.2 總線互連
4.2.1 AMBA總線
4.2.2 片上網(wǎng)絡(luò)NoC總線
4.2.3 片間高速總線PCIe及SR-IOV
4.2.4 對稱的緩存一致性總線CCIX
4.2.5 非對稱的緩存一致性總線CXL
4.2.6 總線互連總結(jié)
4.3 通用接口Virtio
4.3.1 Virtio寄存器
4.3.2 Virtqueue交互隊列
4.3.3 Virtio交互
4.3.4 總結(jié)
4.4 高速網(wǎng)絡(luò)接口RDMA
4.4.1 基本概念
4.4.2 RoCE分層
4.4.3 RDMA接口
4.4.4 RDMA總結(jié)
4.5 高速存儲接口NVMe
4.5.1 NVMe概述
4.5.2 NVMe寄存器
4.5.3 NVMe隊列
4.5.4 NVMe命令結(jié)構(gòu)
4.5.5 網(wǎng)絡(luò)存儲接口NVMeoF
4.5.6 NVMe及NVMeoF總結(jié)
4.6 軟硬件接口總結(jié)
4.6.1 接口分層
4.6.2 接口共享
第5章 算法加速和任務(wù)卸載
5.1 基本概念
5.1.1 硬件加速
5.1.2 硬件處理模塊
5.1.3 算法加速和任務(wù)卸載的概念
5.2 算法加速
5.2.1 加密算法加速
5.2.2 壓縮算法加速
5.2.3 數(shù)據(jù)冗余算法加速
5.2.4 正則表達(dá)式算法加速
5.2.5 加速器性能設(shè)計原則
5.3 任務(wù)卸載
5.3.1 任務(wù)卸載模型
5.3.2 IPsec卸載
5.3.3 虛擬網(wǎng)絡(luò)卸載
5.3.4 遠(yuǎn)程存儲卸載
5.3.5 虛擬化卸載
5.4 算法加速和任務(wù)卸載總結(jié)
5.4.1 算法加速是基礎(chǔ)
5.4.2 任務(wù)卸載是多系統(tǒng)協(xié)作
第6章 虛擬化硬件加速
6.1 基本概念
6.1.1 軟硬件中的抽象
6.1.2 虛擬化抽象
6.1.3 虛擬化模型
6.1.4 虛擬化加速的必要性
6.2 虛擬化的硬件處理
6.2.1 流水線處理
6.2.2 虛擬化映射
6.2.3 緩存機(jī)制
6.2.4 通用虛擬化流水線
6.3 網(wǎng)絡(luò)虛擬化處理
6.3.1 包處理用于網(wǎng)絡(luò)虛擬化
6.3.2 定制的網(wǎng)絡(luò)包處理
6.3.3 ASIC軟件可編程包處理
6.3.4 FPGA硬件可編程包處理
6.3.5 案例：Mellanox FlexFlow
6.3.6 網(wǎng)絡(luò)包處理總結(jié)
6.4 存儲虛擬化處理
6.4.1 分布式存儲Ceph
6.4.2 以事務(wù)為單位的存儲處理
6.4.3 遠(yuǎn)程存儲虛擬化加速
6.4.4 本地存儲虛擬化加速
6.5 虛擬化硬件加速總結(jié)
6.5.1 靈活的高性能流水線
6.5.2 高性能緩存機(jī)制
6.5.3 可軟件編程、通用、數(shù)據(jù)流驅(qū)動的數(shù)據(jù)處理引擎
6.5.4 虛擬化硬件加速的意義
6.5.5 其他虛擬化加速場景
第7章 異構(gòu)加速
7.1 異構(gòu)計算概述
7.1.1 基本概念（并行計算、異構(gòu)計算）
7.1.2 典型案例
7.1.3 性能約束和優(yōu)化
7.1.4 易用性思考
7.2 GPU和CUDA
7.2.1 GPU和CUDA概念
7.2.2 GPU硬件架構(gòu)
7.2.3 CUDA編程模型
7.3 OpenCL和FPGA異構(gòu)計算
7.3.1 OpenCL
7.3.2 Xilinx SDAccel
7.3.3 英特爾加速棧
7.4 DSA
7.4.1 DSA發(fā)展背景
7.4.2 DSA典型領(lǐng)域：DNN
7.4.3 ASIC實現(xiàn)：谷歌TPU
7.4.4 FPGA實現(xiàn)：微軟Catapult
7.4.5 Chiplet實現(xiàn)：OCP ODSA
7.5 異構(gòu)加速計算總結(jié)
7.5.1 平臺選擇（GPU、FPGA、ASIC/DSA）
7.5.2 異構(gòu)計算加速優(yōu)化
第8章 云計算體系結(jié)構(gòu)趨勢
8.1 概述
8.2 業(yè)務(wù)和管理分離
8.2.1 虛擬化視角：I/O及管理的卸載
8.2.2 體系結(jié)構(gòu)視角：以數(shù)據(jù)為中心
8.2.3 Nitro系統(tǒng)
8.2.4 Mellanox Bluefield DPU
8.2.5 總結(jié)
8.3 業(yè)務(wù)的異構(gòu)加速
8.3.1 業(yè)務(wù)加速概述
8.3.2 DSA加速：谷歌TPU服務(wù)
8.3.3 FPGA加速：FaaS
8.3.4 異構(gòu)計算架構(gòu)演進(jìn)
8.4 存儲的加速和定制
8.4.1 存儲概述
8.4.2 熱存儲服務(wù)器：Xilinx NVMeoF參考設(shè)計
8.4.3 機(jī)架級冷存儲：微軟Pelican
8.5 網(wǎng)絡(luò)可編程和性能優(yōu)化
8.5.1 數(shù)據(jù)中心網(wǎng)絡(luò)綜述
8.5.2 數(shù)據(jù)面編程交換芯片
8.5.3 高性能網(wǎng)絡(luò)優(yōu)化
8.6 硬件定制
8.6.1 硬件定制概述
8.6.2 亞馬遜的硬件定制
8.6.3 OCP開放計算項目
第9章 融合的系統(tǒng)
9.1 軟硬件融合系統(tǒng)棧
9.1.1 系統(tǒng)邊界：多數(shù)據(jù)中心
9.1.2 數(shù)據(jù)中心的系統(tǒng)堆棧
9.2 分層的系統(tǒng)實現(xiàn)
9.2.1 迭代的系統(tǒng)
9.2.2 分域的硬件平臺
9.2.3 不同層次的實現(xiàn)
9.2.4 軟硬件協(xié)同設(shè)計
9.3 深層次開放合作
9.3.1 軟硬件的距離越來越大
9.3.2 互聯(lián)網(wǎng)公司自研芯片的優(yōu)劣勢
9.3.3 深層次的開放合作
參考文獻(xiàn)