第1章 初窺移動端深度學習技術的應用 1
1.1 本書示例代碼簡介 1
1.1.1 安裝編譯好的文件 1
1.1.2 在Demo App中應用神經網絡技術 2
1.2 移動端主體檢測和分類 2
1.3 在綫上産品中以“雲+端計算”的方式應用深度學習技術 4
1.4 在移動端應用深度學習技術的業界案例 6
1.4.1 植物花卉識彆 6
1.4.2 奇妙的風格化效果 7
1.4.3 視頻主體檢測技術在App中的應用 7
1.5 在移動端應用深度學習技術的難點 8
1.5.1 在服務器端和移動端應用深度學習技術的難點對比 8
1.5.2 實現AR實時翻譯功能 9
1.6 編譯運行深度學習App 12
1.6.1 mobile-deep-learning項目環境簡介 12
1.6.2 mobile-deep-learning項目整體代碼結構 13
1.6.3 mobile-deep-learning通用環境依賴 14
1.7 在iOS平颱上搭建深度學習框架 15
1.7.1 在iOS平颱上搭建mobile-deep-learning項目 15
1.7.2 在OS X平颱上編譯mobile-deep-learning項目 16
1.7.3 iOS平颱上mobile-deep-learning項目的Demo代碼結構 17
1.8 在Android平颱上搭建深度學習框架 18
1.8.1 Android平颱上mobile-deep-learning項目的環境依賴 18
1.8.2 Android平颱上mobile-deep-learning項目的Demo代碼結構 19
1.8.3 用Paddle-Lite框架編譯與開發Android應用 20
1.8.4 開發一個基於移動端深度學習框架的Android App 22
第2章 以幾何方式理解綫性代數基礎知識 32
2.1 綫性代數基礎 32
2.1.1 標準平麵直角坐標係 32
2.1.2 改變坐標係的基嚮量 34
2.2 嚮量的幾何意義 35
2.2.1 嚮量的加減運算 36
2.2.2 嚮量的數乘運算 37
2.3 綫性組閤的幾何意義 38
2.4 綫性空間 40
2.5 矩陣和變換 41
2.6 矩陣乘法 43
2.7 行列式 46
2.8 矩陣的逆 48
2.9 秩 49
2.10 零空間 50
2.11 點積和叉積的幾何錶示與含義 51
2.11.1 點積的幾何意義 51
2.11.2 叉積的幾何意義 52
2.12 綫性代數的特徵概念 53
2.13 抽象嚮量空間 54
第3章 什麼是機器學習和捲積神經網絡 56
3.1 移動端機器學習的全過程 56
3.2 預測過程 57
3.3 數學錶達 59
3.3.1 預測過程涉及的數學公式 59
3.3.2 訓練過程涉及的數學公式 60
3.4 神經元和神經網絡 61
3.4.1 神經元 61
3.4.2 神經網絡 63
3.5 捲積神經網絡 63
3.6 圖像捲積效果 65
3.6.1 從全局瞭解視覺相關的神經網絡 65
3.6.2 捲積核和矩陣乘法的關係 66
3.6.3 多通道捲積核的應用 69
3.7 捲積後的圖片效果 70
3.8 捲積相關的兩個重要概念：padding和stride 75
3.8.1 讓捲積核“齣界”：padding 75
3.8.2 讓捲積核“跳躍”：stride 75
3.9 捲積後的降維操作：池化 76
3.10 捲積的重要性 77
第4章 移動端常見網絡結構 78
4.1 早期的捲積神經網絡 78
4.2 AlexNet網絡結構 79
4.3 GoogLeNet網絡結構 79
4.3.1 模型體積問題 80
4.3.2 計算量問題 80
4.4 嘗試在App中運行GoogLeNet 81
4.4.1 將32位float參數轉化為8位int參數以降低傳輸量 82
4.4.2 將CPU版本服務器端框架移植到移動端 83
4.4.3 應用在産品中的效果 84
4.5 輕量化模型SqueezeNet 85
4.5.1 SqueezeNet的優化策略 85
4.5.2 fire模塊 86
4.5.3 SqueezeNet的全局 86
4.6 輕量高性能的MobileNet 88
4.6.1 什麼是深度可分離捲積（Depthwise Separable Convolution） 88
4.6.2 MobileNet v1網絡結構 89
4.6.3 MobileNet v2網絡結構 91
4.7 移動端神經網絡模型的優化方嚮 92
第5章 ARM CPU組成 94
5.1 現代計算機與ARM CPU架構的現狀 94
5.1.1 馮•諾依曼計算機的基本結構 94
5.1.2 移動計算設備的分工 96
5.2 簡單的CPU模型 98
5.2.1 取指過程 98
5.2.2 譯碼過程 99
5.2.3 執行過程 100
5.2.4 迴寫過程 101
5.2.5 細化分工：流水綫技術 102
5.3 匯編指令初探 102
5.3.1 匯編語言程序的第一行 102
5.3.2 這些指令是什麼 105
5.4 匯編指令概況 106
5.4.1 ARM CPU傢族 106
5.4.2 ARMv7-A處理器架構 107
5.4.3 ARMv7匯編指令介紹 109
5.5 ARM指令集架構 111
5.6 ARM手機芯片的現狀與格局 113
第6章 存儲金字塔與ARM匯編 115
6.1 ARM CPU的完整結構 115
6.2 存儲設備的金字塔結構 117
6.3 ARM芯片的緩存設計原理 119
6.3.1 緩存的基本理解 119
6.3.2 簡單的緩存映射結構：直接映射 121
6.3.3 靈活高效的緩存結構：組相聯映射 123
6.3.4 利用一個簡單的公式優化訪存性能 125
6.4 ARM匯編知識 126
6.4.1 ARM匯編數據類型和寄存器 127
6.4.2 ARM指令集 130
6.4.3 ARM匯編的內存操作 131
6.5 NEON匯編指令 133
6.5.1 NEON寄存器與指令類型 134
6.5.2 NEON存儲操作指令 135
6.5.3 NEON通用數據操作指令 137
6.5.4 NEON通用算術操作指令 138
6.5.5 NEON乘法指令 139
6.5.6 運用NEON指令計算矩陣乘法 140
第7章 移動端CPU預測性能優化 142
7.1 工具及體積優化 142
7.1.1 工具使用 143
7.1.2 模型體積優化 148
7.1.3 深度學習庫文件體積優化 149
7.2 CPU高性能通用優化 150
7.2.1 編譯選項優化 150
7.2.2 內存性能和耗電量優化 151
7.2.3 循環展開 153
7.2.4 並行優化與流水綫重排 154
7.3 捲積性能優化方式 157
7.3.1 滑窗捲積和GEMM性能對比 157
7.3.2 基於Winograd算法進行捲積性能優化 160
7.3.3 快速傅裏葉變換 162
7.3.4 捲積計算基本優化 163
7.4 開發問題與經驗總結 164
第8章 移動端GPU編程及深度學習框架落地實踐 166
8.1 異構計算編程框架OpenCL 166
8.1.1 開發移動端GPU應用程序 167
8.1.2 OpenCL中的一些概念 168
8.2 移動端視覺搜索研發 169
8.2.1 初次探索移動端AI能力 170
8.2.2 取消拍照按鈕，提升視覺搜索體驗 171
8.2.3 使用深度學習技術提速視覺搜索 172
8.2.4 通過AI工程技術提升視覺搜索體驗 174
8.3 解決曆史問題：研發Paddle-Lite框架 176
8.3.1 體積壓縮 178
8.3.2 工程結構編碼前重新設計 178
8.3.3 視覺搜索的高級形態：實時視頻流式搜索 184
· · · · · · (收起)