目　　錄
第　1章 深度學習簡介　1
1．1　深度學習與人工智能　1
1．2　深度學習的曆史淵源　2
1．2．1　從感知機到人工神經網絡　3
1．2．2　深度學習時代　4
1．2．3　巨頭之間的角逐　5
1．3　深度學習的影響因素　6
1．3．1　大數據　6
1．3．2　深度網絡架構　7
1．3．3　GPU　11
1．4　深度學習為什麼如此成功　11
1．4．1　特徵學習（representation learning）　11
1．4．2　遷移學習（transfer learning）　12
1．5　小結　13
參考文獻　14
第　2章 PyTorch簡介　15
2．1　PyTorch安裝　15
2．2　初識PyTorch　15
2．2．1　與Python的完美融閤　16
2．2．2　張量計算　16
2．2．3　動態計算圖　20
2．3　PyTorch實例：預測房價　27
2．3．1　準備數據　27
2．3．2　模型設計　28
2．3．3　訓練　29
2．3．4　預測　31
2．3．5　術語匯總　32
2．4　小結　33
第3章　單車預測器：你的第 一個
神經網絡　35
3．1　共享單車的煩惱　35
3．2　單車預測器1．0　37
3．2．1　神經網絡簡介　37
3．2．2　人工神經元　38
3．2．3　兩個隱含層神經元　40
3．2．4　訓練與運行　42
3．2．5　失敗的神經預測器　43
3．2．6　過擬閤　48
3．3　單車預測器2．0　49
3．3．1　數據的預處理過程　49
3．3．2　構建神經網絡　52
3．3．3　測試神經網絡　55
3．4　剖析神經網絡Neu　57
3．5　小結　61
3．6　Q&A　61
第4章　機器也懂感情——中文情緒
分類器　63
4．1　神經網絡分類器　64
4．1．1　如何用神經網絡做分類　64
4．1．2　分類問題的損失函數　66
4．2　詞袋模型分類器　67
4．2．1　詞袋模型簡介　68
4．2．2　搭建簡單文本分類器　69
4．3　程序實現　70
4．3．1　數據獲取　70
4．3．2　數據處理　74
4．3．3　文本數據嚮量化　75
4．3．4　劃分數據集　76
4．3．5　建立神經網絡　78
4．4　運行結果　80
4．5　剖析神經網絡　81
4．6　小結　85
4．7　Q&A　85
第5章　手寫數字識彆器——認識捲積
神經網絡　87
5．1　什麼是捲積神經網絡　88
5．1．1　手寫數字識彆任務的CNN
網絡及運算過程　88
5．1．2　捲積運算操作　90
5．1．3　池化操作　96
5．1．4　立體捲積核　97
5．1．5　超參數與參數　98
5．1．6　其他說明　99
5．2　手寫數字識彆器　100
5．2．1　數據準備　100
5．2．2　構建網絡　103
5．2．3　運行模型　105
5．2．4　測試模型　106
5．3　剖析捲積神經網絡　107
5．3．1　第 一層捲積核與特徵圖　107
5．3．2　第二層捲積核與特徵圖　109
5．3．3　捲積神經網絡的健壯性試驗　110
5．4　小結　112
5．5　Q&A　112
5．6　擴展閱讀　112
第6章　手寫數字加法機——遷移學習　113
6．1　什麼是遷移學習　114
6．1．1　遷移學習的由來　114
6．1．2　遷移學習的分類　115
6．1．3　遷移學習的意義　115
6．1．4　如何用神經網絡實現遷移
學習　116
6．2　應用案例：遷移學習如何抗擊貧睏　118
6．2．1　背景介紹　118
6．2．2　方法探尋　119
6．2．3　遷移學習方法　120
6．3　螞蟻還是蜜蜂：遷移大型捲積神經
網絡　121
6．3．1　任務描述與初步嘗試　121
6．3．2　ResNet與模型遷移　122
6．3．3　代碼實現　123
6．3．4　結果分析　127
6．3．5　更多的模型與數據　128
6．4　手寫數字加法機　128
6．4．1　網絡架構　128
6．4．2　代碼實現　129
6．4．3　訓練與測試　136
6．4．4　結果　138
6．4．5　大規模實驗　138
6．5　小結　143
6．6　實踐項目：遷移與效率　143
第7章　你自己的Prisma——圖像
風格遷移　145
7．1　什麼是風格遷移　145
7．1．1　什麼是風格　145
7．1．2　風格遷移的涵義　146
7．2　風格遷移技術發展簡史　147
7．2．1　神經網絡之前的風格遷移　147
7．2．2　特定風格的實現　148
7．3　神經網絡風格遷移　149
7．3．1　神經網絡風格遷移的優勢　150
7．3．2　神經網絡風格遷移的基本
思想　150
7．3．3　捲積神經網絡的選取　151
7．3．4　內容損失　152
7．3．5　風格損失　152
7．3．6　風格損失原理分析　153
7．3．7　損失函數與優化　156
7．4　神經網絡風格遷移實戰　157
7．4．1　準備工作　157
7．4．2　建立風格遷移網絡　159
7．4．3　風格遷移訓練　162
7．5　小結　165
7．6　擴展閱讀　165
第8章　人工智能造假術——圖像生成
與對抗學習　166
8．1　反捲積與圖像生成　169
8．1．1　CNN迴顧　169
8．1．2　反捲積操作　171
8．1．3　反池化過程　173
8．1．4　反捲積與分數步伐　174
8．1．5　輸齣圖像尺寸公式　175
8．1．6　批正則化技術　176
8．2　圖像生成實驗1——最小均方誤差
模型　177
8．2．1　模型思路　177
8．2．2　代碼實現　178
8．2．3　運行結果　182
8．3　圖像生成實驗2——生成器-識彆器
模型　184
8．3．1　生成器-識彆器模型的實現　184
8．3．2　對抗樣本　187
8．4　圖像生成實驗3——生成對抗網絡
GAN　190
8．4．1　GAN的總體架構　191
8．4．2　程序實現　192
8．4．3　結果展示　195
8．5　小結　197
8．6　Q&A　197
8．7　擴展閱讀　198
第9章　詞匯的星空——神經語言模型
與Word2Vec　199
9．1　詞嚮量技術介紹　199
9．1．1　初識詞嚮量　199
9．1．2　傳統編碼方式　200
9．2　NPLM：神經概率語言模型　201
9．2．1　NPLM的基本思想　202
9．2．2　NPLM的運作過程詳解　202
9．2．3　讀取NPLM中的詞嚮量　205
9．2．4　NPLM的編碼實現　206
9．2．5　運行結果　209
9．2．6　NPLM的總結與局限　211
9．3　Word2Vec　211
9．3．1　CBOW模型和Skip-gram模型的結構　211
9．3．2　層級軟最大　213
9．3．3　負采樣　213
9．3．4　總結及分析　214
9．4　Word2Vec的應用　214
9．4．1　在自己的語料庫上訓練Word2Vec詞嚮量　214
9．4．2　調用現成的詞嚮量　216
9．4．3　女人-男人＝皇後-國王　218
9．4．4　使用嚮量的空間位置進行詞對詞翻譯　220
9．4．5　Word2Vec小結　221
9．5　小結　221
9．5　Q&A　222
第　10章 LSTM作麯機——序列生成
模型　224
10．1　序列生成問題　224
10．2　RNN與LSTM　225
10．2．1　RNN　226
10．2．2　LSTM　231
10．3　簡單01序列的學習問題　235
10．3．1　RNN的序列學習　236
10．3．2　LSTM的序列學習　245
10．4　LSTM作麯機　248
10．4．1　MIDI文件　248
10．4．2　數據準備　249
10．4．3　模型結構　249
10．4．4　代碼實現　250
10．5　小結　259
10．6　Q&A　259
10．7　擴展閱讀　259
· · · · · · (收起)