中圖網小程序
一鍵登錄
更方便
本類五星書更多>
-
>
全國計算機等級考試最新真考題庫模擬考場及詳解·二級MSOffice高級應用
-
>
決戰行測5000題(言語理解與表達)
-
>
軟件性能測試.分析與調優實踐之路
-
>
第一行代碼Android
-
>
JAVA持續交付
-
>
EXCEL最強教科書(完全版)(全彩印刷)
-
>
深度學習
深度學習:原理及遙感地學分析 版權信息
- ISBN：9787030700513
- 條形碼：9787030700513 ; 978-7-03-070051-3
- 裝幀：一般膠版紙
- 冊數：暫無
- 重量：暫無
- 所屬分類：>
深度學習:原理及遙感地學分析 內容簡介
隨著地球時空大數據累計，如何從這些大數據里高效挖掘知識成為地球系統科學研究難點及重點，常規統計及機器學習方法有諸多局限。本書從地球及遙感科學背景及視角系統闡述深度學習基本原理，并將其納入地學系統科學問題框架，提供了典型實例。讀者可通過閱讀本書找到合理方法來解決相關問題，本書具有較高理論及應用價值。全書共分三部分，即基礎篇、方法篇及遙感地學分析篇：基礎篇是機器學習及深度學習的基礎，而方法篇系統描述了深度學習算法及特點，遙感地學分析篇概括了深度學習在遙感地學分析的系統建模的架構，典型時空建模應用等。本專著強調理論與實踐結合，一方面輔助加強讀者對原理深入理解；另一方面，在理解基礎，系統講解了典型應用實踐。
深度學習:原理及遙感地學分析 目錄
目錄
前言
基礎篇
第1章 概率論 3
1.1 概率的本質 3
1.2 典型概率分布 6
1.2.1 伯努利分布 6
1.2.2 二項分布 7
1.2.3 貝塔分布 7
1.2.4 多項分布 8
1.2.5 狄利克雷分布 9
1.2.6 高斯分布 10
1.2.7 學生t分布 13
1.2.8 指數及拉普拉斯分布 14
1.3 隨機變量的數字特征及信息測度 15
1.4 指數族分布函數 17
1.5 混合分布 18
1.6 小結 19
參考文獻 20
第2章 線性代數 21
2.1 基本數據類型 21
2.2 基本運算 22
2.3 求導運算 24
2.4 特征值提取及主成分分析 27
2.5 奇異值分解 31
2.6 小結 33
參考文獻 34
第3章 MCMC隨涵擬 35
3.1 問題的提出 35
3.2 蒙特卡羅方法 36
3.2.1 方法基礎 36
3.2.2 拒絕性抽樣 37
3.2.3 重要性抽樣 38
3.3 MCMC方法 39
3.4 M-H采樣 40
3.5 Gibbs采樣 42
3.6 應用實例 44
3.6.1 模擬Beta分布的概率分布 44
3.6.2 采用Gibbs抽樣模擬二維正態分布 45
3.6.3 模擬退火求極值問題 45
3.7 小結 46
參考文獻 46
第4章 變分優化法 48
4.1 問題的提出 48
4.2 泛函 49
4.3 變分法 50
4.4 EM算法 53
4.5 *大熵變分方法 55
4.6 求后驗分布的變分推斷 57
4.7 小結 60
參考文獻 61
第5章 懸學習基礎 62
5.1 學習目標 62
5.2 評價標準 64
5.2.1 基于概率的評價標準 64
5.2.2 基于損失函數的評價標準 65
5.2.3 基于信息論的評價標準 67
5.3 監督學習方法 68
5.3.1 單學習器 68
5.3.2 集成學習器 72
5.4 非監督學習方法 83
5.4.1 主成分分析 84
5.4.2 高斯混合模型 84
5.5 偏差與方差：提高模型泛化能力 87
5.5.1 偏差與方差 87
5.5.2 正則化 88
5.5.3 貝葉斯統計學方法 90
5.5.4 MAP點估計 90
5.6 機器學習流程 91
5.7 向深度學習器的演化 92
5.8 小結 93
參考文獻 93
方法篇
第6章 前饋神經網絡 97
6.1 主要構成要素 97
6.1.1 目標函數 97
6.1.2 輸入及隱藏層 98
6.1.3 輸出層 102
6.2 深層系統架構 107
6.3 反向傳播算法原理 108
6.3.1 全微分 108
6.3.2 復合函數求導 110
6.3.3 反向傳播算法 111
6.4 自動微分 113
6.4.1 不同的微分方法 114
6.4.2 后向梯度計算模式 115
6.4.3 前向及后向傳播過程 117
6.4.4 高效的計算圖及其實現算法 119
6.5 小結 125
參考文獻 125
第7章 模型訓練及優化 127
7.1 參數正則化 127
7.2 限制性優化 134
7.3 數據增強 139
7.4 遷移學習 140
7.5 多任務學習及參數共享 141
7.6 集成學習方法 144
7.7 Dropout方法 145
7.8 Early Stopping方法 147
7.9 mini batch梯度下降法 149
7.10 批正則化 152
7.11 優化算法主要挑戰 155
7.12 參數初始化 157
7.13 基本梯度學習方法 159
7.14 適應性梯度學習方法 162
7.15 高階優化 167
7.16 算法優化策略 168
7.17 小結 170
參考文獻 172
第8章 卷積神經網絡 174
8.1 神經生物學基礎 174
8.2 感受野 175
8.3 卷積運算 175
8.3.1 離散卷積 175
8.3.2 卷積神經網絡中的卷積運算 176
8.3.3 填充 177
8.4 CNN基本結構 178
8.4.1 卷積層 178
8.4.2 池化層（下采樣層） 180
8.4.3 全連接層 181
8.4.4 激活函數 181
8.4.5 損失函數與優化方法 181
8.5 卷積神經網絡發展歷史 182
8.5.1 LeNet-5模型 183
8.5.2 AlexNet模型 184
8.5.3 VGGNet模型 186
8.5.4 GoogleLeNet模型 187
8.5.5 ResNet模型 187
8.6 卷積神經網絡在遙感地學方面的應用 189
8.7 小結 190
參考文獻 190
第9章 循環神經網絡 194
9.1 循環神經網絡的網絡結構及原理 194
9.1.1 單向循環神經網絡 195
9.1.2 時序反向傳播算法 196
9.1.3雙向循環神經網絡 198
9.2 長短期記憶網絡及其變體 199
9.2.1 長短期記憶網絡 200
9.2.2 門控循環單元 201
9.2.3 RNN其他變體 202
9.3 混合神經網絡 203
9.4 循環神經網絡的應用 204
9.4.1 自然語言處理 204
9.4.2 地球科學 205
9.4.3 其他 206
9.5 小結 206
參考文獻 207
第10章 其他網絡建模方法 211
10.1 反卷積神經網絡 211
10.2 自動編碼器 212
10.3 t-SNE方法 213
10.4 變分自動編碼器 214
10.5 生成對抗網絡 218
10.6 深度信任網絡 220
10.7 注意力機制 223
10.8 圖網絡 227
10.9 自然語言處理的網絡模型 232
10.9.1 基本語言模型 232
10.9.2 tf-ldf重要性提取 233
10.9.3 word2vec方法 234
10.9.4神經概率語言模型 236
10.9.5 基于Hierarchical Softmax的模型 238
10.9.6 CBOM模型 239
10.9.7 sklp-gram模型 241
10.10 小結 242
參考文獻 243
遙感地學分析篇
第11章 遙感地學分析概述 247
11.1 背景介紹 247
11.2 遙感地學智能分析的系統框架 250
參考文獻 254
第12章 遙感圖像土地利用分類 256
12.1 遙感圖像土地利用分類方法綜述 256
12.1.1 遙感圖像土地利用分類方法 256
12.1.2 基于深度學習的遙感圖像語義分割 258
12.2 相關工作 259
12.2.1 殘差學習 260
12.2.2 多尺度 261
12.2.3 基于深度學習的語義分割 262
12.3 多尺度深度殘差自動編碼 263
12.3.1 基于自動編碼器的結構 263
12.3.2 兩種殘差連接 264
12.3.3 空洞卷積和多尺度的融合 265
12.3.4 訓練集的采樣和邊界效應 266
12.3.5 衡量指標和損失函數 267
12.3.6 執行過程 268
12.4數據集與訓練 269
12.4.1 數據集 270
12.4.2 訓練及測試 271
12.5 土地利用分類結果及討論 271
12.6 小結 278
參考文獻 279
第13章 建筑物識別 286
13.1 遙感圖像建筑物識別方法研究 286
13.2 基于形狀表示和多尺度的深度殘差分割方法 287
13.2.1 U-Net結構 287
13.2.2 殘差學習 289
13.2.3 ASPP 289
13.2.4 形狀表示自動編碼器的正則化方法 290
13.2.5 損失函數，多尺度和邊界效應 291
13.3 實驗數據集和評估 292
13.3.1 研究區域 293
13.3.2 評估 293
13.4 建筑物識別結果 294
13.5 小結 301
參考文獻 302
第14章 氣象參數預測 306
14.1 應用綜述 306
14.2 中國大陸風速時空數據 307
14.2.1 研究區域 308
14.2.2 測量數據 308
14.2.3 協變量 308
14.3 研究方法 309
14.3.1 階段1：地理加權學習 310
14.3.2 階段2：基于深度殘差網絡的降尺度 314
14.3.3 超參數優化與驗證 315
14.4 風速預測結果 315
14.4.1 數據總結和預處理 315
14.4.2 階段1的訓練模型 316
14.4.3 階段2的預測和降尺度 318
14.5 小結 322
參考文獻 324
第15章 遙感氣溶膠數據缺值處理 327
15.1 缺值數據插補方法概述 327
15.2 MAIAC AOD數據 328
15.2.1 案例研究區域 328
15.2.2 數據變量 329
15.3 降尺度與深度學習結合的插補方法 330
15.3.1 MAIAC AOD預處理 330
15.3.2 基于自動編碼器的深度殘差網絡 331
15.3.3 基于深度殘差網絡的MERRA-2GMI重放模擬AOD降尺度 335
15.3.4 全模型和非全模型 336
15.3.5 超參數調整與驗證 336
15.3.6 利用AERONET數據進行偏差校正 337
15.4 插補結果 338
15.4.1 衛星AOD和協變量概要 338
15.4.2 MERRA-2GMI重放模擬AOD降尺度 339
15.4.3 插補 343
15.4.4 用AERONET數據驗證模型并校正偏差 344
15.5 小結 346
參考文獻 348
第16章 地表參數反演 352
16.1 遙感反演模型概述 352
16.2 利用自動微分法轉換衛星AOD與GAC 353
16.3 GAC模擬的材料和方法 354
16.3.1 案例研究區域 354
16.3.2 數據集 354
16.3.3 地面氣溶膠消光系數的模擬 355
16.3.4 自動微分法求解 357
16.3.5 驗證和比較 361
16.4 GAC模擬結果 361
16.4.1 描述性統計 361
16.4.2 學習和驗證 362
16.4.3 方法比較 363
16.4.4 地面氣溶膠系數模擬值和PMu預測值的空間分布 3
前言
基礎篇
第1章 概率論 3
1.1 概率的本質 3
1.2 典型概率分布 6
1.2.1 伯努利分布 6
1.2.2 二項分布 7
1.2.3 貝塔分布 7
1.2.4 多項分布 8
1.2.5 狄利克雷分布 9
1.2.6 高斯分布 10
1.2.7 學生t分布 13
1.2.8 指數及拉普拉斯分布 14
1.3 隨機變量的數字特征及信息測度 15
1.4 指數族分布函數 17
1.5 混合分布 18
1.6 小結 19
參考文獻 20
第2章 線性代數 21
2.1 基本數據類型 21
2.2 基本運算 22
2.3 求導運算 24
2.4 特征值提取及主成分分析 27
2.5 奇異值分解 31
2.6 小結 33
參考文獻 34
第3章 MCMC隨涵擬 35
3.1 問題的提出 35
3.2 蒙特卡羅方法 36
3.2.1 方法基礎 36
3.2.2 拒絕性抽樣 37
3.2.3 重要性抽樣 38
3.3 MCMC方法 39
3.4 M-H采樣 40
3.5 Gibbs采樣 42
3.6 應用實例 44
3.6.1 模擬Beta分布的概率分布 44
3.6.2 采用Gibbs抽樣模擬二維正態分布 45
3.6.3 模擬退火求極值問題 45
3.7 小結 46
參考文獻 46
第4章 變分優化法 48
4.1 問題的提出 48
4.2 泛函 49
4.3 變分法 50
4.4 EM算法 53
4.5 *大熵變分方法 55
4.6 求后驗分布的變分推斷 57
4.7 小結 60
參考文獻 61
第5章 懸學習基礎 62
5.1 學習目標 62
5.2 評價標準 64
5.2.1 基于概率的評價標準 64
5.2.2 基于損失函數的評價標準 65
5.2.3 基于信息論的評價標準 67
5.3 監督學習方法 68
5.3.1 單學習器 68
5.3.2 集成學習器 72
5.4 非監督學習方法 83
5.4.1 主成分分析 84
5.4.2 高斯混合模型 84
5.5 偏差與方差：提高模型泛化能力 87
5.5.1 偏差與方差 87
5.5.2 正則化 88
5.5.3 貝葉斯統計學方法 90
5.5.4 MAP點估計 90
5.6 機器學習流程 91
5.7 向深度學習器的演化 92
5.8 小結 93
參考文獻 93
方法篇
第6章 前饋神經網絡 97
6.1 主要構成要素 97
6.1.1 目標函數 97
6.1.2 輸入及隱藏層 98
6.1.3 輸出層 102
6.2 深層系統架構 107
6.3 反向傳播算法原理 108
6.3.1 全微分 108
6.3.2 復合函數求導 110
6.3.3 反向傳播算法 111
6.4 自動微分 113
6.4.1 不同的微分方法 114
6.4.2 后向梯度計算模式 115
6.4.3 前向及后向傳播過程 117
6.4.4 高效的計算圖及其實現算法 119
6.5 小結 125
參考文獻 125
第7章 模型訓練及優化 127
7.1 參數正則化 127
7.2 限制性優化 134
7.3 數據增強 139
7.4 遷移學習 140
7.5 多任務學習及參數共享 141
7.6 集成學習方法 144
7.7 Dropout方法 145
7.8 Early Stopping方法 147
7.9 mini batch梯度下降法 149
7.10 批正則化 152
7.11 優化算法主要挑戰 155
7.12 參數初始化 157
7.13 基本梯度學習方法 159
7.14 適應性梯度學習方法 162
7.15 高階優化 167
7.16 算法優化策略 168
7.17 小結 170
參考文獻 172
第8章 卷積神經網絡 174
8.1 神經生物學基礎 174
8.2 感受野 175
8.3 卷積運算 175
8.3.1 離散卷積 175
8.3.2 卷積神經網絡中的卷積運算 176
8.3.3 填充 177
8.4 CNN基本結構 178
8.4.1 卷積層 178
8.4.2 池化層（下采樣層） 180
8.4.3 全連接層 181
8.4.4 激活函數 181
8.4.5 損失函數與優化方法 181
8.5 卷積神經網絡發展歷史 182
8.5.1 LeNet-5模型 183
8.5.2 AlexNet模型 184
8.5.3 VGGNet模型 186
8.5.4 GoogleLeNet模型 187
8.5.5 ResNet模型 187
8.6 卷積神經網絡在遙感地學方面的應用 189
8.7 小結 190
參考文獻 190
第9章 循環神經網絡 194
9.1 循環神經網絡的網絡結構及原理 194
9.1.1 單向循環神經網絡 195
9.1.2 時序反向傳播算法 196
9.1.3雙向循環神經網絡 198
9.2 長短期記憶網絡及其變體 199
9.2.1 長短期記憶網絡 200
9.2.2 門控循環單元 201
9.2.3 RNN其他變體 202
9.3 混合神經網絡 203
9.4 循環神經網絡的應用 204
9.4.1 自然語言處理 204
9.4.2 地球科學 205
9.4.3 其他 206
9.5 小結 206
參考文獻 207
第10章 其他網絡建模方法 211
10.1 反卷積神經網絡 211
10.2 自動編碼器 212
10.3 t-SNE方法 213
10.4 變分自動編碼器 214
10.5 生成對抗網絡 218
10.6 深度信任網絡 220
10.7 注意力機制 223
10.8 圖網絡 227
10.9 自然語言處理的網絡模型 232
10.9.1 基本語言模型 232
10.9.2 tf-ldf重要性提取 233
10.9.3 word2vec方法 234
10.9.4神經概率語言模型 236
10.9.5 基于Hierarchical Softmax的模型 238
10.9.6 CBOM模型 239
10.9.7 sklp-gram模型 241
10.10 小結 242
參考文獻 243
遙感地學分析篇
第11章 遙感地學分析概述 247
11.1 背景介紹 247
11.2 遙感地學智能分析的系統框架 250
參考文獻 254
第12章 遙感圖像土地利用分類 256
12.1 遙感圖像土地利用分類方法綜述 256
12.1.1 遙感圖像土地利用分類方法 256
12.1.2 基于深度學習的遙感圖像語義分割 258
12.2 相關工作 259
12.2.1 殘差學習 260
12.2.2 多尺度 261
12.2.3 基于深度學習的語義分割 262
12.3 多尺度深度殘差自動編碼 263
12.3.1 基于自動編碼器的結構 263
12.3.2 兩種殘差連接 264
12.3.3 空洞卷積和多尺度的融合 265
12.3.4 訓練集的采樣和邊界效應 266
12.3.5 衡量指標和損失函數 267
12.3.6 執行過程 268
12.4數據集與訓練 269
12.4.1 數據集 270
12.4.2 訓練及測試 271
12.5 土地利用分類結果及討論 271
12.6 小結 278
參考文獻 279
第13章 建筑物識別 286
13.1 遙感圖像建筑物識別方法研究 286
13.2 基于形狀表示和多尺度的深度殘差分割方法 287
13.2.1 U-Net結構 287
13.2.2 殘差學習 289
13.2.3 ASPP 289
13.2.4 形狀表示自動編碼器的正則化方法 290
13.2.5 損失函數，多尺度和邊界效應 291
13.3 實驗數據集和評估 292
13.3.1 研究區域 293
13.3.2 評估 293
13.4 建筑物識別結果 294
13.5 小結 301
參考文獻 302
第14章 氣象參數預測 306
14.1 應用綜述 306
14.2 中國大陸風速時空數據 307
14.2.1 研究區域 308
14.2.2 測量數據 308
14.2.3 協變量 308
14.3 研究方法 309
14.3.1 階段1：地理加權學習 310
14.3.2 階段2：基于深度殘差網絡的降尺度 314
14.3.3 超參數優化與驗證 315
14.4 風速預測結果 315
14.4.1 數據總結和預處理 315
14.4.2 階段1的訓練模型 316
14.4.3 階段2的預測和降尺度 318
14.5 小結 322
參考文獻 324
第15章 遙感氣溶膠數據缺值處理 327
15.1 缺值數據插補方法概述 327
15.2 MAIAC AOD數據 328
15.2.1 案例研究區域 328
15.2.2 數據變量 329
15.3 降尺度與深度學習結合的插補方法 330
15.3.1 MAIAC AOD預處理 330
15.3.2 基于自動編碼器的深度殘差網絡 331
15.3.3 基于深度殘差網絡的MERRA-2GMI重放模擬AOD降尺度 335
15.3.4 全模型和非全模型 336
15.3.5 超參數調整與驗證 336
15.3.6 利用AERONET數據進行偏差校正 337
15.4 插補結果 338
15.4.1 衛星AOD和協變量概要 338
15.4.2 MERRA-2GMI重放模擬AOD降尺度 339
15.4.3 插補 343
15.4.4 用AERONET數據驗證模型并校正偏差 344
15.5 小結 346
參考文獻 348
第16章 地表參數反演 352
16.1 遙感反演模型概述 352
16.2 利用自動微分法轉換衛星AOD與GAC 353
16.3 GAC模擬的材料和方法 354
16.3.1 案例研究區域 354
16.3.2 數據集 354
16.3.3 地面氣溶膠消光系數的模擬 355
16.3.4 自動微分法求解 357
16.3.5 驗證和比較 361
16.4 GAC模擬結果 361
16.4.1 描述性統計 361
16.4.2 學習和驗證 362
16.4.3 方法比較 363
16.4.4 地面氣溶膠系數模擬值和PMu預測值的空間分布 3
展開全部
深度學習:原理及遙感地學分析 節選
基礎篇 本篇著重介紹機器學習及深度學習（deep learning，DL）的基本原理，深入淺出地介紹相關數學及機器學習基礎。機器及深度學習本質上是統計學習方法，所以第1章介紹了概率論的基本知識；而深度學習涉及大量的矩陣運算，所以第2章介紹了線性代數的基本知識，包括求導，主成分分析及奇異值分解等；考慮到實際應用中樣本的缺乏等問題，第3章介紹了馬爾可夫鏈蒙特卡羅（Markov chain Monte Carlo，MCMC）隨機模擬法，作為重要的基于采樣的統計計算方法；而作為現代機器學習基礎之一的變分優化法，可以在沒有解析解情況下較好地獲得優化解，這在第4章重點進行了介紹；第5章則是系統地介紹了現代機器學習的基本方法，包括監督及非監督方法、評價標準、學習流程等。這些基本的知識都為學習方法篇奠定相應的數學及機器學習基礎。 第1章概率論 概率論是機器學習及深度學習（DL）的基礎之一。本章介紹有關概率論的基本知識，包括概率的定義、數量特征、典型分布以及在機器學習中的應用特點等，同時配合基本介紹，也給出了一些有趣而又有助于增加理解的問題，加強讀者對概率相關概念的理解。 1.1概率的本質 概率是測量一個隨機事件發生的可能性的量化性指標，又稱或然率，采用0～1之間的一個實數表示，值越大表示發生的可能性越高（李賢平，2010）。概率的本質是“在表面上是偶然性在起作用的地方，這種偶然性始終是受內部的隱藏著的規律支配的，而問題只是在于發現這些規律”（恩格斯，1972）。實驗表明一個隨機事件出現的頻率常在某個固定的常數值附近擺動，稱此為統計規律性。而此穩定性也表明了概率存在的客觀性，可以采用一套方法對其進行量化。 樣本空間與事件是概率*基本的概念。樣本點表示試驗中可能出現的結果，而所有樣本點構成的全體構成了樣本空間。例如，采用表示樣本點，D表示樣本空間，則有。而概率論中的事件則指樣本點的某個集合，具備某種特征，將某事件的發生看作當且僅當它所包含的某個樣本點出現。事件用X、B、C等大寫英文字母表示，將事件W發生的概率記為P04）。如此，某個樣本點屬于某個事件S則稱e^，否則記為賤S。單個點也可定義一個事件集合，而沒有包括任意點的集合則稱為空集。 在現今計算技術發展的時代，很少采用手工的方式（如采用投硬幣方式）確定一個事件發生的概率，而采用計算機進行模擬，能更快及更準確地模擬一個事件發生的概率。根據程序提供的均勻分布的抽樣函數，很容易采用計算機模擬一個隨機事件。下面給出了幾個例子說明此點。 例1.1已知一個區間的均勻分布函數以及一枚硬幣出現正面的概率為仍，如何采用隨機模擬函數模擬投擲硬幣的過程？ 本例可以先采用均勻分布的函數抽樣，如果發現抽樣值小于等于仍，則返回1，否則返回0。反復執行該函數得到*終的統計結果，*后驗證出現正面的概率是否接近于P1。 例1.2已知一維數組包含若干*大值，順序性地遍歷該數組，如何等概率返回數組中若干*大值中的一個，并使得時間復雜度為（N為數組元素個數）？如一維數組，等概率隨機返回其中4個*大值中的一個。 先記錄下當前的*大值及其索引，同時記錄*大值的個數，在依次遍歷數組過程中，遇到比當前更大的數時，更新*大值及其索引，修改*大記錄數Cmax為1；如果遇到同*大值一樣大的數，則遞增*大值個數為Cmax+1，并在區間均勻隨機抽樣P;如果P在1/Cmax，則更新*大值索引為當前數的位置，否則保持索引不變。這樣保證返回的*大值索引在數組里是等概率分布的。該方法可以采用數學歸納法證明。 證明（1）初始條件i=1，即只有一個*大值，結論顯然成立。 （2）若i=k時結論成立，則可以推導出當i=k+1，即有k+1個*大值時結論也成立。根據隨機均勻抽樣p^1/（k+1），選擇*后一個*大值索引的概率為+，則選擇前面k個的概率為1，又根據i=k時假設結論成立，即前k個中一個被選中的概率為1，所以此時后面k個中有一個被選中的概率為。證畢。 以下講述概率論的幾個概念。 定義1.1概率質量函數（probability mass function，PMF）是離散隨機變量在各特定取值上的概率，數學定義如下： （1.1） 其中，x是離散隨機變量，S為隨機樣本空間中的某個事件（隨機樣本點集合）。 定義1.2概率密度函數（probabilitydensity function，PDF）是連續型變量的概率表達方法，它表示在某個取值點附近的可能性函數，將連續型隨機變量X的概率密度函數記為，則隨機變量X在某個區域內的概率為該概率密度函數在該區域內的積分。 注意兩個概率的差別，概率質量函數主要是描述離散隨機變量在特定值的概率，而概率密度函數則是描述連續隨機變量在特定取值附近的輸出，本身不是概率，其概率應該是針對一定區間的積分。 定義1.3累積分布函數（cumulative distribution function，CDF）是概率質量函數小于每個值的累加和，或密度函數小于某個值的積分。 （1）對于離散變量： （1.2） 其中，f（x）為概率質量函數。 （2）對于連續變量： （1.3） 其中，f（x）為概率密度函數。 定義1.4邊緣概率分布（marginal probability distribution，MPD）是對多個隨機變量的聯合概率分布而言的，即通過對離散隨機變量的概率累積求和或對連續隨機變量求積分的方法求得在子隨機變量上的分布，如對多個離散隨機變量x與^，其x的邊緣概率通過下式求和： （1.4） 而對連續隨機變量而言，采用下式積分求邊際概率： （1.5） 定義1.5條件概率（conditional probability）是指在樣本空間中一個隨機事件A在另外一個隨機事件B發生下的概率。若以隨機變量X與Y分別表示事件A與B則可用公式表示為 （1.6） 條件概率與聯合概率及邊緣概率緊密聯系，是*主要的關系之一。在貝葉斯（Bayes）機器學習中遇到的后驗概率也是以條件概率的基本原理作為基礎的。 利用條件概率可以解決許多概率推導問題，以下給出幾個例子。 例1.3采用隨機數抽樣函數實現洗牌過程，保證事件復雜度為O（N）設數組A共有N個元素，依次為，從*后一個元素向前迭代，首先從隨機變量（i表示當前迭代的數組索引）中抽取一個元素k，然后將數組元素ak與交換位置。該方法具有很好的空間復雜度（0（1））及事件復雜度（O⑷）。證明每個元素被抽取的概率為1，可采用類似例1.2中的數學歸納法及條件概率原理進行推導。 定義1.6概率的鏈式法則（chain rule）是指概率的多個隨機變量的聯合概率分布可以分解為多個單隨機變量的條件概率的乘積： （1.7） 采用條件概率公式及數學歸納法即可證明該鏈式法則。 定義1.7（獨立性及條件獨立性（independence and conditionally independence））獨立性一般指兩個隨機變量之間沒有依賴性，數學上表示為兩個隨機變量的聯合概率分布直接等于各自分布函數的乘積： （1.8） 而條件獨立性則是指該獨立性以另外的隨機事件為條件，即 （1.9） 例1.4令樣本空間D為投一個6面骰子時出現正面數字樣本的集合，每一面出現的概率分別定義為，試采用計算機程序模擬投擲的隨機事件，*優的時間復雜度是多少？ 可以類似例1.1采用隨機事件模擬與累計概率分布結合的方法求解本題。而采用二分搜索時可以將時間復雜度控制到（n為骰子的面數）。 1.2典型概率分布 1.2.1伯努利分布 參照例1.1的投擲硬幣，設定出現正面的概率為參數 得到出現正面的概率為，則式（1.10）表示的分布稱為伯努利分布（Bernoulli distribution）。 （1.10） 其中，代表投擲硬幣的結果，x=1為正面，而x=0為反面。容易證明，伯努利分布的均值及方差分別為及。 問題1.1如何證明伯努利分布的均值及方差分別為式（1.11）與式（1.12）？ 假定做了N次獨立實驗，得到數據集，則可以得到似然函數： （1.11） i=1i=1 （1.12） 通過微分求極值的方法，可求得*大似然解： 其中，m為出現正面的次數。
書友推薦
- >
苦雨齋序跋文-周作人自編集
- >
名家帶你讀魯迅:朝花夕拾
- >
人文閱讀與收藏·良友文學叢書:一天的工作
- >
羅庸西南聯大授課錄
- >
隨園食單
- >
煙與鏡
- >
小考拉的故事-套裝共3冊
- >
新文學天穹兩巨星--魯迅與胡適/紅燭學術叢書(紅燭學術叢書)
本類暢銷
