掃一掃
關(guān)注中圖網(wǎng)
官方微博
本類五星書更多>
-
>
宇宙、量子和人類心靈
-
>
氣候文明史
-
>
南極100天
-
>
考研數(shù)學專題練1200題
-
>
希格斯:“上帝粒子”的發(fā)明與發(fā)現(xiàn)
-
>
神農(nóng)架疊層石:10多億年前遠古海洋微生物建造的大堡礁
-
>
聲音簡史
多源空譜遙感圖像融合的表示學習方法 版權(quán)信息
- ISBN：9787030694737
- 條形碼：9787030694737 ; 978-7-03-069473-7
- 裝幀：一般膠版紙
- 冊數(shù)：暫無
- 重量：暫無
- 所屬分類：>>
多源空譜遙感圖像融合的表示學習方法 內(nèi)容簡介
本書從多維信號表示與先驗建模的角度出發(fā)，介紹了多維信號稀疏表示、低秩分析和張量表示等理論和方法，及其在空譜遙感圖像的融合應(yīng)用。全書分兩部分，共11章。部分論述多維信號表示與建；A(chǔ)，章簡述從稀疏低秩分析到深度學習，第2章介紹稀疏表示與壓縮感知，第3章介紹稀疏信號恢復與優(yōu)化，第4章介紹多維信號矩陣低秩恢復理論與應(yīng)用，第5章介紹多維信號張量表示與分析。第二部分介紹基于表示建模的空譜遙感圖像融合應(yīng)用，討論一類空譜遙感圖像融合問題，包括全色與多光譜圖像融合、多光譜與高光譜圖像融合、雙路空譜數(shù)據(jù)計算融合成像等。其中，第6章給出了空譜遙感圖像融合問題與研究進展，第7章主要介紹稀疏融合方法，第8章主要介紹低秩融合方法，第9章主要介紹張量融合方法，0章介紹張量框架高光譜計算融合成像模型與方法，1章介紹深度學習融合方法。
多源空譜遙感圖像融合的表示學習方法 目錄
目錄
前言
第1章 緒論 1
1.1 引言 1
1.2 多維信號表示與建模概論 2
1.2.1 稀疏表示與壓縮感知 3
1.2.2 矩陣低秩與張量表示 6
1.2.3 深度表示學習 8
1.3 本書面向的讀者與速覽 10
參考文獻 11
第2章 圖像稀疏表示與壓縮感知概要 13
2.1 稀疏表示 13
2.1.1 稀疏表示基本原理 15
2.1.2 稀疏逼近與優(yōu)化算法 17
2.2 字典學習 22
2.2.1 MOD方法 23
2.2.2 K-SVD方法 24
2.3 由稀疏表示到壓縮感知 28
2.3.1 不相干感知與稀疏信號復原 30
2.3.2 穩(wěn)定壓縮感知 31
2.4 代表性應(yīng)用 35
2.4.1 稀疏信號恢復 35
2.4.2 模式分析與識別 36
2.5 本章結(jié)語 37
參考文獻 38
第3章 稀疏信號恢復與優(yōu)化 42
3.1 引言 42
3.2 符號和數(shù)學背景 43
3.2.1 凸分析基礎(chǔ) 43
3.2.2 凸集投影到鄰近算子 44
3.2.3 鄰近算子的性質(zhì) 45
3.3 兩個目標函數(shù)情形的鄰近分裂算法 46
3.3.1 前向-后向分裂 46
3.3.2 Douglas-Rachford分裂法 49
3.4 含線性變換復合問題的鄰近算子分裂 50
3.4.1 鄰近算子分裂法 50
3.4.2 交替方向乘子法 51
3.5 多個目標函數(shù)情形的鄰近分裂算法 52
3.6 應(yīng)用：稀疏性正則化線性反問題 54
3.6.1 典型模型 54
3.6.2 凸稀疏懲罰項及其鄰近算子 55
3.6.3 復合仿射算子保真項的鄰近算子 57
3.6.4 稀疏性正則化線性反問題的鄰近分裂算法 60
3.7 本章結(jié)語 65
參考文獻 65
第4章 多維信號矩陣低秩恢復理論與應(yīng)用 68
4.1 引言 68
4.2 預備知識 69
4.2.1 矩陣的秩 69
4.2.2 矩陣的秩與矩陣范數(shù) 71
4.2.3 矩陣秩與范數(shù)之間的聯(lián)系 73
4.3 低秩矩陣補全模型與可恢復性理論 75
4.3.1 (近)精確恢復保證—基于核范數(shù)的凸松弛方法 76
4.3.2 逼近恢復保證—核范數(shù)和*大范數(shù) 78
4.4 代表性矩陣補全方法 81
4.4.1 奇異值閾值收縮方法 81
4.4.2 低秩正則化的矩陣補全 83
4.4.3 線性仿射約束的低秩正則化矩陣補全 84
4.4.4 凸集約束的低秩正則化的矩陣補全 85
4.4.5 基于矩陣分解的方法 85
4.5 矩陣低秩與稀疏分解 89
4.5.1 魯棒主成分分析 89
4.5.2 廣義魯棒主成分分析 92
4.6 本章結(jié)語 97
參考文獻 98
第5章 多維信號張量表示與分析 101
5.1 引言 101
5.2 由矩陣因子分解到張量表示 101
5.2.1 矩陣因子分解 101
5.2.2 張量概念與表示 103
5.2.3 張量展開與再生 104
5.2.4 張量代數(shù)運算 106
5.2.5 張量的n-模式積 107
5.2.6 矩陣Hadamad積、Kronecker積和Khatri-Rao積 108
5.2.7 張量的秩 109
5.3 張量的CP分解 112
5.3.1 CP分解原理 112
5.3.2 CP分解的**性 114
5.3.3 CP分解算法 116
5.4 張量的Tucker分解 120
5.4.1 Tucker分解的基本原理 120
5.4.2 Tucker分解缺乏**性以及改進 123
5.4.3 Tucker分解算法 124
5.5 相關(guān)要點、應(yīng)用與拓展 128
5.5.1 CP與Tucker分解的要點 128
5.5.2 相關(guān)拓展 130
5.5.3 張量分解的廣泛應(yīng)用 132
5.6 開源軟件資源與工具箱 134
5.7 本章結(jié)語 135
參考文獻 135
第6章 空譜遙感圖像融合問題及研究進展 140
6.1 引言 140
6.2 光譜成像數(shù)據(jù)質(zhì)量改善相關(guān)問題 141
6.2.1 圖像復原 141
6.2.2 譜融合 142
6.2.3 單幅空譜圖像超分辨 143
6.2.4 多幅空譜圖像超分辨 143
6.2.5 多源空譜遙感圖像融合 144
6.3 反問題視角考察多源空譜融合 147
6.4 機器學習視角考察多源空譜融合：淺層到深層 150
6.4.1 表示學習融合機理 150
6.4.2 稀疏表示學習 151
6.4.3 深度學習 152
6.5 多源空譜遙感圖像融合代表性研究趨勢 156
6.5.1 低階向高階、局部向非局部先驗發(fā)展 156
6.5.2 由標準稀疏至結(jié)構(gòu)化稀疏表示發(fā)展 156
6.5.3 由矩陣低秩至張量結(jié)構(gòu)化低秩發(fā)展 157
6.5.4 稀疏、低秩先驗向深度先驗發(fā)展 158
6.6 本章結(jié)語 159
參考文獻 160
第7章 空譜遙感圖像稀疏融合應(yīng)用 167
7.1 引言 167
7.2 稀疏表示與壓縮感知融合基本方法 167
7.2.1 壓縮感知融合 168
7.2.2 稀疏融合 170
7.3 耦合字典學習與稀疏回歸的融合方法 172
7.3.1 字典與塊內(nèi)嶺回歸映射的聯(lián)合學習 173
7.3.2 基于彈性網(wǎng)模型的塊間回歸映射學習 175
7.3.3 分辨率多光譜圖像重建 176
7.4 實驗結(jié)果與分析 177
7.4.1 實驗數(shù)據(jù)和參數(shù)的設(shè)置 177
7.4.2 IKONOS衛(wèi)星數(shù)據(jù)實驗 178
7.4.3 WorldView-2衛(wèi)星數(shù)據(jù)實驗 181
7.5 本章結(jié)語 183
參考文獻 183
第8章 空譜遙感圖像低秩融合應(yīng)用 185
8.1 引言 185
8.2 全色-多光譜圖像的低秩正則化融合 185
8.2.1 低秩正則化 186
8.2.2 基于多變量回歸的數(shù)據(jù)保真項 187
8.2.3 優(yōu)化模型 189
8.2.4 迭代優(yōu)化融合算法 189
8.3 相關(guān)討論與模型推廣 191
8.3.1 細節(jié)注入保真與成像退化約束保真 191
8.3.2 推廣至高光譜融合 192
8.4 融合實驗及討論 193
8.4.1 仿真數(shù)據(jù)實驗結(jié)果 193
8.4.2 真實數(shù)據(jù)實驗結(jié)果 198
8.4.3 參數(shù)及效率分析 200
8.5 本章結(jié)語 202
參考文獻 203
第9章 張量表示框架的高光譜與多光譜圖像融合 205
9.1 引言 205
9.2 高光譜圖像與多光譜圖像的張量表示 206
9.2.1 張量定義 206
9.2.2 張量表示下高光譜圖像融合 207
9.3 基于非局部耦合張量CP分解的高光譜圖像融合 208
9.4 優(yōu)化算法 211
9.5 實驗結(jié)果與分析 213
9.5.1 實驗數(shù)據(jù)集與評價指標 213
9.5.2 實驗參數(shù)及比較方法 214
9.5.3 實驗結(jié)果 214
9.5.4 參數(shù)選擇 219
9.6 本章結(jié)語 219
參考文獻 220
第10章 張量框架高光譜計算融合成像 222
10.1 引言 222
10.2 計算重建相關(guān)工作 225
10.3 張量表示框架的雙相機計算融合光譜成像模型 226
10.3.1 符號與問題描述 228
10.3.2 融合計算成像模型 229
10.4 *優(yōu)化算法 232
10.5 計算成像實驗研究與分析 237
10.5.1 使用隨機置換Hadamard變換的實驗結(jié)果 237
10.5.2 CAVE數(shù)據(jù)集的實驗結(jié)果 238
10.5.3 參數(shù)對計算成像性能的影響 243
10.6 本章結(jié)語 244
參考文獻 245
第11章 空譜遙感圖像的深度學習融合方法 248
11.1 引言 248
11.2 基于深度學習的多源空譜遙感圖像融合進展 249
11.2.1 采樣模式 249
11.2.2 超分辨網(wǎng)絡(luò)的代表性學習策略 250
11.2.3 深度融合網(wǎng)絡(luò)的基本架構(gòu) 252
11.2.4 能量函數(shù) 253
11.2.5 結(jié)合多變量回歸的全色與多光譜融合網(wǎng)絡(luò) 257
11.2.6 融合應(yīng)用實例 259
11.3 高光譜與多光譜圖像融合的深度學習 264
11.4 基于雙通道卷積網(wǎng)絡(luò)的高光譜-多光譜圖像融合方法 266
11.4.1 雙通道融合網(wǎng)絡(luò)架構(gòu) 266
11.4.2 網(wǎng)絡(luò)離線訓練與在線重構(gòu) 267
11.4.3 融合實驗、性能評測與可視分析 268
11.4.4 小結(jié)與討論 275
11.5 高光譜與多光譜圖像深度融合應(yīng)用 275
11.5.1 空譜維質(zhì)量敏感特征統(tǒng)計分析 275
11.5.2 高光譜圖像融合質(zhì)量無參考圖像評價方法 286
11.5.3 高光譜與多光譜圖像深度融合實驗與質(zhì)量分析 292
11.6 本章結(jié)語 298
參考文獻 299
彩圖
前言
第1章 緒論 1
1.1 引言 1
1.2 多維信號表示與建模概論 2
1.2.1 稀疏表示與壓縮感知 3
1.2.2 矩陣低秩與張量表示 6
1.2.3 深度表示學習 8
1.3 本書面向的讀者與速覽 10
參考文獻 11
第2章 圖像稀疏表示與壓縮感知概要 13
2.1 稀疏表示 13
2.1.1 稀疏表示基本原理 15
2.1.2 稀疏逼近與優(yōu)化算法 17
2.2 字典學習 22
2.2.1 MOD方法 23
2.2.2 K-SVD方法 24
2.3 由稀疏表示到壓縮感知 28
2.3.1 不相干感知與稀疏信號復原 30
2.3.2 穩(wěn)定壓縮感知 31
2.4 代表性應(yīng)用 35
2.4.1 稀疏信號恢復 35
2.4.2 模式分析與識別 36
2.5 本章結(jié)語 37
參考文獻 38
第3章 稀疏信號恢復與優(yōu)化 42
3.1 引言 42
3.2 符號和數(shù)學背景 43
3.2.1 凸分析基礎(chǔ) 43
3.2.2 凸集投影到鄰近算子 44
3.2.3 鄰近算子的性質(zhì) 45
3.3 兩個目標函數(shù)情形的鄰近分裂算法 46
3.3.1 前向-后向分裂 46
3.3.2 Douglas-Rachford分裂法 49
3.4 含線性變換復合問題的鄰近算子分裂 50
3.4.1 鄰近算子分裂法 50
3.4.2 交替方向乘子法 51
3.5 多個目標函數(shù)情形的鄰近分裂算法 52
3.6 應(yīng)用：稀疏性正則化線性反問題 54
3.6.1 典型模型 54
3.6.2 凸稀疏懲罰項及其鄰近算子 55
3.6.3 復合仿射算子保真項的鄰近算子 57
3.6.4 稀疏性正則化線性反問題的鄰近分裂算法 60
3.7 本章結(jié)語 65
參考文獻 65
第4章 多維信號矩陣低秩恢復理論與應(yīng)用 68
4.1 引言 68
4.2 預備知識 69
4.2.1 矩陣的秩 69
4.2.2 矩陣的秩與矩陣范數(shù) 71
4.2.3 矩陣秩與范數(shù)之間的聯(lián)系 73
4.3 低秩矩陣補全模型與可恢復性理論 75
4.3.1 (近)精確恢復保證—基于核范數(shù)的凸松弛方法 76
4.3.2 逼近恢復保證—核范數(shù)和*大范數(shù) 78
4.4 代表性矩陣補全方法 81
4.4.1 奇異值閾值收縮方法 81
4.4.2 低秩正則化的矩陣補全 83
4.4.3 線性仿射約束的低秩正則化矩陣補全 84
4.4.4 凸集約束的低秩正則化的矩陣補全 85
4.4.5 基于矩陣分解的方法 85
4.5 矩陣低秩與稀疏分解 89
4.5.1 魯棒主成分分析 89
4.5.2 廣義魯棒主成分分析 92
4.6 本章結(jié)語 97
參考文獻 98
第5章 多維信號張量表示與分析 101
5.1 引言 101
5.2 由矩陣因子分解到張量表示 101
5.2.1 矩陣因子分解 101
5.2.2 張量概念與表示 103
5.2.3 張量展開與再生 104
5.2.4 張量代數(shù)運算 106
5.2.5 張量的n-模式積 107
5.2.6 矩陣Hadamad積、Kronecker積和Khatri-Rao積 108
5.2.7 張量的秩 109
5.3 張量的CP分解 112
5.3.1 CP分解原理 112
5.3.2 CP分解的**性 114
5.3.3 CP分解算法 116
5.4 張量的Tucker分解 120
5.4.1 Tucker分解的基本原理 120
5.4.2 Tucker分解缺乏**性以及改進 123
5.4.3 Tucker分解算法 124
5.5 相關(guān)要點、應(yīng)用與拓展 128
5.5.1 CP與Tucker分解的要點 128
5.5.2 相關(guān)拓展 130
5.5.3 張量分解的廣泛應(yīng)用 132
5.6 開源軟件資源與工具箱 134
5.7 本章結(jié)語 135
參考文獻 135
第6章 空譜遙感圖像融合問題及研究進展 140
6.1 引言 140
6.2 光譜成像數(shù)據(jù)質(zhì)量改善相關(guān)問題 141
6.2.1 圖像復原 141
6.2.2 譜融合 142
6.2.3 單幅空譜圖像超分辨 143
6.2.4 多幅空譜圖像超分辨 143
6.2.5 多源空譜遙感圖像融合 144
6.3 反問題視角考察多源空譜融合 147
6.4 機器學習視角考察多源空譜融合：淺層到深層 150
6.4.1 表示學習融合機理 150
6.4.2 稀疏表示學習 151
6.4.3 深度學習 152
6.5 多源空譜遙感圖像融合代表性研究趨勢 156
6.5.1 低階向高階、局部向非局部先驗發(fā)展 156
6.5.2 由標準稀疏至結(jié)構(gòu)化稀疏表示發(fā)展 156
6.5.3 由矩陣低秩至張量結(jié)構(gòu)化低秩發(fā)展 157
6.5.4 稀疏、低秩先驗向深度先驗發(fā)展 158
6.6 本章結(jié)語 159
參考文獻 160
第7章 空譜遙感圖像稀疏融合應(yīng)用 167
7.1 引言 167
7.2 稀疏表示與壓縮感知融合基本方法 167
7.2.1 壓縮感知融合 168
7.2.2 稀疏融合 170
7.3 耦合字典學習與稀疏回歸的融合方法 172
7.3.1 字典與塊內(nèi)嶺回歸映射的聯(lián)合學習 173
7.3.2 基于彈性網(wǎng)模型的塊間回歸映射學習 175
7.3.3 分辨率多光譜圖像重建 176
7.4 實驗結(jié)果與分析 177
7.4.1 實驗數(shù)據(jù)和參數(shù)的設(shè)置 177
7.4.2 IKONOS衛(wèi)星數(shù)據(jù)實驗 178
7.4.3 WorldView-2衛(wèi)星數(shù)據(jù)實驗 181
7.5 本章結(jié)語 183
參考文獻 183
第8章 空譜遙感圖像低秩融合應(yīng)用 185
8.1 引言 185
8.2 全色-多光譜圖像的低秩正則化融合 185
8.2.1 低秩正則化 186
8.2.2 基于多變量回歸的數(shù)據(jù)保真項 187
8.2.3 優(yōu)化模型 189
8.2.4 迭代優(yōu)化融合算法 189
8.3 相關(guān)討論與模型推廣 191
8.3.1 細節(jié)注入保真與成像退化約束保真 191
8.3.2 推廣至高光譜融合 192
8.4 融合實驗及討論 193
8.4.1 仿真數(shù)據(jù)實驗結(jié)果 193
8.4.2 真實數(shù)據(jù)實驗結(jié)果 198
8.4.3 參數(shù)及效率分析 200
8.5 本章結(jié)語 202
參考文獻 203
第9章 張量表示框架的高光譜與多光譜圖像融合 205
9.1 引言 205
9.2 高光譜圖像與多光譜圖像的張量表示 206
9.2.1 張量定義 206
9.2.2 張量表示下高光譜圖像融合 207
9.3 基于非局部耦合張量CP分解的高光譜圖像融合 208
9.4 優(yōu)化算法 211
9.5 實驗結(jié)果與分析 213
9.5.1 實驗數(shù)據(jù)集與評價指標 213
9.5.2 實驗參數(shù)及比較方法 214
9.5.3 實驗結(jié)果 214
9.5.4 參數(shù)選擇 219
9.6 本章結(jié)語 219
參考文獻 220
第10章 張量框架高光譜計算融合成像 222
10.1 引言 222
10.2 計算重建相關(guān)工作 225
10.3 張量表示框架的雙相機計算融合光譜成像模型 226
10.3.1 符號與問題描述 228
10.3.2 融合計算成像模型 229
10.4 *優(yōu)化算法 232
10.5 計算成像實驗研究與分析 237
10.5.1 使用隨機置換Hadamard變換的實驗結(jié)果 237
10.5.2 CAVE數(shù)據(jù)集的實驗結(jié)果 238
10.5.3 參數(shù)對計算成像性能的影響 243
10.6 本章結(jié)語 244
參考文獻 245
第11章 空譜遙感圖像的深度學習融合方法 248
11.1 引言 248
11.2 基于深度學習的多源空譜遙感圖像融合進展 249
11.2.1 采樣模式 249
11.2.2 超分辨網(wǎng)絡(luò)的代表性學習策略 250
11.2.3 深度融合網(wǎng)絡(luò)的基本架構(gòu) 252
11.2.4 能量函數(shù) 253
11.2.5 結(jié)合多變量回歸的全色與多光譜融合網(wǎng)絡(luò) 257
11.2.6 融合應(yīng)用實例 259
11.3 高光譜與多光譜圖像融合的深度學習 264
11.4 基于雙通道卷積網(wǎng)絡(luò)的高光譜-多光譜圖像融合方法 266
11.4.1 雙通道融合網(wǎng)絡(luò)架構(gòu) 266
11.4.2 網(wǎng)絡(luò)離線訓練與在線重構(gòu) 267
11.4.3 融合實驗、性能評測與可視分析 268
11.4.4 小結(jié)與討論 275
11.5 高光譜與多光譜圖像深度融合應(yīng)用 275
11.5.1 空譜維質(zhì)量敏感特征統(tǒng)計分析 275
11.5.2 高光譜圖像融合質(zhì)量無參考圖像評價方法 286
11.5.3 高光譜與多光譜圖像深度融合實驗與質(zhì)量分析 292
11.6 本章結(jié)語 298
參考文獻 299
彩圖
展開全部
多源空譜遙感圖像融合的表示學習方法 節(jié)選
第1章 緒論 1.1 引言 自20世紀90年代出現(xiàn)大數(shù)據(jù)(big data)一詞，特別是2012年《紐約時報》專欄文章中所寫的“大數(shù)據(jù)時代已經(jīng)降臨”，人們?yōu)閿?shù)據(jù)時代所帶來的技術(shù)革命歡欣鼓舞，也在為所涌現(xiàn)的五花八門的海量數(shù)據(jù)感到無所適從。大數(shù)據(jù)不是字面意義上的“大”，而是被賦予更多的技術(shù)內(nèi)涵。一般而言，除了大體量(volume)，大數(shù)據(jù)還包括多樣性(variety)、可信度(精度)高(veracity)、價值大(value)、快速(velocity)等特征，稱為大數(shù)據(jù)“5V”特征[1]。多樣性是互聯(lián)網(wǎng)時代所產(chǎn)生數(shù)據(jù)的典型特征，我們不僅僅遇到傳統(tǒng)的數(shù)據(jù)庫中的“結(jié)構(gòu)化的數(shù)據(jù)”，還遇到大量類似于聲音、文本、圖像、視頻和多媒體等“半結(jié)構(gòu)化”甚至“非結(jié)構(gòu)化的數(shù)據(jù)”；同時，隨著信息技術(shù)的不斷進步、傳感器的日新月異和存儲技術(shù)迅速升級等，各個環(huán)節(jié)的數(shù)據(jù)都能夠被如實地記錄，其數(shù)據(jù)獲取的精度不斷提高。這些數(shù)據(jù)不僅蘊藏著大量的信息，同時蘊含大量的知識。例如，以深度學習(deep learning)為里程碑的“機器學習”系統(tǒng)，也可認為是大數(shù)據(jù)時代的技術(shù)延伸。當今人工智能(artificial intelligence，AI)在工業(yè)界一度認為是大數(shù)據(jù)與深度學習的邂逅。業(yè)內(nèi)將人工智能、大數(shù)據(jù)和云計算(cloud computing)三種技術(shù)的首字母縮寫形成“ ABC”的通俗概念，表明深度學習和大數(shù)據(jù)復合推動了人工智能的進步。 我們回到一類視覺信息數(shù)據(jù)(如圖像、視頻等)，具體表現(xiàn)為多維度信號，例如，彩色圖像、多光譜和高光譜圖像，不僅具有空間維度，還有光譜維度；在視頻圖像中，包含空間維和時間維。如果從“張量”的角度看(具體概念見第5章)，那么對于一維數(shù)組(向量結(jié)構(gòu))表示的一維信號是一階張量，二維數(shù)組(矩陣結(jié)構(gòu))表示的二維信號是二階張量，三維或更高維數(shù)組表示的信號是三階或更高階張量。 “工欲善其事，必先利其器”，是我們常常引用的名言，出自《論語》這本書。大多數(shù)多維信號處理算法和機器學習算法在很大程度上依賴于數(shù)據(jù)的高效表示。在工程與科學領(lǐng)域的大量現(xiàn)代應(yīng)用中，海量、多樣性和結(jié)構(gòu)豐富的多維數(shù)據(jù)與日俱增，特別是近期隨著以語音、圖像和視頻為信息載體的多媒體、多通道生物醫(yī)學信號、高光譜遙感圖像等大數(shù)據(jù)分析需要，研究者致力于探索更強表達張力的數(shù)據(jù)表示方法。 在數(shù)據(jù)表示和調(diào)和分析研究的歷史長河中，傅里葉(Fourier)變換曾經(jīng)長時間占據(jù)信號處理的統(tǒng)治地位，但由于局部模式分析的不足，人們逐步研究出小波分析、多尺度幾何分析(如脊波(Ridgelet)、曲波(Curvelet))等不同形式的固定基函數(shù)系統(tǒng)，提供人工解析形式的數(shù)據(jù)表示或者變換，其典型構(gòu)造思想在于采取各向異性基提升信號的特征表達、幾何奇異性捕獲和逼近能力[2，3]。以稀疏性度量為基礎(chǔ)的冗余與稀疏表示[4]方法曾風靡一時，延續(xù)至今并熱力不減。然而，人們也注意到經(jīng)典的“稀疏表示”方法通常以度量向量的一階稀疏性為主要手段，對圖像等結(jié)構(gòu)數(shù)據(jù)的緊致表示能力有限。以矩陣“秩(rank)”為度量的低秩表示已經(jīng)證實結(jié)構(gòu)化表示數(shù)據(jù)的冗余性，并不會因為向量拉伸方式破壞二維結(jié)構(gòu)，由此形成矩陣填補、矩陣回歸、魯棒主成分分析(robust principal component analysis，RPCA)等方法，并在計算機視覺等領(lǐng)域獲得巨大成功[5]。從多線性代數(shù)為基礎(chǔ)的張量分析的視角看，向量是一階的張量，矩陣是二階的張量，針對三維數(shù)組或更高階的數(shù)據(jù)，高階張量表示具有更為豐富的多路分量分析和數(shù)據(jù)多視角內(nèi)在結(jié)構(gòu)的捕獲和表達能力[6]。而線性到非線性的拓展，淺層到深層感知機的拓展，深度學習方法成為里程碑式的機器學習方法，并由此引起人工智能的偉大變革。借助于強大算力、大數(shù)據(jù)和深度神經(jīng)網(wǎng)絡(luò)表示，深度學習方法在學術(shù)界和工業(yè)界得到廣泛關(guān)注。然而，大數(shù)據(jù)驅(qū)動的深度表示方式因為“過擬合現(xiàn)象”、“小樣本學習能力不足”、“黑盒導致的不可解釋性”，以及“大規(guī)模參數(shù)難調(diào)”等問題，常常引起研究者反思。設(shè)計輕量化、低功耗和可解釋的深度學習方法是科技界日益關(guān)注的問題。此外，標準機器學習算法面臨“維數(shù)災(zāi)難”問題，數(shù)據(jù)量和跨模態(tài)耦合導致算法復雜性呈指數(shù)級增長。而這正是分析大規(guī)模、多模態(tài)和多關(guān)聯(lián)數(shù)據(jù)集所應(yīng)當避免的，需要解決的關(guān)鍵科學問題包括：①尋找低維魯棒特征，因此“維數(shù)約簡”方法至關(guān)重要；②大規(guī)模數(shù)據(jù)優(yōu)化問題的線性和次線性可伸縮算法。 1.2 多維信號表示與建模概論 在信號處理中，我們經(jīng)常遇到這么幾類信號：標量x∈R，一維信號(向量)x∈RN，二維信號(矩陣)X∈RN×M，以及多維信號(張量)。文獻[7]通過圖示方法給出了多路數(shù)組(張量)數(shù)據(jù)復雜性不斷增加時，單個樣本和一組樣本的圖形表示，分別反映了標量、向量、矩陣和高階張量形式(圖1.1)。多維信號處理與分析的關(guān)鍵之一就是捕獲信號的本征結(jié)構(gòu)，形成有效的數(shù)據(jù)表示(變換)和先驗建模。而在模式分析與機器學習中，需要從原始數(shù)據(jù)中提取有效的特征。在經(jīng)典的機器學習中，特征處理和抽取往往通過人工設(shè)計完成，由此轉(zhuǎn)化為“特征工程”問題，即機器學習系統(tǒng)的瓶頸在于設(shè)計有效的人工特征。因此，人們熱衷于通過學習的方法自動得到有效的特征，并提高機器學習模型的性能，這稱為表示學習(representation learning)。 圖1.1 多路數(shù)組(張量)數(shù)據(jù)復雜性不斷增加時單個樣本和一組樣本的圖形表示 1.2.1 稀疏表示與壓縮感知 首先，我們以*為經(jīng)典的一維信號恢復問題作為討論的對象，簡要回顧信號建模與表示的歷史脈絡(luò)(圖1.2)。在此討論中，不妨假設(shè)類似于圖像等矩陣和張量結(jié)構(gòu)的多維信號通過向量化的方式轉(zhuǎn)化為一維信號(向量表示)。 圖1.2 信號處理變換、建模與表示學習的歷史演化路徑 考察觀測一維信號y∈RN，其是潛在源信號x∈RN經(jīng)過線性退化算子A作用和加性高斯隨機噪聲所污染生成： (1.1) 其中，I為單位矩陣，σ2為方差。我們的任務(wù)是從污染信號y中恢復源信號x。通常，盡管知道噪聲的高斯特性，但很難將噪聲污染信號y分離成兩部分：x和n。因此，需要科學合理地對源信號進行表示和刻畫。 對源信號x的表示模型，本質(zhì)上是信號的數(shù)學刻畫。一種可能的方式是我們認為潛在信號是由低維空間的“結(jié)構(gòu)”生成，不妨形式化記作： 其中，表示數(shù)據(jù)生成模型；α屬于低維空間，其維數(shù)表示需要學習或者構(gòu)造的模型。 對廣義恢復問題： (1.2) 當時可以建立去噪模型： (1.3) (1)主成分分析(principal component analysis，PCA)模型。如果我們知道x落在一個維度為的子空間，并由矩陣的列向量張成，則按照上述模型，不難推出，其中Q表示廣義逆。換言之，計算y到由Q所張成的k維空間的投影即為估計的解。這樣，將導出PCA的去噪方法，可以由m組樣本學習得到模型參數(shù)Q。 (2)稀疏域模型。過去的十多年里，稀疏表示已成為信號分析中廣泛應(yīng)用的數(shù)學工具，包括復原、特征抽取、盲源分離、壓縮、子空間分類等。稀疏性(sparsity)往往也是刻畫信號本質(zhì)結(jié)構(gòu)的另一個有效途徑。通常，假設(shè)信號在一個過完備字典下具有較少的非零元素，即 (1.4) 在稀疏表示框架中，需要構(gòu)造或者學習的模型為字典Θ={D}。字典D中的列向量稱為波形原子(wave atom)；α稱為稀疏表示系數(shù)(或稀疏編碼)，其稀疏性度量如圖1.3所示。直觀上，如果將源信號理解為一個復雜波形的話，則式(1.4)可以理解為該復雜波形由一組簡單的波形原子線性組合生成，其原子波形的貢獻權(quán)重由α中的元素決定。 圖1.3 稀疏性度量的幾何曲線示意圖 我們知道，波的疊加原理是物理學的基本原理之一。無獨有偶，在傅里葉分析中，即一個非正弦波可以分解為無數(shù)個諧波的正弦波疊加(傅里葉分析級數(shù))；但由于傅里葉基函數(shù)不具備局部性，其表示系數(shù)不具備稀疏性，適合于處理平穩(wěn)信號；而在小波分析(Wavelet)中，往往采取具有局部支撐性或快速衰減的小波基的線性組合形成良好的局部時頻分析，對點奇異性結(jié)構(gòu)具有良好的表示能力；且其小波系數(shù)具有一定的稀疏性和能量聚集性，因此在圖像壓縮編碼應(yīng)用甚廣。 在式(1.4)中，由于，字典D是過完備的，有時稱為過完備字典或者過完備原子庫；在合適的稀疏性度量下，我們可以建立稀疏表示模型(或稀疏編碼)，例如： (1.5) 關(guān)于字典D，可以通過固定的母函數(shù)的伸縮、旋轉(zhuǎn)、平移，或者常見的基函數(shù)去人工構(gòu)造；同樣可以由 m組樣本.去學習得到稀疏表示字典D。通過樣本學習字典，在稀疏表示中稱為字典學習(dictionary learning)。 (3)壓縮感知。稀疏表示理論的興起也歸根于壓縮感知(compressive sensing，CS)或壓縮傳感，或稱為壓縮采樣(compressive sampling)[8]的巨大推動。這種新的采樣理論打破了經(jīng)典的香農(nóng)采樣以“頻率帶寬有限”為基礎(chǔ)的信號獲取與重建的桎梏。通過以稀疏性為信號先驗，并建立稀疏表示與采樣之間的直接聯(lián)系，在圖像壓縮、信號與圖像獲取與處理、計算成像、融合、遙感數(shù)據(jù)處理等有廣泛的應(yīng)用[9]。 壓縮感知強調(diào)信號稀疏性的重要性，其他正則化方法，如Tikhonov正則化，全變差(total variation，TV)、分數(shù)階正則化(fractional regularization)等都可以與稀疏性聯(lián)合，建立更為優(yōu)異的壓縮感知重建模型。但是，在豐富的壓縮感知理論中，信號的稀疏性才是壓縮感知重建的強有力基石，是尋找一定條件下精確稀疏解的保證，其他正則化方法很難得到類似的結(jié)論。雖然源信號在直接空間(如圖像，則為像素空間)不一定是稀疏的，但是在變換空間(如 Wavelet、Ridgelet、Curvelet等)或字典下具有特定的稀疏性。 (4)正則化模型。談到正則化，這是欠定或者病態(tài)反問題求解中慣用的數(shù)學方法。典型的圖像處理中的圖像去噪、恢復、修補、圖像超分辨和融合等，都可歸結(jié)為數(shù)學上的不適定反問題。若一個數(shù)學物理定解問題的解存在、**并且穩(wěn)定，則稱為該問題是適定的；若不滿足適定性概念中的上述判據(jù)中的一條或者幾條，則稱該問題是不適定的。正則化方法，有助于克服不適定性，縮小候選解的搜索范圍。 以去噪問題式(1.3)為例，可以為源信號 x引入合適的正則化模型或者先驗知識，以促進問題的求解。 (1.6) 其中，是正則化模型，λ為正則化參數(shù)。沿著這一個主線，研究者對于先驗?zāi)Ｐ偷臉?gòu)造經(jīng)歷了一個不斷改進和認識逐步深化的過程[10]：從*小能量x2、光滑性模型Lx2(如L表示梯度算子)、加權(quán)光滑性模型Lx2、魯棒統(tǒng)計ρ(Lx)(其中表示魯棒范數(shù))、全變差，小波稀疏性 (W表W示小波變換)，到稀疏性模型Tx1(T表示框架、冗余分析字典等)或者(D表示合成字典)等。 很多正則化模型也可以在貝葉斯框架下得到相互印證和解釋。由貝葉斯公式，后驗概率包括數(shù)據(jù)的似然概率與數(shù)據(jù)先驗概率兩部分，x采取*小化負對數(shù)準則，可轉(zhuǎn)化為如式(1.6)形式的*優(yōu)化問題。 1.2.2 矩陣低秩與張量表示 從前面所述，傳統(tǒng)的稀疏表示模型是以“向量”稀疏性為基礎(chǔ)的。當我們處理圖像或者多通道圖像數(shù)據(jù)時，這種稀疏性度量容易破壞矩陣結(jié)構(gòu)。隨著成像硬件的發(fā)展，所獲取的多維數(shù)據(jù)更表現(xiàn)為大體量、多樣化的多模多通道矩陣信號。以高光譜遙感數(shù)據(jù)、多媒體數(shù)據(jù)(語音、視頻)、醫(yī)學數(shù)據(jù)和生物數(shù)據(jù)為例，通常以巨大的分塊矩陣或多路數(shù)組(multi-way array)的形式表示，我們稱之為張量(tensor)。這些多路數(shù)據(jù)往往需要進行模式轉(zhuǎn)換才能在特定容許時間內(nèi)高效處理(快速性)。這促使人們開始重新關(guān)注適用于超大數(shù)據(jù)集的矩陣和張量算法。基于向量、矩陣和張量的信號處理模型如表1
書友推薦
- >
回憶愛瑪儂
- >
龍榆生：詞曲概論/大家小書
- >
二體千字文
- >
隨園食單
- >
伯納黛特,你要去哪(2021新版)
- >
伊索寓言-世界文學名著典藏-全譯本
- >
人文閱讀與收藏·良友文學叢書:一天的工作
- >
我與地壇
本類暢銷
