掃一掃
關(guān)注中圖網(wǎng)
官方微博
本類五星書更多>
-
>
闖進(jìn)數(shù)學(xué)世界――探秘歷史名題
-
>
中醫(yī)基礎(chǔ)理論
-
>
當(dāng)代中國(guó)政府與政治(新編21世紀(jì)公共管理系列教材)
-
>
高校軍事課教程
-
>
思想道德與法治(2021年版)
-
>
毛澤東思想和中國(guó)特色社會(huì)主義理論體系概論(2021年版)
-
>
中醫(yī)內(nèi)科學(xué)·全國(guó)中醫(yī)藥行業(yè)高等教育“十四五”規(guī)劃教材
中圖價(jià):¥55.0
加入購(gòu)物車
信息論基礎(chǔ) 版權(quán)信息
- ISBN：9787302640936
- 條形碼：9787302640936 ; 978-7-302-64093-6
- 裝幀：平裝-膠訂
- 冊(cè)數(shù)：暫無(wú)
- 重量：暫無(wú)
- 所屬分類：>
信息論基礎(chǔ) 本書特色
（1）從零開始，深入淺出，易讀性強(qiáng)，適合沒有任何信息論基礎(chǔ)的讀者。
（2）夯實(shí)基礎(chǔ)，注重概念，邏輯性強(qiáng)，詳細(xì)分析講解信息論的基本概念和原理。
（3）強(qiáng)調(diào)重點(diǎn)，突出難點(diǎn)，系統(tǒng)性強(qiáng)，細(xì)致比較剖析信息論中較難理解的概念和定理。
（4）融合案例，注重應(yīng)用，實(shí)用性強(qiáng)，利用生活中的實(shí)例講解信息論的基本概念和理論，便于讀者透徹理解。
（5）重視概念，配以大量的例題和習(xí)題，便于工科和非數(shù)學(xué)專業(yè)的讀者學(xué)習(xí)。
（5）提供豐富的教學(xué)資源，包括習(xí)題答案、PPT教案、微課視頻等。
信息論基礎(chǔ) 內(nèi)容簡(jiǎn)介
本書重點(diǎn)介紹經(jīng)典信息論的基本理論，覆蓋了經(jīng)典信息論的主要內(nèi)容：離散信息和連續(xù)信息的度量、離散信源和連續(xù)信源、離散信道和連續(xù)信道及其容量以及無(wú)失真信源編碼和限失真信源編碼和有噪信道編碼等重點(diǎn)內(nèi)容。 本書深入淺出，表述簡(jiǎn)潔；概念清晰，系統(tǒng)性較強(qiáng)。考慮信息論基礎(chǔ)理論性的同時(shí)又兼顧其易讀性，注重基本知識(shí)的闡述，強(qiáng)調(diào)物理概念和理論的理解與掌握，配以大量的例題和習(xí)題便于工科和非數(shù)學(xué)專業(yè)的學(xué)生學(xué)習(xí)。本書可作為高等院校信息科學(xué)與信息技術(shù)相關(guān)專業(yè)本科生的信息論課程教材，亦可供從事人工智能、大數(shù)據(jù)分析與挖掘、通信、雷達(dá)、導(dǎo)航、計(jì)算機(jī)、系統(tǒng)工程、生物工程、管理工程等有關(guān)的科研和工程技術(shù)人員參考。
信息論基礎(chǔ) 目錄
第 1 章 緒論 1
1.1 信息的概念 1
1.2 通信系統(tǒng)模型 2
習(xí)題 3
第 2 章 離散信息的度量 4
2.1 概率論基本知識(shí) 4
2.1.1 樣本空間與隨機(jī)事件 4
2.1.2 概率的有關(guān)概念 5
2.1.3 全概率公式和貝葉斯公式 6
2.1.4 先驗(yàn)概率和后驗(yàn)概率 8
2.1.5 離散隨機(jī)變量 9
2.1.6 離散隨機(jī)變量的統(tǒng)計(jì)特性 11
2.2 信息度量方法的引入 12
2.3 自信息量和信息熵 13
2.3.1 自信息量的定義與含義 13
2.3.2 信息熵的定義與含義 15
2.4 聯(lián)合自信息量與聯(lián)合熵 17
2.4.1 聯(lián)合自信息量 17
2.4.2 聯(lián)合熵 19
2.5 互信息量與平均互信息量 21
2.5.1 條件自信息量 21
2.5.2 條件熵 22
2.5.3 互信息量的定義 24
2.5.4 互信息量性質(zhì) 26
2.5.5 平均互信息量 29
2.6 熵的性質(zhì)以及各種熵之間的關(guān)系 32
2.6.1 信息熵的性質(zhì) 32
2.6.2 各種熵之間的關(guān)系 42
習(xí)題 46
第 3 章 離散信源及信源熵 50
3.1 隨機(jī)過程基本知識(shí) 50
3.1.1 概率空間 50
3.1.2 隨機(jī)過程 51
3.2 信源的數(shù)學(xué)模型和分類 54
3.2.1 信源的數(shù)學(xué)模型 54
3.2.2 信源分類 55
3.3 離散單符號(hào)信源 57
3.3.1 離散單符號(hào)信源的概念和數(shù)學(xué)模型 57
3.3.2 離散單符號(hào)信源的信息度量 58
3.4 離散多符號(hào)信源. 58
3.4.1 離散平穩(wěn)信源的性質(zhì) 59
3.4.2 常見的離散平穩(wěn)信源 60
3.4.3 離散多符號(hào)信源的信源熵 61
3.4.4 離散平穩(wěn)無(wú)記憶信源 61
3.4.5 離散平穩(wěn)有記憶信源 68
3.4.6 一維離散平穩(wěn)信源的信源熵 71
3.5 馬爾可夫信源 73
3.5.1 有限狀態(tài)馬爾可夫鏈 73
3.5.2 齊次馬爾可夫鏈及其平穩(wěn)分布 76
3.5.3 齊次馬爾可夫信源 81
3.5.4 m 階齊次馬爾可夫信源 88
3.6 信源的相關(guān)性和剩余度 93
3.6.1 信源的相關(guān)性 93
3.6.2 信源剩余度 95
習(xí)題 98
第 4 章 離散信道及其容量 102
4.1 信道的數(shù)學(xué)模型及其分類 102
4.1.1 信道的基本概念和研究方法 102
4.1.2 信道的數(shù)學(xué)模型 106
4.1.3 信道的分類 106
4.2 離散無(wú)記憶信道 107
4.2.1 離散信道的數(shù)學(xué)模型. 107
4.2.2 單符號(hào)離散信道 109
4.2.3 信道疑義度 111
4.3 離散信道中平均互信息量定理 113
4.3.1 固定信道的平均互信息量上凸函數(shù)定理 114
4.3.2 固定信源的平均互信息量下凸函數(shù)定理 115
4.4 離散無(wú)記憶擴(kuò)展信道 119
4.4.1 離散無(wú)記憶擴(kuò)展信道的定義 119
4.4.2 離散無(wú)記憶 N 次擴(kuò)展信道的數(shù)學(xué)模型 119
4.4.3 多符號(hào)信道平均互信息量定理 122
4.4.4 N 次擴(kuò)展信道平均互信息量定理 .128
4.5 信道容量 128
4.5.1 信道中平均互信息量的含義 129
4.5.2 信道容量的概念 131
4.5.3 離散無(wú)噪信道的信道容量 135
4.5.4 離散對(duì)稱信道的信道容量 137
4.5.5 一般離散信道的信道容量 141
4.5.6 離散無(wú)記憶 N 次擴(kuò)展信道的信道容量 147
習(xí)題 148
第 5 章 無(wú)失真信源編碼 151
5.1 信源編碼的相關(guān)概念 151
5.1.1 無(wú)失真信源編碼的數(shù)學(xué)模型 151
5.1.2 信源編碼的分類 153
5.1.3 即時(shí)碼存在定理和構(gòu)造方法 155
5.2 定長(zhǎng)碼及定長(zhǎng)編碼定理 156
5.2.1 唯一可譯定長(zhǎng)碼存在的一般條件 156
5.2.2 定長(zhǎng)編碼定理 158
5.3 變長(zhǎng)碼和變長(zhǎng)碼定理 162
5.3.1 Kraft 不等式和 McMillan 不等式 163
5.3.2 唯一可譯碼的判別準(zhǔn)則 164
5.3.3 緊致碼平均碼長(zhǎng)界限定理 165
5.3.4 香農(nóng)**定理（無(wú)失真變長(zhǎng)信源編碼定理） 169
5.4 變長(zhǎng)碼的編碼方法 173
5.4.1 香農(nóng)編碼 173
5.4.2 香農(nóng)-費(fèi)諾-埃利斯編碼 175
5.4.3 二元霍夫曼編碼 175
5.4.4 r 元霍夫曼編碼 178
習(xí)題 180
第 6 章 有噪信道編碼 183
6.1 信道編碼的基本概念 183
6.1.1 編碼信道 183
6.1.2 錯(cuò)誤概率的影響因素分析 184
6.1.3 譯碼規(guī)則 185
6.2 錯(cuò)誤概率與編碼方法 192
6.2.1 簡(jiǎn)單重復(fù)編碼降低平均錯(cuò)誤概率 193
6.2.2 消息符號(hào)個(gè)數(shù) 196
6.2.3 (5,2) 線性碼 197
6.3 有噪信道編碼定理 202
6.3.1 香農(nóng)第二定理 202
6.3.2 有噪信道編碼逆定理 .203
6.3.3 錯(cuò)誤概率的上界 204
習(xí)題 205
第 7 章 限失真信源編碼 207
7.1 失真測(cè)度 207
7.1.1 試驗(yàn)信道 208
7.1.2 失真函數(shù) 208
7.1.3 平均失真 211
7.2 信息率失真函數(shù) 212
7.2.1 保真度準(zhǔn)則與允許信道 212
7.2.2 信息率失真函數(shù)的定義 212
7.3 信息率失真函數(shù)的性質(zhì) 213
7.3.1 定義域 213
7.3.2 R(D) 是 D 的下凸函數(shù) 217
7.3.3 R(D) 是嚴(yán)格遞減函數(shù) 218
7.3.4 R(D) 的典型曲線 219
7.4 信息率失真函數(shù)的計(jì)算 220
7.4.1 參量表示法求解 R(D) 220
7.4.2 參量表示法求解 R(D) 例題 226
7.5 限失真信源編碼定理和逆定理 230
7.5.1 限失真信源編碼定理（香農(nóng)第三定理） 230
7.5.2 限失真信源編碼逆定理 230
習(xí)題 230
第 8 章 連續(xù)信源和連續(xù)信道 232
8.1 連續(xù)隨機(jī)變量的基礎(chǔ)知識(shí) 232
8.1.1 連續(xù)隨機(jī)變量與概率密度函數(shù) 232
8.1.2 聯(lián)合概率密度函數(shù)與邊緣概率密度函數(shù) 233
8.1.3 隨機(jī)變量和的概率密度函數(shù) 233
8.2 連續(xù)信源的分類和統(tǒng)計(jì)特性 234
8.2.1 連續(xù)信源的分類 234
8.2.2 連續(xù)信源的統(tǒng)計(jì)特性. 234
8.3 連續(xù)隨機(jī)變量的信息度量 236
8.3.1 連續(xù)隨機(jī)變量的熵 236
8.3.2 連續(xù)隨機(jī)變量的聯(lián)合熵、條件熵和平均互信息量 239
8.4 連續(xù)信源的信息度量 243
8.4.1 單符號(hào)連續(xù)信源的熵 .243
8.4.2 多符號(hào)連續(xù)信源的熵. 244
8.4.3 波形信源的熵率 246
8.5 連續(xù)信源的*大熵 246
8.5.1 連續(xù)信源*大熵的數(shù)學(xué)模型 246
8.5.2 瞬時(shí)功率受限連續(xù)信源的*大熵 247
8.5.3 平均功率受限連續(xù)信源的*大熵 248
8.5.4 連續(xù)信源的熵功率 249
8.6 連續(xù)信道和波形信道 251
8.6.1 連續(xù)信道的分類 251
8.6.2 波形信道的分類 252
8.7 連續(xù)信道的平均互信息量 253
8.7.1 連續(xù)信道 253
8.7.2 加性信道 254
8.8 連續(xù)信道的信道容量 256
8.8.1 連續(xù)信道的信道容量定義 256
8.8.2 一維高斯加性信道的信道容量 256
8.8.3 一維非高斯加性信道的信道容量 257
8.8.4 多維無(wú)記憶高斯加性信道的信道容量 259
8.9 波形信道的信道容量 260
8.9.1 限帶 AWGN 信道的信道容量 260
8.9.2 香農(nóng)公式的意義 261
習(xí)題 263
附錄 A 凸函數(shù)的概念 265
附錄 B 吉布斯不等式 268
附錄 C 信息熵是嚴(yán)格上凸函數(shù) 270
附錄 D 馬爾可夫鏈轉(zhuǎn)移概率的漸近性質(zhì) 272
附錄 E 漸近等同分割性和 典型序列 276
附錄 F 有噪信道編碼定理證明 280
參考文獻(xiàn) 285
1.1 信息的概念 1
1.2 通信系統(tǒng)模型 2
習(xí)題 3
第 2 章 離散信息的度量 4
2.1 概率論基本知識(shí) 4
2.1.1 樣本空間與隨機(jī)事件 4
2.1.2 概率的有關(guān)概念 5
2.1.3 全概率公式和貝葉斯公式 6
2.1.4 先驗(yàn)概率和后驗(yàn)概率 8
2.1.5 離散隨機(jī)變量 9
2.1.6 離散隨機(jī)變量的統(tǒng)計(jì)特性 11
2.2 信息度量方法的引入 12
2.3 自信息量和信息熵 13
2.3.1 自信息量的定義與含義 13
2.3.2 信息熵的定義與含義 15
2.4 聯(lián)合自信息量與聯(lián)合熵 17
2.4.1 聯(lián)合自信息量 17
2.4.2 聯(lián)合熵 19
2.5 互信息量與平均互信息量 21
2.5.1 條件自信息量 21
2.5.2 條件熵 22
2.5.3 互信息量的定義 24
2.5.4 互信息量性質(zhì) 26
2.5.5 平均互信息量 29
2.6 熵的性質(zhì)以及各種熵之間的關(guān)系 32
2.6.1 信息熵的性質(zhì) 32
2.6.2 各種熵之間的關(guān)系 42
習(xí)題 46
第 3 章 離散信源及信源熵 50
3.1 隨機(jī)過程基本知識(shí) 50
3.1.1 概率空間 50
3.1.2 隨機(jī)過程 51
3.2 信源的數(shù)學(xué)模型和分類 54
3.2.1 信源的數(shù)學(xué)模型 54
3.2.2 信源分類 55
3.3 離散單符號(hào)信源 57
3.3.1 離散單符號(hào)信源的概念和數(shù)學(xué)模型 57
3.3.2 離散單符號(hào)信源的信息度量 58
3.4 離散多符號(hào)信源. 58
3.4.1 離散平穩(wěn)信源的性質(zhì) 59
3.4.2 常見的離散平穩(wěn)信源 60
3.4.3 離散多符號(hào)信源的信源熵 61
3.4.4 離散平穩(wěn)無(wú)記憶信源 61
3.4.5 離散平穩(wěn)有記憶信源 68
3.4.6 一維離散平穩(wěn)信源的信源熵 71
3.5 馬爾可夫信源 73
3.5.1 有限狀態(tài)馬爾可夫鏈 73
3.5.2 齊次馬爾可夫鏈及其平穩(wěn)分布 76
3.5.3 齊次馬爾可夫信源 81
3.5.4 m 階齊次馬爾可夫信源 88
3.6 信源的相關(guān)性和剩余度 93
3.6.1 信源的相關(guān)性 93
3.6.2 信源剩余度 95
習(xí)題 98
第 4 章 離散信道及其容量 102
4.1 信道的數(shù)學(xué)模型及其分類 102
4.1.1 信道的基本概念和研究方法 102
4.1.2 信道的數(shù)學(xué)模型 106
4.1.3 信道的分類 106
4.2 離散無(wú)記憶信道 107
4.2.1 離散信道的數(shù)學(xué)模型. 107
4.2.2 單符號(hào)離散信道 109
4.2.3 信道疑義度 111
4.3 離散信道中平均互信息量定理 113
4.3.1 固定信道的平均互信息量上凸函數(shù)定理 114
4.3.2 固定信源的平均互信息量下凸函數(shù)定理 115
4.4 離散無(wú)記憶擴(kuò)展信道 119
4.4.1 離散無(wú)記憶擴(kuò)展信道的定義 119
4.4.2 離散無(wú)記憶 N 次擴(kuò)展信道的數(shù)學(xué)模型 119
4.4.3 多符號(hào)信道平均互信息量定理 122
4.4.4 N 次擴(kuò)展信道平均互信息量定理 .128
4.5 信道容量 128
4.5.1 信道中平均互信息量的含義 129
4.5.2 信道容量的概念 131
4.5.3 離散無(wú)噪信道的信道容量 135
4.5.4 離散對(duì)稱信道的信道容量 137
4.5.5 一般離散信道的信道容量 141
4.5.6 離散無(wú)記憶 N 次擴(kuò)展信道的信道容量 147
習(xí)題 148
第 5 章 無(wú)失真信源編碼 151
5.1 信源編碼的相關(guān)概念 151
5.1.1 無(wú)失真信源編碼的數(shù)學(xué)模型 151
5.1.2 信源編碼的分類 153
5.1.3 即時(shí)碼存在定理和構(gòu)造方法 155
5.2 定長(zhǎng)碼及定長(zhǎng)編碼定理 156
5.2.1 唯一可譯定長(zhǎng)碼存在的一般條件 156
5.2.2 定長(zhǎng)編碼定理 158
5.3 變長(zhǎng)碼和變長(zhǎng)碼定理 162
5.3.1 Kraft 不等式和 McMillan 不等式 163
5.3.2 唯一可譯碼的判別準(zhǔn)則 164
5.3.3 緊致碼平均碼長(zhǎng)界限定理 165
5.3.4 香農(nóng)**定理（無(wú)失真變長(zhǎng)信源編碼定理） 169
5.4 變長(zhǎng)碼的編碼方法 173
5.4.1 香農(nóng)編碼 173
5.4.2 香農(nóng)-費(fèi)諾-埃利斯編碼 175
5.4.3 二元霍夫曼編碼 175
5.4.4 r 元霍夫曼編碼 178
習(xí)題 180
第 6 章 有噪信道編碼 183
6.1 信道編碼的基本概念 183
6.1.1 編碼信道 183
6.1.2 錯(cuò)誤概率的影響因素分析 184
6.1.3 譯碼規(guī)則 185
6.2 錯(cuò)誤概率與編碼方法 192
6.2.1 簡(jiǎn)單重復(fù)編碼降低平均錯(cuò)誤概率 193
6.2.2 消息符號(hào)個(gè)數(shù) 196
6.2.3 (5,2) 線性碼 197
6.3 有噪信道編碼定理 202
6.3.1 香農(nóng)第二定理 202
6.3.2 有噪信道編碼逆定理 .203
6.3.3 錯(cuò)誤概率的上界 204
習(xí)題 205
第 7 章 限失真信源編碼 207
7.1 失真測(cè)度 207
7.1.1 試驗(yàn)信道 208
7.1.2 失真函數(shù) 208
7.1.3 平均失真 211
7.2 信息率失真函數(shù) 212
7.2.1 保真度準(zhǔn)則與允許信道 212
7.2.2 信息率失真函數(shù)的定義 212
7.3 信息率失真函數(shù)的性質(zhì) 213
7.3.1 定義域 213
7.3.2 R(D) 是 D 的下凸函數(shù) 217
7.3.3 R(D) 是嚴(yán)格遞減函數(shù) 218
7.3.4 R(D) 的典型曲線 219
7.4 信息率失真函數(shù)的計(jì)算 220
7.4.1 參量表示法求解 R(D) 220
7.4.2 參量表示法求解 R(D) 例題 226
7.5 限失真信源編碼定理和逆定理 230
7.5.1 限失真信源編碼定理（香農(nóng)第三定理） 230
7.5.2 限失真信源編碼逆定理 230
習(xí)題 230
第 8 章 連續(xù)信源和連續(xù)信道 232
8.1 連續(xù)隨機(jī)變量的基礎(chǔ)知識(shí) 232
8.1.1 連續(xù)隨機(jī)變量與概率密度函數(shù) 232
8.1.2 聯(lián)合概率密度函數(shù)與邊緣概率密度函數(shù) 233
8.1.3 隨機(jī)變量和的概率密度函數(shù) 233
8.2 連續(xù)信源的分類和統(tǒng)計(jì)特性 234
8.2.1 連續(xù)信源的分類 234
8.2.2 連續(xù)信源的統(tǒng)計(jì)特性. 234
8.3 連續(xù)隨機(jī)變量的信息度量 236
8.3.1 連續(xù)隨機(jī)變量的熵 236
8.3.2 連續(xù)隨機(jī)變量的聯(lián)合熵、條件熵和平均互信息量 239
8.4 連續(xù)信源的信息度量 243
8.4.1 單符號(hào)連續(xù)信源的熵 .243
8.4.2 多符號(hào)連續(xù)信源的熵. 244
8.4.3 波形信源的熵率 246
8.5 連續(xù)信源的*大熵 246
8.5.1 連續(xù)信源*大熵的數(shù)學(xué)模型 246
8.5.2 瞬時(shí)功率受限連續(xù)信源的*大熵 247
8.5.3 平均功率受限連續(xù)信源的*大熵 248
8.5.4 連續(xù)信源的熵功率 249
8.6 連續(xù)信道和波形信道 251
8.6.1 連續(xù)信道的分類 251
8.6.2 波形信道的分類 252
8.7 連續(xù)信道的平均互信息量 253
8.7.1 連續(xù)信道 253
8.7.2 加性信道 254
8.8 連續(xù)信道的信道容量 256
8.8.1 連續(xù)信道的信道容量定義 256
8.8.2 一維高斯加性信道的信道容量 256
8.8.3 一維非高斯加性信道的信道容量 257
8.8.4 多維無(wú)記憶高斯加性信道的信道容量 259
8.9 波形信道的信道容量 260
8.9.1 限帶 AWGN 信道的信道容量 260
8.9.2 香農(nóng)公式的意義 261
習(xí)題 263
附錄 A 凸函數(shù)的概念 265
附錄 B 吉布斯不等式 268
附錄 C 信息熵是嚴(yán)格上凸函數(shù) 270
附錄 D 馬爾可夫鏈轉(zhuǎn)移概率的漸近性質(zhì) 272
附錄 E 漸近等同分割性和 典型序列 276
附錄 F 有噪信道編碼定理證明 280
參考文獻(xiàn) 285
展開全部
信息論基礎(chǔ) 作者簡(jiǎn)介
翟明岳，本科畢業(yè)于吉林大學(xué)，碩士畢業(yè)于中國(guó)石油大學(xué)，博士畢業(yè)于北京郵電大學(xué)。先后工作于地礦部華東石油地質(zhì)局、北京侏羅紀(jì)石油軟件開發(fā)公司、華北電力大學(xué)（2003年至今）。2008年，加州大學(xué)伯克利分校博士后；2015年，美國(guó)A&M大學(xué)訪問學(xué)者。中國(guó)電子學(xué)會(huì)普通會(huì)員、中國(guó)通信學(xué)會(huì)高級(jí)會(huì)員。主持2項(xiàng)國(guó)家自然科學(xué)基金項(xiàng)目，主持4項(xiàng)省部級(jí)重點(diǎn)項(xiàng)目，主持多項(xiàng)橫向課題。
書友推薦
- >
巴金－再思錄
- >
新文學(xué)天穹兩巨星--魯迅與胡適/紅燭學(xué)術(shù)叢書(紅燭學(xué)術(shù)叢書)
- >
莉莉和章魚
- >
中國(guó)歷史的瞬間
- >
李白與唐代文化
- >
二體千字文
- >
羅庸西南聯(lián)大授課錄
- >
上帝之肋:男人的真實(shí)旅程
本類暢銷
