機器學(xué)習(xí)數(shù)學(xué)基礎(chǔ) 版權(quán)信息
- ISBN:9787030773302
- 條形碼:9787030773302 ; 978-7-03-077330-2
- 裝幀:平裝
- 冊數(shù):暫無
- 重量:暫無
- 所屬分類:>>
機器學(xué)習(xí)數(shù)學(xué)基礎(chǔ) 本書特色
這是一本為機器學(xué)習(xí)初學(xué)者打造的通用教材,主要講述機器學(xué)習(xí)**的數(shù)學(xué)基礎(chǔ)知識.
旨在建立微積分、線性代數(shù)、概率論與數(shù)理統(tǒng)計和機器學(xué)習(xí)課程的銜接, 幫助讀者理解機器學(xué)習(xí)所蘊含的數(shù)學(xué)原理、所涉及的算法與應(yīng)用. 課件齊備,便于教學(xué).
機器學(xué)習(xí)數(shù)學(xué)基礎(chǔ) 內(nèi)容簡介
本書首先介紹機器學(xué)習(xí)的矩陣代數(shù)基礎(chǔ), 包括線性代數(shù)基礎(chǔ)、范數(shù)理論與投影映射、矩陣分解及應(yīng)用、梯度矩陣; 然后介紹機器學(xué)習(xí)的概率與優(yōu)化基礎(chǔ), 包含概率統(tǒng)計與信息論基礎(chǔ)、凸函數(shù)、優(yōu)化理論、迭代算法; *后介紹幾個經(jīng)典的機器學(xué)習(xí)模型. 閱讀本書需要微積分、線性代數(shù)和概率論與數(shù)理統(tǒng)計的基礎(chǔ)知識.
機器學(xué)習(xí)數(shù)學(xué)基礎(chǔ) 目錄
目錄前言 符號說明 第1章 線性代數(shù)基礎(chǔ) 1 1.1 向量空間 1 1.1.1 研究對象與向量 1 1.1.2 群 2 1.1.3 向量空間的定義 3 1.1.4 生成集和基 6 1.1.5 子空間的交與和 7 1.2 線性映射 9 1.2.1 線性映射的定義 9 1.2.2 線性映射的矩陣表示 11 1.2.3 基變換 13 1.2.4 像集與核 18 1.3 內(nèi)積空間 20 1.3.1 內(nèi)積空間的定義 20 1.3.2 常見概念與相關(guān)結(jié)論 21 1.3.3 四個基本子空間 23 1.4 仿射子空間與仿射映射 29 1.4.1 仿射子空間 29 1.4.2 仿射映射 31 習(xí)題 1 32 第2章 范數(shù)理論與投影映射 37 2.1 向量范數(shù) 37 2.1.1 向量范數(shù)的定義 37 2.1.2 常用的向量范數(shù) 39 2.1.3 向量序列的收斂性 432.1.4 向量范數(shù)的對偶范數(shù) 47 2.2 矩陣范數(shù) 49 2.2.1 矩陣范數(shù)的定義和性質(zhì) 49 2.2.2 幾種常用的矩陣范數(shù) 51 2.2.3 由向量范數(shù)誘導(dǎo)的矩陣范數(shù) 53 2.3 范數(shù)的一些應(yīng)用 59 2.3.1 譜半徑與矩陣范數(shù) 59 2.3.2 線性方程組解的擾動分析 62 2.4 投影映射 66 2.4.1 投影映射 66 2.4.2 正交投影的幾個應(yīng)用 70 習(xí)題 2 77 第3章 矩陣分解及應(yīng)用 80 3.1 方陣的兩個重要數(shù)字特征 80 3.1.1 行列式 80 3.1.2 跡函數(shù) 82 3.2 LU 分解 82 3.2.1 LU 分解 83 3.2.2 平方根分解 88 3.3 QR 分解 91 3.3.1 Gram-Schmidt 正交化算法與 QR 分解 92 3.3.2 Householder 變換法與 QR 分解 94 3.3.3 Givens 旋轉(zhuǎn)和 QR 分解 98 3.3.4 QR 分解的應(yīng)用 102 3.4 奇異值分解 103 3.4.1 特征值分解 104 3.4.2 奇異值分解的定義 104 3.4.3 奇異值分解的幾何解釋與性質(zhì) 111 3.5 矩陣的低秩逼近 114 3.5.1 秩 k 逼近 115 3.5.2 低秩逼近的應(yīng)用 118 習(xí)題 3 122 第4章 梯度矩陣 125 4.1 標量函數(shù)的梯度矩陣 125 4.1.1 標量函數(shù)的梯度定義 1254.1.2 標量函數(shù)對向量的梯度 127 4.1.3 標量函數(shù)對矩陣的梯度 130 4.2 矩陣函數(shù)的梯度矩陣 132 4.2.1 向量函數(shù)的梯度矩陣 132 4.2.2 矩陣函數(shù)的梯度矩陣 134 4.3 矩陣微分 137 4.3.1 矩陣微分的定義與性質(zhì) 137 4.3.2 標量函數(shù)的矩陣微分 139 4.3.3 矩陣函數(shù)的矩陣微分 141 4.4 鏈式法則 143 4.5 標量函數(shù)的可微性 147 4.5.1 Fréchet 可微與 Gateaux 可微 147 4.5.2 多元函數(shù)的 Taylor 公式 150 習(xí)題 4 152 第5章 概率統(tǒng)計與信息論基礎(chǔ) 154 5.1 概率分布、期望和方差 154 5.1.1 一維隨機變量的概率分布 154 5.1.2 二維隨機變量的聯(lián)合分布 157 5.1.3 期望與方差 158 5.1.4 協(xié)方差矩陣與相關(guān)系數(shù) 160 5.1.5 樣本期望與方差 162 5.1.6 蒙特卡羅模擬 163 5.2 矩和重要不等式 164 5.2.1 矩 164 5.2.2 重要不等式 167 5.3 多元高斯分布和加權(quán)*小二乘法 170 5.3.1 多元高斯分布 170 5.3.2 *小二乘估計 171 5.4 馬爾可夫鏈 174 5.4.1 離散時間的馬爾可夫鏈 174 5.4.2 連續(xù)時間的馬爾可夫鏈 177 5.5 熵 179 5.5.1 離散隨機變量的熵 180 5.5.2 連續(xù)型隨機變量的微分熵 184 5.6 KL 散度與互信息 1845.6.1 KL 散度 184 5.6.2 互信息 187 習(xí)題 5 189 第6章 凸函數(shù) 191 6.1 凸集 191 6.1.1 集合的基本拓撲概念 191 6.1.2 仿射集合 193 6.1.3 凸集 196 6.1.4 凸集的內(nèi)部與閉包 200 6.2 凸集的保凸運算 201 6.2.1 交集 201 6.2.2 仿射函數(shù) 204 6.2.3 透視函數(shù) 207 6.3 凸函數(shù) 210 6.3.1 凸函數(shù)的定義 210 6.3.2 水平集和上圖 213 6.3.3 Jensen 不等式 218 6.3.4 凸函數(shù)的極值 220 6.4 保凸運算與可微性條件 221 6.4.1 保凸運算 222 6.4.2 可微性與凸性 226 6.5 凸分離 230 6.5.1 投影定理 230 6.5.2 分離和超支撐平面的定義 232 6.5.3 凸分離定理 233 6.5.4 擇一定理與不等式 236 6.6 擬凸函數(shù)與偽凸函數(shù) 240 6.6.1 擬凸函數(shù) 240 6.6.2 偽凸函數(shù) 243 6.7 次梯度 245 6.7.1 次梯度的定義 245 6.7.2 次梯度的性質(zhì)與重要結(jié)論 247 習(xí)題 6 256 第7章 優(yōu)化理論 259 7.1 *優(yōu)化問題 2597.1.1 局部極值的*優(yōu)化條件 259 7.1.2 *優(yōu)化問題的一般形式 263 7.2 非光滑優(yōu)化與光滑優(yōu)化 264 7.2.1 非光滑優(yōu)化 265 7.2.2 光滑優(yōu)化 269 7.3 對偶理論 276 7.3.1 對偶問題 276 7.3.2 強對偶 283 習(xí)題 7 287 第8章 迭代算法 290 8.1 線搜索方法 290 8.1.1 線搜索算法 290 8.1.2 步長的選擇 292 8.2 梯度下降法 293 8.2.1 梯度下降法 294 8.2.2 梯度下降法的收斂性 296 8.2.3 隨機梯度下降法 301 8.2.4 次梯度算法 303 8.3 牛頓法 304 8.3.1 **牛頓法 304 8.3.2 牛頓法的收斂性 306 8.3.3 修正的牛頓法 309 8.3.4 擬牛頓算法 310 8.4 共軛梯度法 311 8.4.1 共軛方向 312 8.4.2 共軛梯度法 316 習(xí)題 8 318 第9章 機器學(xué)習(xí)模型 320 9.1 線性模型 320 9.1.1 線性回歸 320 9.1.2 邏輯回歸 322 9.1.3 正則化 325 9.2 支持向量機 328 9.2.1 *大分類間隔分類器 328 9.2.2 對偶問題 3309.2.3 軟間隔分類器 331 9.3 神經(jīng)網(wǎng)絡(luò) 333 9.3.1 從線性模型到神經(jīng)網(wǎng)絡(luò) 333 9.3.2 神經(jīng)網(wǎng)絡(luò)與生物學(xué)的聯(lián)系 334 9.3.3 多層感知機 335 9.3.4 反向傳播 338 9.4 主成分分析 342 9.4.1 算法的推導(dǎo) 342 9.4.2 PAC 在應(yīng)用中的問題 346 9.4.3 潛在維數(shù)的選擇 347 參考文獻 351 索引 353
展開全部
機器學(xué)習(xí)數(shù)學(xué)基礎(chǔ) 作者簡介
趙建容,男,西南財經(jīng)大學(xué)數(shù)學(xué)學(xué)院教授,四川大學(xué)理學(xué)博士,西南財經(jīng)大學(xué)數(shù)理金融研究中心主任,基礎(chǔ)數(shù)學(xué)研究團隊負責人,機器學(xué)習(xí)數(shù)學(xué)教學(xué)團隊負責人.曾獲得四川省教學(xué)成果三等獎1項、校教學(xué)成果一等獎1項、第二屆“全國數(shù)學(xué)微課程教學(xué)設(shè)計競賽”全國一等獎、2022年全國大學(xué)數(shù)學(xué)課程思政教學(xué)優(yōu)秀案例(線性代數(shù))、全國大學(xué)生數(shù)學(xué)競賽優(yōu)秀指導(dǎo)教師、西南財經(jīng)大學(xué)青年教師競賽二等獎.任教期間,主持6項教改項目,參與10余項教改項目,參與編寫教材《高等代數(shù)》,主講《高等代數(shù)》、《數(shù)學(xué)文化》、《機器學(xué)習(xí)數(shù)學(xué)基礎(chǔ)》等課程,校大學(xué)數(shù)學(xué)競賽培訓(xùn)教練和負責人之一,指導(dǎo)學(xué)生多次獲得全國大學(xué)數(shù)學(xué)競賽決賽一等獎,多次獲評為西南財經(jīng)大學(xué)優(yōu)秀教師和“我心目中的好老師”.目前研究興趣主要為組合數(shù)論、密碼學(xué)與隱私計算、機器學(xué)習(xí)數(shù)學(xué)理論與算法,在J. Number Theory、J. Comb. Theory, Ser. A、J.Aust.Math.Soc、Discrete Math.、Linear and Multilinear A和《數(shù)學(xué)學(xué)報》等國內(nèi)外學(xué)術(shù)期刊發(fā)表論文近20篇,獲四川省教育廳、中央高;稹⒔鹑诳萍紘H聯(lián)合實驗室和西南財經(jīng)大學(xué)交子金融科技創(chuàng)新研究院等科研項目6項.
顧先明,西南財經(jīng)大學(xué)數(shù)學(xué)學(xué)院副教授,博士生導(dǎo)師. 電子科大第一博士學(xué)位,荷蘭格羅寧根大學(xué)第二博士學(xué)位,澳門大學(xué)數(shù)學(xué)系博士后,荷蘭烏特勒支大學(xué)數(shù)學(xué)研究所訪問學(xué)者. 主要研究方向為數(shù)值線性代數(shù)和發(fā)展方程快速(并行)數(shù)值解法等. 截止目前,已在包括IEEE-TMTT, CPC, JCP, JSC等國際知名SCI期刊上發(fā)表學(xué)術(shù)論文數(shù)十篇,現(xiàn)擔任Demonstratio Mathematica等5個SCI期刊的學(xué)術(shù)編委. 參與編寫和出版學(xué)術(shù)專著《Krylov子空間算法與預(yù)處理技術(shù)及其應(yīng)用》1部,2023年獲得四川省數(shù)學(xué)會第二屆應(yīng)用數(shù)學(xué)獎(二等獎),先后主持過國家自然科學(xué)基金青年項目、四川省應(yīng)用基礎(chǔ)研究項目和四川省中央引導(dǎo)地方科技發(fā)展引導(dǎo)項目各1項.