**章 緒論
1.1 本教材產生的背景和定位
1.2 從圖像感知到自然語言處理
1.3 從數據分析到數學基礎
1.4 數據分析和機器學習所需數學內容框架
1.5 數據科學與工程數學的歷史 第二章 度量與投影
2.1 數據的向量與矩陣表示
2.2 內積與范數:數據度量的觀點
2.3 正交與投影
2.4 正交基與Gram-Schmidt正交化
2.5 具有特殊結構和性質的矩陣 第三章 矩陣分解
3.1 數學中常見的具有特殊結構的矩陣
3.2 數據科學中常見的矩陣
3.3 LU分解
3.4 QR分解
3.5 譜分解與Cholesky分解
3.6 奇異值分解 第四章 矩陣計算問題
4.1 線性方程組的直接解法
4.2 *小二乘問題
4.3 特征值計算 第五章 向量與矩陣微分
5.1 向量函數和矩陣函數
5.2 統計機器學習中的非概率型函數模型
5.3 深度神經網絡中的函數構造
5.4 向量和矩陣函數的梯度
5.5 對矩陣微分
5.6 跡函數的微分和跡微分法
5.7 向量值函數和矩陣值函數的梯度
5.8 鏈式法則
5.9 反向傳播和自動微分
5.10 高階微分和泰勒展開 第六章 信息論基礎
6.1 熵、相對熵和互信息
6.2 連續分布的微分熵和*大熵
6.3 信息論在數據科學中的應用 第七章 概率模型
7.1 從概率到統計
7.2 概率密度函數的估計
7.3 概率模型與圖表示
7.4 機器學習中的概率模型 第八章 優化基礎
8.1 優化簡介
8.2 凸集
8.3 凸函數
8.4 凸優化 第九章 *優性條件和對偶理論
9.1 無約束優化的*優性條件
9.2 Lagrange對偶函數
9.3 Lagrange對偶問題
9.4 *優性條件
9.5 數據科學中常見模型的對偶問題 第十章 優化算法
10.1 無約束優化
10.2 約束優化
10.3 復合優化算法
10.4 深度學習常用優化算法
10.5 在線凸優化算法簡介