中圖網(wǎng)小程序
一鍵登錄
更方便
本類五星書更多>
-
>
全國計算機等級考試最新真考題庫模擬考場及詳解·二級MSOffice高級應(yīng)用
-
>
決戰(zhàn)行測5000題(言語理解與表達)
-
>
軟件性能測試.分析與調(diào)優(yōu)實踐之路
-
>
第一行代碼Android
-
>
JAVA持續(xù)交付
-
>
EXCEL最強教科書(完全版)(全彩印刷)
-
>
深度學習
大模型項目實戰(zhàn) 多領(lǐng)域智能應(yīng)用開發(fā) 版權(quán)信息
- ISBN：9787111762348
- 條形碼：9787111762348 ; 978-7-111-76234-8
- 裝幀：平裝-膠訂
- 冊數(shù)：暫無
- 重量：暫無
- 所屬分類：>
大模型項目實戰(zhàn) 多領(lǐng)域智能應(yīng)用開發(fā) 本書特色
（1）需求導向，實用為本：作者憑借多年AI培訓與社區(qū)建設(shè)的深厚積累，汲取項目實踐與學員互動之精華，提煉出高效實用的開發(fā)方法論，為讀者提供值得信賴的專業(yè)指導。（2）案例驅(qū)動，高效通關(guān)：精選Chat、輔助編程、RAG、翻譯、AI Agent、智能語音對話、數(shù)字人、模型訓練、AI小鎮(zhèn)及VS Code插件等十大領(lǐng)域案例，引導讀者快速通關(guān)核心領(lǐng)域的大模型應(yīng)用開發(fā)。（3）實操驗證，輕松上手：作者將豐富的實戰(zhàn)經(jīng)驗精煉成一系列經(jīng)過嚴格驗證的部署、微調(diào)和量化操作流程，確保讀者在多領(lǐng)域場景中獲得高效、精準的開發(fā)體驗。
大模型項目實戰(zhàn) 多領(lǐng)域智能應(yīng)用開發(fā) 內(nèi)容簡介
本書系統(tǒng)地講解了大語言模型的實戰(zhàn)應(yīng)用過程，涵蓋基礎(chǔ)知識、常見操作和應(yīng)用開發(fā)3個方面，幫助大語言模型的使用者、應(yīng)用開發(fā)者循序漸進地掌握大模型的原理、操作以及多個場景下的應(yīng)用開發(fā)技能。全書共18章，分為三篇：
基礎(chǔ)篇介紹大語言模型的基礎(chǔ)知識、應(yīng)用架構(gòu)和應(yīng)用工作模式。
操作篇詳細講解大模型的實操環(huán)節(jié)，包括環(huán)境搭建、多種有代表性的開源大語言模型的安裝、微調(diào)與量化等常見操作。
開發(fā)篇講述大語言模型在Chat、輔助編程、RAG、翻譯、AI Agent、智能語音對話、數(shù)字人、模型訓練、AI小鎮(zhèn)這9個領(lǐng)域的應(yīng)用開發(fā)過程，從工作原理、源碼分析、部署運行和測試驗證等方面進行了詳細介紹。中間還穿插講解了VS Code插件的開發(fā)，豐富了應(yīng)用運行的場景。
大模型項目實戰(zhàn) 多領(lǐng)域智能應(yīng)用開發(fā) 目錄
目 錄
前 言
基礎(chǔ)篇
第1章 大語言模型的基礎(chǔ)知識 3
1.1 大語言模型概述 4
1.1.1 基本情況 4
1.1.2 發(fā)展歷史 4
1.1.3 發(fā)展現(xiàn)狀 6
1.1.4 發(fā)展趨勢 7
1.2 基本原理 7
1.2.1 Transformer架構(gòu) 8
1.2.2 編碼器與解碼器 8
1.2.3 自注意力機制 9
1.3 應(yīng)用開發(fā)技術(shù) 11
1.3.1 Python 11
1.3.2 React.js 11
1.4 訓練方法 12
1.4.1 FFT 12
1.4.2 RLHF 13
1.4.3 P-Tuning 13
1.4.4 LoRA 13
1.5 常見現(xiàn)象 13
1.5.1 幻覺 14
1.5.2 災(zāi)難性遺忘 14
1.5.3 涌現(xiàn) 14
1.5.4 價值對齊 15
第2章 大語言模型應(yīng)用架構(gòu) 16
2.1 整體架構(gòu) 16
2.2 基礎(chǔ)設(shè)施 17
2.2.1 硬件部分 17
2.2.2 操作系統(tǒng) 18
2.3 基礎(chǔ)軟件 18
2.3.1 CUDA 18
2.3.2 PyTorch 18
2.3.3 Anaconda 19
2.3.4 Nginx 19
2.4 應(yīng)用軟件 20
2.4.1 大語言模型文件 20
2.4.2 Transformers庫 20
2.4.3 服務(wù)程序 20
2.4.4 API 21
2.4.5 客戶端程序 21
第3章 大語言模型應(yīng)用的工作模式 22
3.1 硬件部署 22
3.2 應(yīng)用軟件部署 23
3.3 運行模式 24
3.3.1 模型API服務(wù)的工作模式 24
3.3.2 模型API服務(wù)的運行過程 25
3.3.3 前后端交互方法 26
3.3.4 前端實現(xiàn) 27
操作篇
第4章 應(yīng)用環(huán)境搭建 31
4.1 基礎(chǔ)設(shè)施 31
4.1.1 服務(wù)器要求 31
4.1.2 操作系統(tǒng)準備 31
4.1.3 推理卡安裝 32
4.2 基礎(chǔ)軟件安裝 32
4.2.1 Linux 32
4.2.2 Windows 40
4.3 其他軟件安裝 41
4.3.1 Nginx 41
4.3.2 Git 42
第5章 大語言模型安裝 43
5.1 ChatGLM安裝 43
5.1.1 ChatGLM3模型介紹 43
5.1.2 ChatGLM3-6B安裝 44
5.1.3 編程驗證 45
5.2 Qwen-VL安裝 47
5.2.1 Qwen模型介紹 47
5.2.2 Qwen-VL-Chat-Int4安裝 47
5.2.3 編程驗證 49
5.3 LLaMA2安裝 50
5.3.1 LLaMA2模型介紹 50
5.3.2 Llama-2-7b-chat安裝 51
5.3.3 運行驗證 51
5.4 Gemma安裝 54
5.4.1 Gemma模型介紹 54
5.4.2 Gemma-2B安裝 55
5.4.3 編程驗證 55
5.5 Whisper安裝 57
5.5.1 Whisper-large-v3介紹 57
5.5.2 Whisper-large-v3安裝 57
5.5.3 編程驗證 58
第6章 大語言模型微調(diào) 60
6.1 ChatGLM微調(diào) 60
6.1.1 微調(diào)方法介紹 61
6.1.2 微調(diào)環(huán)境準備 61
6.1.3 語料準備 62
6.1.4 模型下載 65
6.1.5 微調(diào)過程 65
6.1.6 微調(diào)模型測試 67
6.2 LLaMA2微調(diào) 68
6.2.1 微調(diào)方法介紹 68
6.2.2 微調(diào)環(huán)境準備 69
6.2.3 語料準備 70
6.2.4 模型下載 71
6.2.5 微調(diào)過程 71
6.2.6 PEFT微調(diào)模型測試 73
6.2.7 模型合并 74
6.2.8 合并后模型測試 74
6.3 Gemma微調(diào) 74
6.3.1 微調(diào)方法介紹 74
6.3.2 微調(diào)環(huán)境準備 75
6.3.3 模型下載 75
6.3.4 微調(diào)程序開發(fā) 75
6.3.5 語料文件下載 77
6.3.6 微調(diào)與測試過程 78
第7章 大語言模型量化 79
7.1 量化介紹 79
7.2 llama.cpp量化過程 80
7.2.1 llama.cpp編譯 80
7.2.2 模型GGUF格式轉(zhuǎn)換 81
7.2.3 模型下載 81
7.2.4 量化過程 81
7.2.5 量化模型測試 82
7.2.6 Web方式運行 82
7.3 gemma.cpp量化過程 83
7.3.1 gemma.cpp源碼下載 83
7.3.2 gemma.cpp編譯 83
7.3.3 量化模型下載 84
7.3.4 推理 84
第8章 多模態(tài)模型應(yīng)用 86
8.1 Stable Diffusion介紹 86
8.2 Stable Diffusion部署 87
8.2.1 代碼獲取 87
8.2.2 Python虛擬環(huán)境準備 87
8.2.3 依賴庫安裝 87
8.2.4 模型下載 88
8.2.5 服務(wù)運行 88
8.3 Stable Diffusion應(yīng)用 88
8.3.1 文生圖應(yīng)用 89
8.3.2 圖生圖應(yīng)用 90
開發(fā)篇
第9章 Chat應(yīng)用 94
9.1 目標 94
9.2 原理 94
9.2.1 功能概要 94
9.2.2 系統(tǒng)架構(gòu) 95
9.2.3 運行原理 96
9.3 開發(fā)過程 96
9.3.1 Node.js安裝 96
9.3.2 chat-app新建 96
9.3.3 源代碼 97
9.3.4 測試 98
9.3.5 應(yīng)用發(fā)布 99
第10章 輔助編程應(yīng)用 102
10.1 目標 103
10.2 原理 103
10.2.1 功能概要 103
10.2.2 系統(tǒng)架構(gòu) 103
10.2.3 運行原理 104
10.3 開發(fā)過程 104
10.3.1 開發(fā)環(huán)境準備 104
10.3.2 測試模型準備 105
10.3.3 API服務(wù)實現(xiàn) 106
10.3.4 測試 110
第11章 VS Code插件 112
11.1 目標 112
11.2 原理 112
11.2.1 功能概要 112
11.2.2 系統(tǒng)架構(gòu) 113
11.2.3 運行原理 114
11.3 開發(fā)過程 114
11.3.1 環(huán)境準備與項目創(chuàng)建 115
11.3.2 插件開發(fā) 115
11.3.3 插件發(fā)布 118
第12章 檢索增強生成應(yīng)用 121
12.1 目標 121
12.2 原理 122
12.2.1 功能概要 122
12.2.2 系統(tǒng)架構(gòu) 123
12.2.3 運行原理 124
12.3 開發(fā)過程 125
12.3.1 大語言模型安裝 125
12.3.2 依賴庫安裝 125
12.3.3 向量化模型下載 126
12.3.4 源代碼 126
12.3.5 測試 128
第13章 PDF翻譯應(yīng)用 130
13.1 目標 130
13.2 原理 130
13.2.1 功能概要 130
13.2.2 系統(tǒng)架構(gòu) 131
13.2.3 運行原理 131
13.3 開發(fā)過程 135
13.3.1 大語言模型安裝 135
13.3.2 依賴環(huán)境安裝 135
13.3.3 下載英譯中模型 135
13.3.4 源代碼 136
13.3.5 測試 138
第14章 智能代理應(yīng)用 140
14.1 目標 140
14.2 原理 141
14.2.1 AI Agent 141
14.2.2 AutoGen 141
14.3 開發(fā)過程 143
14.3.1 大語言模型安裝 143
14.3.2 Docker安裝 144
14.3.3 虛擬環(huán)境準備 145
14.3.4 運行環(huán)境驗證 145
14.3.5 多代理會話應(yīng)用開發(fā) 146
第15章 語音模型應(yīng)用 149
15.1 目標 149
15.2 原理 149
15.2.1 功能概要 149
15.2.2 系統(tǒng)架構(gòu) 150
15.2.3 運行原理 151
15.3 開發(fā)過程 152
15.3.1 運行環(huán)境安裝 152
15.3.2 模型下載 153
15.3.3 Demo運行 153
15.3.4 服務(wù)端開發(fā) 154
15.3.5 客戶端開發(fā) 160
15.3.6 測試 163
第16章 數(shù)字人應(yīng)用 166
16.1 目標 166
16.2 原理 167
16.2.1 功能概要 167
16.2.2 系統(tǒng)架構(gòu) 167
16.2.3 運行原理 168
16.3 開發(fā)過程 169
16.3.1 環(huán)境準備 169
16.3.2 源代碼 173
16.3.3 測試 177
第17章 提示詞生成應(yīng)用：從零訓練
模型 179
17.1 目標 179
17.2 原理 180
17.2.1 GPT-2 180
17.2.2 訓練流程與應(yīng)用架構(gòu) 181
17.2.3 訓練方法與運行原理 182
17.3 開發(fā)與訓練過程 185
17.3.1 語料整理 186
17.3.2 訓練 188
17.3.3 推理與服務(wù) 196
17.3.4 測試 202
第18章 AI小鎮(zhèn)應(yīng)用 204
18.1 目標 204
18.2 原理 205
18.2.1 功能概要 205
18.2.2 系統(tǒng)架構(gòu) 206
18.2.3 運行原理 207
18.3 開發(fā)過程 209
18.3.1 大語言模型安裝 210
18.3.2 開發(fā)環(huán)境搭建 210
18.3.3 地圖制作 210
18.3.4 app.js 211
18.3.5 BootScene.js 213
18.3.6 GameScene.js 213
18.3.7 ChatUtils.js 218
18.3.8 測試 219
前 言
基礎(chǔ)篇
第1章 大語言模型的基礎(chǔ)知識 3
1.1 大語言模型概述 4
1.1.1 基本情況 4
1.1.2 發(fā)展歷史 4
1.1.3 發(fā)展現(xiàn)狀 6
1.1.4 發(fā)展趨勢 7
1.2 基本原理 7
1.2.1 Transformer架構(gòu) 8
1.2.2 編碼器與解碼器 8
1.2.3 自注意力機制 9
1.3 應(yīng)用開發(fā)技術(shù) 11
1.3.1 Python 11
1.3.2 React.js 11
1.4 訓練方法 12
1.4.1 FFT 12
1.4.2 RLHF 13
1.4.3 P-Tuning 13
1.4.4 LoRA 13
1.5 常見現(xiàn)象 13
1.5.1 幻覺 14
1.5.2 災(zāi)難性遺忘 14
1.5.3 涌現(xiàn) 14
1.5.4 價值對齊 15
第2章 大語言模型應(yīng)用架構(gòu) 16
2.1 整體架構(gòu) 16
2.2 基礎(chǔ)設(shè)施 17
2.2.1 硬件部分 17
2.2.2 操作系統(tǒng) 18
2.3 基礎(chǔ)軟件 18
2.3.1 CUDA 18
2.3.2 PyTorch 18
2.3.3 Anaconda 19
2.3.4 Nginx 19
2.4 應(yīng)用軟件 20
2.4.1 大語言模型文件 20
2.4.2 Transformers庫 20
2.4.3 服務(wù)程序 20
2.4.4 API 21
2.4.5 客戶端程序 21
第3章 大語言模型應(yīng)用的工作模式 22
3.1 硬件部署 22
3.2 應(yīng)用軟件部署 23
3.3 運行模式 24
3.3.1 模型API服務(wù)的工作模式 24
3.3.2 模型API服務(wù)的運行過程 25
3.3.3 前后端交互方法 26
3.3.4 前端實現(xiàn) 27
操作篇
第4章 應(yīng)用環(huán)境搭建 31
4.1 基礎(chǔ)設(shè)施 31
4.1.1 服務(wù)器要求 31
4.1.2 操作系統(tǒng)準備 31
4.1.3 推理卡安裝 32
4.2 基礎(chǔ)軟件安裝 32
4.2.1 Linux 32
4.2.2 Windows 40
4.3 其他軟件安裝 41
4.3.1 Nginx 41
4.3.2 Git 42
第5章 大語言模型安裝 43
5.1 ChatGLM安裝 43
5.1.1 ChatGLM3模型介紹 43
5.1.2 ChatGLM3-6B安裝 44
5.1.3 編程驗證 45
5.2 Qwen-VL安裝 47
5.2.1 Qwen模型介紹 47
5.2.2 Qwen-VL-Chat-Int4安裝 47
5.2.3 編程驗證 49
5.3 LLaMA2安裝 50
5.3.1 LLaMA2模型介紹 50
5.3.2 Llama-2-7b-chat安裝 51
5.3.3 運行驗證 51
5.4 Gemma安裝 54
5.4.1 Gemma模型介紹 54
5.4.2 Gemma-2B安裝 55
5.4.3 編程驗證 55
5.5 Whisper安裝 57
5.5.1 Whisper-large-v3介紹 57
5.5.2 Whisper-large-v3安裝 57
5.5.3 編程驗證 58
第6章 大語言模型微調(diào) 60
6.1 ChatGLM微調(diào) 60
6.1.1 微調(diào)方法介紹 61
6.1.2 微調(diào)環(huán)境準備 61
6.1.3 語料準備 62
6.1.4 模型下載 65
6.1.5 微調(diào)過程 65
6.1.6 微調(diào)模型測試 67
6.2 LLaMA2微調(diào) 68
6.2.1 微調(diào)方法介紹 68
6.2.2 微調(diào)環(huán)境準備 69
6.2.3 語料準備 70
6.2.4 模型下載 71
6.2.5 微調(diào)過程 71
6.2.6 PEFT微調(diào)模型測試 73
6.2.7 模型合并 74
6.2.8 合并后模型測試 74
6.3 Gemma微調(diào) 74
6.3.1 微調(diào)方法介紹 74
6.3.2 微調(diào)環(huán)境準備 75
6.3.3 模型下載 75
6.3.4 微調(diào)程序開發(fā) 75
6.3.5 語料文件下載 77
6.3.6 微調(diào)與測試過程 78
第7章 大語言模型量化 79
7.1 量化介紹 79
7.2 llama.cpp量化過程 80
7.2.1 llama.cpp編譯 80
7.2.2 模型GGUF格式轉(zhuǎn)換 81
7.2.3 模型下載 81
7.2.4 量化過程 81
7.2.5 量化模型測試 82
7.2.6 Web方式運行 82
7.3 gemma.cpp量化過程 83
7.3.1 gemma.cpp源碼下載 83
7.3.2 gemma.cpp編譯 83
7.3.3 量化模型下載 84
7.3.4 推理 84
第8章 多模態(tài)模型應(yīng)用 86
8.1 Stable Diffusion介紹 86
8.2 Stable Diffusion部署 87
8.2.1 代碼獲取 87
8.2.2 Python虛擬環(huán)境準備 87
8.2.3 依賴庫安裝 87
8.2.4 模型下載 88
8.2.5 服務(wù)運行 88
8.3 Stable Diffusion應(yīng)用 88
8.3.1 文生圖應(yīng)用 89
8.3.2 圖生圖應(yīng)用 90
開發(fā)篇
第9章 Chat應(yīng)用 94
9.1 目標 94
9.2 原理 94
9.2.1 功能概要 94
9.2.2 系統(tǒng)架構(gòu) 95
9.2.3 運行原理 96
9.3 開發(fā)過程 96
9.3.1 Node.js安裝 96
9.3.2 chat-app新建 96
9.3.3 源代碼 97
9.3.4 測試 98
9.3.5 應(yīng)用發(fā)布 99
第10章 輔助編程應(yīng)用 102
10.1 目標 103
10.2 原理 103
10.2.1 功能概要 103
10.2.2 系統(tǒng)架構(gòu) 103
10.2.3 運行原理 104
10.3 開發(fā)過程 104
10.3.1 開發(fā)環(huán)境準備 104
10.3.2 測試模型準備 105
10.3.3 API服務(wù)實現(xiàn) 106
10.3.4 測試 110
第11章 VS Code插件 112
11.1 目標 112
11.2 原理 112
11.2.1 功能概要 112
11.2.2 系統(tǒng)架構(gòu) 113
11.2.3 運行原理 114
11.3 開發(fā)過程 114
11.3.1 環(huán)境準備與項目創(chuàng)建 115
11.3.2 插件開發(fā) 115
11.3.3 插件發(fā)布 118
第12章 檢索增強生成應(yīng)用 121
12.1 目標 121
12.2 原理 122
12.2.1 功能概要 122
12.2.2 系統(tǒng)架構(gòu) 123
12.2.3 運行原理 124
12.3 開發(fā)過程 125
12.3.1 大語言模型安裝 125
12.3.2 依賴庫安裝 125
12.3.3 向量化模型下載 126
12.3.4 源代碼 126
12.3.5 測試 128
第13章 PDF翻譯應(yīng)用 130
13.1 目標 130
13.2 原理 130
13.2.1 功能概要 130
13.2.2 系統(tǒng)架構(gòu) 131
13.2.3 運行原理 131
13.3 開發(fā)過程 135
13.3.1 大語言模型安裝 135
13.3.2 依賴環(huán)境安裝 135
13.3.3 下載英譯中模型 135
13.3.4 源代碼 136
13.3.5 測試 138
第14章 智能代理應(yīng)用 140
14.1 目標 140
14.2 原理 141
14.2.1 AI Agent 141
14.2.2 AutoGen 141
14.3 開發(fā)過程 143
14.3.1 大語言模型安裝 143
14.3.2 Docker安裝 144
14.3.3 虛擬環(huán)境準備 145
14.3.4 運行環(huán)境驗證 145
14.3.5 多代理會話應(yīng)用開發(fā) 146
第15章 語音模型應(yīng)用 149
15.1 目標 149
15.2 原理 149
15.2.1 功能概要 149
15.2.2 系統(tǒng)架構(gòu) 150
15.2.3 運行原理 151
15.3 開發(fā)過程 152
15.3.1 運行環(huán)境安裝 152
15.3.2 模型下載 153
15.3.3 Demo運行 153
15.3.4 服務(wù)端開發(fā) 154
15.3.5 客戶端開發(fā) 160
15.3.6 測試 163
第16章 數(shù)字人應(yīng)用 166
16.1 目標 166
16.2 原理 167
16.2.1 功能概要 167
16.2.2 系統(tǒng)架構(gòu) 167
16.2.3 運行原理 168
16.3 開發(fā)過程 169
16.3.1 環(huán)境準備 169
16.3.2 源代碼 173
16.3.3 測試 177
第17章 提示詞生成應(yīng)用：從零訓練
模型 179
17.1 目標 179
17.2 原理 180
17.2.1 GPT-2 180
17.2.2 訓練流程與應(yīng)用架構(gòu) 181
17.2.3 訓練方法與運行原理 182
17.3 開發(fā)與訓練過程 185
17.3.1 語料整理 186
17.3.2 訓練 188
17.3.3 推理與服務(wù) 196
17.3.4 測試 202
第18章 AI小鎮(zhèn)應(yīng)用 204
18.1 目標 204
18.2 原理 205
18.2.1 功能概要 205
18.2.2 系統(tǒng)架構(gòu) 206
18.2.3 運行原理 207
18.3 開發(fā)過程 209
18.3.1 大語言模型安裝 210
18.3.2 開發(fā)環(huán)境搭建 210
18.3.3 地圖制作 210
18.3.4 app.js 211
18.3.5 BootScene.js 213
18.3.6 GameScene.js 213
18.3.7 ChatUtils.js 218
18.3.8 測試 219
展開全部
大模型項目實戰(zhàn) 多領(lǐng)域智能應(yīng)用開發(fā) 作者簡介
高強文
互鏈高科（北京）技術(shù)發(fā)展有限公司總經(jīng)理，銀川方達電子系統(tǒng)工程有限公司董事長，寧夏回族自治區(qū)勞動模范。專注于人工智能大語言模型應(yīng)用開發(fā)、開源社區(qū)開發(fā)與運營。參加工作20多年來，一直從事醫(yī)療健康領(lǐng)域信息化、人工智能等產(chǎn)品研發(fā)與管理工作，近年來致力于開源事業(yè)，開發(fā)運營aliendao.cn、gitclone.com和opendao.cn等開源社區(qū)，在GitHub上貢獻了20多個開源代碼庫。
書友推薦
- >
小考拉的故事-套裝共3冊
- >
經(jīng)典常談
- >
新文學天穹兩巨星--魯迅與胡適/紅燭學術(shù)叢書(紅燭學術(shù)叢書)
- >
中國人在烏蘇里邊疆區(qū):歷史與人類學概述
- >
姑媽的寶刀
- >
名家?guī)阕x魯迅:故事新編
- >
羅庸西南聯(lián)大授課錄
- >
我從未如此眷戀人間
本類暢銷
