掃一掃
關(guān)注中圖網(wǎng)
官方微博
本類五星書更多>
-
>
闖進(jìn)數(shù)學(xué)世界――探秘歷史名題
-
>
中醫(yī)基礎(chǔ)理論
-
>
當(dāng)代中國(guó)政府與政治(新編21世紀(jì)公共管理系列教材)
-
>
高校軍事課教程
-
>
思想道德與法治(2021年版)
-
>
毛澤東思想和中國(guó)特色社會(huì)主義理論體系概論(2021年版)
-
>
中醫(yī)內(nèi)科學(xué)·全國(guó)中醫(yī)藥行業(yè)高等教育“十四五”規(guī)劃教材
中圖價(jià):¥116.6
加入購(gòu)物車
智能計(jì)算系統(tǒng) 從深度學(xué)習(xí)到大模型 第2版 版權(quán)信息
- ISBN：9787111755951
- 條形碼：9787111755951 ; 978-7-111-75595-1
- 裝幀：平裝-膠訂
- 冊(cè)數(shù)：暫無(wú)
- 重量：暫無(wú)
- 所屬分類：>
智能計(jì)算系統(tǒng) 從深度學(xué)習(xí)到大模型 第2版 本書特色
·全面貫穿人工智能整個(gè)軟硬件技術(shù)棧
·以應(yīng)用驅(qū)動(dòng)，形成智能領(lǐng)域的系統(tǒng)思維
·以大模型為牽引，為通用人工智能提供支撐
智能計(jì)算系統(tǒng) 從深度學(xué)習(xí)到大模型 第2版 內(nèi)容簡(jiǎn)介
本書由中科院計(jì)算所、軟件所的專家學(xué)者傾心寫就，以“圖像風(fēng)格遷移”應(yīng)用為例，全面介紹智能計(jì)算系統(tǒng)的軟硬件技術(shù)棧。第2版以大模型為牽引進(jìn)行更新，第1章回顧人工智能、智能計(jì)算系統(tǒng)的發(fā)展歷程，第2、3章在介紹深度學(xué)習(xí)算法知識(shí)的基礎(chǔ)上增加了大模型算法的相關(guān)知識(shí)，第4章介紹深度學(xué)習(xí)編程框架PyTorch的發(fā)展歷程、基本概念、編程模型和使用方法，第5章介紹編程框架的工作原理，第6章回顧深度學(xué)習(xí)所用的處理器結(jié)構(gòu)從通用逐步走向?qū)Ｓ玫倪^(guò)程，第7章介紹深度學(xué)習(xí)處理器的體系結(jié)構(gòu)應(yīng)當(dāng)如何應(yīng)對(duì)大模型處理中的計(jì)算、訪存、通信瓶頸，第8章介紹基于BCL語(yǔ)言的高性能算子開(kāi)發(fā)優(yōu)化實(shí)踐，第9章介紹面向大模型的計(jì)算系統(tǒng)并以BLOOM作為驅(qū)動(dòng)范例。
本書適合作為高等院校相關(guān)專業(yè)的教材，也適合人工智能領(lǐng)域的科研人員參考。
智能計(jì)算系統(tǒng) 從深度學(xué)習(xí)到大模型 第2版 目錄
目錄
叢書序言
序言一
序言二
第 2 版前言
第 1 版前言
第 1 章 概述 1
1.1 人工智能1
1.1.1 什么是人工智能 1
1.1.2 人工智能的主要方法1
1.1.3 人工智能的發(fā)展歷史5
1.2 智能計(jì)算系統(tǒng) 8
1.2.1 什么是智能計(jì)算系統(tǒng)8
1.2.2 為什么需要智能計(jì)算系統(tǒng)8
1.2.3 智能計(jì)算系統(tǒng)的發(fā)展9
1.3 驅(qū)動(dòng)范例 12
1.4 本章小結(jié) 13
習(xí)題.14
第 2 章 深度學(xué)習(xí)基礎(chǔ)15
2.1 機(jī)器學(xué)習(xí) 15
2.1.1 基本概念15
2.1.2 線性回歸16
2.2 神經(jīng)網(wǎng)絡(luò) 19
2.2.1 感知機(jī)19
2.2.2 多層感知機(jī) 22
2.2.3 深度學(xué)習(xí)23
2.2.4 神經(jīng)網(wǎng)絡(luò)的發(fā)展歷程24
2.3 神經(jīng)網(wǎng)絡(luò)的訓(xùn)練方法 26
2.3.1 正向傳播26
2.3.2 反向傳播29
2.4 神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)基礎(chǔ) 30
2.4.1 網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)30
2.4.2 激活函數(shù)31
2.4.3 損失函數(shù)35
2.5 過(guò)擬合與正則化 38
2.5.1 過(guò)擬合38
2.5.2 正則化39
2.6 交叉驗(yàn)證 44
2.7 本章小結(jié) 46
習(xí)題 47
第 3 章 深度學(xué)習(xí)應(yīng)用48
3.1 適合圖像處理的卷積神經(jīng)網(wǎng)絡(luò) 48
3.1.1 卷積神經(jīng)網(wǎng)絡(luò)的總體結(jié)構(gòu) 49
3.1.2 應(yīng)用于圖像分類的卷積神經(jīng)
網(wǎng)絡(luò).60
3.1.3 應(yīng)用于圖像目標(biāo)檢測(cè)的卷積神
XXI
經(jīng)網(wǎng)絡(luò)79
3.1.4 應(yīng)用于圖像生成的神經(jīng)網(wǎng)絡(luò)95
3.2 適合文本/語(yǔ)音處理的循環(huán)神經(jīng)
網(wǎng)絡(luò)110
3.2.1 RNN110
3.2.2 LSTM 114
3.2.3 GRU117
3.2.4 小結(jié)118
3.3 大模型118
3.3.1 Seq2Seq119
3.3.2 注意力機(jī)制120
3.3.3 Transformer124
3.3.4 自然語(yǔ)言處理大模型 126
3.3.5 圖像處理和多模態(tài)大模型 139
3.3.6 基于大模型的智能體系統(tǒng) 152
3.3.7 小結(jié)156
3.4 神經(jīng)網(wǎng)絡(luò)的優(yōu)化157
3.4.1 初始化方法158
3.4.2 梯度下降法159
3.4.3 動(dòng)量法 163
3.4.4 二階優(yōu)化方法 164
3.4.5 自適應(yīng)學(xué)習(xí)率算法165
3.5 神經(jīng)網(wǎng)絡(luò)量化 167
3.5.1 數(shù)據(jù)量化 169
3.5.2 神經(jīng)網(wǎng)絡(luò)量化過(guò)程173
3.5.3 神經(jīng)網(wǎng)絡(luò)量化應(yīng)用174
3.5.4 神經(jīng)網(wǎng)絡(luò)的混合精度量化.175
3.5.5 大模型量化176
3.5.6 小結(jié)177
3.6 驅(qū)動(dòng)范例 177
3.6.1 圖像風(fēng)格遷移簡(jiǎn)介177
3.6.2 基于卷積神經(jīng)網(wǎng)絡(luò)的圖像風(fēng)格
遷移算法 178
3.6.3 實(shí)時(shí)圖像風(fēng)格遷移算法 181
3.7 本章小結(jié) 182
習(xí)題 183
第 4 章 編程框架使用 184
4.1 編程框架概述 184
4.1.1 為什么需要編程框架 184
4.1.2 編程框架的發(fā)展歷程 186
4.2 PyTorch 概述 187
4.3 PyTorch 編程模型及基本
用法188
4.3.1 NumPy 基礎(chǔ) 188
4.3.2 張量194
4.3.3 操作202
4.3.4 計(jì)算圖 206
4.4 基于 PyTorch 的模型推理
實(shí)現(xiàn)208
4.4.1 讀取輸入圖像 210
4.4.2 構(gòu)建神經(jīng)網(wǎng)絡(luò) 214
4.4.3 實(shí)例化神經(jīng)網(wǎng)絡(luò)模型 222
4.4.4 神經(jīng)網(wǎng)絡(luò)模型的調(diào)試 226
4.4.5 神經(jīng)網(wǎng)絡(luò)模型優(yōu)化228
4.5 基于 PyTorch 的模型訓(xùn)練
實(shí)現(xiàn)231
4.5.1 加載訓(xùn)練數(shù)據(jù)集 231
4.5.2 模型訓(xùn)練 233
4.5.3 模型的保存與恢復(fù)239
4.6 驅(qū)動(dòng)范例 241
4.6.1 加載依賴包241
4.6.2 加載并顯示內(nèi)容圖像和
風(fēng)格圖像 242
4.6.3 創(chuàng)建輸入圖像 243
4.6.4 定義并計(jì)算損失函數(shù) 244
4.6.5 構(gòu)建風(fēng)格遷移算法247
XXII
4.6.6 風(fēng)格遷移算法運(yùn)行248
4.7 本章小結(jié) 249
習(xí)題 249
第 5 章 編程框架原理 250
5.1 編程框架設(shè)計(jì) 250
5.1.1 設(shè)計(jì)原則 250
5.1.2 整體架構(gòu) 251
5.2 計(jì)算圖構(gòu)建 252
5.2.1 正向計(jì)算圖構(gòu)建 253
5.2.2 反向計(jì)算圖構(gòu)建 256
5.3 計(jì)算圖執(zhí)行 260
5.3.1 設(shè)備管理 260
5.3.2 張量實(shí)現(xiàn) 262
5.3.3 算子執(zhí)行 269
*5.4 深度學(xué)習(xí)編譯 278
5.4.1 為什么需要深度學(xué)習(xí)編譯 278
5.4.2 圖層級(jí)編譯優(yōu)化 281
5.4.3 算子層級(jí)編譯優(yōu)化287
5.4.4 常見(jiàn)深度學(xué)習(xí)編譯器 294
*5.5 分布式訓(xùn)練299
5.5.1 為什么需要分布式訓(xùn)練 300
5.5.2 分布式訓(xùn)練基礎(chǔ) 300
5.5.3 分布式訓(xùn)練方法 305
5.5.4 分布式訓(xùn)練框架實(shí)現(xiàn) 312
5.6 本章小結(jié) 318
習(xí)題 319
第 6 章 面向深度學(xué)習(xí)的處理器原理320
6.1 通用處理器 320
6.1.1 通用處理器的執(zhí)行原理 321
6.1.2 通用處理器的結(jié)構(gòu)發(fā)展 323
6.1.3 通用處理器分析和優(yōu)化 339
6.1.4 總結(jié)和討論346
6.2 向量處理器 347
6.2.1 向量處理器的執(zhí)行原理 347
6.2.2 向量處理器的結(jié)構(gòu)發(fā)展 352
6.2.3 向量處理器分析和優(yōu)化 359
6.2.4 總結(jié)和討論363
6.3 深度學(xué)習(xí)處理器364
6.3.1 深度學(xué)習(xí)處理器的執(zhí)行
原理364
6.3.2 深度學(xué)習(xí)處理器的結(jié)構(gòu)
發(fā)展376
6.3.3 總結(jié)和討論382
6.4 大規(guī)模深度學(xué)習(xí)處理器382
6.4.1 一致性訪存模型 383
6.4.2 非一致性訪存模型384
6.4.3 分形計(jì)算模型 386
6.4.4 深度學(xué)習(xí)處理器示例 386
6.5 本章小結(jié) 387
習(xí)題 387
第 7 章 深度學(xué)習(xí)處理器架構(gòu).389
7.1 計(jì)算389
7.1.1 矩陣運(yùn)算單元 390
7.1.2 向量與標(biāo)量單元 400
7.1.3 總結(jié)和討論408
7.2 存儲(chǔ)409
7.2.1 便箋存儲(chǔ)器409
7.2.2 外部存儲(chǔ)器訪問(wèn) 412
7.2.3 總結(jié)和討論417
7.3 通信418
7.3.1 互聯(lián)網(wǎng)絡(luò) 419
7.3.2 集合通信原語(yǔ) 420
7.3.3 通信架構(gòu)設(shè)計(jì) 424
7.3.4 總結(jié)和討論426
*7.4 設(shè)計(jì)優(yōu)化 426
7.4.1 變換427
XXIII
7.4.2 壓縮429
7.4.3 近似431
7.4.4 非傳統(tǒng)結(jié)構(gòu)和器件434
7.5 本章小結(jié) 437
習(xí)題 437
第 8 章 智能編程語(yǔ)言 439
8.1 為什么需要智能編程語(yǔ)言439
8.1.1 語(yǔ)義鴻溝 440
8.1.2 硬件鴻溝 442
8.1.3 平臺(tái)鴻溝 445
8.1.4 小結(jié)445
8.2 智能計(jì)算系統(tǒng)抽象架構(gòu)446
8.2.1 抽象硬件架構(gòu) 447
8.2.2 典型智能計(jì)算系統(tǒng)447
8.2.3 控制模型 448
8.2.4 存儲(chǔ)模型 449
8.2.5 計(jì)算模型 450
8.3 智能編程模型 450
8.3.1 異構(gòu)編程 450
8.3.2 多核并行 452
8.3.3 存儲(chǔ)空間 454
8.4 智能編程語(yǔ)言基礎(chǔ) 455
8.4.1 語(yǔ)法概述 455
8.4.2 內(nèi)建變量與內(nèi)建函數(shù) 457
8.4.3 BCL 程序示例458
8.5 智能應(yīng)用編程接口 459
8.5.1 核函數(shù)接口459
8.5.2 運(yùn)行時(shí)接口460
8.5.3 使用示例 462
8.6 智能應(yīng)用功能調(diào)試 465
8.6.1 功能調(diào)試方法 465
8.6.2 功能調(diào)試接口 470
8.6.3 功能調(diào)試工具 472
8.6.4 精度調(diào)試方法 474
8.6.5 功能調(diào)試實(shí)踐 476
8.7 智能應(yīng)用性能調(diào)優(yōu) 483
8.7.1 性能分析工具 483
8.7.2 性能調(diào)優(yōu)方法 489
8.8 智能編程語(yǔ)言的應(yīng)用 495
8.8.1 高性能算子開(kāi)發(fā) 496
8.8.2 編程框架算子開(kāi)發(fā)502
8.9 本章小結(jié) 509
習(xí)題 509
第 9 章 大模型計(jì)算系統(tǒng)511
9.1 大模型算法分析512
9.2 大模型驅(qū)動(dòng)范例：BLOOM 516
9.2.1 BLOOM-176B 模型 516
9.2.2 BLOOM-176B 運(yùn)行平臺(tái)517
9.2.3 BLOOM-176B 計(jì)算過(guò)程及
分析518
9.3 大模型系統(tǒng)軟件524
9.3.1 訓(xùn)練場(chǎng)景 525
9.3.2 推理場(chǎng)景 530
9.4 大模型基礎(chǔ)硬件534
9.4.1 大模型計(jì)算節(jié)點(diǎn) 534
9.4.2 大模型計(jì)算集群 538
9.5 本章小結(jié) 541
習(xí)題 541
參考文獻(xiàn) 544
后記566
叢書序言
序言一
序言二
第 2 版前言
第 1 版前言
第 1 章 概述 1
1.1 人工智能1
1.1.1 什么是人工智能 1
1.1.2 人工智能的主要方法1
1.1.3 人工智能的發(fā)展歷史5
1.2 智能計(jì)算系統(tǒng) 8
1.2.1 什么是智能計(jì)算系統(tǒng)8
1.2.2 為什么需要智能計(jì)算系統(tǒng)8
1.2.3 智能計(jì)算系統(tǒng)的發(fā)展9
1.3 驅(qū)動(dòng)范例 12
1.4 本章小結(jié) 13
習(xí)題.14
第 2 章 深度學(xué)習(xí)基礎(chǔ)15
2.1 機(jī)器學(xué)習(xí) 15
2.1.1 基本概念15
2.1.2 線性回歸16
2.2 神經(jīng)網(wǎng)絡(luò) 19
2.2.1 感知機(jī)19
2.2.2 多層感知機(jī) 22
2.2.3 深度學(xué)習(xí)23
2.2.4 神經(jīng)網(wǎng)絡(luò)的發(fā)展歷程24
2.3 神經(jīng)網(wǎng)絡(luò)的訓(xùn)練方法 26
2.3.1 正向傳播26
2.3.2 反向傳播29
2.4 神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)基礎(chǔ) 30
2.4.1 網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)30
2.4.2 激活函數(shù)31
2.4.3 損失函數(shù)35
2.5 過(guò)擬合與正則化 38
2.5.1 過(guò)擬合38
2.5.2 正則化39
2.6 交叉驗(yàn)證 44
2.7 本章小結(jié) 46
習(xí)題 47
第 3 章 深度學(xué)習(xí)應(yīng)用48
3.1 適合圖像處理的卷積神經(jīng)網(wǎng)絡(luò) 48
3.1.1 卷積神經(jīng)網(wǎng)絡(luò)的總體結(jié)構(gòu) 49
3.1.2 應(yīng)用于圖像分類的卷積神經(jīng)
網(wǎng)絡(luò).60
3.1.3 應(yīng)用于圖像目標(biāo)檢測(cè)的卷積神
XXI
經(jīng)網(wǎng)絡(luò)79
3.1.4 應(yīng)用于圖像生成的神經(jīng)網(wǎng)絡(luò)95
3.2 適合文本/語(yǔ)音處理的循環(huán)神經(jīng)
網(wǎng)絡(luò)110
3.2.1 RNN110
3.2.2 LSTM 114
3.2.3 GRU117
3.2.4 小結(jié)118
3.3 大模型118
3.3.1 Seq2Seq119
3.3.2 注意力機(jī)制120
3.3.3 Transformer124
3.3.4 自然語(yǔ)言處理大模型 126
3.3.5 圖像處理和多模態(tài)大模型 139
3.3.6 基于大模型的智能體系統(tǒng) 152
3.3.7 小結(jié)156
3.4 神經(jīng)網(wǎng)絡(luò)的優(yōu)化157
3.4.1 初始化方法158
3.4.2 梯度下降法159
3.4.3 動(dòng)量法 163
3.4.4 二階優(yōu)化方法 164
3.4.5 自適應(yīng)學(xué)習(xí)率算法165
3.5 神經(jīng)網(wǎng)絡(luò)量化 167
3.5.1 數(shù)據(jù)量化 169
3.5.2 神經(jīng)網(wǎng)絡(luò)量化過(guò)程173
3.5.3 神經(jīng)網(wǎng)絡(luò)量化應(yīng)用174
3.5.4 神經(jīng)網(wǎng)絡(luò)的混合精度量化.175
3.5.5 大模型量化176
3.5.6 小結(jié)177
3.6 驅(qū)動(dòng)范例 177
3.6.1 圖像風(fēng)格遷移簡(jiǎn)介177
3.6.2 基于卷積神經(jīng)網(wǎng)絡(luò)的圖像風(fēng)格
遷移算法 178
3.6.3 實(shí)時(shí)圖像風(fēng)格遷移算法 181
3.7 本章小結(jié) 182
習(xí)題 183
第 4 章 編程框架使用 184
4.1 編程框架概述 184
4.1.1 為什么需要編程框架 184
4.1.2 編程框架的發(fā)展歷程 186
4.2 PyTorch 概述 187
4.3 PyTorch 編程模型及基本
用法188
4.3.1 NumPy 基礎(chǔ) 188
4.3.2 張量194
4.3.3 操作202
4.3.4 計(jì)算圖 206
4.4 基于 PyTorch 的模型推理
實(shí)現(xiàn)208
4.4.1 讀取輸入圖像 210
4.4.2 構(gòu)建神經(jīng)網(wǎng)絡(luò) 214
4.4.3 實(shí)例化神經(jīng)網(wǎng)絡(luò)模型 222
4.4.4 神經(jīng)網(wǎng)絡(luò)模型的調(diào)試 226
4.4.5 神經(jīng)網(wǎng)絡(luò)模型優(yōu)化228
4.5 基于 PyTorch 的模型訓(xùn)練
實(shí)現(xiàn)231
4.5.1 加載訓(xùn)練數(shù)據(jù)集 231
4.5.2 模型訓(xùn)練 233
4.5.3 模型的保存與恢復(fù)239
4.6 驅(qū)動(dòng)范例 241
4.6.1 加載依賴包241
4.6.2 加載并顯示內(nèi)容圖像和
風(fēng)格圖像 242
4.6.3 創(chuàng)建輸入圖像 243
4.6.4 定義并計(jì)算損失函數(shù) 244
4.6.5 構(gòu)建風(fēng)格遷移算法247
XXII
4.6.6 風(fēng)格遷移算法運(yùn)行248
4.7 本章小結(jié) 249
習(xí)題 249
第 5 章 編程框架原理 250
5.1 編程框架設(shè)計(jì) 250
5.1.1 設(shè)計(jì)原則 250
5.1.2 整體架構(gòu) 251
5.2 計(jì)算圖構(gòu)建 252
5.2.1 正向計(jì)算圖構(gòu)建 253
5.2.2 反向計(jì)算圖構(gòu)建 256
5.3 計(jì)算圖執(zhí)行 260
5.3.1 設(shè)備管理 260
5.3.2 張量實(shí)現(xiàn) 262
5.3.3 算子執(zhí)行 269
*5.4 深度學(xué)習(xí)編譯 278
5.4.1 為什么需要深度學(xué)習(xí)編譯 278
5.4.2 圖層級(jí)編譯優(yōu)化 281
5.4.3 算子層級(jí)編譯優(yōu)化287
5.4.4 常見(jiàn)深度學(xué)習(xí)編譯器 294
*5.5 分布式訓(xùn)練299
5.5.1 為什么需要分布式訓(xùn)練 300
5.5.2 分布式訓(xùn)練基礎(chǔ) 300
5.5.3 分布式訓(xùn)練方法 305
5.5.4 分布式訓(xùn)練框架實(shí)現(xiàn) 312
5.6 本章小結(jié) 318
習(xí)題 319
第 6 章 面向深度學(xué)習(xí)的處理器原理320
6.1 通用處理器 320
6.1.1 通用處理器的執(zhí)行原理 321
6.1.2 通用處理器的結(jié)構(gòu)發(fā)展 323
6.1.3 通用處理器分析和優(yōu)化 339
6.1.4 總結(jié)和討論346
6.2 向量處理器 347
6.2.1 向量處理器的執(zhí)行原理 347
6.2.2 向量處理器的結(jié)構(gòu)發(fā)展 352
6.2.3 向量處理器分析和優(yōu)化 359
6.2.4 總結(jié)和討論363
6.3 深度學(xué)習(xí)處理器364
6.3.1 深度學(xué)習(xí)處理器的執(zhí)行
原理364
6.3.2 深度學(xué)習(xí)處理器的結(jié)構(gòu)
發(fā)展376
6.3.3 總結(jié)和討論382
6.4 大規(guī)模深度學(xué)習(xí)處理器382
6.4.1 一致性訪存模型 383
6.4.2 非一致性訪存模型384
6.4.3 分形計(jì)算模型 386
6.4.4 深度學(xué)習(xí)處理器示例 386
6.5 本章小結(jié) 387
習(xí)題 387
第 7 章 深度學(xué)習(xí)處理器架構(gòu).389
7.1 計(jì)算389
7.1.1 矩陣運(yùn)算單元 390
7.1.2 向量與標(biāo)量單元 400
7.1.3 總結(jié)和討論408
7.2 存儲(chǔ)409
7.2.1 便箋存儲(chǔ)器409
7.2.2 外部存儲(chǔ)器訪問(wèn) 412
7.2.3 總結(jié)和討論417
7.3 通信418
7.3.1 互聯(lián)網(wǎng)絡(luò) 419
7.3.2 集合通信原語(yǔ) 420
7.3.3 通信架構(gòu)設(shè)計(jì) 424
7.3.4 總結(jié)和討論426
*7.4 設(shè)計(jì)優(yōu)化 426
7.4.1 變換427
XXIII
7.4.2 壓縮429
7.4.3 近似431
7.4.4 非傳統(tǒng)結(jié)構(gòu)和器件434
7.5 本章小結(jié) 437
習(xí)題 437
第 8 章 智能編程語(yǔ)言 439
8.1 為什么需要智能編程語(yǔ)言439
8.1.1 語(yǔ)義鴻溝 440
8.1.2 硬件鴻溝 442
8.1.3 平臺(tái)鴻溝 445
8.1.4 小結(jié)445
8.2 智能計(jì)算系統(tǒng)抽象架構(gòu)446
8.2.1 抽象硬件架構(gòu) 447
8.2.2 典型智能計(jì)算系統(tǒng)447
8.2.3 控制模型 448
8.2.4 存儲(chǔ)模型 449
8.2.5 計(jì)算模型 450
8.3 智能編程模型 450
8.3.1 異構(gòu)編程 450
8.3.2 多核并行 452
8.3.3 存儲(chǔ)空間 454
8.4 智能編程語(yǔ)言基礎(chǔ) 455
8.4.1 語(yǔ)法概述 455
8.4.2 內(nèi)建變量與內(nèi)建函數(shù) 457
8.4.3 BCL 程序示例458
8.5 智能應(yīng)用編程接口 459
8.5.1 核函數(shù)接口459
8.5.2 運(yùn)行時(shí)接口460
8.5.3 使用示例 462
8.6 智能應(yīng)用功能調(diào)試 465
8.6.1 功能調(diào)試方法 465
8.6.2 功能調(diào)試接口 470
8.6.3 功能調(diào)試工具 472
8.6.4 精度調(diào)試方法 474
8.6.5 功能調(diào)試實(shí)踐 476
8.7 智能應(yīng)用性能調(diào)優(yōu) 483
8.7.1 性能分析工具 483
8.7.2 性能調(diào)優(yōu)方法 489
8.8 智能編程語(yǔ)言的應(yīng)用 495
8.8.1 高性能算子開(kāi)發(fā) 496
8.8.2 編程框架算子開(kāi)發(fā)502
8.9 本章小結(jié) 509
習(xí)題 509
第 9 章 大模型計(jì)算系統(tǒng)511
9.1 大模型算法分析512
9.2 大模型驅(qū)動(dòng)范例：BLOOM 516
9.2.1 BLOOM-176B 模型 516
9.2.2 BLOOM-176B 運(yùn)行平臺(tái)517
9.2.3 BLOOM-176B 計(jì)算過(guò)程及
分析518
9.3 大模型系統(tǒng)軟件524
9.3.1 訓(xùn)練場(chǎng)景 525
9.3.2 推理場(chǎng)景 530
9.4 大模型基礎(chǔ)硬件534
9.4.1 大模型計(jì)算節(jié)點(diǎn) 534
9.4.2 大模型計(jì)算集群 538
9.5 本章小結(jié) 541
習(xí)題 541
參考文獻(xiàn) 544
后記566
展開(kāi)全部
智能計(jì)算系統(tǒng) 從深度學(xué)習(xí)到大模型 第2版 相關(guān)資料
陳國(guó)良 中國(guó)科學(xué)院院士 中國(guó)科學(xué)技術(shù)大學(xué)教授，首屆全國(guó)高校教學(xué)名師 陳云霽等人梳理了深度學(xué)習(xí)和大模型等人工智能技術(shù)對(duì)計(jì)算系統(tǒng)的需求，開(kāi)創(chuàng)了我國(guó)第一門講授當(dāng)代智能計(jì)算系統(tǒng)的課程，編寫了我國(guó)第一本智能計(jì)算系統(tǒng)教材。這套課程和教材應(yīng)用在我國(guó)百所高校的教學(xué)中，對(duì)我國(guó)人工智能人才培養(yǎng)產(chǎn)生了廣泛而深遠(yuǎn)的影響。 李國(guó)杰 中國(guó)工程院院士 中國(guó)計(jì)算機(jī)學(xué)會(huì)名譽(yù)理事長(zhǎng)，中國(guó)科學(xué)技術(shù)大學(xué)計(jì)算機(jī)學(xué)院原院長(zhǎng) 這本教材采用“應(yīng)用驅(qū)動(dòng)，全棧貫通”的原則，以“圖像風(fēng)格遷移”這一具體的智能應(yīng)用為牽引，對(duì)智能計(jì)算系統(tǒng)各層軟硬件技術(shù)棧的奧妙和聯(lián)系進(jìn)行精確、扼要的介紹，使學(xué)生對(duì)系統(tǒng)全貌有深刻印象，達(dá)到舉一反三、觸類旁通的效果。 孫凝暉 中國(guó)工程院院士 中國(guó)計(jì)算機(jī)學(xué)會(huì)理事長(zhǎng)、中國(guó)科學(xué)院學(xué)術(shù)委員會(huì)主任，中國(guó)科學(xué)院大學(xué)計(jì)算機(jī)學(xué)院院長(zhǎng) 計(jì)算所的學(xué)科優(yōu)勢(shì)是計(jì)算機(jī)系統(tǒng)與算法。計(jì)算所智能處理器研究中心在智能方向打通了系統(tǒng)與算法，再將這些科研優(yōu)勢(shì)輻射到教學(xué)，寫出了這本代表計(jì)算所學(xué)派特色的教材。讀者從中不僅能學(xué)到知識(shí)，也能一窺計(jì)算所做學(xué)問(wèn)的方法。 張宏江 美國(guó)工程院外籍院士 北京智源人工智能研究院首任理事長(zhǎng) 人工智能是一個(gè)高速發(fā)展的科研領(lǐng)域和創(chuàng)新產(chǎn)業(yè)，因此，寫好人工智能教材是一項(xiàng)非常大的挑戰(zhàn)，需要走在科研前沿的研究者。作為北京智源研究院智能體系結(jié)構(gòu)方向的首席科學(xué)家，陳云霽研究員及其同事編寫的這本教材，深入淺出地介紹了當(dāng)代機(jī)器學(xué)習(xí)計(jì)算系統(tǒng)軟硬件技術(shù)棧的知識(shí)，其系統(tǒng)性、全面性在國(guó)內(nèi)外都非常難得，值得每位人工智能方向的讀者閱讀。 張亞勤 中國(guó)工程院外籍院士 清華大學(xué)智能產(chǎn)業(yè)研究院院長(zhǎng) AI給傳統(tǒng)的計(jì)算體系帶來(lái)了巨大的顛覆，芯片、架構(gòu)、框架、編程語(yǔ)言、算法和理論都需要整體的重構(gòu)。作者深層次、全棧性地解析了AI的關(guān)鍵理論和技術(shù)，又通過(guò)圖像風(fēng)格遷移實(shí)例生動(dòng)地演示了AI實(shí)踐。這是一本好書，尤其適合作為高年級(jí)本科生/研究生的教材和科技人員的參考書，我大力推薦！ 鄭南寧 中國(guó)工程院院士 西安交通大學(xué)原校長(zhǎng) 智能計(jì)算系統(tǒng)是支撐大模型等下一代人工智能技術(shù)發(fā)展的不可或缺的載體。本書作為我國(guó)第一本講授當(dāng)代智能計(jì)算系統(tǒng)完整技術(shù)體系的教材，既有深度也有廣度，對(duì)于人工智能專業(yè)人才的培養(yǎng)具有重要價(jià)值，同時(shí)也是一份不可多得的學(xué)習(xí)資料，值得從事人工智能基礎(chǔ)軟硬件研究的工程師和研究人員閱讀。 鄭緯民 中國(guó)工程院院士 中國(guó)計(jì)算機(jī)學(xué)會(huì)原理事長(zhǎng)，清華大學(xué)計(jì)算機(jī)系教授 本書對(duì)人工智能軟硬件技術(shù)棧（包括智能算法、智能編程框架、智能芯片結(jié)構(gòu)、智能編程語(yǔ)言等）進(jìn)行了全方位、系統(tǒng)性的介紹，內(nèi)容深入淺出，非常適合培養(yǎng)學(xué)生的系統(tǒng)思維。到目前為止，國(guó)內(nèi)外少有同類書。本書適合作為高等院校相關(guān)專業(yè)的教材，對(duì)于人工智能相關(guān)科研和產(chǎn)業(yè)人員，本書也是很好的參考書。 周志華 歐洲科學(xué)院院士 國(guó)際人工智能聯(lián)合會(huì)理事會(huì)主席，南京大學(xué)計(jì)算機(jī)系主任兼人工智能學(xué)院院長(zhǎng) 本書覆蓋了神經(jīng)網(wǎng)絡(luò)基礎(chǔ)算法、深度學(xué)習(xí)編程框架、芯片體系結(jié)構(gòu)等，是國(guó)內(nèi)第一本關(guān)于深度學(xué)習(xí)計(jì)算系統(tǒng)的書籍。主要作者是寒武紀(jì)深度學(xué)習(xí)處理器基礎(chǔ)研究的開(kāi)拓者，基于一流科研水平成書，值得期待。
智能計(jì)算系統(tǒng) 從深度學(xué)習(xí)到大模型 第2版 作者簡(jiǎn)介
陳云霽 中國(guó)科學(xué)院計(jì)算技術(shù)研究所副所長(zhǎng)、研究員、博導(dǎo)，處理器芯片全國(guó)重點(diǎn)實(shí)驗(yàn)室主任，中國(guó)科學(xué)院大學(xué)崗位教授，中國(guó)計(jì)算機(jī)學(xué)會(huì)體系結(jié)構(gòu)專委會(huì)主任。他帶領(lǐng)團(tuán)隊(duì)研制了國(guó)際上首個(gè)深度學(xué)習(xí)處理器芯片“寒武紀(jì)1號(hào)”，相關(guān)成果兩獲計(jì)算機(jī)體系結(jié)構(gòu)頂級(jí)國(guó)際會(huì)議最佳論文獎(jiǎng)，并已應(yīng)用在上億臺(tái)智能手機(jī)和服務(wù)器中。他的學(xué)術(shù)論文受五大洲、三十個(gè)國(guó)家、數(shù)百個(gè)知名機(jī)構(gòu)廣泛跟蹤引用。他被Science雜志刊文評(píng)價(jià)為深度學(xué)習(xí)處理器的“先驅(qū)”和“引領(lǐng)者”，并獲我國(guó)處理器芯片領(lǐng)域迄今為止唯一的國(guó)家自然科學(xué)二等獎(jiǎng)（第一完成人）。他還曾獲國(guó)家杰出青年科學(xué)基金、全國(guó)五一勞動(dòng)獎(jiǎng)?wù)隆⒅袊?guó)青年五四獎(jiǎng)?wù)隆⑷珖?guó)創(chuàng)新?tīng)?zhēng)先獎(jiǎng)、何梁何利基金科學(xué)與技術(shù)創(chuàng)新獎(jiǎng)、“青年長(zhǎng)江學(xué)者”，并被MIT Technology Review 評(píng)為全球35位杰出青年創(chuàng)新者（2015
年度）。
趙永威 中國(guó)科學(xué)院計(jì)算技術(shù)研究所副研究員。研究方向?yàn)橹悄芴幚砥黧w系結(jié)構(gòu)。在ISCA、MICRO、Proc. IEEE等會(huì)議和期刊上發(fā)表學(xué)術(shù)論文20篇。曾獲得中國(guó)計(jì)算機(jī)學(xué)會(huì)優(yōu)秀博士學(xué)位論文獎(jiǎng)、MICRO 2022最佳論文Runner-up獎(jiǎng)。陳云霽 中國(guó)科學(xué)院計(jì)算技術(shù)研究所副所長(zhǎng)、研究員、博導(dǎo)，處理器芯片全國(guó)重點(diǎn)實(shí)驗(yàn)室主任，中國(guó)科學(xué)院大學(xué)崗位教授，中國(guó)計(jì)算機(jī)學(xué)會(huì)體系結(jié)構(gòu)專委會(huì)主任。他帶領(lǐng)團(tuán)隊(duì)研制了國(guó)際上首個(gè)深度學(xué)習(xí)處理器芯片“寒武紀(jì)1號(hào)”，相關(guān)成果兩獲計(jì)算機(jī)體系結(jié)構(gòu)頂級(jí)國(guó)際會(huì)議最佳論文獎(jiǎng)，并已應(yīng)用在上億臺(tái)智能手機(jī)和服務(wù)器中。他的學(xué)術(shù)論文受五大洲、三十個(gè)國(guó)家、數(shù)百個(gè)知名機(jī)構(gòu)廣泛跟蹤引用。他被Science雜志刊文評(píng)價(jià)為深度學(xué)習(xí)處理器的“先驅(qū)”和“引領(lǐng)者”，并獲我國(guó)處理器芯片領(lǐng)域迄今為止唯一的國(guó)家自然科學(xué)二等獎(jiǎng)（第一完成人）。他還曾獲國(guó)家杰出青年科學(xué)基金、全國(guó)五一勞動(dòng)獎(jiǎng)?wù)隆⒅袊?guó)青年五四獎(jiǎng)?wù)隆⑷珖?guó)創(chuàng)新?tīng)?zhēng)先獎(jiǎng)、何梁何利基金科學(xué)與技術(shù)創(chuàng)新獎(jiǎng)、“青年長(zhǎng)江學(xué)者”，并被MIT Technology Review 評(píng)為全球35位杰出青年創(chuàng)新者（2015
年度）。
李玲 中國(guó)科學(xué)院軟件研究所研究員、博導(dǎo)，CCF高級(jí)會(huì)員，IEEE Senior Member。研究方向?yàn)橹悄苡?jì)算。在相關(guān)領(lǐng)域出版中文教材2本、英文教材1本，發(fā)表30多篇CCF A類期刊和會(huì)議論文。曾獲得CCF A類會(huì)議MICRO 2014最佳論文獎(jiǎng)（該會(huì)議五十年來(lái)唯一一次美國(guó)以外國(guó)家獲此獎(jiǎng)）、中國(guó)科學(xué)院杰出科技成就獎(jiǎng)等獎(jiǎng)勵(lì)。作為負(fù)責(zé)人主持過(guò)多項(xiàng)國(guó)家自然科學(xué)基金項(xiàng)目、國(guó)家重點(diǎn)研發(fā)計(jì)劃課題、中國(guó)科學(xué)院先導(dǎo)C類專項(xiàng)課題等。
趙永威 中國(guó)科學(xué)院計(jì)算技術(shù)研究所副研究員。研究方向?yàn)橹悄芴幚砥黧w系結(jié)構(gòu)。在ISCA、MICRO、Proc. IEEE等會(huì)議和期刊上發(fā)表學(xué)術(shù)論文20篇。曾獲得中國(guó)計(jì)算機(jī)學(xué)會(huì)優(yōu)秀博士學(xué)位論文獎(jiǎng)、MICRO 2022最佳論文Runner-up獎(jiǎng)。
李威 中國(guó)科學(xué)院計(jì)算技術(shù)研究所副研究員。研究方向?yàn)楦咝阅苤悄苡?jì)算系統(tǒng)設(shè)計(jì)技術(shù)。作為負(fù)責(zé)人或骨干承擔(dān)了國(guó)家重點(diǎn)研發(fā)計(jì)劃課題、國(guó)家科技重大專項(xiàng)項(xiàng)目、國(guó)家自然科學(xué)基金、中國(guó)科學(xué)院戰(zhàn)略性先導(dǎo)課題等。作為核心成員參與了多款深度學(xué)習(xí)處理器的研發(fā)，發(fā)表或錄用學(xué)術(shù)論文30余篇，出版專著三部。
郭崎 中國(guó)科學(xué)院計(jì)算技術(shù)研究所研究員。長(zhǎng)期從事計(jì)算機(jī)體系結(jié)構(gòu)及人工智能相關(guān)研究。發(fā)表50余篇CCF A類期刊和會(huì)議論文。入選國(guó)家級(jí)青年人才，曾獲得國(guó)家自然科學(xué)二等獎(jiǎng)、中國(guó)科學(xué)院青年科學(xué)家獎(jiǎng)、中國(guó)科學(xué)院杰出科技成就獎(jiǎng)等。
文淵博 中國(guó)科學(xué)院計(jì)算技術(shù)研究所助理研究員。研究方向?yàn)橹悄芴幚砥黧w系結(jié)構(gòu)和系統(tǒng)軟件。深度參與多款深度學(xué)習(xí)處理器的系統(tǒng)軟件研發(fā)工作，在ASPLOS、MICRO、ICML、NeurIPS等頂級(jí)會(huì)議和期刊上發(fā)表論文10余篇。
張蕊 中國(guó)科學(xué)院計(jì)算技術(shù)研究所副研究員。研究方向?yàn)樯疃葘W(xué)習(xí)和處理器設(shè)計(jì)智能化，長(zhǎng)期從事人工智能算法和軟硬件協(xié)同相關(guān)的研究工作。先后在人工智能相關(guān)領(lǐng)域的國(guó)際頂級(jí)期刊和會(huì)議（包括IEEE Trans. on PAMI、NeurIPS、ICML、CVPR、ICCV、ICLR、AAAI、IJCAI等）上發(fā)表論文40余篇，申請(qǐng)專利20余項(xiàng)。多次榮獲中國(guó)科學(xué)院計(jì)算技術(shù)研究所優(yōu)秀科研人員稱號(hào)。
書友推薦
- >
經(jīng)典常談
- >
推拿
- >
龍榆生：詞曲概論/大家小書
- >
伊索寓言-世界文學(xué)名著典藏-全譯本
- >
我從未如此眷戀人間
- >
上帝之肋:男人的真實(shí)旅程
- >
姑媽的寶刀
- >
【精裝繪本】畫給孩子的中國(guó)神話
本類暢銷
