掃一掃
關注中圖網
官方微博
>
大模型輕量化 模型壓縮與訓練加速
本類五星書更多>
-
>
貨幣大歷史:金融霸權與大國興衰六百年
-
>
(精)方力鈞作品圖錄
-
>
《藏書報》2021合訂本
-
>
(精)中國當代書畫名家作品集·范碩:書法卷+繪畫卷(全2卷)
-
>
(噴繪樓閣版)女主臨朝:武則天的權力之路
-
>
書里掉出來一只狼+狼的故事-全2冊
-
>
奇思妙想創意玩具書(精裝4冊)
大模型輕量化 模型壓縮與訓練加速 版權信息
- ISBN:9787302686002
- 條形碼:9787302686002 ; 978-7-302-68600-2
- 裝幀:暫無
- 冊數:暫無
- 重量:暫無
- 所屬分類:
大模型輕量化 模型壓縮與訓練加速 內容簡介
本書圍繞大模型輕量化這一主題,系統地闡述大模型輕量化的基本理論與實現方法,旨在提升模型的部署效率和計算性能。全書分為3部分,共10章。第1部分(第1~5章),介紹大模型的背景與面臨的問題,以及Transformer和MoE架構的基本原理;重點講解模型壓縮、訓練加速和推理優化等核心技術,包括量化、蒸餾和剪枝等,并通過實際案例驗證其效果。第2部分(第6、7章),重點介紹端側學習與計算引擎優化策略,尤其是動態Batch和異構執行的工程實現。第3部分(第8~10章),針對高性能算子庫與手工算子開發,分別以cuDNN、NEON、CUDA等為代表,揭示算子優化的細節,*后,以國產開源模型DeepSeek-V3為例,展現從訓練到推理的綜合優化方案。
本書提供全面實用的輕量化方法論,結合豐富代碼示例與實踐案例,適合從事大模型開發與優化的工程師,也為研究人員提供深入探討的素材與視角,助力解決大模型訓練與推理中的實際問題。
書友推薦
- >
伯納黛特,你要去哪(2021新版)
- >
莉莉和章魚
- >
月亮與六便士
- >
名家帶你讀魯迅:故事新編
- >
羅庸西南聯大授課錄
- >
大紅狗在馬戲團-大紅狗克里弗-助人
- >
姑媽的寶刀
- >
企鵝口袋書系列·偉大的思想20:論自然選擇(英漢雙語)
本類暢銷