中图网(原中国图书网):网上书店,尾货特色书店,30万种特价书低至2折!

歡迎光臨中圖網(wǎng) 請 | 注冊
> >
深度學(xué)習(xí)高手筆記 卷1 基礎(chǔ)算法

包郵 深度學(xué)習(xí)高手筆記 卷1 基礎(chǔ)算法

出版社:人民郵電出版社出版時間:2022-11-01
開本: 16開 頁數(shù): 272
中 圖 價:¥76.9(7.0折) 定價  ¥109.8 登錄后可看到會員價
加入購物車 收藏
開年大促, 全場包郵
?新疆、西藏除外
本類五星書更多>
買過本商品的人還買了

深度學(xué)習(xí)高手筆記 卷1 基礎(chǔ)算法 版權(quán)信息

深度學(xué)習(xí)高手筆記 卷1 基礎(chǔ)算法 本書特色

有別于以卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)等基礎(chǔ)概念為核心的同類書籍,本書梳理了近10年來深度學(xué)習(xí)方向誕生的算法,從算法理論、算法源碼、實驗結(jié)果等方面對算法進(jìn)行分析和介紹,重點討論深度學(xué)習(xí)在卷積神經(jīng)網(wǎng)絡(luò)、自然語言處理、模型優(yōu)化等方向的發(fā)展歷程以及各個算法的優(yōu)缺點,分析各個算法是如何針對先前算法的若干問題提出解決方案的。 本書共三篇,**篇卷積神經(jīng)網(wǎng)絡(luò),從基礎(chǔ)骨干網(wǎng)絡(luò)、輕量級CNN、模型架構(gòu)搜索3個方向展開,介紹計算機(jī)視覺方向的里程碑算法;第二篇自然語言處理,介紹基礎(chǔ)序列模型和模型預(yù)訓(xùn)練;第三篇模型優(yōu)化,介紹模型優(yōu)化方法。

深度學(xué)習(xí)高手筆記 卷1 基礎(chǔ)算法 內(nèi)容簡介

本書通過扎實、詳細(xì)的內(nèi)容和清晰的結(jié)構(gòu),從算法理論、算法源碼、實驗結(jié)果等方面對深度學(xué)習(xí)算法進(jìn)行分析和介紹。本書共三篇,**篇主要介紹深度學(xué)習(xí)在計算機(jī)視覺方向的一些卷積神經(jīng)網(wǎng)絡(luò),從基礎(chǔ)骨干網(wǎng)絡(luò)、輕量級 CNN、模型架構(gòu)搜索 3 個方向展開,介紹計算機(jī)視覺方向的里程碑算法;第二篇主要介紹深度學(xué)習(xí)在自然語言處理方向的重要突破,包括基礎(chǔ)序列模型和模型預(yù)訓(xùn)練;第三篇主要介紹深度學(xué)習(xí)在模型優(yōu)化上的進(jìn)展,包括模型優(yōu)化方法。 通過閱讀本書,讀者可以深入理解主流的深度學(xué)習(xí)基礎(chǔ)算法,搭建起自己的知識體系,領(lǐng)會算法的本質(zhì),學(xué)習(xí)模型優(yōu)化方法。無論是從事深度學(xué)習(xí)科研的教師及學(xué)生,還是從事算法落地實踐的工作人員,都能從本書中獲益。

深度學(xué)習(xí)高手筆記 卷1 基礎(chǔ)算法 目錄

第 一篇 卷積神經(jīng)網(wǎng)絡(luò)


第 1章 基礎(chǔ)骨干網(wǎng)絡(luò) 3


1.1 起源:LeNet-5和AlexNet 4


1.1.1 從LeNet-5開始4


1.1.2 覺醒:AlexNet 6


1.2 更深:VGG 11


1.2.1 VGG介紹11


1.2.2 VGG的訓(xùn)練和測試 13


1.3 更寬:GoogLeNet14


1.3.1 背景知識14


1.3.2 Inception v117


1.3.3 GoogLeNet 19


1.3.4 Inception v219


1.3.5 Inception v320


1.3.6 Inception v421


1.3.7 Inception-ResNet23


1.4 跳躍連接:ResNet 26


1.4.1 殘差網(wǎng)絡(luò) 26


1.4.2 殘差網(wǎng)絡(luò)背后的原理 28


1.4.3 殘差網(wǎng)絡(luò)與模型集成 33


1.5 注意力:SENet 33


1.5.1 SE塊 33


1.5.2 SE-Inception 和 SE-ResNet34


1.5.3 SENet 的復(fù)雜性分析 35


1.5.4 小結(jié) 35


1.6 更密:DenseNet 36


1.6.1 DenseNet 算法解析及源碼實現(xiàn)37


1.6.2 壓縮層 38


1.6.3 小結(jié) 38


1.7 模型集成:DPN 39


1.7.1 高階 RNN、DenseNet 和殘差網(wǎng)絡(luò)39


1.7.2 DPN 詳解41


1.7.3 小結(jié).42


1.8 像素向量:iGPT 43


1.8.1 iGPT 詳解44


1.8.2 實驗結(jié)果分析48


1.8.3 小結(jié) 49


1.9 Visual Transformer 之 Swin Transformer 49


1.9.1 網(wǎng)絡(luò)結(jié)構(gòu)詳解50


1.9.2 Swin Transformer 家族59


1.9.3 小結(jié).60


1.10 Vision Transformer 之 CSWin Transformer60


1.10.1 CSWin Transformer 概述61


1.10.2 十字形窗口自注意力機(jī)制61


1.10.3 局部加強位置編碼 62


1.10.4 CSWin Transformer 塊63


1.10.5 CSWin Transformer 的復(fù)雜度 63


1.10.6 小結(jié) 64


1.11 MLP :MLP-Mixer 64


1.11.1 網(wǎng)絡(luò)結(jié)構(gòu) 64


1.11.2 討論 67


第 2 章 輕量級 CNN68


2.1 SqueezeNet 68


2.1.1 SqueezeNet 的壓縮策略 69


2.1.2 點火模塊 69


2.1.3 SqueezeNet 的網(wǎng)絡(luò)結(jié)構(gòu) 70


2.1.4 SqueezeNet 的性能 72


2.1.5 小結(jié) 72


2.2 MobileNet v1 和 MobileNet v2 73


2.2.1 MobileNet v1 73


2.2.2 MobileNet v2 77


2.2.3 小結(jié) 79


2.3 Xception 80


2.3.1 Inception 回顧 80


2.3.2 Xception 詳解 81


2.3.3 小結(jié) 82


2.4 ResNeXt 82


2.4.1 從全連接講起83


2.4.2 簡化 Inception 83


2.4.3 ResNeXt 詳解84


2.4.4 分組卷積 84


2.4.5 小結(jié) 85


2.5 ShuffleNet v1 和 ShuffleNet v2 85


2.5.1 ShuffleNet v185


2.5.2 ShuffleNet v288


2.5.3 小結(jié) 92


2.6 CondenseNet 92


2.6.1 分組卷積的問題 93


2.6.2 可學(xué)習(xí)分組卷積 93


2.6.3 架構(gòu)設(shè)計 96


2.6.4 小結(jié) 96


第 3 章 模型架構(gòu)搜索 97


3.1 PolyNet 97


3.1.1 結(jié)構(gòu)多樣性98


3.1.2 多項式模型98


3.1.3 對照實驗 100


3.1.4 Very Deep PolyNet 101


3.1.5 小結(jié)102


3.2 NAS 103


3.2.1 NAS-CNN103


3.2.2 NAS-RNN106


3.2.3 小結(jié) 108


3.3 NASNet 108


3.3.1 NASNet 控制器 109


3.3.2 NASNet 的強化學(xué)習(xí)110


3.3.3 計劃 DropPath110


3.3.4 其他超參數(shù)111


3.3.5 小結(jié) 111


3.4 PNASNet 112


3.4.1 更小的搜索空間 112


3.4.2 SMBO 113


3.4.3 代理函數(shù) 114


3.4.4 PNASNet 的實驗結(jié)果115


3.4.5 小結(jié) 116


3.5 AmoebaNet 116


3.5.1 搜索空間 117


3.5.2 年齡進(jìn)化 118


3.5.3 AmoebaNet 的網(wǎng)絡(luò)結(jié)構(gòu)120


3.5.4 小結(jié) 121


3.6 MnasNet 121


3.6.1 優(yōu)化目標(biāo) 122


3.6.2 搜索空間 124


3.6.3 優(yōu)化策略 125


3.6.4 小結(jié) 126


3.7 MobileNet v3 126


3.7.1 參考結(jié)構(gòu) 127


3.7.2 網(wǎng)絡(luò)搜索 127


3.7.3 人工設(shè)計 129


3.7.4 修改 SE 塊 131


3.7.5 Lite R-ASPP 132


3.7.6 小結(jié) 133


3.8 EfficientNet v1 133


3.8.1 背景知識 133


3.8.2 EfficientNet v1 詳解135


3.8.3 小結(jié) 137


3.9 EfficientNet v2 137


3.9.1 算法動機(jī) 137


3.9.2 EfficientNet v2 詳解139


3.10 RegNet 141


3.10.1 設(shè)計空間 141


3.10.2 RegNet 詳解 145


3.10.3 小結(jié) 151


第二篇  自然語言處理


第 4 章 基礎(chǔ)序列模型 155


4.1 LSTM 和 GRU 155


4.1.1 序列模型的背景 155


4.1.2 LSTM 157


4.1.3 GRU 159


4.1.4 其他 LSTM 159


4.2 注意力機(jī)制 160


4.2.1 機(jī)器翻譯的注意力機(jī)制160


4.2.2 圖解注意力機(jī)制 161


4.2.3 經(jīng)典注意力模型 166


4.2.4 小結(jié) 170


4.3 Transformer 170


4.3.1 Transformer 詳解171


4.3.2 位置嵌入 177


4.3.3 小結(jié) 178


4.4 Transformer-XL 179


4.4.1 Transformer 的缺點 179


4.4.2 相對位置編碼181


4.4.3 Transformer-XL 詳解 183


4.4.4 小結(jié) 185


第 5 章 模型預(yù)訓(xùn)練 186


5.1 RNN 語言模型 187


5.1.1 語言模型中的 RNN187


5.1.2 訓(xùn)練數(shù)據(jù) 188


5.1.3 訓(xùn)練細(xì)節(jié) 188


5.2 ELMo 189


5.2.1 雙向語言模型189


5.2.2 ELMo 詳解191


5.2.3 應(yīng)用 ELMo 到下游任務(wù)192


5.2.4 小結(jié).192


5.3 GPT-1、GPT-2 和 GPT-3 192


5.3.1 GPT-1:無監(jiān)督學(xué)習(xí)193


5.3.2 GPT-2:多任務(wù)學(xué)習(xí)196


5.3.3 GPT-3:海量參數(shù)197


5.3.4 小結(jié) 200


5.4 BERT 200


5.4.1 BERT 詳解 201


5.4.2 小結(jié) 205


5.5 BERT“魔改”之 RoBERTa、ALBERT、MT-DNN 和 XLM 205


5.5.1 成熟版 BERT :RoBERTa 206


5.5.2 更快的 BERT :ALBERT 207


5.5.3 多任務(wù) BERT :MT-DNN 207


5.5.4 多語言 BERT :XLM 209


5.5.5 小結(jié)211


5.6 XLNet 211


5.6.1 背景知識.212


5.6.2 XLNet 詳解213


5.6.3 小結(jié).216


5.7 ERNIE(清華大學(xué)) 216


5.7.1 加入知識圖譜的動機(jī)217


5.7.2 異構(gòu)信息融合217


5.7.3 DAE.220


5.7.4 ERNIE-T 的微調(diào)220


5.7.5 小結(jié)221


5.8 ERNIE(百度)和 ERNIE 2.0 221


5.8.1 ERNIE-B222


5.8.2 ERNIE 2.0.223


5.8.3 小結(jié)226


第三篇  模型優(yōu)化


第 6 章 模型優(yōu)化方法229


6.1 Dropout 230


6.1.1 什么是 Dropout.230


6.1.2 Dropout 的數(shù)學(xué)原理231


6.1.3 Dropout 是一個正則網(wǎng)絡(luò)232


6.1.4 CNN 的 Dropout232


6.1.5 RNN 的 Dropout233


6.1.6 Dropout 的變體234


6.1.7 小結(jié).236


6.2 BN 237


6.2.1 BN 詳解237


6.2.2 BN 的背后原理240


6.2.3 小結(jié).243


6.3 LN .243


6.3.1 BN 的問題.244


6.3.2 LN 詳解.244


6.3.3 對照實驗245


6.3.4 小結(jié)247


6.4 WN 247


6.4.1 WN 的計算247


6.4.2 WN 的原理248


6.4.3 BN 和 WN 的關(guān)系249


6.4.4 WN 的參數(shù)初始化249


6.4.5 均值 BN.249


6.4.6 小結(jié) 249


6.5 IN 250


6.5.1 IST 中的 IN250


6.5.2 IN 與 BN 對比250


6.5.3 TensorFlow 中的 IN.251


6.5.4 小結(jié).252


6.6 GN 252


6.6.1 GN 算法252


6.6.2 GN 的源碼253


6.6.3 GN 的原理253


6.6.4 小結(jié) 253


6.7 SN 254


6.7.1 SN 詳解.254


6.7.2 SN 的優(yōu)點.256


6.7.3 小結(jié) 256

展開全部

深度學(xué)習(xí)高手筆記 卷1 基礎(chǔ)算法 作者簡介

劉巖, 澳門大學(xué)計算機(jī)科學(xué)專業(yè)碩士, 目前就職于京東零售-技術(shù)與數(shù)據(jù)中心。在學(xué)生期間從事人工智能相關(guān)研究,發(fā)表多篇計算機(jī)視覺、自然語言處理等方向的專利和學(xué)術(shù)論文。畢業(yè)后從事深度學(xué)習(xí)相關(guān)工作,擅長前沿人工智能算法的原理分析和應(yīng)用落地,擅長計算機(jī)視覺、自然語言處理等方向的技術(shù), 先后參與并負(fù)責(zé)了多個深度學(xué)習(xí)算法在不同場景的業(yè)務(wù)落地,如光學(xué)字符識別、公式識別、人臉識別、手勢識別、視頻摳像、文本分類/命名實體識別、預(yù)訓(xùn)練語言模型、語音識別、圖神經(jīng)網(wǎng)絡(luò)等。目前主要負(fù)責(zé)電商場景下預(yù)訓(xùn)練語言模型的研發(fā)以及輿情風(fēng)險的智能識別與治理。他的知乎賬號: 大師兄。

商品評論(0條)
暫無評論……
書友推薦
本類暢銷
返回頂部
中圖網(wǎng)
在線客服
主站蜘蛛池模板: 葡萄酒灌装机-食用油灌装机-液体肥灌装设备厂家_青州惠联灌装机械 | 色油机-色母机-失重|称重式混料机-称重机-米重机-拌料机-[东莞同锐机械]精密计量科技制造商 | 不锈钢螺丝 - 六角螺丝厂家 - 不锈钢紧固件 - 万千紧固件--紧固件一站式采购 | 干式磁选机_湿式磁选机_粉体除铁器-潍坊国铭矿山设备有限公司 | 拉力测试机|材料拉伸试验机|电子拉力机价格|万能试验机厂家|苏州皖仪实验仪器有限公司 | 电表箱-浙江迈峰电力设备有限公司-电表箱专业制造商 | 安全,主动,被动,柔性,山体滑坡,sns,钢丝绳,边坡,防护网,护栏网,围栏,栏杆,栅栏,厂家 - 护栏网防护网生产厂家 | 天津热油泵_管道泵_天津高温热油泵-天津市金丰泰机械泵业有限公司【官方网站】 | 有福网(yofus.com)洗照片冲印,毕业聚会纪念册相册制作个性DIY平台 | 不干胶标签-不干胶贴纸-不干胶标签定制-不干胶标签印刷厂-弗雷曼纸业(苏州)有限公司 | 铁素体测量仪/检测仪/铁素体含量测试仪-苏州圣光仪器有限公司 | 水平垂直燃烧试验仪-灼热丝试验仪-漏电起痕试验仪-针焰试验仪-塑料材料燃烧检测设备-IP防水试验机 | 塑料薄膜_PP薄膜_聚乙烯薄膜-常州市鑫美新材料包装厂 | 营养师网,营养师考试时间,报名入口—网站首页 | 超细粉碎机|超微气流磨|气流分级机|粉体改性设备|超微粉碎设备-山东埃尔派粉碎机厂家 | 旗杆生产厂家_不锈钢锥形旗杆价格_铝合金电动旗杆-上海锥升金属科技有限公司 | 减速机_上海宜嘉减速机| 工业洗衣机_工业洗涤设备_上海力净工业洗衣机厂家-洗涤设备首页 bkzzy在职研究生网 - 在职研究生招生信息咨询平台 | 档案密集架_电动密集架_移动密集架_辽宁档案密集架-盛隆柜业厂家现货批发销售价格公道 | 自动焊锡机_点胶机_螺丝机-锐驰机器人 | 成都中天自动化控制技术有限公司 | 无轨电动平车_轨道平车_蓄电池电动平车★尽在新乡百特智能转运设备有限公司 | 润滑油加盟_润滑油厂家_润滑油品牌-深圳市沃丹润滑科技有限公司 琉璃瓦-琉璃瓦厂家-安徽盛阳新型建材科技有限公司 | 一体化污水处理设备_生活污水处理设备_全自动加药装置厂家-明基环保 | 活性氧化铝球|氧化铝干燥剂|分子筛干燥剂|氢氧化铝粉-淄博同心材料有限公司 | 门禁卡_智能IC卡_滴胶卡制作_硅胶腕带-卡立方rfid定制厂家 | 环氧乙烷灭菌器_压力蒸汽灭菌器_低温等离子过氧化氢灭菌器 _低温蒸汽甲醛灭菌器_清洗工作站_医用干燥柜_灭菌耗材-环氧乙烷灭菌器_脉动真空压力蒸汽灭菌器_低温等离子灭菌设备_河南省三强医疗器械有限责任公司 | 行业分析:提及郑州火车站附近真有 特殊按摩 ?2025实地踩坑指南 新手如何避坑不踩雷 | 郑州水质检测中心_井水检测_河南废气检测_河南中环嘉创检测 | 乐考网-银行从业_基金从业资格考试_初级/中级会计报名时间_中级经济师 | 帽子厂家_帽子工厂_帽子定做_义乌帽厂_帽厂_制帽厂_帽子厂_浙江高普制帽厂 | 艺术涂料_进口艺术涂料_艺术涂料加盟_艺术涂料十大品牌 -英国蒙太奇艺术涂料 | 冷藏车-东风吸污车-纯电动环卫车-污水净化车-应急特勤保障车-程力专汽厂家-程力专用汽车股份有限公司销售二十一分公司 | 穿线管|波纹穿线管|包塑金属软管|蛇皮管?闵彬专注弱电工程? | 热处理炉-退火炉-回火炉设备厂家-丹阳市电炉厂有限公司 | 河南卓美创业科技有限公司-河南卓美防雷公司-防雷接地-防雷工程-重庆避雷针-避雷器-防雷检测-避雷带-避雷针-避雷塔、机房防雷、古建筑防雷等-山西防雷公司 | 不锈钢电动球阀_气动高压闸阀_旋塞疏水调节阀_全立阀门-来自温州工业阀门巨头企业 | 盘扣式脚手架-附着式升降脚手架-移动脚手架,专ye承包服务商 - 苏州安踏脚手架工程有限公司 | 电子万能试验机_液压拉力试验机_冲击疲劳试验机_材料试验机厂家-济南众标仪器设备有限公司 | 石牌坊价格石牌坊雕刻制作_石雕牌坊牌楼石栏杆厂家_山东嘉祥石雕有限公司 | 淄博不锈钢,淄博不锈钢管,淄博不锈钢板-山东振远合金科技有限公司 |