掃一掃
關(guān)注中圖網(wǎng)
官方微博
本類五星書更多>
-
>
全國計算機等級考試最新真考題庫模擬考場及詳解·二級MSOffice高級應(yīng)用
-
>
決戰(zhàn)行測5000題(言語理解與表達)
-
>
軟件性能測試.分析與調(diào)優(yōu)實踐之路
-
>
第一行代碼Android
-
>
JAVA持續(xù)交付
-
>
EXCEL最強教科書(完全版)(全彩印刷)
-
>
深度學(xué)習(xí)
AI安全:技術(shù)與實戰(zhàn) 版權(quán)信息
- ISBN：9787121439261
- 條形碼：9787121439261 ; 978-7-121-43926-1
- 裝幀：一般膠版紙
- 冊數(shù)：暫無
- 重量：暫無
- 所屬分類：>
AI安全:技術(shù)與實戰(zhàn) 本書特色
適讀人群 ：本書適合AI和AI安全領(lǐng)域的研究人員、管理人員，以及需要實戰(zhàn)案例輔助學(xué)習(xí)的廣大愛好者閱讀。● 國內(nèi)首部揭秘AI安全【前沿技術(shù)】圖書，【騰訊安全朱雀實驗室】首著。 ● 前沿【攻擊方法和原理】分析，原汁原味【實戰(zhàn)案例】呈現(xiàn)。 ● 全書涵蓋6大主題14個實戰(zhàn)案例，包括對抗樣本攻擊、數(shù)據(jù)投毒攻擊、模型后門攻擊、預(yù)訓(xùn)練模型安全、AI數(shù)據(jù)隱私竊取、AI應(yīng)用失控風(fēng)險等。 ● 附贈全書實戰(zhàn)代碼，作者在線答疑等增值服務(wù)。 ● 全彩極致印刷，*佳視覺體驗。
AI安全:技術(shù)與實戰(zhàn) 內(nèi)容簡介
本書首先介紹AI 與AI 安全的發(fā)展起源、世界主要經(jīng)濟體的AI 發(fā)展戰(zhàn)略規(guī)劃，給出AI 安全技術(shù)發(fā)展脈絡(luò)和框架，并從AI 安全實戰(zhàn)出發(fā)，重點圍繞對抗樣本、數(shù)據(jù)投毒、模型后門等攻擊技術(shù)進行案例剖析和技術(shù)講解；然后對預(yù)訓(xùn)練模型中的風(fēng)險和防御、AI 數(shù)據(jù)隱私竊取攻擊技術(shù)、AI 應(yīng)用失控的風(fēng)險和防御進行詳細分析，并佐以實戰(zhàn)案例和數(shù)據(jù)；*后對AI 安全的未來發(fā)展進行展望，探討AI 安全的風(fēng)險、機遇、發(fā)展理念和產(chǎn)業(yè)構(gòu)想。本書適合AI 和AI 安全領(lǐng)域的研究人員、管理人員，以及需要實戰(zhàn)案例輔助學(xué)習(xí)的廣大愛好者閱讀。
AI安全:技術(shù)與實戰(zhàn) 目錄
●第1章 AI安全發(fā)展概述●
1.1 AI與安全衍生
1.1.1 AI發(fā)展圖譜
1.1.2 各國AI發(fā)展戰(zhàn)略
1.1.3 AI行業(yè)標準
1.1.4 AI安全的衍生本質(zhì)——科林格里奇困境
1.2 AI安全技術(shù)發(fā)展脈絡(luò)
●第2章 對抗樣本攻擊●
2.1 對抗樣本攻擊的基本原理
2.1.1 形式化定義與理解
2.1.2 對抗樣本攻擊的分類
2.1.3 對抗樣本攻擊的常見衡量指標
2.2 對抗樣本攻擊技巧與攻擊思路
2.2.1 白盒攻擊算法
2.2.2 黑盒攻擊算法
2.3 實戰(zhàn)案例：語音、圖像、文本識別引擎繞過
2.3.1 語音識別引擎繞過
2.3.2 圖像識別引擎繞過
2.3.3 文本識別引擎繞過
2.4 實戰(zhàn)案例：物理世界中的對抗樣本攻擊
2.4.1 目標檢測原理
2.4.2 目標檢測攻擊原理
2.4.3 目標檢測攻擊實現(xiàn)
2.4.4 攻擊效果展示
2.5 案例總結(jié)
●第3章 數(shù)據(jù)投毒攻擊●
3.1 數(shù)據(jù)投毒攻擊概念
3.2 數(shù)據(jù)投毒攻擊的基本原理
3.2.1 形式化定義與理解
3.2.2 數(shù)據(jù)投毒攻擊的范圍與思路
3.3 數(shù)據(jù)投毒攻擊技術(shù)發(fā)展
3.3.1 傳統(tǒng)數(shù)據(jù)投毒攻擊介紹
3.3.2 數(shù)據(jù)投毒攻擊約束
3.3.3 數(shù)據(jù)投毒攻擊效率優(yōu)化
3.3.4 數(shù)據(jù)投毒攻擊遷移能力提升
3.4 實戰(zhàn)案例：利用數(shù)據(jù)投毒攻擊圖像分類模型
3.4.1 案例背景
3.4.2 深度圖像分類模型
3.4.3 數(shù)據(jù)投毒攻擊圖像分類模型
3.4.4 實驗結(jié)果
3.5 實戰(zhàn)案例：利用投毒日志躲避異常檢測系統(tǒng)
3.5.1 案例背景
3.5.2 RNN異常檢測系統(tǒng)
3.5.3 投毒方法介紹
3.5.4 實驗結(jié)果
3.6 案例總結(jié)
●第4章 模型后門攻擊●
4.1 模型后門概念
4.2 后門攻擊種類與原理
4.2.1 投毒式后門攻擊
4.2.2 非投毒式后門攻擊
4.2.3 其他數(shù)據(jù)類型的后門攻擊
4.3 實戰(zhàn)案例：基于數(shù)據(jù)投毒的模型后門攻擊
4.3.1 案例背景
4.3.2 后門攻擊案例
4.4 實戰(zhàn)案例：供應(yīng)鏈攻擊
4.4.1 案例背景
4.4.2 解析APK
4.4.3 后門模型訓(xùn)練
4.5 實戰(zhàn)案例：基于模型文件神經(jīng)元修改的模型后門攻擊
4.5.1 案例背景
4.5.2 模型文件神經(jīng)元修改
4.5.3 觸發(fā)器優(yōu)化
4.6 案例總結(jié)
●第5章 預(yù)訓(xùn)練模型安全●
5.1 預(yù)訓(xùn)練范式介紹
5.1.1 預(yù)訓(xùn)練模型的發(fā)展歷程
5.1.2 預(yù)訓(xùn)練模型的基本原理
5.2 典型風(fēng)險分析和防御措施
5.2.1 數(shù)據(jù)風(fēng)險
5.2.2 敏感內(nèi)容生成風(fēng)險
5.2.3 供應(yīng)鏈風(fēng)險
5.2.4 防御策略
5.3 實戰(zhàn)案例：隱私數(shù)據(jù)泄露
5.3.1 實驗概況
5.3.2 實驗細節(jié)
5.3.3 結(jié)果分析
5.4 實戰(zhàn)案例：敏感內(nèi)容生成
5.4.1 實驗概況
5.4.2 實驗細節(jié)
5.4.3 結(jié)果分析
5.5 實戰(zhàn)案例：基于自診斷和自去偏的防御
5.5.1 實驗概況
5.5.2 實驗細節(jié)
5.5.3 結(jié)果分析
5.6 案例總結(jié)
●第6 章 AI數(shù)據(jù)隱私竊取●
6.1 數(shù)據(jù)隱私竊取的基本原理
6.1.1 模型訓(xùn)練中數(shù)據(jù)隱私竊取
6.1.2 模型使用中數(shù)據(jù)隱私竊取
6.2 數(shù)據(jù)隱私竊取的種類與攻擊思路
6.2.1 數(shù)據(jù)竊取攻擊
6.2.2 成員推理攻擊
6.2.3 屬性推理攻擊
6.3 實戰(zhàn)案例：聯(lián)邦學(xué)習(xí)中的梯度數(shù)據(jù)竊取攻擊
6.3.1 案例背景
6.3.2 竊取原理介紹
6.3.3 竊取案例
6.3.4 結(jié)果分析
6.4 實戰(zhàn)案例：利用AI水印對抗隱私泄露
6.4.1 案例背景
6.4.2 AI保護數(shù)據(jù)隱私案例
6.4.3 AI水印介紹
6.4.4 結(jié)果分析
6.5 案例總結(jié)
●第7 章 AI應(yīng)用失控風(fēng)險●
7.1 AI應(yīng)用失控
7.1.1 深度偽造技術(shù)
7.1.2 深度偽造安全風(fēng)險
7.2 AI應(yīng)用失控防御方法
7.2.1 數(shù)據(jù)集
7.2.2 技術(shù)防御
7.2.3 內(nèi)容溯源
7.2.4 行業(yè)實踐
7.2.5 面臨挑戰(zhàn)
7.2.6 未來工作
7.3 實戰(zhàn)案例：VoIP電話劫持+語音克隆攻擊
7.3.1 案例背景
7.3.2 實驗細節(jié)
7.4 實戰(zhàn)案例：深度偽造鑒別
7.4.1 案例背景
7.4.2 實驗細節(jié)
7.4.3 結(jié)果分析
7.5 案例總結(jié)
●后記 AI安全發(fā)展展望●
展開全部
AI安全:技術(shù)與實戰(zhàn) 節(jié)選
● 第3章 數(shù)據(jù)投毒攻擊● 近些年，隨著深度學(xué)習(xí)技術(shù)進一步發(fā)展與應(yīng)用，深度學(xué)習(xí)模型的脆弱性被眾多領(lǐng)域?qū)I(yè)人員發(fā)現(xiàn)并指出。對抗樣本相關(guān)技術(shù)即體現(xiàn)模型脆弱性一個十分重要的方面。不同于對抗樣本攻擊，數(shù)據(jù)投毒攻擊是另一種通過污染模型訓(xùn)練階段數(shù)據(jù)來實現(xiàn)攻擊目的的手段，其利用深度學(xué)習(xí)模型數(shù)據(jù)驅(qū)動（Data-driven）的訓(xùn)練機制，通過構(gòu)造特定的樣本數(shù)據(jù)影響模型訓(xùn)練，從而實現(xiàn)部分控制模型表現(xiàn)的能力。考慮到眾多AI 產(chǎn)品都存在廣泛的數(shù)據(jù)收集入口，因此數(shù)據(jù)投毒攻擊同樣為深度學(xué)習(xí)模型在工業(yè)產(chǎn)品中的應(yīng)用帶來了巨大的隱患。 本章首先對數(shù)據(jù)投毒攻擊原理進行介紹，然后對其技術(shù)發(fā)展進行較為系統(tǒng)的總結(jié)，*后通過在圖像分類和異常檢測任務(wù)中進行的投毒實戰(zhàn)案例幫助大家進一步理解數(shù)據(jù)投毒攻擊的潛在影響與危害。 很早之前人們就已經(jīng)發(fā)現(xiàn)了數(shù)據(jù)的魅力，很多成功的工業(yè)產(chǎn)品都使用基于數(shù)據(jù)分析獲得的專家經(jīng)驗策略或基于數(shù)據(jù)訓(xùn)練的算法系統(tǒng)來為人們提供更好的服務(wù)，其中數(shù)據(jù)起著十分核心的作用。例如，20世紀90年代在美國超市中發(fā)生的“啤酒與尿布”的故事。超市管理人員在進行數(shù)據(jù)分析時發(fā)現(xiàn)，“啤酒”與“尿布”兩個看似毫不相關(guān)的產(chǎn)品總是會出現(xiàn)在不同人的同一筆訂單中。后續(xù)調(diào)查發(fā)現(xiàn)，美國有孩子的家庭往往是年輕父親出門購買孩子用品的，而在購買“尿布”的同時，他們往往會為自己購買一些“啤酒”。基于這個發(fā)現(xiàn)，超市嘗試將“啤酒”與“尿布”安排在較近的位置，從而為用戶提供了更好的購物體驗，也提升了超市銷售量。類似地，在異常檢測領(lǐng)域，有專家通過對數(shù)據(jù)進行分析，設(shè)計不同規(guī)則（或算法）來輔助異常檢測。 近些年，隨著深度學(xué)習(xí)技術(shù)的發(fā)展，深度學(xué)習(xí)模型對不同對象，包括圖像、文本等，都有了更強的學(xué)習(xí)表達能力；诖罅繑(shù)據(jù)，我們可以訓(xùn)練更好的模型為人們生活提供更加智能的服務(wù)。這類基于數(shù)據(jù)進行經(jīng)驗總結(jié)或模型學(xué)習(xí)的方法被統(tǒng)稱為數(shù)據(jù)驅(qū)動的方法；诤Ａ康臄(shù)據(jù)，雖然開發(fā)者可以使用數(shù)據(jù)分析或深度學(xué)習(xí)技術(shù)構(gòu)建眾多高價值的應(yīng)用，但數(shù)據(jù)驅(qū)動的機制同時為它們埋下了巨大的安全隱患，尤其對于深度學(xué)習(xí)模型，復(fù)雜與不可解釋的網(wǎng)絡(luò)結(jié)構(gòu)使得深度學(xué)習(xí)模型很容易受到投毒數(shù)據(jù)攻擊的影響，產(chǎn)生無意義或有針對性的結(jié)果。這里以圖3.1 中展示的4 個場景為例，分別給出不同場景下的數(shù)據(jù)投毒攻擊示例，來幫助讀者理解數(shù)據(jù)投毒攻擊的影響與危害。 電商平臺中往往存在海量商品，快速展示用戶感興趣并與搜索目標匹配的商品是提升用戶好感度、提升平臺競爭力的關(guān)鍵。為了實現(xiàn)上述目標，以平臺用戶歷史行為記錄數(shù)據(jù)為基礎(chǔ)，研究人員提出了許多不同思想的推薦算法來匹配用戶的個人偏好與興趣。在信息爆炸的今天，這些算法起著越來越重要的作用。然而這類電商平臺，早在20世紀末其產(chǎn)業(yè)化的初始階段，就飽受數(shù)據(jù)投毒攻擊的困擾。 電商領(lǐng)域黑產(chǎn)人員通過“貓池”“雇人刷單”等形式在平臺低成本地批量產(chǎn)生虛假數(shù)據(jù)，影響平臺推薦算法的結(jié)果。近些年，基于深度學(xué)習(xí)發(fā)展出了更多優(yōu)秀的推薦算法，可以為平臺提供更精準的推薦服務(wù)，但同時因為深度學(xué)習(xí)模型的脆弱性，平臺面臨著更嚴重的數(shù)據(jù)投毒威脅。異常檢測同樣依賴歷史數(shù)據(jù)進行數(shù)據(jù)分析或模型構(gòu)建來實現(xiàn)對樣本的區(qū)別與分類，包括虛假新聞檢測、垃圾郵件檢測等。典型的方法包括但不限于基于規(guī)則的標簽傳播方法、基于神經(jīng)網(wǎng)絡(luò)的方法等，這類方法同樣面臨數(shù)據(jù)投毒攻擊的危險。以垃圾郵件檢測為例，攻擊者構(gòu)造部分垃圾郵件并通過郵件服務(wù)商開放入口將部分垃圾郵件標注為正常，從而影響垃圾郵件檢測模型的訓(xùn)練過程，使模型預(yù)測結(jié)果發(fā)生偏移。在后續(xù)的服務(wù)中，躲避檢測的垃圾郵件就可以成功進入其他用戶的收件箱。 圖像領(lǐng)域以CNN為基礎(chǔ)，發(fā)展出了很多不同的經(jīng)典網(wǎng)絡(luò)結(jié)構(gòu)，包括AlexNet、VGGNet、GoogleNet、ResNet等。AlexNet在2012年的ImageNet 圖像分類比賽中刷新了識別率，是**個真正意義上的深度學(xué)習(xí)網(wǎng)絡(luò)，其提出的卷積和池化堆疊的網(wǎng)絡(luò)結(jié)構(gòu)獲得了當時*優(yōu)的效果。然而對于這類復(fù)雜的深度學(xué)習(xí)模型，研究人員提出通過在模型訓(xùn)練中注入一些特定的污染數(shù)據(jù)樣本，可以很容易地實現(xiàn)一些預(yù)定義的攻擊目標。以人臉識別場景為例，通過特定的數(shù)據(jù)樣本注入可以實現(xiàn)“人臉隱蔽”“人員誤判”等！叭四橂[蔽”即躲避人臉識別系統(tǒng)檢測，使目標人員在檢測系統(tǒng)中消失！叭藛T誤判”即人臉識別系統(tǒng)將目標人員識別為預(yù)先指定的某位人員。這些“漏洞”為圖像領(lǐng)域中深度學(xué)習(xí)模型的應(yīng)用埋下了巨大的安全隱患，外部攻擊者可能會通過此類“漏洞”成功進入有人臉識別安防系統(tǒng)的重要場地。 人機對話系統(tǒng)（自然語言處理子任務(wù)）得益于RNN 與注意力機制等深度學(xué)習(xí)技術(shù)的發(fā)展，近些年性能得到了很大的提升，在智能客服、智能家居等不同場景中得到了十分廣泛的應(yīng)用；谏疃葘W(xué)習(xí)，人機對話系統(tǒng)可以輕松學(xué)習(xí)并抽取高層次的語言特征。針對這類系統(tǒng)，有攻擊者嘗試通過數(shù)據(jù)投毒攻擊影響對話效果。例如，攻擊者通過數(shù)據(jù)投毒攻擊使得人機對話系統(tǒng)在服務(wù)時，面對不同用戶的不同問題全部回答“不知道”；更有針對性地，攻擊者通過數(shù)據(jù)投毒攻擊可以實現(xiàn)令人機對話系統(tǒng)主動返回一些“種族歧視”言論的效果。這會使得人機對話系統(tǒng)的服務(wù)質(zhì)量嚴重下降，同時可能會造成十分不好的社會影響。 總的來說，數(shù)據(jù)投毒攻擊是一種通過控制模型訓(xùn)練數(shù)據(jù)來主動創(chuàng)造模型漏洞的技術(shù)。深度學(xué)習(xí)技術(shù)復(fù)雜且難以解釋，在帶來性能提升的同時，其數(shù)據(jù)驅(qū)動的訓(xùn)練機制為不同領(lǐng)域產(chǎn)品埋下了巨大的安全隱患，一旦被有心者利用，可能會產(chǎn)生巨大的經(jīng)濟損失與社會影響。
AI安全:技術(shù)與實戰(zhàn) 作者簡介
騰訊安全朱雀實驗室專注于AI安全技術(shù)研究及應(yīng)用，圍繞對抗機器學(xué)習(xí)、AI模型安全、深偽檢測等方面取得了一系列研究成果，議題入選CVPR、ICLR、CanSecWest、HITB、POC、XCon等國內(nèi)外頂級會議，面向行業(yè)發(fā)布了業(yè)內(nèi)第一個AI安全威脅風(fēng)險矩陣，持續(xù)聚焦AI在產(chǎn)業(yè)應(yīng)用的安全問題，助力AI安全技術(shù)創(chuàng)新。
書友推薦
- >
回憶愛瑪儂
- >
推拿
- >
有舍有得是人生
- >
龍榆生：詞曲概論/大家小書
- >
煙與鏡
- >
我從未如此眷戀人間
- >
名家?guī)阕x魯迅:朝花夕拾
- >
李白與唐代文化
本類暢銷
