-
>
公路車寶典(ZINN的公路車維修與保養秘籍)
-
>
晶體管電路設計(下)
-
>
基于個性化設計策略的智能交通系統關鍵技術
-
>
花樣百出:貴州少數民族圖案填色
-
>
山東教育出版社有限公司技術轉移與技術創新歷史叢書中國高等技術教育的蘇化(1949—1961)以北京地區為中心
-
>
鐵路機車概要.交流傳動內燃.電力機車
-
>
利維坦的道德困境:早期現代政治哲學的問題與脈絡
圖智能芯片 版權信息
- ISBN:9787030727527
- 條形碼:9787030727527 ; 978-7-03-072752-7
- 裝幀:一般膠版紙
- 冊數:暫無
- 重量:暫無
- 所屬分類:>
圖智能芯片 內容簡介
本書從"運算智能"、"感知智能"和"認知智能"這三個人工智能的發展階段出發,交代了人工智能的發展歷程,并重點介紹了當前"認知智能"階段的重要性。然后給出了圖的定義以及其與人工智能的關系,并系統性地描述了圖智能算法,即圖神經網絡算法的定義和主流模型。接著,在現代主流執行平臺上量化分析圖神經網絡算法的執行行為,深入剖析加速執行圖神經網絡算法面臨的挑戰,進而給出圖智能芯片的設計藝術以及圖神經網絡算法到圖智能芯片的映射。其后以本書作者所提出的圖神經網絡芯片設計為案例分析圖智能芯片的具體設計核心和相應技術,并系統性地歸納和分析了圖神經網絡芯片設計的相關工作。*后對圖智能芯片的發展進行了展望。
圖智能芯片 目錄
前言
第1章 緒論 1
1.1 人工智能三階段 1
1.2 圖神經網絡 3
1.3 圖智能芯片 4
1.4 本章小結 5
參考文獻 5
第2章 人工智能的發展 6
2.1 運算智能 6
2.1.1 早期人工智能 6
2.1.2 博弈中的應用 7
2.2 感知智能 7
2.2.1 算法理論的發展 8
2.2.2 硬件的推動 14
2.2.3 應用實踐的開發 17
2.3 認知智能 19
2.4 本章小結 21
參考文獻 21
第3章 圖與認知智能 23
3.1 無處不在的圖 23
3.1.1 圖的定義 23
3.1.2 圖的應用 28
3.2 圖與認知智能的關系 30
3.2.1 圖表示蘊含知識 30
3.2.2 圖結構支撐關系推理 31
3.3 本章小結 33
參考文獻 33
第4章 圖神經網絡 34
4.1 圖神經網絡的定義 34
4.1.1 什么是圖神經網絡 34
4.1.2 圖神經網絡與神經網絡的異同 35
4.2 圖神經網絡的重要性 36
4.3 圖神經網絡的主流模型 37
4.3.1 典型圖神經網絡模型 38
4.3.2 圖卷積網絡 41
4.4 本章小結 43
參考文獻 43
第5章 圖神經網絡的挑戰 45
5.1 現代主流執行平臺 45
5.2 圖神經網絡的執行分析 48
5.3 圖神經網絡的執行挑戰 51
5.3.1 計算的挑戰 52
5.3.2 訪存的挑戰 53
5.3.3 靈活性與可編程性 53
5.4 本章小結 54
參考文獻 54
第6章 圖神經網絡芯片設計 55
6.1 圖神經網絡芯片的設計藝術 55
6.1.1 摩爾定律放緩和登納德縮放比例定律失效 55
6.1.2 面向專用領域的設計 56
6.2 圖神經網絡算法到芯片的映射 57
6.2.1 圖神經網絡編程模型 58
6.2.2 編程模型到芯片的映射 59
6.3 圖神經網絡芯片設計案例 60
6.3.1 HyGCN設計思想 61
6.3.2 HyGCN應對計算層次挑戰 61
6.3.3 HyGCN應對片上訪存層次挑戰 63
6.3.4 HyGCN應對片外訪存層次挑戰 64
6.3.5 實驗分析 65
6.4 圖神經網絡芯片相關工作 69
6.4.1 計算層次關鍵技術 69
6.4.2 片上訪存層次關鍵技術 71
6.4.3 片外訪存層次關鍵技術 76
6.5 本章小結 79
參考文獻 80
第7章 圖智能芯片的發展與展望 82
7.1 圖結構數據 82
7.2 圖智能算法 83
7.3 圖智能芯片 84
7.4 本章小結 86
參考文獻 86
圖智能芯片 節選
第1章緒論 人工智能(artificial intelligence,AI)在1956年作為一門新興學科被正式提出。此后,人工智能取得了驚人的成就。目前,人工智能已經到達感知智能的天花板。隨著大數據時代信息量的爆炸式增長,圖因其強大的信息表示能力,越來越多地應用于各個領域,挖掘數據的潛在價值。認知智能時代的到來進一步提升了圖與圖智能算法的應用價值。圖神經網絡(graph neural network,GNN)算法作為圖智能算法的代表,在認知推理方面具有十分重要的作用。為了滿足圖神經網絡算法對算力的特殊需求,設計專用的芯片成為可行的選擇。圖智能芯片將成為感知智能邁向認知智能的推進劑。 1.1人工智能三階段 基于目前人工智能的發展,人工智能從低到高可以分為運算智能、感知智能和認知智能三個階段(圖1-1)[1]。這一劃分方式得到業界的廣泛認可。 (1)運算智能階段。運算智能階段是人工智能的*初級階段,主要實現“能存會算”,即機器具備記憶存儲和快速計算的能力。 (2)感知智能階段。感知智能階段建立在運算智能的基礎上,主要實現“能聽會說、能看會認”,即機器具備聽覺、視覺、觸覺等感知能力。 (3)認知智能階段。認知智能階段是更為高級的發展階段,主要實現“能理解會思考”,即機器具備思考、判斷、分析、理解等認知能力。 1.運算智能階段 早在1943年,人們就開始了神經網絡的研究。“人工智能”這一術語在1956年由約翰 麥卡錫提出,標志著人工智能的興起。在此后的幾十年,人工智能的研究集中在定理證明、模式識別等方面。同時,運算智能在博弈中的應用也取得巨大成功。1956年,塞繆爾研究的跳棋程序擊敗他本人。1996年,國際商業機器公司(International Business Machines Corporation,IBM)的“深藍”計算機首次挑戰國際象棋冠軍卡斯帕羅夫,以2∶4落敗。1997年,“深藍”計算機運算速度達到每秒2億步,并以3.5∶2.5戰勝卡斯帕羅夫。自此,人類很難在強運算的比賽中勝過計算機。由此可見,人工智能在計算與存儲方面具有顯著優勢。 2.感知智能階段 隨著技術的進步,在運算與存儲的基礎上,人工智能進入感知智能時代。在這一階段,人工智能主要是在算法和硬件兩方面取得突破。在算法層面,感知智能時代可以說是深度學習的時代。事實上,人們早在1950年就開始搭建電子神經網絡,然而當時的設備算力很低,無法滿足較大規模神經網絡的算力需求。直到1980年后期,工作站性能達到每秒一百萬個浮點乘法累加操作時,深度神經網絡(deep neural networks,DNN)才真正變得實用可行。在硬件層面,低成本的通用圖形處理器(general purpose graphic processing unit,GPGPU)成為神經網絡*常用的硬件載體。隨著摩爾定律走向終結,人們開始開發專門用于神經網絡的架構,以滿足日益增長的算力需求,谷歌的張量處理器(tensor processing unit,TPU)、寒武紀的DianNao系列等都是代表性的神經網絡芯片。 在感知智能中,*具代表性的工作就是各類識別系統,如文本識別、語音識別、圖像識別等。隨著互聯網的發展,基于深度學習與大數據分析,再加上硬件技術的支持,計算機在感知方面已經接近,甚至超過人類。 3.認知智能階段 當前,人工智能已經在感知層面取得巨大成就,然而卻只能根據訓練的結果進行簡單的推斷(inference),而非真正進行推理(reasoning)與思考。所謂推斷,是從已知的信息中總結出經驗,進而對同類事物進行判斷。所謂推理,是對現有信息進行解釋和演繹,進而創造新的知識,是從無到有的過程。 人們嘗試建立知識圖譜和認知圖譜,研究知識表示與認知推理的方法。超大規模圖神經網絡被認為是推動認知智能發展強有力的推理方法,正在推動人工智能從感知智能向認知智能邁進。2018年,YoshuaBengio、張鈸,以及阿里達摩院研究人員都談及感知智能已觸及天花板,認知智能勢在必行。 1.2圖神經網絡 在深度學習技術的推動下,人工智能在感知層面取得重要成果和廣泛的應用,但仍然停留于感知智能層面[1]。 圖是一種用于表征世間萬物互聯關系的抽象數據結構。圖結構數據包含頂點和邊兩種元素。頂點表示對象,邊表示對象之間的關系。在大數據時代,歸功于超強的信息表示能力,圖已經成為各個領域廣泛采用的基本數據表示形式。如圖1-2所示,圖無處不在,我們的日常生活中隱藏著諸多圖結構數據的身影。圖神經網絡是將深度學習算法擴展到圖結構的新興智能算法,被廣泛應用于推薦、搜索和風險控制等重要領域。隨著人工智能邁入認知智能發展階段,圖神經網絡受到學術界和工業界的廣泛關注,已經成為許多企業非常重要的應用之一。圖神經網絡的相關算法被廣泛部署于各大主流的數據中心,如阿里巴巴、谷歌、亞馬遜等數據中心。值得注意的是,阿里巴巴在2019年開源了工業級圖表征學習框架Euler,并在相關的人工智能會議發表多篇關于圖神經網絡在推薦、風控等業務中的應用論文。騰訊也在2019年開源了高性能圖計算框架Plato,同樣發表多篇關于圖神經網絡在推薦等業務中的應用論文。包括曠世等許多國內知名企業已經將圖神經網絡應用于視覺、推薦、風控等業務。 深度學習技術已經觸及感知智能的天花板。隨著圖在各大領域的廣泛應用,圖智能算法在人工智能向認知智能階段不斷演進的過程中,扮演著更加重要的角色。阿里達摩院曾在2019年和2020年的《十大科技趨勢》展望中表示,未來人工智能熱潮能否進一步打開天花板,形成更大的產業規模,認知智能的突破是關鍵;超大規模圖神經網絡被認為是推動認知智能發展強有力的推理方法,有望解決深度學習無法處理的關系推理、可解釋性等一系列問題;賦予機器常識、理解和認知能力,將推動人工智能從感知智能向認知智能邁進[2-4]。 1.3圖智能芯片 圖神經網絡具有兩個重要執行階段,即圖遍歷階段和神經網絡變換階段。這兩個階段分別表現出不規則的執行行為和規則執行行為,導致圖神經網絡產生混合執行行為。雖然圖神經網絡具有強大的推理能力,但其獨*的執行特征給傳統處理器帶來計算和訪存方面的挑戰。隨著摩爾定律的放緩和登納德縮放比例定律的失效[5],為了滿足圖神經網絡的特殊算力需求,研究專用的加速芯片(圖1-3)成為必然的選擇。作為圖神經網絡算法的載體,圖智能芯片是促進人工智能向認知智能階段轉變的推進劑。 1.4本章小結 本章首先介紹人工智能發展的三個階段,指出人工智能正從感知智能向認知智能邁進。然后,闡述圖神經網絡對于認知智能的重要意義,并介紹圖智能芯片。本章由淺入深,可以使讀者認識到圖神經網絡與圖智能芯片對人工智能發展的重要意義。 第2章人工智能的發展 根據發展程度,人工智能可以分為運算智能、感知智能、認知智能三個階段。本章基于這三個階段,對人工智能的理論發展和應用實踐進行介紹。值得注意的是,三個階段的研究成果并非嚴格按照時間順序排布。 2.1運算智能 運算智能是人工智能發展的**階段。在此階段,計算機的主要優勢在于快速記憶與存儲能力。早期的運算智能以定理證明與模式識別為主。人工智能在博弈游戲中的設計也屬于十分典型的運算智能。 2.1.1早期人工智能 人工智能這個概念正式誕生于1956年。1956年夏季,當時達特茅斯大學的約翰 麥卡錫發起關于機器智能的學術研討會。在會議上,約翰 麥卡錫正式提出人工智能,因此被稱為人工智能之父。 如圖2-1所示,在接下來的10多年,人工智能在機器學習與模式識別方面取得重大進步。1958年,羅森布拉特設計出**個計算機神經網絡——感知機,成功模擬了人腦的運作方式。同年,約翰 麥卡錫發明Lisp編程語言。這是**個函數式程序語言,使用表結構表達非數值計算問題。發展至今,
- >
中國人在烏蘇里邊疆區:歷史與人類學概述
- >
月亮與六便士
- >
朝聞道
- >
巴金-再思錄
- >
新文學天穹兩巨星--魯迅與胡適/紅燭學術叢書(紅燭學術叢書)
- >
莉莉和章魚
- >
煙與鏡
- >
推拿