中圖網(wǎng)小程序
一鍵登錄
更方便
本類五星書更多>
-
>
宇宙、量子和人類心靈
-
>
氣候文明史
-
>
南極100天
-
>
考研數(shù)學(xué)專題練1200題
-
>
希格斯:“上帝粒子”的發(fā)明與發(fā)現(xiàn)
-
>
神農(nóng)架疊層石:10多億年前遠(yuǎn)古海洋微生物建造的大堡礁
-
>
聲音簡史
買過本商品的人還買了
人機(jī)對齊 版權(quán)信息
- ISBN：9787571021733
- 條形碼：9787571021733 ; 978-7-5710-2173-3
- 裝幀：簡裝本
- 冊數(shù)：暫無
- 重量：暫無
- 所屬分類：>
人機(jī)對齊 本書特色
★ 暢銷書作家布萊恩克里斯汀的新作，普通人能看懂的AI入門書。
★ ;對齊問題，是關(guān)于人工智能我們zui迫切需要關(guān)注的問題。
★ 關(guān)于ChatGPT你應(yīng)該了解的真相：以ChatGPT為首的Generative AI爆火全球，也為我們敲響警鐘我們究竟該如何看待AI？如何避免AI失控？AI是否會(huì)取代我們甚至使人類滅絕？
★ 控制人工智能，;拔掉電源插頭就行了, 錯(cuò)了！過時(shí)了！
★ 閱讀本書，將幫助我們更深刻認(rèn)識人性的弱點(diǎn)，思考我們的社會(huì)、文化、教育和未來。
人機(jī)對齊 內(nèi)容簡介
本書闡釋了AI與我們息息相關(guān)的問題。在書中，我們將認(rèn)識**批積極應(yīng)對對齊問題的學(xué)者，了解他們?yōu)榱吮苊釧I發(fā)展的局面失控，付出的卓絕努力和雄心勃勃的計(jì)劃。作者克里斯汀不僅描繪了機(jī)器學(xué)習(xí)的發(fā)展史，并且親自深入科研一線同科學(xué)家對話，準(zhǔn)確呈現(xiàn)了機(jī)器學(xué)習(xí)*前沿的進(jìn)展。
人機(jī)對齊 目錄
篇序篇
第二篇導(dǎo)言
第三篇預(yù)警
1.代表
2.公平
3.透明
第四篇自主
4.強(qiáng)化
5.塑造
6.好奇
第五篇示范
7.模仿
8.推斷
9.不定
結(jié)語
致謝
注釋
第二篇導(dǎo)言
第三篇預(yù)警
1.代表
2.公平
3.透明
第四篇自主
4.強(qiáng)化
5.塑造
6.好奇
第五篇示范
7.模仿
8.推斷
9.不定
結(jié)語
致謝
注釋
展開全部
人機(jī)對齊 節(jié)選
2013年夏天，一篇平平常常的帖子出現(xiàn)在谷歌的開源博客上，標(biāo)題是《學(xué)習(xí)詞匯背后的含義》。帖子中說：;目前計(jì)算機(jī)還不太擅長理解人類語言，雖然離這個(gè)目標(biāo)還有一段距離，但我們正在利用的機(jī)器學(xué)習(xí)和自然語言處理技術(shù)取得重大進(jìn)展。谷歌從紙媒和互聯(lián)網(wǎng)獲取了大量人類語言數(shù)據(jù)，比以前的數(shù)據(jù)集還大幾千倍，將數(shù)據(jù)集輸入一個(gè)受生物學(xué)啟發(fā)的;神經(jīng)網(wǎng)絡(luò)，并讓系統(tǒng)尋找詞語的相關(guān)性和聯(lián)系。借助所謂的;無監(jiān)督學(xué)習(xí)，這個(gè)系統(tǒng)開始發(fā)現(xiàn)模式。例如，它注意到詞語;北京與;中國的關(guān)系，同;莫斯科與;俄羅斯的關(guān)系一樣，不管詞語的意思是什么。能否說計(jì)算機(jī);理解了？這個(gè)問題只能讓哲學(xué)家來回答，但是很顯然系統(tǒng)已經(jīng)抓住了它;閱讀的內(nèi)容的某種本質(zhì)。谷歌將這個(gè)系統(tǒng)命名為;word2vec――意思是將詞匯轉(zhuǎn)換成數(shù)字向量――并將其開源。對數(shù)學(xué)家來說，向量有各種奇妙的性質(zhì)，你可以像處理簡單的數(shù)一樣處理它們，進(jìn)行加、減、乘運(yùn)算。通過這種方式，研究人員很快發(fā)現(xiàn)了一些驚人的意想不到的東西。他們稱之為;連續(xù)空間詞匯表示中的語言規(guī)律，對它的解釋沒有聽起來那么難。word2vec把詞匯變成了向量，這樣你就能對詞匯做數(shù)學(xué)運(yùn)算。
例如，如果輸入中國 河流，就會(huì)得到長江。輸入巴黎 - 法國 意大利，就會(huì)得到羅馬。
輸入國王 - 男人 女人，就會(huì)得到女王。
結(jié)果很驚人。word2vec系統(tǒng)開始應(yīng)用于谷歌的機(jī)器翻譯和搜索引擎，業(yè)界也將其廣泛應(yīng)用于其他領(lǐng)域，例如招聘，它成了科學(xué)和工程界新一代數(shù)據(jù)驅(qū)動(dòng)的語言學(xué)家的工具。
兩年過去了，沒有人意識到存在問題。
這是一本關(guān)于機(jī)器學(xué)習(xí)與人類價(jià)值觀的書：關(guān)于不通過手工編程而是從數(shù)據(jù)中學(xué)習(xí)的系統(tǒng)，關(guān)于我們?nèi)绾谓趟鼈儯约敖淌裁础?
機(jī)器學(xué)習(xí)主要包括3個(gè)領(lǐng)域：無監(jiān)督學(xué)習(xí)，機(jī)器被直接給予一堆數(shù)據(jù)，就像word2vec系統(tǒng)一樣，目的是理解數(shù)據(jù)，找到模式、規(guī)律、有用的方式來提煉、 表示或可視化數(shù)據(jù)；監(jiān)督學(xué)習(xí)，系統(tǒng)被給予一堆已分類或標(biāo)記好的例子進(jìn)行學(xué)習(xí)，比如假釋犯是否再犯，然后用習(xí)得的模型對從未見過或尚不清楚基本事實(shí)的新例子進(jìn)行預(yù)測；強(qiáng)化學(xué)習(xí)，系統(tǒng)被置于一個(gè)有獎(jiǎng)懲的環(huán)境中，就像補(bǔ)能和危險(xiǎn)并存的賽艇賽道，目的是找出小化懲罰和化獎(jiǎng)勵(lì)的方法。
越來越多的人意識到，*正逐漸以各種方式依賴于機(jī)器學(xué)習(xí)領(lǐng)域給出的數(shù)學(xué)和計(jì)算模型。這些或簡單或復(fù)雜的模型――一些只能算是電子表格，另一些則可被稱為AI――正逐步取代人類判斷和更傳統(tǒng)的顯式編程的程序。
這不僅發(fā)生在科技和商業(yè)領(lǐng)域，也發(fā)生在具有倫理和道德影響的領(lǐng)域。司法體系越來越廣泛地使用;風(fēng)險(xiǎn)評估軟件來決定保釋和假釋。道路上的車輛越來越多地自動(dòng)駕駛。我們的貸款申請、簡歷和體檢結(jié)果逐漸不再由人類負(fù)責(zé) 評估。進(jìn)入21世紀(jì)，越來越多的人都在致力于讓*――在象征意義上和字面意義上――自動(dòng)駕駛。
近年來，兩個(gè)不同的群體敲響了警鐘。個(gè)群體關(guān)注當(dāng)前的技術(shù)倫理風(fēng)險(xiǎn)。如果面部識別系統(tǒng)對某個(gè)族群或性別特別不準(zhǔn)確，或者如果有人被未經(jīng)審核的統(tǒng)計(jì)模型判定不得保釋，而法庭上的所有人――包括法官、律師和被告――都不理解，這就存在問題。這樣的問題無法在傳統(tǒng)的學(xué)科領(lǐng)域內(nèi)解決，只能通過計(jì)算機(jī)科學(xué)家、社會(huì)學(xué)家、律師、政策專家和倫理學(xué)家的對話來解決。對話已經(jīng)開始。
還有一個(gè)群體擔(dān)憂的則是未來的危險(xiǎn)。隨著我們的系統(tǒng)越來越能靈活、實(shí)時(shí)地做決策，無論是在虛擬還是現(xiàn)實(shí)*都面臨這種危險(xiǎn)。毫無疑問，過去1*見證了AI和機(jī)器學(xué)習(xí)發(fā)展令人振奮但也突然令人擔(dān)憂的進(jìn)展。與此同時(shí)，一種無形的禁忌逐漸被打破，AI研究人員不再避諱討論安全問題。事實(shí)上，過去5年，在這個(gè)領(lǐng)域，這種擔(dān)憂已經(jīng)從邊緣變成了主流。
雖然對于應(yīng)優(yōu)先考慮眼前的問題還是長遠(yuǎn)問題，目前還存在爭議，但這兩個(gè)群體在大目標(biāo)上是一致的。隨著機(jī)器學(xué)習(xí)系統(tǒng)越來越普遍和強(qiáng)大，我們會(huì)發(fā)現(xiàn)自己越來越經(jīng)常地處于;魔法師學(xué)徒的境地：我們召喚出一種力量，給它一組指令，希望它自主但又完全順從，然后一旦我們意識到指令不準(zhǔn)確或不完整，又手忙腳亂地阻止，以免用我們的智慧召喚出某種可怕的東西。
如何防止這種災(zāi)難性的背離――如何確保這些模型捕捉到我們的規(guī)范和價(jià)值觀，理解我們的意思或意圖，重要的是，以我們想要的方式行事――已成為計(jì)算機(jī)科學(xué)領(lǐng)域核心、緊迫的問題之一。這個(gè)問題被稱為對齊問題（the alignment problem）。
隨著研究前沿越來越接近開發(fā)出所謂的;通用智能，現(xiàn)實(shí)*的機(jī)器學(xué)習(xí)系統(tǒng)越來越多地介入個(gè)人和大眾生活的道德倫理領(lǐng)域，對這一警告產(chǎn)生了一種突然的、充滿活力的反應(yīng)。一個(gè)多元化團(tuán)體正在跨越傳統(tǒng)的學(xué)科界限。非營利組織、智庫和研究所紛紛積極參與。越來越多的工業(yè)界和學(xué)術(shù)界領(lǐng)袖開始大聲疾呼，并相應(yīng)地增加研究經(jīng)費(fèi)。代專攻機(jī)器學(xué)習(xí)倫理和安全領(lǐng)域的研究生已經(jīng)入學(xué)。對齊問題的批應(yīng)對者已到達(dá)現(xiàn)場。
這本書是近100次正式采訪和數(shù)百次非正式談話的產(chǎn)物，歷時(shí)4年，行程數(shù)萬公里，來自這一年輕領(lǐng)域廣闊前沿的研究者和思想家。我發(fā)現(xiàn)的是正在一片荒原上開拓的進(jìn)程，既令人振奮，有時(shí)也令人恐懼。我原以為自己對這個(gè)故事很熟悉，結(jié)果卻發(fā)現(xiàn)這個(gè)故事比我曾認(rèn)為的更吸引人，更令人擔(dān)心，也更充滿希望。
機(jī)器學(xué)習(xí)表面上是技術(shù)問題，但越來越多地涉及人類問題。人類、社會(huì)和公眾難題正在變得技術(shù)化。技術(shù)難題正在變得人性化、社會(huì)化和公眾化。事實(shí)證明，我們在讓這些系統(tǒng);以我們想要的方式行事方面的成功和失敗，為我們審視自我提供了一面真實(shí)的、啟示性的鏡子。
這個(gè)故事由3個(gè)不同部分組成。部分探討對齊問題的前沿：現(xiàn)有的系統(tǒng)已經(jīng)與我們的根本意圖不一致之處，以及在我們覺得有能力監(jiān)督的系統(tǒng)中嘗試掌控這些意圖的復(fù)雜性。第二部分將重點(diǎn)轉(zhuǎn)向強(qiáng)化學(xué)習(xí)，我們逐漸開始理解不僅能預(yù)測，而且能行動(dòng)的系統(tǒng)；其中有一些經(jīng)驗(yàn)可以幫助我們理解進(jìn)化、人類動(dòng)機(jī)和激勵(lì)的微妙之處，對商業(yè)和育兒都有啟發(fā)。第三部分將我們帶到AI安全研究的前沿，我們將了解目前好的一些想法，如何將復(fù)雜的自動(dòng)系統(tǒng)與過于微妙或復(fù)雜、無法明確的規(guī)范和價(jià)值觀相結(jié)合。
不管是好是壞，未來一個(gè)世紀(jì)的人類故事都很可能是建立并啟動(dòng)各種各樣的智能系統(tǒng)。就像魔法師的學(xué)徒一樣，我們會(huì)發(fā)現(xiàn)自己也只是在一個(gè)充斥著掃帚的*里的眾多自主體之一。
我們到底該怎么教它們？教什么？
人機(jī)對齊 作者簡介
布萊恩克里斯汀（Brian Christian）暢銷書作家，他的《算法之美》（Algorithms to Live By，與Tom Griffiths合著），入選了亞馬遜年度z佳科學(xué)書籍和MIT技術(shù)*年度z佳書籍；《人機(jī)大戰(zhàn)》（The Most Human Human）廣受好評，入選了《紐約時(shí)報(bào)》編輯選書，也是《紐約客》年度z受歡迎書籍。他的作品贏得了多個(gè)獎(jiǎng)項(xiàng)，入選了《美國科學(xué)和自然寫作》，被譯成了19種語言。克里斯汀擁有布朗大學(xué)和華盛頓大學(xué)的計(jì)算機(jī)科學(xué)、哲學(xué)和詩歌學(xué)位，是加州大學(xué)伯克利分校的訪問學(xué)者。
書友推薦
- >
詩經(jīng)-先民的歌唱
- >
苦雨齋序跋文-周作人自編集
- >
二體千字文
- >
莉莉和章魚
- >
【精裝繪本】畫給孩子的中國神話
- >
經(jīng)典常談
- >
龍榆生：詞曲概論/大家小書
- >
新文學(xué)天穹兩巨星--魯迅與胡適/紅燭學(xué)術(shù)叢書(紅燭學(xué)術(shù)叢書)
本類暢銷
