中圖網小程序
一鍵登錄
更方便
本類五星書更多>
-
>
上海花園動植物指南
-
>
世界鳥類百科圖鑒:亞洲鳥類/歐洲鳥類/非洲鳥類/澳洲鳥類(全五冊)
-
>
科壇趣話:科學、科學家與科學家精神
-
>
愛因斯坦在路上:科學偶像的旅行日記
-
>
不可思議的科學史
-
>
動物生活史
-
>
影響世界的中國植物(全新修訂版)
未來科技:信任與安全 版權信息
- ISBN：9787030717207
- 條形碼：9787030717207 ; 978-7-03-071720-7
- 裝幀：一般膠版紙
- 冊數：暫無
- 重量：暫無
- 所屬分類：
未來科技:信任與安全 本書特色
報告科學技術和科學家的故事，致力于形成科學在公眾傳播中的影響力
未來科技:信任與安全 內容簡介
本書聚焦信息科學、生命科學、新能源、新材料等為代表的高科技領域，以及物理、化學、數學等基礎科學的進展與新興技術的交叉融合，其中70%的內容來源于IEEE計算機協會相關刊物內容的全文翻譯，另外30%的內容由SteerTech和iCANXTalks上的靠前知名科學家的學術報告、報道以及相關活動內容組成。本書將以創新的方式宣傳和推廣所有可能影響未來的科學技術，打造具有號召力，能夠影響未來科研工作者的世界品質的新型科技傳播、交流、服務平臺，形成“讓科學成為時尚，讓科學家成為榜樣”的社會力量！
未來科技:信任與安全 目錄
目錄
未來科技探索
倫理、安全與自動駕駛汽車 1
保護人工智能：我們創建了大腦，但頭盔呢？ 14
聽力設備，現在與未來：將助聽器轉變為多功能設備 19
信任挑戰——機器團隊 35
可解釋的建議和標準的信任：兩個系統性用戶錯誤 39
軟件網絡安全認證的挑戰 50
直覺和理性相結合，為女性軟件設計師的設計增加了功能上的新穎性 54
Facebook的軟件工程中的AI 60
SEPN：基于連續參與的學業成績預測模型 71
iCANX人物
新時代的科技女性，柔性電子的探索者——專訪電子科技大學林媛 80
未來杯獲獎作品
AI學術聯賽 86
HarmonyOS技術應用創新大賽 87
未來科技探索
倫理、安全與自動駕駛汽車 1
保護人工智能：我們創建了大腦，但頭盔呢？ 14
聽力設備，現在與未來：將助聽器轉變為多功能設備 19
信任挑戰——機器團隊 35
可解釋的建議和標準的信任：兩個系統性用戶錯誤 39
軟件網絡安全認證的挑戰 50
直覺和理性相結合，為女性軟件設計師的設計增加了功能上的新穎性 54
Facebook的軟件工程中的AI 60
SEPN：基于連續參與的學業成績預測模型 71
iCANX人物
新時代的科技女性，柔性電子的探索者——專訪電子科技大學林媛 80
未來杯獲獎作品
AI學術聯賽 86
HarmonyOS技術應用創新大賽 87
展開全部
未來科技:信任與安全 節選
未來科技探索 倫理、安全與自動駕駛汽車 文| Philip Koopman 卡內基梅隆大學 Benjamin Kuipers 密歇根大學 William H. Widen 邁阿密大學 Marilyn Wolf 內布拉斯加大學林肯分校 譯|程浩然 本次圓桌會議探討了快速發展的自動駕駛技術的倫理和安全問題。 這場圓桌會議反映了作者之間關于自動駕駛汽車（AV）設計的倫理問題的虛擬對話，他們每個人都在以不同的方式研究這些問題。 Philip Koopman是卡內基梅隆大學的工程教授，自動駕駛汽車安全工程方面的專家。Benjamin Kuipers是密歇根大學的計算機科學和工程教授，從事人工智能（AI）研究，專注于基礎知識領域，包括倫理學。 William H. Widen是邁阿密大學法學院的法學教授，一直在研究證券法披露和倫理之間的關系，這些關系涉及 AV公司大規模部署 AV技術的決定。Marilyn Wolf是內布拉斯加大學林肯分校工程系的 Koch教授和計算機學院院長，研究興趣包括嵌入式計算機視覺。 主持人：非常感謝各位參加這次虛擬會議。我認為，我們正作為一個不同尋常的小組，來共同探討這個重要的話題。AV已經在非常短的時間內，從科幻小說中的構想發展為先進的原型系統。這些車輛帶來了新的問題類型，而整個行業只有有限的時間來解決。我希望我們今天的討論能夠幫助確定一些有趣的問題，以及其可能的答案和進一步研究的途徑。讓我們提出一個問題作為開場——我們所說的自動駕駛汽車或“AV”是什么意思？ Koopman：我們可以用非正式的定義來回答這一問題，即自動駕駛汽車是一種沒有人實時負責操控車輛的汽車。如果車內或遠程監控車輛的人會因犯錯導致車禍而受到指責，那么我們就不認為這輛車是自動駕駛的。 主持人：所謂的“電車難題”已經成為自動駕駛汽車設計倫理的一個熱門討論點。誰能為我們簡單介紹一下這個問題？這個例子有多大作用？ Widen：“電車難題”是一個道德難題，在這個難題中，人們必須做出選擇，是否拉動開關將失控的電車引向有一名工人的軌道，并遠離有五名工人的軌道，而這兩種選擇對被撞者都是致命的。它基于*初由菲利帕-福特在1967年提出的情景，朱迪思-賈維斯-湯姆森在1985年的《耶魯法律雜志》的一篇文章中將其命名為“電車難題”。 這是一個人為設計的例子，是有一定結果的二元選擇。大多數人都有道德直覺，會出于功利主義的角度，拉動開關去撞一個人而不是撞五個人，以減少生命的損失。 Koopman：作為一個實際問題，“電車難題”分散了人們對更緊迫的倫理問題的注意力，例如作出部署決定的管理模型。 雖然思考“電車難題”在智力上是有趣的，但現今的技術還遠遠沒有達到那種程度。它假定車輛能夠完美地評估交通狀況，并準確地預測行動的可能結果，如低速車輛撞擊將對可能涉及的每個人造成多大的傷害。我們還沒有做到這一點，甚至還差得較遠。 Widen：“電車難題”是一個哲學反思的思想實驗，而不是一個尋求現實世界的答案的問題。然而，在很多沒有意識到這一點的文章之中，人們已經耗費了大量的筆墨。 大多數人所說的“電車難題”實際上是一個“電車情景”[1]。*初的“電車難題”將開關處的人比作醫生，他決定是否摘取一個人的器官以挽救五個人的器官。隨之而來的問題是，為什么醫生摘取器官的決定會受到普遍譴責，但幾乎每個人都認為拉動開關以犧牲一個人來挽救五個人是被接受的或必須這樣做的。挑戰在于解釋我們不同的道德直覺，雖然表面上是相似的——在兩種情況下都需要犧牲一個人來挽救五個人[2]。 Kuipers：盡管“電車難題”的假設不適合現實世界中的 AV，但*近引起廣泛關注的著名的“道德機器”投票實驗[3]恰恰是做了這些假設，我把這一點提出來供大家討論。 Widen：“道德機器”是一項實驗倫理學的實踐，數百萬人參與了由麻省理工學院人員發起的在線民意調查，并收集了來自世界各地的選擇，例如“如果需要救小孩，你會不會調轉車頭去撞老奶奶？”像這樣的決定引起了人們的關注，因為它違反了所有的人都應該被平等對待而不考慮個人特征的想法。它有點像一種過于精確的功利主義計算，在原則上聽起來不錯，但實際上很少（如果有的話）付諸實踐。我們不僅對不平等待遇感到擔憂，而且還有一種深刻的感覺，即任何這樣的嘗試在任何情況下都可能出錯。民調可能決定我們的倫理原則的想法引起了我們的擔憂，因為我們認為倫理道德不應只是由民調決定。 Kuipers：關于“電車難題”本身，在一個連續的 AV駕駛世界中，鑒于 AV 中的傳感器提供的感知圖像，*好將其表示為可能世界的概率分布。在那個（龐大的）可能世界集中，那些只提供兩種可能結果（殺死 A 與殺死 B）的世界構成了一個非常小的子集，概率非常低。出現更多可能結果的概率會大很多，而其中也會包括許多預測危害較小的結果。同樣，行動的結果是不確定的，意外的結果是真實存在的。事實上，Philippa Foot早在1967年[4]就指出（當她**次開始考慮電車情景時），現實世界是基于概率分布的而不是確定性的。 在所有這些不確定性中，使預期效用*大化的行動（使死亡和傷害*小化）很可能是以中間結果為目標的行動，*大程度上將*可能的結果與災難分開。即使災難真的發生了，AV也試圖避免它。 然而，每個參加駕駛培訓的年輕學生都會學到一個更好的辦法來解決這個問題。當你轉入一條狹窄的街道時，突然出現的障礙物可能是不可避免的，為了以防萬一，要減速。駕駛技術不是來自于學習兩害相權取其輕，而是來自于學習識別“上游決策點”，從而完全避免兩難局面。 “道德機器”實驗定義了一個圍繞兩種邪惡的“盒子”，并迫使參與者根據可能受害者的情況和個人特征選擇拯救誰。“電車難題”做了同樣的事情，但它只考慮潛在受害者的數量，而不是個人特征。熟練的司機，無論是人類還是 AV，都會在這個盒子之外思考。AV開發者的責任是確保 AV對“上游決策點”有必要的了解，并具有根據情況需要適當行動的技能。 Koopman：我同意 Kuipers的觀點。你想要的是一個足夠“聰明”的 AV，以避免從一開始就陷入“無望取勝”的局面。正確的想法是預測可能的危險并避免它——這是防御性駕駛的經典做法。 Widen：我不會把重點放在有確定結果的人工約束的二元選擇上。Kuipers的關于我們如何教學生駕駛的觀點抓住了這個基本理念。有確定結果的受限二元選擇，在現實世界中大多不會出現。正如 Kuipers和 Koopman所指出的，現實世界中的問題并沒有確定的結果，而是以大大小小的概率存在于真實世界中，而技術還遠遠沒有達到能夠在概率環境中處理這個問題的程度。我想我們都同意，“電車難題”對于倫理性的AV設計來說，關注的是錯誤的東西。 主持人：大家對麻省理工學院的“道德機器”調查還有其他見解嗎？ Koopman：作為一個實際問題，讓 AV擁有足夠的信息來嘗試這種方法是不現實的。而且它是一臺機器，誰想讓一臺機器根據個人特征來決定誰生誰死？ Widen：我在佐治亞理工學院看到了能夠識別行人的技術（至少是基本的方式），我看到了該系統在動態視覺場景中對不同區域進行風險分配的方式。這包括了場景中不同的人被分配不同的值，如果這些信息可以通過非視覺方式提供的話（例如，通過從一個人的手機上獲取信息，我們假設每個人都攜帶手機）。因此，作為一個技術發展問題，“道德機器”中的噩夢場景似乎并不遙遠。 Koopman：一個能夠以相當的精度做到這一點的樣本可能并不遙遠了。但是能夠實時、大規模、高精確度地做到這一點的演示是相當遙遠的。如果醫護人員在決策算法中被賦予了一個高值，但只有那些穿工作服的人被識別出來，那該怎么辦？然后你會怎么處理那些穿著“安全防護服”的冒名頂替者？我不認為這種類型的技術在實踐中是可行的。“道德機器”對于 AV安全來說是不現實的，因為它假設車輛擁有在現實世界的危機情況下不可能獲得的知識，例如潛在受害者的年齡和職業。(如果有人建議使用手機信息來支持這樣的計劃，這將創造一個即時的欺騙市場，即使它可以在實時的規模下完成。） 德國道德委員會在2017年發布了一份報告，明確采取防御性駕駛的規定。他們禁止犧牲非涉事方，并明確譴責任何使用基于年齡和性別等個人特征的分類，正如“道德機器”所做的那樣。 主持人：短期內，鑒于機器學習（ML）/人工智能的現狀，我們預計會遇到哪些問題？ Koopman：這項技術的一個重要問題是未知數。如果你從根本上采取 ML的方法對你所看到的東西進行訓練，那么當你在訓練或測試中偶爾遇到那些著名的“不知道自己不知道”時，會發生什么情況？更糟糕的是，如果我們發現，“不知道自己不知道”本身就是不可知的呢？ 當 AV 行業開始獲得大量資金時，我將其所需的安全性定為比人類駕駛員安全10到100倍，原因有二： （1）每次有人被 AV殺死，公共信息和訴訟領域都會看到一個因車輛故障而死亡的受害者，而不是統計學上得救的人。所以，它的事故率*好是大幅度減少的。 （2）在*初的部署中，預期的道路安全可能會有很大的不確定性。10倍或更多的安全系數為你提供了一些空間，因為現實世界比你在測試期間預想的更復雜，這是不可避免的。 我們現在的情況是，我們希望 AV拯救生命的承諾能夠實現。AV會犯與人類司機不同的錯誤，而且沒有機構知道要花多長時間才能使平衡點有利于 AV。我真的希望看到一個可信的安全案例，并有可靠的證據支持，AV至少與人類司機一樣安全。 Kuipers：對人工智能和機器人技術（包括 AV）的一種看法是，將它們視為具有潛在影響的技術，例如核能和基因工程。在部署該技術之前，我們嘗試仔細考慮成本和收益以及我們需要何種程度的理解。隨著決定是否大規模部署 AV的時間臨近，我們都預計在評估 AV的真正安全性方面會出現問題。制定標準和指標將是AV行業的核心問題。 關于人工智能（包括機器人和 AV）還有另一種觀點。我們正在創建能夠感知世界的代理，根據這些感知創建自己的世界模型，并就如何行動做出自己的道德決定——下一步要采取什么行動。這需要人工智能系統開發人員了解什么是道德以及機器人如何表達和使用道德知識。這比僅僅在成本/收益基礎上考慮一項有影響力的技術的部署是否會導致公用事業的正平衡更為復雜。這種功利性計算需要人類開發者的倫理思考。我認為在部署前需要對機器人如何表示和使用道德知識進行解釋。 Widen：我擔心的是，對于 AV的購買者來說，什么樣的披露是合適的。如果 AV的部分功能是在算法中以“基于規則的”原則設計的，那么如何向消費者準確地描述 AV的這一方面信息至關重要。對于 Kuipers關于部署的重要觀點，我想補充一點，AV行業已經顯示出沒有能力或不愿意明確確定部署標準的跡象。這個問題在美國證券交易委員會（SEC）*近為 Aurora Innovation， Inc.提交的文件中已經出現。(我*近在一篇關于 SEC披露的文章中提到了這個問題。） Koopman：使用 ML技術打破了傳統的設計“V”流程（V的左邊是自上而下的設計，V的右邊是自下而上的驗證），20多年來這一直是基于計算機的系統安全工程的基礎。雖然你可以嘗試讓一個基于 ML的過程看起來像一個 V，但你很容易削弱或失去明確的設計意圖。所以，你很難知道你是否在 V的右邊做了正確的測試，以確保設計意圖已經實現。在實踐中，經常可以看到部署中出現的意外情況，而大多數測試人員做夢也想不到這些情況與安全關鍵行為有關。 Wolf：像 ISO 26262（基于 V流程的汽車功能安全標準）這樣的方法論將更多的通用保證方法包裹在控制理論這樣的分析方法中，以描述特定情況，如階梯響應。這些
未來科技:信任與安全 作者簡介
張海霞，博士，北京大學信息科學技術學院教授，現任優選華人微納米分子系統學會秘書長，IEEE NTC北京分會主席，無錫物聯網發展專家。2006年獲得國家技術發明二等獎。 張海霞教授長期致力于青年人的創新創業教育和培養，2007年發起靠前大學生iCAN創新創業大賽（iCAN大賽）并擔任主席至今。參加iCAN大賽的國家達到20多個，國內外高校數百家，學生數萬人，部分參賽團隊已經創業，在國內外產生較大影響。張海霞教授還致力于創新創業教育體系的建設，在北大開設《創新工程實踐》《創業基礎》《技術創新教育》等課程，并指導“創客空間”學生社團開展長期創新創業實踐。iCAN創新教育模式已經開始在全國幾十所高校推廣。 張海霞教授在全國各地大中小學及中國科技館、首都科學講堂等開展科普講座百余場，其“走進微納大世界”“揭秘阿凡達”“科技與科幻”“創新創業，iCAN”系列講座通過講解耳熟能詳的大千世界及其背后鮮為人知的高科技的貢獻，圖文并茂、風趣幽默、激情洋溢，不僅將聽眾們帶入精彩的科技科幻世界，更將大家帶到了一個充滿了創新激情的新時代，也引發大家對科技、教育、社會的沉思。
書友推薦
- >
自卑與超越
- >
巴金－再思錄
- >
【精裝繪本】畫給孩子的中國神話
- >
煙與鏡
- >
朝聞道
- >
名家帶你讀魯迅:朝花夕拾
- >
羅曼·羅蘭讀書隨筆-精裝
- >
龍榆生：詞曲概論/大家小書
本類暢銷
