人類如何建立對AI的信任？ —— 文章正文2017-07-26
更新于2017年7月24日06:29清華大學(xué)全球產(chǎn)業(yè)研究院特約研究員石澤為FT中文網(wǎng)撰稿
【編者按】人工智能（AI）的發(fā)展影響著每個人的日常生活，經(jīng)歷了過去一年中對AI的憂慮和倫理討論之后，新的一年大家越來越關(guān)注AI領(lǐng)域的創(chuàng)業(yè)機會，人工智能隨之成為今年創(chuàng)投圈的新風(fēng)口。那么，國外的機器人產(chǎn)業(yè)的發(fā)展對中國有什么樣的啟示？以及中國人工智能創(chuàng)業(yè)中需要注意什么問題等，F(xiàn)T中文網(wǎng)近期組織人工智能專題，編輯事宜，聯(lián)系閆曼man.yan@ftchinese.com。 AI不僅存在于手機、電腦、無人機和物聯(lián)網(wǎng)上，也存在于ManuelaVeloso教授的協(xié)作機器人（Cobot）身上。這位前AAAI（國際人工智能協(xié)會）主席，美國卡內(nèi)基梅隆大學(xué)（CarnegieMellonUniversity）機器學(xué)習(xí)系負(fù)責(zé)人是人工智能和自主機器人領(lǐng)域的主要學(xué)術(shù)領(lǐng)導(dǎo)人之一。Manuela教授的一個研究方向是室內(nèi)移動機器人，研究如何讓可以移動的機器人與人對話、學(xué)習(xí)、像人類一樣具有意識等。 如果你去拜訪Manuela教授，會在辦公樓門口遇到由她創(chuàng)造的用來接待客人的協(xié)作機器人。這些已經(jīng)累計“行走”了一千多公里的機器人（協(xié)作機器人是滾輪式的），會與你對話，為你引路，帶你到教授的辦公室門口，還能去茶水間幫你打一杯咖啡，看看會議室有沒有開門然后發(fā)個郵件給你。不同于人類的感覺器官，機器人通過3D攝像機等傳感器來識別障礙物，能夠拍攝到距周邊六到十米的環(huán)境圖像，并最終將這些圖像轉(zhuǎn)化成選擇路徑所需要的信息。 要實現(xiàn)機器為人服務(wù)，不可避免地需要解決人機互動的問題。時至今日，人機互動的內(nèi)涵已經(jīng)從傳統(tǒng)的人與電腦交互擴展至人與機器人、AI交互。如何看待人與AI交互的發(fā)展方向？要實現(xiàn)“讓AI移動起來”在技術(shù)上還有哪些挑戰(zhàn)？AI技術(shù)進一步發(fā)展的風(fēng)險是什么？服務(wù)機器人可能的應(yīng)用場景有哪些？通過與Manuela教授的交流，我們深入探討了這些AI發(fā)展中的前沿問題。 人類需要建立對AI的信任 《致加西亞的信》講的是一個人徒步三個星期穿越一個危機四伏的國家，把信交給加西亞將軍的故事。這本發(fā)行量高達四千萬的書，強調(diào)的是“可信任”的品質(zhì)，也就是說，我們很難把任務(wù)交給無法信任的人。同樣的，我們也很難把重要的任務(wù)交給一個還不夠了解的“黑箱子”。因此，AI全面進入人類生活的前提是：人類需要建立起對AI的信任。 人工智能 誰該為機器人負(fù)責(zé)？ 弗洛里迪：如果我的機器人打破了鄰居的窗戶，誰該為此負(fù)責(zé)？機器人生產(chǎn)商、銷售商、我本人、還是機器人？ Manuela教授認(rèn)為，有兩種方式可以增加我們對AI的信心。一是保證系統(tǒng)更透明可靠。當(dāng)我們讓AI幫助做決定的時候，需要知道AI給出建議的理由。目前AI給出的是通用解決方案，但無法做出解釋。AI還不能解釋為什么它所識別出來的圖像是貓，為什么走到前面要向右轉(zhuǎn)。如果AI變得更透明，則能獲得更多的信任。二是人類可以指導(dǎo)和糾正AI系統(tǒng)。未來的十年是人與AI交互的10年，對人類的挑戰(zhàn)是，知道如何與AI互動。對AI的挑戰(zhàn)是，需要成為可指揮、可糾正、可自我解釋的系統(tǒng)。人類可以通過互動來增加對AI的信任，這么做是為了更好地接受AI，更好地理解、使用AI，更好地的滿足人類的需求。人類與AI互動的方向是需要理解AI、機器人這種新的“生物”。 AI并不是靜止的，而是動態(tài)的、自學(xué)習(xí)系統(tǒng)，它沒有DNA，但有自己的學(xué)習(xí)曲線。雖然開始有可能做的不好，但AI會在經(jīng)驗的基礎(chǔ)上越來越好。這個過程中需要教它，糾正它，最終讓它按我們的期望做事，由于我們在這個過程中不斷看到的AI新功能，因此將對AI更加有信心。 機器人之間的合作 不但人與AI、機器人之間有交互的問題，機器人之間也存在這個問題。Manuela教授認(rèn)為，提到機器人，目前來說是指單一機器人，而未來指的是多功能協(xié)作機器人。很多任務(wù)無法通過單一系統(tǒng)完成，比如足球、滅火或者建筑方面的工作，因此需要機器人之間的協(xié)作。目前Manuela教授的實驗室正在進行研究的問題之一是協(xié)作機器人之間的溝通問題。比如，請2號機器人去9層，而3號機器人正在9層，它會對2號機器人說：“不用來901辦公室了，門是關(guān)的。”機器人之間的交談內(nèi)容包括分享信息、分配任務(wù)、協(xié)作。機器人A可以對B說，“我可以幫你把東西拿過去，你沒必要再過去了。”通過相互溝通，他們將學(xué)會如何協(xié)作，Manuela教授有關(guān)于足球機器人協(xié)作方面20年的研究經(jīng)驗，在她看來，多任務(wù)機器人可以學(xué)會如何協(xié)作。 到最后，不同類型的機器人之間是可以互相說話的。雖然亞馬遜音箱已經(jīng)可以和人類對話，但在移動機器人的協(xié)作領(lǐng)域，距離實現(xiàn)這個目標(biāo)還有很多年。就像計算機之間通過協(xié)議和標(biāo)準(zhǔn)來通信，未來室內(nèi)機器人與室外飛行機器人之間能夠?qū)υ?，討論能量、任?wù)等問題。雖然目前還沒有AI之間的協(xié)議，但科學(xué)家正在朝這個方向努力。 目前AI能完成的任務(wù)領(lǐng)域非常窄，雖然它們能夠非常專注于自己的任務(wù)，但其他方面都不行。Manuela教授的協(xié)作機器人目前能把客人帶到辦公室去，但這些機器人沒有手臂，不能開門，也不能上樓，在路上有人摔倒或者地板上有水，或者火災(zāi)報警器響，它們都意識不到。目前Manuela教授團隊的研究方向之一是讓協(xié)作機器人有更多的意識，未來或許在協(xié)作機器人2.0時代，他們能意識到周邊環(huán)境發(fā)生的事情。也許要到5.0時代，它能很好的處理周圍環(huán)境中的火災(zāi)、有人摔倒等等所有突發(fā)的情況，然而這個過程是艱難而漫長的。 盡管目前協(xié)作機器人還沒有商用，但Manuela教授提到了一些協(xié)作機器人可能的應(yīng)用場景。除了解決老齡化問題和教育問題，協(xié)作機器人可以應(yīng)用在銀行、機場、超市、購物中心等公共空間。比如，在商場購物可以不用購物車，而是把東西放在協(xié)作機器人上，從而解放雙手，它們是自動駕駛的，會通過接入手機而跟隨我們。 AI的價值觀 自從2007年第一部Iphone問世以來，互聯(lián)網(wǎng)上每年都產(chǎn)生海量的圖片，圖片、視頻、文字以及與Siri的對話都被保留在了云端，這些數(shù)據(jù)，是AI保持發(fā)展的原因之一。網(wǎng)上的海量數(shù)據(jù)使AI的發(fā)展變得非常實際。人類無時無刻都在產(chǎn)生數(shù)據(jù)，日常生活中的能源設(shè)備，日常攝入的卡路里數(shù)量、運動手環(huán)、醫(yī)院里關(guān)于健康的數(shù)據(jù)等等。有人認(rèn)為AI存在泡沫，但Manuela教授認(rèn)為由于持續(xù)增長的數(shù)據(jù)，AI將繼續(xù)發(fā)展下去。 科技的發(fā)展總會帶來新的挑戰(zhàn)、風(fēng)險和擔(dān)憂。如何正確的使用技術(shù)？一方面，什么是正確的事情?采取什么樣的步驟保證AI做正確的事情？在道德方面如何監(jiān)督?另一方面，如何檢查AI做的事情是否合規(guī)？ 猶如食物上所貼卡路里值的標(biāo)簽需要有人檢查一樣，從道德的角度，檢查是否合規(guī)的環(huán)節(jié)與規(guī)范、立法是密不可分的。從技術(shù)的角度，在寫程序的時候，需要建立規(guī)范，同時定義好計算機或者機器人所代表的價值取向，并且要保證程序經(jīng)過修改依然符合這一規(guī)范。 比如，如何保證機器人不會踩到人身上？寫程序的人開始的時候知道這段程序在哪里，但經(jīng)過十個人的修改，就很難知道了，再經(jīng)過一段時間，可能代碼都無從找起。為了解決這個問題，需要重新設(shè)計為AI或者機器人編程的模式。AI系統(tǒng)不能夠只是解決問題，他們需要變得更好。我們希望AI能做對的事情，但萬一沒有呢？只要AI還是“黑盒子”就無法避免這個風(fēng)險。AI的價值、道德和行為選擇是什么？作為創(chuàng)造者，人類希望AI能做和我們一樣正確的事情。Manuela教授認(rèn)為需要一個組織持續(xù)研究并關(guān)注這方面的挑戰(zhàn)。(責(zé)任編輯： 來源： 時間：2017-07-26)
Keywords（關(guān)鍵詞）： 長距離皮帶托輥傳輸機
上一篇：自動化大潮下 最快被機器替代的是職業(yè)白領(lǐng)？！
下一篇：能效變革-開創(chuàng)性無油變速螺桿壓縮機
