2018年，人工智能將為這五個(gè)難題絞盡腦汁

就大量關(guān)于“殺手級(jí)機(jī)器人”的炒作來(lái)說(shuō)，2017年在人工智能方面取得了一些顯著的進(jìn)步。阿爾法狗、冷撲大師等棋牌機(jī)器人能讓頂級(jí)玩家陷入絕望，在現(xiàn)實(shí)世界中，機(jī)器學(xué)習(xí)正被用于改善農(nóng)業(yè)，以及擴(kuò)大醫(yī)療保健的覆蓋面。

但你最近和Siri或者Alexa對(duì)話過(guò)嗎?如果有，那么你就會(huì)知道，撇開(kāi)這些炒作，以及躊躇滿志的億萬(wàn)富翁們，還有很多事情人工智能仍然不能做也不能理解。以下是五個(gè)棘手的問(wèn)題，專(zhuān)家們將在明年為它們絞盡腦汁。

1、語(yǔ)言真正的含義

在處理文本和語(yǔ)言方面，機(jī)器比以往任何時(shí)候都做的更好。 Facebook可以為視障人士讀出圖像描述。谷歌做了一個(gè)很不錯(cuò)的軟件，能在回復(fù)電子郵件時(shí)給出簡(jiǎn)短的建議。然而，軟件仍然不能真正理解我們的話語(yǔ)的含義，或我們想與它們分享的想法。波特蘭州立大學(xué)教授梅蘭妮·米切爾(Melanie Mitchell)表示：“人類(lèi)能夠把我們學(xué)到的概念以不同的方式結(jié)合起來(lái)，并在新的情況下應(yīng)用。AI和機(jī)器學(xué)習(xí)系統(tǒng)則不能。”

Mitchell將今天的軟件面臨的問(wèn)題描述為數(shù)學(xué)家Gian Carlo-Rota所說(shuō)的“意義障礙”。一些領(lǐng)先的AI研究團(tuán)隊(duì)正試圖找出克服它的方法。

這項(xiàng)工作的一部分，旨在為機(jī)器提供關(guān)于常識(shí)和實(shí)體世界的認(rèn)知基礎(chǔ)——它們奠定了我們的思維。例如，F(xiàn)acebook研究人員正通過(guò)觀看視頻來(lái)教軟件理解現(xiàn)實(shí)。還有人在模擬我們可以用關(guān)于世界的知識(shí)做些什么。谷歌一直在試圖打造能夠理解隱喻的軟件。米切爾實(shí)驗(yàn)過(guò)一種系統(tǒng)，使用類(lèi)比和概念存儲(chǔ)來(lái)解釋照片中發(fā)生的事情。

2、阻礙機(jī)器革命的“現(xiàn)實(shí)差距”

機(jī)器人硬件已經(jīng)發(fā)展的相當(dāng)不錯(cuò)了?；?00美元，你就能購(gòu)買(mǎi)攜帶高清攝像機(jī)的手掌大小的無(wú)人機(jī)。搬運(yùn)箱子的機(jī)器人以及兩條腿走路的機(jī)器人也有所改進(jìn)。那為什么我們還沒(méi)有被繁忙的機(jī)械助手所包圍?因?yàn)楝F(xiàn)在的機(jī)器人缺乏能夠匹配他們先進(jìn)的肌肉的大腦。

讓機(jī)器人做任何事情都需要針對(duì)特定的任務(wù)進(jìn)行特定的編程。它們可以通過(guò)重復(fù)的試驗(yàn)(和錯(cuò)誤)學(xué)習(xí)操作，如抓取物體。但是這個(gè)過(guò)程相對(duì)較慢。一個(gè)有希望的捷徑是讓機(jī)器人在虛擬的、模擬的世界中訓(xùn)練，然后把那些來(lái)之不易的知識(shí)下載到實(shí)體機(jī)器人體內(nèi)。然而，這種方法被現(xiàn)實(shí)差距所困擾，具體來(lái)說(shuō)，機(jī)器人在模擬過(guò)程中學(xué)到的技能，在轉(zhuǎn)移到實(shí)體世界中的機(jī)器時(shí)，并不總是有效。

這種現(xiàn)實(shí)差距正在縮小。十月，在虛擬和真實(shí)的機(jī)器人手臂拾取多種物品的實(shí)驗(yàn)中——這些任務(wù)包括膠帶分配器，玩具和梳子等等——谷歌報(bào)告了可喜的結(jié)果。

對(duì)于自動(dòng)駕駛汽車(chē)從業(yè)者來(lái)說(shuō)，取得進(jìn)一步的進(jìn)步很重要。在機(jī)器駕駛競(jìng)賽中，眾多公司在在虛擬街道上部署虛擬車(chē)輛，他們希望能減少在實(shí)際交通和道路條件下測(cè)試所花費(fèi)的時(shí)間和金錢(qián)。自動(dòng)駕駛創(chuàng)業(yè)公司Aurora首席執(zhí)行官Chris Urmson說(shuō)，使虛擬測(cè)試更適用于真實(shí)車(chē)輛是團(tuán)隊(duì)的優(yōu)先考慮之一。曾經(jīng)領(lǐng)導(dǎo)谷歌母公司Alphabet的自主汽車(chē)項(xiàng)目的Urmson說(shuō)：“明年或以后，我們可以利用這種技術(shù)來(lái)加速學(xué)習(xí)。”

3、防范AI黑客攻擊

運(yùn)行電網(wǎng)，安全攝像頭和手機(jī)的軟件時(shí)常受到安全漏洞的困擾。自動(dòng)駕駛汽車(chē)和家用機(jī)器人的軟件想必也不會(huì)例外。事實(shí)上它們的情況可能更糟糕：有證據(jù)表明，機(jī)器學(xué)習(xí)軟件的復(fù)雜性引發(fā)了新的攻擊途徑。

研究人員今年表示，你可以在機(jī)器學(xué)習(xí)系統(tǒng)內(nèi)部隱藏一個(gè)秘密觸發(fā)器，讓它在一個(gè)特定的信號(hào)下轉(zhuǎn)為惡性模式。紐約大學(xué)的研究小組設(shè)計(jì)了一個(gè)街道識(shí)別系統(tǒng)，該系統(tǒng)看到黃色的便利貼就會(huì)停止正常工作。將一張便利貼貼在布魯克林的停車(chē)標(biāo)志上，會(huì)導(dǎo)致系統(tǒng)將該標(biāo)志報(bào)告為限速。 這些把戲的潛在可能性可能會(huì)給成自動(dòng)駕駛汽車(chē)造成問(wèn)題。

這個(gè)威脅很?chē)?yán)重，本月早些時(shí)候，世界頂級(jí)機(jī)器學(xué)習(xí)會(huì)議的研究人員召開(kāi)了一個(gè)關(guān)于“機(jī)器騙術(shù)的威脅”的研討會(huì)。研究人員討論了一些惡魔般的騙術(shù)，比如生成一些在人類(lèi)看來(lái)很正常、但是對(duì)軟件來(lái)說(shuō)意味卻截然不同的手寫(xiě)數(shù)字。例如，你所看到的是一個(gè)2，而機(jī)器視覺(jué)系統(tǒng)看到的是一個(gè)3。研究人員還討論了這種攻擊的可能防御方法，并且擔(dān)心人工智能被用來(lái)愚弄人類(lèi)。

組織研討會(huì)的Tim Hwang預(yù)測(cè)，隨著機(jī)器學(xué)習(xí)變得更容易部署，功能更強(qiáng)大，使用該技術(shù)操縱人是不可避免的。他說(shuō)：“你不再需要一房間的博士才能研究機(jī)器學(xué)習(xí)。”黃指出，在2016年總統(tǒng)選舉期間，俄羅斯的虛假宣傳運(yùn)動(dòng)是潛在的AI加持的信息戰(zhàn)的先行者。他說(shuō)：“為什么從機(jī)器學(xué)習(xí)的領(lǐng)域看看這些活動(dòng)中涉及到的科技呢?” Hwang預(yù)測(cè)，其中一個(gè)格外有效的騙術(shù)可能是使用機(jī)器學(xué)習(xí)制造虛假的視頻和音頻。

4、超越桌游

Alphabet的國(guó)際象棋冠軍阿爾法狗軟件在2017年迅速崛起。五月份，一個(gè)更強(qiáng)大的版本擊敗了中國(guó)的圍棋冠軍柯潔。它的創(chuàng)造者，研究機(jī)構(gòu)DeepMind，隨后構(gòu)建了一個(gè)新的版本，AlphaGo Zero，不通過(guò)研究人類(lèi)棋術(shù)而直接學(xué)習(xí)圍棋。十二月， AlphaZero又一次升級(jí)，它可以學(xué)習(xí)下圍棋和日本棋類(lèi)游戲Shogi(雖然不是在同時(shí))。

這種滾雪球般的捷報(bào)令人印象深刻，但同時(shí)也提醒人們AI軟件的局限性。國(guó)際象棋，shogi和圍棋都很復(fù)雜，但規(guī)則相對(duì)簡(jiǎn)單，且對(duì)手的玩法清晰可見(jiàn)。它們與計(jì)算機(jī)能迅速掌握的許多未來(lái)職位的能力非常匹配。但是生活中的大多數(shù)情況和問(wèn)題，并不是這樣結(jié)構(gòu)整齊。

因此在2017年，DeepMind和Facebook都開(kāi)始在多人游戲“星際爭(zhēng)霸”上下功夫?，F(xiàn)在兩者的進(jìn)展都不大。目前最好的機(jī)器人是業(yè)余愛(ài)好者所建立的——即使是與中等技能的玩家相比，它們也無(wú)法匹敵。 今年早些時(shí)候，DeepMind研究員Oriol Vinyals曾表示，需要缺乏規(guī)劃和記憶能力才能精心組裝和指揮一支軍隊(duì)，同時(shí)期預(yù)測(cè)并對(duì)對(duì)手的動(dòng)作做出反應(yīng)，而他的軟件缺乏這種能力。無(wú)獨(dú)有偶，這些技能對(duì)于軟件更好地幫助實(shí)際工作也至關(guān)重要，如辦公室工作或真正的軍事行動(dòng)。 2018年“星際爭(zhēng)霸”或類(lèi)似游戲的巨大進(jìn)步可能預(yù)示著人工智能的一些強(qiáng)大的新應(yīng)用。

5、教AI辨別是非

即使沒(méi)有在上述領(lǐng)域取得新的進(jìn)展，如果現(xiàn)有的AI技術(shù)被廣泛采用，經(jīng)濟(jì)和社會(huì)的許多方面也會(huì)發(fā)生很大的變化。企業(yè)和政府正急于這樣做，與此同時(shí)，有人對(duì)人工智能和機(jī)器學(xué)習(xí)可能造成的意外和故意傷害表示擔(dān)憂。

在本月的NIPS機(jī)器學(xué)習(xí)大會(huì)上，一個(gè)重要的討論話題是，如何使技術(shù)保持在安全和道德的范圍內(nèi)。研究人員發(fā)現(xiàn)，我們的世界本身遠(yuǎn)不完美，機(jī)器學(xué)習(xí)系統(tǒng)從中獲得訓(xùn)練數(shù)據(jù)，因而可能學(xué)會(huì)令人不愉快或者我們不期望的行為，如延續(xù)性別偏見(jiàn)和刻板印象?，F(xiàn)在有人正在研究技術(shù)，用于審核人工智能系統(tǒng)內(nèi)部運(yùn)作，確保他們?cè)谕度虢鹑诨蜥t(yī)療保健等行業(yè)工作時(shí)作出公平的決策。

明年我們應(yīng)該會(huì)看到科技公司提出相關(guān)理念，關(guān)于如何讓人工智能站在人性光明面。谷歌，F(xiàn)acebook，微軟和其他人已經(jīng)開(kāi)始討論這個(gè)問(wèn)題，以及一個(gè)新的名叫“Partnership on AI”的非營(yíng)利組織的成員，該組織將研究和嘗試塑造人工智能的社會(huì)影響。更多的獨(dú)立組織也感受到了壓力。一個(gè)名為“人工智能倫理與治理基金會(huì)”的慈善項(xiàng)目正在支持麻省理工學(xué)院、哈佛大學(xué)等研究人工智能和公共利益。紐約大學(xué)的一個(gè)新研究機(jī)構(gòu)AI Now也有類(lèi)似的任務(wù)。在最近的一份報(bào)告中，它呼吁各國(guó)政府發(fā)誓放棄在刑事司法或福利等領(lǐng)域使用沒(méi)有公開(kāi)檢查的“黑匣子”算法。