對話MIT人工智能實驗室主任：AI不是雙刃劍，都是人類惹的禍

時間：2020-06-03 17:30:01

關(guān)鍵字： AI mit

手機看文章

掃描二維碼
隨時隨地手機看文章

[導(dǎo)讀] 對話MIT人工智能實驗室主任：AI不是雙刃劍，都是人類惹的禍隨著機器學(xué)習(xí)與人工智能技術(shù)的發(fā)展，如今，越來越多的公司、個人開始利用 AI 技術(shù)，為未來下著重要“賭注”。但是，人一旦動了歪

對話MIT人工智能實驗室主任：AI不是雙刃劍，都是人類惹的禍

隨著機器學(xué)習(xí)與人工智能技術(shù)的發(fā)展，如今，越來越多的公司、個人開始利用 AI 技術(shù)，為未來下著重要“賭注”。但是，人一旦動了歪腦筋，AI 也可能會作惡，如何好好利用技術(shù)這把雙刃劍，是我們最為關(guān)注的。

5 月 25 日，由學(xué)教育-松鼠 AI、IEEE 教育工程和自適應(yīng)教育標準工作組、中國自動化學(xué)會、新東方、好未來等共同舉辦了第三屆 AIAED 人工智能智適應(yīng)教育峰會。在會上，來自麻省理工學(xué)院（以下稱 MIT）計算機科學(xué)與人工智能實驗室主任 Daniela Rus 發(fā)表了相關(guān)主題演講。

她在演講中表示，人類需要找到真正產(chǎn)生影響的資源，影響科技改變世界的方式，而這是 21 世紀當中最為重要的課題。

對于未來人工智能技術(shù)與算法的發(fā)展，她認為人類需要謹慎、仔細地看待。

Daniela Rus 是機器人領(lǐng)域的權(quán)威專家，MIT 計算機科學(xué)和人工智能實驗室（CSAIL）主任，曾經(jīng)一手創(chuàng)辦了達特茅斯學(xué)院機器人實驗室。DeepTech 和麻省理工科技評論曾報道的“抓取式”軟體機器人、折紙機器人等重要論文與技術(shù)成就，都是由 Daniela Rus 和她的團隊一起研發(fā)的。

在 AIAED 大會上，Daniela Rus 對目前 AI 與機器人領(lǐng)域的技術(shù)前景進行了評估，并表示樂觀，她認為這當中充滿機遇。

“大家想象一下，有一天我們?nèi)粘Ｉ畹乃腥蝿?wù)都由機器人來代替了，無人機把食物送到門口，垃圾能夠自動被回收。想象一下這些智能系統(tǒng)使得生活的方方面面都自動化，保證我們生活得很好，工作更加高效?！彼浅Ｅd奮地說。

其實，這種場景已經(jīng)在逐步實現(xiàn)中。早前外媒曾報道，美國喬治梅森大學(xué)（George Mason Uniersity，簡稱GMU）打造了全球規(guī)模最大的校園機器人送餐服務(wù)。送餐機器人在路上行走，可以將食物送到指定位置，學(xué)生自主取出熱騰騰的食物。

圖 | 送餐機器人，

與此同時，亞馬遜、京東、阿里巴巴等電商巨頭，也在不斷嘗試通過無人機等多種方式，將物品送到用戶手中。所以，時代在不斷發(fā)展，而人類正在享受著技術(shù)帶來的便捷與美好。

但大眾也要意識到，技術(shù)是中立的，最終的結(jié)果取決于控制技術(shù)的人。若數(shù)據(jù)與算力存在很大的偏差，可能會造成難以想象的慘烈后果。

Daniela Rus 對此感到擔憂，她表示，雖然 AI 有諸多優(yōu)勢，但是要警惕人類“抄近道”，該弄的東西沒有弄，欺騙技術(shù)與系統(tǒng)，造成很大的困擾。同時她又指出，這一切其實跟 AI 技術(shù)的關(guān)系并不大，而是與人類的控制有關(guān)。

人類需要善于利用技術(shù)上的優(yōu)勢。人做人最擅長的事情，機器做機器最擅長的事情，“耍小聰明”不是正經(jīng)之道。

在 AIAED 大會后，Daniela Rus 教授接受了 DeepTech 的采訪，聊了聊目前人工智能技術(shù)難點以及未來她想研究的機器人是哪種類型等。以下是采訪實錄整理：

中美在AI領(lǐng)域各有千秋

DeepTech：中國和國外在 AI 技術(shù)與人才方面還存在哪些差異？中國的 AI 興起還有什么創(chuàng)新的機會？

Daniela Rus：你可能看過李開復(fù)的《AI未來》，講到中國有一定的優(yōu)勢，比如中國的數(shù)據(jù)采集量比較大，使得中國有更多的 AI 技術(shù)空間可以發(fā)揮。但從 AI 人才教育的角度來說，中國相對還比較僵化，應(yīng)試教育的氛圍較為濃厚，小孩可能更重視考上哪個大學(xué)；美國則相對更靈活一些，更想著我要去解決什么樣的問題。

中國從教育體制，包括從學(xué)生對 AI 的態(tài)度來說，可能還是有一些地方需要改善。但總的來說，中美 AI 技術(shù)人才與研究能力都是非常強大的，各有千秋，中國在這一領(lǐng)域還是有許多發(fā)展空間的。

技術(shù)難點與解決方案

問：AI 技術(shù)研究中有遇到什么困難嗎？

Daniela Rus：以前，我們想象中的機器人可能都是金屬的、塑料的，或者長得像人，或者像人一樣動作。但實際上，當我從事這項工作的時候，從一位制造機器人的研究者角度看，機器人可能有不同的形狀，也可以有不同的功能，可能是木頭做的，也可能是布、紙做的，或者可以用食物做機器人。

用那些東西做成機器人，人可以把機器人吃到肚子里，在肚子里面工作，工作完了就消化掉了。所以，在技術(shù)研究中，更多要考慮的是理想與實際之間的應(yīng)用關(guān)系。

問：在研究機器人技術(shù)的時候，有哪些挑戰(zhàn)值得和我們一起分享？

Daniela Rus：三個很重要的挑戰(zhàn)，第一個，如何制作大腦，機器人怎么思考，怎么找到問題解決方案；第二個，怎么制造機器人的語言；第三個，人機交互。

第一個，大腦。機器人的思考過程與人類不太一樣，運行環(huán)境并沒有那么多樣化。但在機器人實際應(yīng)用中，復(fù)雜的環(huán)境挑戰(zhàn)，無法在實驗室中進行提前預(yù)知問題的解決方案，機器人的大腦在推理、思考、認知上都具有很大的挑戰(zhàn)。

第二個，制造機器人的語言化。機器人本身第一語言還是非常底層的語言，所以彼此做一個東西，需要相當長的開發(fā)時間來做底層的語言。另外，制作本身還是沒有一個非常容易的東西。

第三個，人機交互。怎么能夠了解人的反應(yīng)，這本身還是很有挑戰(zhàn)的。

問：人工智能的計算結(jié)果常常是隨機的，不可解釋的，如何解決這個問題？

Daniela Rus：我們已經(jīng)有了許多方法來解決此類問題，比如剛才提到的神經(jīng)網(wǎng)絡(luò)。目前來說，神經(jīng)網(wǎng)絡(luò)還是有很多黑盒子過程，我們無法直接解釋，也無法從數(shù)據(jù)角度給出一個解決方案，這實際是人工智能的一個很大的課題。

但是從某種角度來說，這也是一個必然的過程。從人工智能領(lǐng)域來說，打破黑盒子，解釋并給出解決方案，是一個探索過程。另外，剛才也談到，現(xiàn)在數(shù)據(jù)量很大，如果一個神經(jīng)網(wǎng)絡(luò)有特別多的節(jié)點，本身的復(fù)雜性就會非常高?，F(xiàn)在有些方法可以把節(jié)點壓縮，把復(fù)雜的內(nèi)容壓縮到相對簡單，比如說從 200 萬壓縮到 20 個節(jié)點等方式。

問：AI 是一把雙刃劍，在數(shù)據(jù)和算力之間存在一定偏差，在某種場景，AI 也存在一定的危險性。那么，AI 技術(shù)在教育領(lǐng)域下會發(fā)生哪些的極端情形？

Daniela Rus：我們一直聽到，AI 的優(yōu)勢是什么，能夠帶來多少收益等正向的話題。當然，人有無限可能，人類可能會采取作弊、欺騙等態(tài)度，也就是所謂“抄近道”，該弄的東西沒有弄，欺騙系統(tǒng)與技術(shù)。

這種情形是一定存在的，但實際上騙的是自己，最后呈現(xiàn)出的惡果并不是 AI 的問題，而是人類最終自食其果，搞垮罷了。

問：數(shù)據(jù)、算法的歧視問題，怎么能做到盡可能“數(shù)字公平”？

Daniela Rus：現(xiàn)在大家對算法歧視問題表示關(guān)心，這是很正常的，大眾確實有這樣那樣的顧慮，我認為，這也是研究人員亟待解決的一個問題。

今年，我的項目組里出了不同的論文，但話題都是一致的，就是怎么解決機器學(xué)習(xí)里面產(chǎn)生的偏見。我們知道，面部識別出現(xiàn)過很多問題，就是所謂偏見性的東西。目前來看，解決此問題的辦法，仍是深度研究。

問：AI 需要很多數(shù)據(jù)，歐洲很多國家都會覺得太侵犯隱私了，會有一些阻力。你如何判斷 AI 技術(shù)對隱私的保護產(chǎn)生沖突問題？

Daniela Rus：這個可能還是更容易一些，因為很多事情是雙刃劍。

談未來研究方向

問：你覺得在分布式機器人領(lǐng)域會有哪些發(fā)展，它的趨勢是什么？

Daniela Rus：未來我們的生活環(huán)境里會有很多機器人，這種情況下一定是分布式的，互相有協(xié)調(diào)問題。

比如：自動駕駛汽車，每一輛自動駕駛汽車都相當于一個機器人，它們互相之間的協(xié)調(diào)，在實際道路環(huán)境中能不能通過監(jiān)測的方式，互相感知，了解相互位置，并互相協(xié)調(diào)。