都是機(jī)器人惹的禍：白宮首次討論人工智能監(jiān)管問題

政府應(yīng)該監(jiān)管人工智能嗎?這是白宮第一個(gè)針對(duì)人工智能的法律和監(jiān)管問題開設(shè)的工作室的核心議題。“我們觀察到圍繞人工智能和機(jī)器學(xué)習(xí)的問題正從政府的各個(gè)角落涌現(xiàn)出來。”白宮副首席技術(shù)官 Ed Felten 說，“我們離廣泛監(jiān)管人工智能還相去甚遠(yuǎn)……但面臨的挑戰(zhàn)是如何在人工智能變得越來越聰明時(shí)確保它是安全的、可控的和可預(yù)測(cè)的。

艾倫人工智能研究所 CEO Oren Etzioni(左)正與白宮人工智能工作室的與會(huì)者交談。圖片來自：MIT Tech Review。

該工作室的組織者之一、華盛頓大學(xué)法律學(xué)教授 Ryan Calo 說：該工作室的主要目標(biāo)之一是幫助公眾了解該技術(shù)的現(xiàn)狀和發(fā)展方向。“我們的想法不是讓政府介入和監(jiān)管人工智能，而是使用其許多其它的杠桿，比如機(jī)構(gòu)和采購力量的協(xié)調(diào)。”他說，該工作室的參與者包括技術(shù)企業(yè)家、學(xué)者和公眾成員。

在一個(gè)主題演講中，艾倫人工智能研究所 CEO Oren Etzioni 指出我們?nèi)耘f處于機(jī)器學(xué)習(xí)的黑暗時(shí)代——人工智能系統(tǒng)一般只能在結(jié)構(gòu)化良好的問題中才能有效發(fā)揮作用，如棋盤游戲和高速公路駕駛。他倡導(dǎo)可讓人工智能幫助人類變得更安全和更高效的合作方式。“在美國，醫(yī)院的錯(cuò)誤是第三大導(dǎo)致死亡的原因。”他說，“人工智能可以在這里提供幫助。每年都有很多人因?yàn)槲覀儧]在醫(yī)院正確地使用人工智能而死去。”

不過，Etzioni 認(rèn)為現(xiàn)在就談?wù)摫O(jiān)管人工智能還為時(shí)尚早：“深度學(xué)習(xí)仍然 99% 是人類的成果和人類的才智。‘是我的機(jī)器人干的’完全不能作為借口。我們必須為我們的機(jī)器人、人工智能和算法的行為負(fù)責(zé)。”

一個(gè)“人工智慧(artificial wisdom)”小組關(guān)注的是人與人工智能的互動(dòng)何時(shí)會(huì)出問題，比如為預(yù)測(cè)未來刑事犯罪所設(shè)計(jì)的算法表現(xiàn)出了種族偏見的情況。耶魯大學(xué)法學(xué)院的 Jack Balkin 說：“問題并不在于人工智能代理本身，而在于人類使用技術(shù)工具在金融、刑事司法和教育中壓迫其他人。”

一些學(xué)者支持“信息受托”的想法：讓收集大數(shù)據(jù)和使用人工智能的人承擔(dān)誠實(shí)守信的法律責(zé)任。比如，如果技術(shù)人員使用質(zhì)量糟糕的數(shù)據(jù)訓(xùn)練人工智能系統(tǒng)，或?qū)⒒诜N族、年齡或性別的偏見固化到他們?cè)O(shè)計(jì)的算法中，那么他們就可能會(huì)被追究責(zé)任。

微軟研究院社會(huì)科學(xué)家 Kate Crawford 指出，隨著政府機(jī)構(gòu)的決策越來越依賴于人工智能系統(tǒng)，這些機(jī)構(gòu)將需要了解數(shù)據(jù)和人工智能技術(shù)的固有限制和偏見的人。她建議學(xué)生在學(xué)習(xí)編程技能的同時(shí)也應(yīng)該被教授道德。

來自南卡羅來納大學(xué)的 Bryant Walker Smith 提出了對(duì)快速發(fā)展的技術(shù)(比如無人駕駛汽車)的監(jiān)管靈活性。“個(gè)別公司應(yīng)該為他們的自動(dòng)駕駛汽車的安全性做一個(gè)公案，”他說，“他們應(yīng)該采取措施，然后在系統(tǒng)的整個(gè)使用壽命中監(jiān)測(cè)它們。我們需要一些多樣化的方法確保公眾的知悉權(quán)，支持公眾意見變了。”

共有四個(gè)工作會(huì)議計(jì)劃于未來幾個(gè)月舉辦，這是其中第一個(gè)會(huì)議。其中有兩個(gè)將會(huì)圍繞安全和控制方面解決人工智能給社會(huì)帶來的好處和問題，最后一個(gè)則會(huì)更深入地挖掘該技術(shù)的社會(huì)的經(jīng)濟(jì)影響。Felten 也宣布白宮不久之后就會(huì)發(fā)出信息請(qǐng)求，讓廣大公眾也可以參與到權(quán)衡人工智能的未來中。

當(dāng)然，這項(xiàng)工作顯然和 11 月份美國總統(tǒng)大選有關(guān)。在 Felten 本月早些時(shí)候的一篇博客中公布了一個(gè)關(guān)于機(jī)器學(xué)習(xí)和人工智能的全新“國家科學(xué)與技術(shù)小組委員會(huì)”，其目標(biāo)是在“現(xiàn)在到本屆政府結(jié)束之間”使用人工智能提升政府服務(wù)。