導語：今年9月11日，谷歌云AI部門負責人李飛飛宣布即將離職，回到斯坦福大學任教。外媒《連線》雜志日前刊文，講述了李飛飛離職背后的故事。
以下為文章全文：
去年六月有段時間，凌晨一點左右，李飛飛穿著睡衣，坐在華盛頓特區(qū)酒店房間里，練習幾個小時后要做的演講。臨睡前，李飛飛從筆記中刪去一整段，以確保自己能在指定時間內快速闡明幾個最重要的觀點。醒來時，這位身高165厘米的人工智能專家穿上靴子和一件黑色的海軍針織裙子，不同于平常的T恤和牛仔服。然后她搭乘一部Uber汽車，前往美國國會大廈南部的雷伯恩眾議院大廈。
在進入美國眾議院科學、空間與技術委員會的會議室之前，她拿起手機拍了一張?zhí)卮竽鹃T的照片。（“作為一名科學家，我對委員會感到異樣?！彼f。）然后她步入空曠的大廳，走向證人席。
那天上午聽證會的主題是“人工智能—;—;強大的力量帶來巨大的責任”，與會者包括政府問責辦公室的首席科學家蒂莫西·佩爾斯（Timothy Persons）和非營利組織OpenAI的聯(lián)合創(chuàng)始人兼首席技術官格雷格·布羅克曼（Greg Brockman）。但只有李飛飛是在現(xiàn)場發(fā)言的唯一女性，并可謂在人工智能（AI）領域擁有開創(chuàng)性成就。作為構建可幫助計算機識別圖像的數(shù)據(jù)庫ImageNet的研究人員，她是一小群科學家中的一員，這群人可能少得僅夠在廚房桌子旁邊圍成一圈，但AI近期的顯著進步都要歸功于他們。
那年六月，李飛飛在Google Cloud擔任首席人工智能科學家，并請假離開斯坦福人工智能實驗室主任一職。但她之所以出現(xiàn)在委員會面前，是因為她也是一家專注于招聘女性和有色人群成為人工智能建設者的非營利組織的聯(lián)合創(chuàng)始人。
這一點也不奇怪，議員們當天就對她的專業(yè)知識進行了提問。令人驚訝的是她的談話內容：她所熱愛的領域所帶來的嚴重危險。
一項發(fā)明及其影響之間的時間是短暫的。在像ImageNet之類的人工智能工具的幫助下，計算機可以被教授學習特定任務，然后比任何人都快地行動。隨著這項技術的日益成熟，它正被授權對數(shù)據(jù)進行過濾、分類和分析，并對全球和社會帶來影響。盡管這些工具以某種方式已經(jīng)存在了60多年，但在過去的十年中，我們開始使用它們來完成改變人類生活軌跡的任務：今天，人工智能幫助確定哪些治療方法可用于病人，誰有資格領取人壽保險，一個人應服刑多長時間，哪些求職者接受面試。
當然，這些權力可能是危險的。亞馬遜不得不放棄AI招聘軟件，因為該軟件學會了對包含“女性”一詞的簡歷加以處罰。誰能忘記谷歌2015年的慘痛經(jīng)歷呢？當時，谷歌的照片識別軟件將黑人圖片錯誤地貼上了大猩猩的標簽。微軟的AI社交聊天機器人則開始發(fā)布種族主義推文。但這些問題是可以解釋的，因此也是可以扭轉的。李飛飛認為，在不久的將來，我們將遇到一個不可能糾錯的時刻，因為這項技術正在被迅速、廣泛地采用。
那天上午，李飛飛在雷伯恩大廈作證，因為她堅信自己的領域需要重新校準。杰出而強大、且大部分由男性組成的高科技領袖已經(jīng)對未來發(fā)出了警告，人工智能驅動的技術成為人類生存的威脅。但李飛飛認為，這些擔憂被給予了太多的重視和關注。她專注于一個不那么戲劇化、但更重要的問題：人工智能將如何影響人們的工作和生活方式。它必然會改變人類的體驗，而不一定意味著更好。“我們有時間，”李飛飛說，“但我們現(xiàn)在必須采取行動?！崩铒w飛認為，如果我們對人工智能的設計及其設計者進行根本性的改變，技術將永遠是一個向善的變革力量。如果不是的話，大量人性將被從等式中剔除出去。
在聽證會上，李飛飛是最后一個說話的人。沒有證據(jù)表明她徹夜練習是因為緊張，她開口了?！叭斯ぶ悄苤写嬖谌斯さ臇|西?！彼囊袅吭鰪娏??！八撵`感來自于人類，它是由人類創(chuàng)造的，最重要的是它能影響人類。這是一個強有力的工具，我們只是剛剛開始理解，這是一個沉重的責任。”周圍人的臉嚴肅起來，一位出席會議的女士表示贊同，嘴里發(fā)出“嗯……嗯”的聲音。
李飛飛生長在華南工業(yè)城市成都。她是一個孤僻而聰明的孩子，也是一個如饑似渴的讀書人。她的家庭有點不尋常：在一個不推崇飼養(yǎng)寵物的文化里，她父親給她買來了一只小狗。母親來自知識分子家庭，鼓勵她讀《簡·愛》。（“在勃朗特姐妹中，我最喜歡艾米麗，”李說。）。在她12歲時，父親移居美國新澤西州帕西帕尼，她和母親幾年沒見到他。16歲時母女倆也出國移民。到美國的第二天，李飛飛的父親帶她去了加油站，讓她告訴技工修修他的車。她幾乎不會講英語，但通過手勢，李飛飛想出了解釋問題的方法。在兩年內，李飛飛已經(jīng)學會了足夠多的語言，可以為只會說初級英語的父母擔任翻譯和向導。“我必須成為父母的嘴巴和耳朵?！彼f。
她在學校也表現(xiàn)很好。父親喜歡淘舊貨，為她找到了一個科學計算器，她在數(shù)學課上使用，直到一位老師指出她的錯誤計算，她才發(fā)現(xiàn)有個功能鍵壞了。李飛飛稱贊另一位高中數(shù)學教師鮑勃·薩貝拉（Bob Sabella）引導她進入學術界，開始追逐美國夢。帕西帕尼高中沒有高級微積分課，所以他自編了一個課本，在午休時間教李飛飛。薩貝拉和妻子也讓她到他們家里玩，并帶她去迪斯尼度假，借給她2萬美元開了一家干洗店，讓她的父母經(jīng)營。1995年，她獲得了獎學金，得以去普林斯頓大學讀書。其間，她幾乎每個周末都回家?guī)椭?jīng)營家庭生意。
在大學里，李飛飛的興趣是廣泛的。她主修物理，學習計算機科學和工程學。2000年，她在帕薩迪納加州理工學院攻讀博士學位，同時研究神經(jīng)科學和計算機科學。
看到并促成看似不同領域之間的聯(lián)系，這一點使李飛飛想到了ImageNet。她的計算機視覺同行正在研究幫助計算機感知和解碼圖像的模型，但這些模型范圍有限：研究人員可能要編寫一種算法來識別狗，再用另一種算法來識別貓。李開始懷疑問題不在于模型而在于數(shù)據(jù)。她認為，如果一個孩子在早年通過體驗視覺世界—;—;即通過觀察無數(shù)的物體和場景—;—;來學習觀看，或許計算機也可以類似地通過分析各種各樣的圖像以及它們之間的關系來學習。對李飛飛來說，這一認知是一個巨大飛躍?！斑@是一種組織整個世界視覺概念的方法?！彼f。
但是她很難說服同事相信，在海量數(shù)據(jù)庫中為每個物體的每個可能的圖片加上標簽是合理的。此外，如果李飛飛決定要讓這個想法奏效，標簽需要從普通類（如“哺乳動物”）貼到高度特定類（如“星鼻鼴”）。2007年，李飛飛回到普林斯頓做助理教授，當她談到ImageNet的想法時，很難找到教員幫忙。最后，一位專攻計算機體系結構的教授同意加入，成為合作者。
她的下一個挑戰(zhàn)是打造巨人。這意味著很多人將不得不花費大量時間來做繁瑣的標記照片的工作。李飛飛試著給普林斯頓學生每小時支付10美元，但進展緩慢。然后一個學生問她是否聽說過亞馬遜土耳其人機器人（Amazon Mechanical Turk）。這是著名的眾包平臺，可借助群眾的智慧解決機器很難或無法解決的問題。突然之間，她可以把許多工人集合起來，成本只是九牛一毛。但從少數(shù)普林斯頓學生到數(shù)萬名隱形探索者的勞動力擴張，自身也存在挑戰(zhàn)。李飛飛不得不考慮工人間可能的偏見?！霸诰€工人，他們的目標是用最簡單的方法賺錢，對吧？”她說。如果你讓他們從100張圖片中選擇熊貓，怎樣才能阻止他們亂點一氣呢？”因此，她嵌入并跟蹤了一些圖像，例如已經(jīng)正確識別為狗的金毛獵犬的照片，作為對照組。如果土耳其人可以正確標記這些圖像，他們就能誠實地工作。
2009年，李飛飛團隊認為320萬張（后來增加到1500萬張）大型圖片集已足夠全面，可供使用，他們在發(fā)布數(shù)據(jù)庫的同時發(fā)表了一篇論文。起初這個項目很少受到關注。但后來團隊有了一個想法：他們聯(lián)系了次年在歐洲舉行的計算機視覺比賽的組織者，要求他們允許競爭對手使用圖像網(wǎng)絡數(shù)據(jù)庫來訓練他們的算法。這就是ImageNet大規(guī)模視覺識別挑戰(zhàn)。
大約在同一時間，李飛飛加入斯坦福大學擔任助理教授。那時，她嫁給了機器人學家西爾維奧·薩瓦雷塞（Silvio Savarese）。但是他在密歇根大學有一份工作，而且距離很遠。“我們知道，對我們來說，硅谷更容易解決我們分居兩地的問題，”李飛飛說。（薩瓦雷塞于2013年加入斯坦福大學。）“同時，斯坦福大學是特殊的，因為它是人工智能的發(fā)源地之一?！?/p>
2012年，多倫多大學的研究人員杰弗里·辛頓（Geoffrey Hinton）參加了ImageNet競賽，利用該數(shù)據(jù)庫來訓練一種人稱深度神經(jīng)網(wǎng)絡的人工智能。最終結果比之前的任何實驗都要精確得多，他贏了。李飛飛本來沒打算去看辛頓領獎，她在休產(chǎn)假，而頒獎典禮在意大利佛羅倫薩舉行。但她認識到歷史時刻正在到來。于是她在最后一刻買了一張機票，把自已塞進午夜航班的中間座位。辛頓的圖像神經(jīng)網(wǎng)絡改變了一切。到2017年，也就是比賽的最后一年，計算機在圖像中識別物體的錯誤率從2012年的15%降到了不到3%。計算機，至少通過一種方法，比人類更善于觀察。
ImageNet使深層學習成為可能，有了它，近期人類才能在自動駕駛汽車車、面部識別、可識別物體（以及告訴你它們是否正被促銷）的電話攝像機方面取得進展。
辛頓領獎后不久，當李飛飛還在休產(chǎn)假時，便開始思考在她的同行中女性為何如此之少。在那一刻，她敏銳地感受到了這一點，她看到了差距正在拉大成為問題。大多數(shù)構建人工智能算法的科學家是男性，而且通常具有相似背景。他們就自己特有的世界觀、甚至所預見的危險嵌入他們所從事的項目。許多人工智能的創(chuàng)造者都是擁有科幻夢想的男孩，靈感來自《終結者》和《刀鋒戰(zhàn)士》的場景。擔心這種事情沒什么不對的，李飛飛想，但這些想法偏離了AI可能存在風險的狹隘觀點。
正如李飛飛所說，深層學習系統(tǒng)“可獲得偏見，輸出偏見?！崩铒w飛認識到，雖然驅動人工智能的算法可能貌似是中性的，但影響這些算法結果的數(shù)據(jù)和應用卻不是。重要的是創(chuàng)建它的人，以及創(chuàng)建的目的。那天，李飛飛在國會山指出，如果沒有一群背景多樣的工程師，我們可能會創(chuàng)建出一套有偏見的算法，做出不公平的貸款申請決策，或者只在白人臉上訓練神經(jīng)網(wǎng)絡，從而創(chuàng)建出一種在黑人臉上表現(xiàn)不佳的模型?！拔艺J為，如果我們20年后覺醒，發(fā)現(xiàn)我們的技術、領導者和從業(yè)者缺乏多樣性，那將是我的末日圖景，”她說。
李飛飛開始相信，關鍵任務是把人工智能的發(fā)展重點放在幫助人類體驗上。她在斯坦福大學所從事的一個項目是與醫(yī)學院合作，將人工智能帶到ICU，努力減少諸如醫(yī)院獲得性感染之類的問題。它涉及到開發(fā)一個攝像頭系統(tǒng)，可監(jiān)控洗手站，并在醫(yī)院工作人員忘記正確擦洗量給出提示。這種類型的跨學科合作是不尋常的。斯坦福大學臨床卓越研究中心主任、醫(yī)學教授阿諾德·米爾斯坦（Arnold Milstein）說：“沒有其他來自計算機科學領域的人向我伸出援助之手?！?/p>
AI應當如何進化？這項工作讓李飛飛看到了希望。AI可以用來補充人們的技能，而不是簡單地替換之。如果其他學科的人（甚至是現(xiàn)實世界中的人）加入這一工程，他們就可以制造出一些工具來擴展人類能力，比如實現(xiàn)耗時工作自動化，讓ICU護士有更多時間陪伴病人，而不是建立人工智能使某人的購物體驗自動化，并讓出納員下崗。
考慮到AI正在飛速發(fā)展，李飛飛認為她的團隊需要調整人員—;—;越快越好。
幫助女性進入計算機領域
李飛飛對數(shù)學相當很癡迷，她深知要讓女性或者其它有色人種進入計算機領域，需要付出巨大努力。根據(jù)國家科學基金會（National Science Foundation）的統(tǒng)計，2000年，女性拿到的計算機學士學位只占全年總量的28%，2015年更是降到18%。在李飛飛自己的實驗室內，也很難聘請到足夠多的有色人種和女性研究員。李飛飛說，雖然她的實驗室比典型AI實驗室更加多樣化，但是男性仍然占主導。她還說：“女性不夠多，少數(shù)民族更是不夠多，實驗室儲備人才也存在這樣的問題。學生參加AI會議，會看到90%的與會者都是同性，非裔美國人的數(shù)量也遠沒有白人男性多。”
當李飛飛成為奧爾加·魯薩科沃斯基（Olga Russakovsky）的導師時，她幾乎快要退出行業(yè)。魯薩科沃斯基當時已經(jīng)是一名計算機科學家，拿到了數(shù)學學士學位和計算機碩士學位，都是在斯坦福拿到的，但是她在論文方面落后了。魯薩科沃斯基是實驗室唯一的女性，她覺得自己與同行脫節(jié)了。后來李飛飛來到斯坦福，情況有了變化。李飛飛幫助魯薩科沃斯基學會一些研究技能，魯薩科沃斯基還說，李飛飛讓她有了自信?，F(xiàn)在魯薩科沃斯基是普林斯頓大學計算機系的助理教授。
4年前，魯薩科沃斯基念完博士，她希望李飛飛能幫助自己建一個夏令營，讓那些對AI有興趣的女士參與進來。李飛飛同意了，她們馬上召集志愿者，給高中二年級學生打電話。雖然只有24個名額，但是一個月之內卻收到200份申請。2年后，他們擴大了項目，設立非盈利組織AI4All，將年輕人帶到斯坦福、加州大學伯克利分校，包括女孩、有色人種、經(jīng)濟狀況不佳的人。
在加州奧克蘭市區(qū)，AI4All有一個狹小的共享辦公室，由于組織的成長，現(xiàn)在它即將搬出?，F(xiàn)在AI4All在6所大學設立夏令營。去年她們在卡耐基梅隆大學舉辦夏令營，為20個名額招募成員，收到900份申請。有一名AI4All學生想用計算機視覺技術偵測眼病，還有一人用AI編寫程序，給911呼叫按緊急程度排序，由于救護車未能及時抵達，這名學員的祖母不幸離開人世。很明顯，個人視角會給未來AI工具帶來巨大影響。
谷歌旅程
在斯坦福管理實驗室近3年后，李飛飛于2016年離開，加盟谷歌，擔任谷歌云（Google Cloud）首席科學家，谷歌云是公司的企業(yè)計算業(yè)務部門。李飛飛想知道行業(yè)是如何運作的，如果能根據(jù)客戶的關注點部署新工具，也許可以擴大自己的研究范圍。Facebook、谷歌、微軟等企業(yè)也投入巨資，研究AI，希望AI能幫助業(yè)務快速發(fā)展。與大學相比，企業(yè)擁有更多更好的數(shù)據(jù)。對于AI研究人員來說，數(shù)據(jù)就是燃料。
最開始時，李飛飛充滿激情與活力。她與企業(yè)會談，將科學研究應用于現(xiàn)實。在她的領導下，部門推出面向公眾的AI工具，有了這套工具，任何人不需要寫一行代碼就能開發(fā)機器學習算法。她在中國設立實驗室，優(yōu)化AI工具，用于醫(yī)療健康領域。她在達沃斯世界經(jīng)濟論壇發(fā)表演講，與國家元首、流行藝人交流。
然而，在私營企業(yè)工作帶來新的壓力，這種壓力往往讓人不舒服。去年春天，由于谷歌與美國國防部簽署Project Maven合同，李飛飛招來非議。從本質上講，項目就是要用AI工具分析視頻圖像，政府可能會用該技術控制無人機襲擊目標，按照谷歌的描述，它們可以用AI識別低分辨率目標，拯救生命才是首要使命。許多員工反對公司將自己開發(fā)的技術應用于軍事無人機。當時4000名員工請愿，要求公司發(fā)表聲明，承諾谷歌與合同承包商不會開發(fā)戰(zhàn)爭技術。還有幾人辭職抗議。
雖然李飛飛沒有直接參與交易，不過負責Maven項目的正是她所工作的部門。李飛飛寫過一封郵件，希望公司不要陷入尷尬境地，這封郵件被《紐約時報》拿到，媒體報道將李飛飛推向風口浪尖。看起來讓人困惑，因為在整個行業(yè)李飛飛如同倫理道德的化身。事實上，在公眾抗議之前，李飛飛認為這門技術是無害的，她從未想過員工會反感。
為什么會出現(xiàn)這樣的問題？李飛飛還是知道的，她說：“問題的關鍵不在于事件本身，而在于時間點，企業(yè)的責任感、AI崛起、硅谷應該參與對話，所有這些因素交織在一起，Maven項目成為了交匯點?！彪m然谷歌說自己“不做惡”，立場還不夠鮮明。
迫于壓力，谷歌沒有續(xù)簽Maven合同，爭議慢慢平復。一些谷歌科學家和高管組成團隊，李飛飛也是其中一員，他們編寫公開指南，承諾谷歌會用AI技術造福社會，避免工具出現(xiàn)偏見，不讓工具傷害人類。一直以來，李飛飛都在為重返斯坦福做準備，不過她覺得自己有必要親眼看到指南通過。李飛飛說：“每個機構都必須設立一套行事原則，評估流程時必須負責，我覺得這點相當重要。本杰明·富蘭克林曾經(jīng)說過，當憲法出臺時，它可能不是完美的，但它的確是當時最好的。大家會有不同的意見，不同的派別可以繼續(xù)對話?！崩铒w飛說，指南發(fā)表的幾天是她當年最快樂的幾天。李飛飛還說：“能夠參與，能夠做點貢獻，對我而言相當重要?！?/p>
AI倫理
6月份，我前往李飛飛的家中拜訪她，李飛飛的家在斯坦福校園。那時剛好晚上8點多一些，當我們交流時，她的丈夫將小兒子和女兒送到樓上睡覺，父母在姻親的單元樓過夜。餐廳變成了游戲室，所以我們坐在客廳聊天。到處都是家人的照片，架子上放著一臺1930年代的老式壞電話。當我問她時，她說父母是移民過來的，李飛飛的父親喜歡去跳蚤市場出售舊東西。
一邊交流，信息在手機上跳了出來。醫(yī)生給李飛飛的母親開了藥，父母讓她將說明翻譯給自己聽。李飛飛可能會在Googleplex開會，或者在世界經(jīng)濟論壇演講，也可能正在參加國會聽證會，如果父母需要幫助，會發(fā)短信給她。她馬上回應，沒有打斷思路。
在生活的大部分時間里，李飛飛往往需要同時關注兩件不同的事。她是一名科學家，對藝術也有著深刻的見解。她既是美國人，又是中國人。她對人很感興趣，也對機器人感興趣。
7月末，李飛飛打電話給我，當時她們家正在為旅行做準備，她在給女兒洗手。李飛飛問我：“你看到沙倫·沃拉爾（Shannon Vallor）發(fā)表的聲明了嗎？” 沃拉爾是圣塔克拉拉大學的哲學家，專門研究新興科學技術存在的哲學與倫理問題，她說自己要到谷歌云工作，擔任倫理顧問。
為了這件事，李飛飛做了許多努力，在華盛頓證詞中，她曾經(jīng)引用沃拉爾的話說：“沒有真正獨立的機器價值，機器價值就是人類價值?！惫雀枞蚊窡o前例。其它企業(yè)也行動起來，圍繞AI軟件的使用、誰能使用設置圍欄。2016年，微軟設立內部倫理委員會，微軟還說，由于倫理委員會存在倫理擔憂，它已經(jīng)拒絕與某些潛在客戶合作。如何使用AI技術？微軟也開始設限，比如封殺某些面部識別應用。
7月份我們交談時，李飛飛知道自己即將離開谷歌，2年的休假快要結束了。當時有許多人猜測說，李飛飛會因為Project Maven爭議離開。不過李飛飛卻說，她之所以回到斯坦福，主要是因為不想放棄學術職位，而且她也有些累了。李飛飛還說，在谷歌度過動蕩的夏天之后，倫理指南就像是隧道盡頭的一線光。
李飛飛渴望能在斯坦福設立新項目。秋天，李飛飛與約翰·艾切曼第（John Etchemendy，前斯坦福大學教務長）宣布說要設立一個學術中心，將AI與人類研究融合在一起，匯聚硬科學、設計研究、多學科研究。李飛飛認為：“作為一門新興科學，AI從沒有真正傾盡全力吸引人文主義者和社會科學家參與進來?！痹S久以來，大家都認為這些領域對AI來說無關緊要，但李飛飛卻認為它相當關鍵。
從本質上講，李飛飛是一名樂觀主義者。6月參加聽證之后，她曾告訴立法者：“我深入思考那些對人類既危險又有危害的工作，比如救火、自然災害搜救?！彼嘈?，技術可以幫助人類盡可能避開危險。
想讓單個機構的單個程序改變整個行業(yè)的確有些難，受到諸多限制。盡管如此，李飛飛還是認為要竭盡所能訓練研究人員，讓他們像倫理學家一樣思考，研究人員用原則而非利潤指導自己行事，背景多種多樣。
在電話中，我問李飛飛，她有沒有想過AI也許可以用完全不同的方式發(fā)展，避開至今我們所看到的問題。她回答說：“很難想象?！崩铒w飛還說：“科學進步和創(chuàng)新來自于幾代人的乏味工作，要不斷糾錯試錯。我們花了一段時間才認清偏見。我工作了6年，然后才意識到：‘天啊，我們陷入了危機。’”
在美國國會山參加聽證時，李飛飛曾說：“AI科學還很稚嫩，作為一名科學家，我感受到自己的卑微。這門科學誕生只有60年。一些經(jīng)典科學存在已久，比如物理、化學、生物學，這些科學每天都在進步，讓人類生活變得更好，與它們相比，AI還要走漫長的路才能認清自己，知道自己有哪些可以幫助人類的潛能。用適當?shù)闹改弦龑I發(fā)展，可以讓生活變得更美好。如果沒有指南，技術會讓貧富分化變得更嚴重，讓排斥力變得更強大，進一步強化偏見，幾個世代以來，我們一直在努力克服這種偏見?！崩铒w飛試圖讓我們相信，現(xiàn)在的時代已經(jīng)是一個介于發(fā)明和影響（指發(fā)明帶來的影響）之間的時代。
下載文檔
