相關推薦

李飛飛離職谷歌背後:AI還很稚嫩 作為科學家很卑微

李飛飛離職谷歌背後:AI還很稚嫩 作為科學家很卑微

臨睡前,李飛飛從筆記中刪去一整段,以確保自己能在指定時間內快速闡明幾個最重要的觀點。醒來時,這位身高165厘米的人工智慧專家穿上靴子和一件黑色的海軍針織裙子,不同於平常的T恤和牛仔服。然後她搭乘一部Uber汽車,前往美國國會大廈南部的雷伯恩眾議院大廈。

在進入美國眾議院科學、空間與技術委員會的會議室之前,她拿起手機拍了一張特大木門的照片。(「作為一名科學家,我對委員會感到異樣。」她說。)然後她步入空曠的大廳,走向證人席。

那天上午聽證會的主題是「人工智慧——強大的力量帶來巨大的責任」,與會者包括政府問責辦公室的首席科學家蒂莫西·佩爾斯(Timothy Persons)和非營利組織OpenAI的聯合創始人兼首席技術官格雷格·布羅克曼(Greg Brockman)。但只有李飛飛是在現場發言的唯一女性,並可謂在人工智慧(AI)領域擁有開創性成就。作為構建可幫助計算機識別圖像的資料庫ImageNet的研究人員,她是一小群科學家中的一員,這群人可能少得僅夠在廚房桌子旁邊圍成一圈,但AI近期的顯著進步都要歸功於他們。

那年六月,李飛飛在Google Cloud擔任首席人工智慧科學家,並請假離開斯坦福人工智慧實驗室主任一職。但她之所以出現在委員會面前,是因為她也是一家專註於招聘女性和有色人群成為人工智慧建設者的非營利組織的聯合創始人。

這一點也不奇怪,議員們當天就對她的專業知識進行了提問。令人驚訝的是她的談話內容:她所熱愛的領域所帶來的嚴重危險。

一項發明及其影響之間的時間是短暫的。在像ImageNet之類的人工智慧工具的幫助下,計算機可以被教授學習特定任務,然後比任何人都快地行動。隨著這項技術的日益成熟,它正被授權對數據進行過濾、分類和分析,並對全球和社會帶來影響。儘管這些工具以某種方式已經存在了60多年,但在過去的十年中,我們開始使用它們來完成改變人類生活軌跡的任務:今天,人工智慧幫助確定哪些治療方法可用於病人,誰有資格領取人壽保險,一個人應服刑多長時間,哪些求職者接受面試。

當然,這些權力可能是危險的。亞馬遜不得不放棄AI招聘軟體,因為該軟體學會了對包含「女性」一詞的簡歷加以處罰。誰能忘記谷歌2015年的慘痛經歷呢?當時,谷歌的照片識別軟體將黑人圖片錯誤地貼上了大猩猩的標籤。微軟的AI社交聊天機器人則開始發布種族主義推文。但這些問題是可以解釋的,因此也是可以扭轉的。李飛飛認為,在不久的將來,我們將遇到一個不可能糾錯的時刻,因為這項技術正在被迅速、廣泛地採用。

那天上午,李飛飛在雷伯恩大廈作證,因為她堅信自己的領域需要重新校準。傑出而強大、且大部分由男性組成的高科技領袖已經對未來發出了警告,人工智慧驅動的技術成為人類生存的威脅。但李飛飛認為,這些擔憂被給予了太多的重視和關注。她專註於一個不那麼戲劇化、但更重要的問題:人工智慧將如何影響人們的工作和生活方式。它必然會改變人類的體驗,而不一定意味著更好。「我們有時間,」李飛飛說,「但我們現在必須採取行動。」李飛飛認為,如果我們對人工智慧的設計及其設計者進行根本性的改變,技術將永遠是一個向善的變革力量。如果不是的話,大量人性將被從等式中剔除出去。

在聽證會上,李飛飛是最後一個說話的人。沒有證據表明她徹夜練習是因為緊張,她開口了。「人工智慧中存在人工的東西。」她的音量增強了。「它的靈感來自於人類,它是由人類創造的,最重要的是它能影響人類。這是一個強有力的工具,我們只是剛剛開始理解,這是一個沉重的責任。」周圍人的臉嚴肅起來,一位出席會議的女士表示贊同,嘴裡發出「嗯……嗯」的聲音。

李飛飛生長在華南工業城市成都。她是一個孤僻而聰明的孩子,也是一個如饑似渴的讀書人。她的家庭有點不尋常:在一個不推崇飼養寵物的文化里,她父親給她買來了一隻小狗。母親來自知識分子家庭,鼓勵她讀《簡·愛》。(「在勃朗特姐妹中,我最喜歡艾米麗,」李說。)。在她12歲時,父親移居美國新澤西州帕西帕尼,她和母親幾年沒見到他。16歲時母女倆也出國移民。到美國的第二天,李飛飛的父親帶她去了加油站,讓她告訴技工修修他的車。她幾乎不會講英語,但通過手勢,李飛飛想出了解釋問題的方法。在兩年內,李飛飛已經學會了足夠多的語言,可以為只會說初級英語的父母擔任翻譯和嚮導。「我必須成為父母的嘴巴和耳朵。」她說。

她在學校也表現很好。父親喜歡淘舊貨,為她找到了一個科學計算器,她在數學課上使用,直到一位老師指出她的錯誤計算,她才發現有個功能鍵壞了。李飛飛稱讚另一位高中數學教師鮑勃·薩貝拉(Bob Sabella)引導她進入學術界,開始追逐美國夢。帕西帕尼高中沒有高級微積分課,所以他自編了一個課本,在午休時間教李飛飛。薩貝拉和妻子也讓她到他們家裡玩,並帶她去迪斯尼度假,借給她2萬美元開了一家乾洗店,讓她的父母經營。1995年,她獲得了獎學金,得以去普林斯頓大學讀書。其間,她幾乎每個周末都回家幫助經營家庭生意。

在大學里,李飛飛的興趣是廣泛的。她主修物理,學習計算機科學和工程學。2000年,她在帕薩迪納加州理工學院攻讀博士學位,同時研究神經科學和計算機科學。

看到並促成看似不同領域之間的聯繫,這一點使李飛飛想到了ImageNet。她的計算機視覺同行正在研究幫助計算機感知和解碼圖像的模型,但這些模型範圍有限:研究人員可能要編寫一種演算法來識別狗,再用另一種演算法來識別貓。李開始懷疑問題不在於模型而在於數據。她認為,如果一個孩子在早年通過體驗視覺世界——即通過觀察無數的物體和場景——來學習觀看,或許計算機也可以類似地通過分析各種各樣的圖像以及它們之間的關係來學習。對李飛飛來說,這一認知是一個巨大飛躍。「這是一種組織整個世界視覺概念的方法。」她說。

但是她很難說服同事相信,在海量資料庫中為每個物體的每個可能的圖片加上標籤是合理的。此外,如果李飛飛決定要讓這個想法奏效,標籤需要從普通類(如「哺乳動物」)貼到高度特定類(如「星鼻鼴」)。2007年,李飛飛回到普林斯頓做助理教授,當她談到ImageNet的想法時,很難找到教員幫忙。最後,一位專攻計算機體系結構的教授同意加入,成為合作者。

她的下一個挑戰是打造巨人。這意味著很多人將不得不花費大量時間來做繁瑣的標記照片的工作。李飛飛試著給普林斯頓學生每小時支付10美元,但進展緩慢。然後一個學生問她是否聽說過亞馬遜土耳其人機器人(Amazon Mechanical Turk)。這是著名的眾包平台,可藉助群眾的智慧解決機器很難或無法解決的問題。突然之間,她可以把許多工人集合起來,成本只是九牛一毛。但從少數普林斯頓學生到數萬名隱形探索者的勞動力擴張,自身也存在挑戰。李飛飛不得不考慮工人間可能的偏見。「在線工人,他們的目標是用最簡單的方法賺錢,對吧?」她說。如果你讓他們從100張圖片中選擇熊貓,怎樣才能阻止他們亂點一氣呢?」因此,她嵌入並跟蹤了一些圖像,例如已經正確識別為狗的金毛獵犬的照片,作為對照組。如果土耳其人可以正確標記這些圖像,他們就能誠實地工作。

2009年,李飛飛團隊認為320萬張(後來增加到1500萬張)大型圖片集已足夠全面,可供使用,他們在發布資料庫的同時發表了一篇論文。起初這個項目很少受到關注。但後來團隊有了一個想法:他們聯繫了次年在歐洲舉行的計算機視覺比賽的組織者,要求他們允許競爭對手使用圖像網路資料庫來訓練他們的演算法。這就是ImageNet大規模視覺識別挑戰。

大約在同一時間,李飛飛加入斯坦福大學擔任助理教授。那時,她嫁給了機器人學家西爾維奧·薩瓦雷塞(Silvio Savarese)。但是他在密歇根大學有一份工作,而且距離很遠。「我們知道,對我們來說,矽谷更容易解決我們分居兩地的問題,」李飛飛說。(薩瓦雷塞於2013年加入斯坦福大學。)「同時,斯坦福大學是特殊的,因為它是人工智慧的發源地之一。」

2012年,多倫多大學的研究人員傑弗里·辛頓(Geoffrey Hinton)參加了ImageNet競賽,利用該資料庫來訓練一種人稱深度神經網路的人工智慧。最終結果比之前的任何實驗都要精確得多,他贏了。李飛飛本來沒打算去看辛頓領獎,她在休產假,而頒獎典禮在義大利佛羅倫薩舉行。但她認識到歷史時刻正在到來。於是她在最後一刻買了一張機票,把自已塞進午夜航班的中間座位。辛頓的圖像神經網路改變了一切。到2017年,也就是比賽的最後一年,計算機在圖像中識別物體的錯誤率從2012年的15%降到了不到3%。計算機,至少通過一種方法,比人類更善於觀察。

ImageNet使深層學習成為可能,有了它,近期人類才能在自動駕駛汽車車、面部識別、可識別物體(以及告訴你它們是否正被促銷)的電話攝像機方面取得進展。

辛頓領獎后不久,當李飛飛還在休產假時,便開始思考在她的同行中女性為何如此之少。在那一刻,她敏銳地感受到了這一點,她看到了差距正在拉大成為問題。大多數構建人工智慧演算法的科學家是男性,而且通常具有相似背景。他們就自己特有的世界觀、甚至所預見的危險嵌入他們所從事的項目。許多人工智慧的創造者都是擁有科幻夢想的男孩,靈感來自《終結者》和《刀鋒戰士》的場景。擔心這種事情沒什麼不對的,李飛飛想,但這些想法偏離了AI可能存在風險的狹隘觀點。

正如李飛飛所說,深層學習系統「可獲得偏見,輸出偏見。」李飛飛認識到,雖然驅動人工智慧的演算法可能貌似是中性的,但影響這些演算法結果的數據和應用卻不是。重要的是創建它的人,以及創建的目的。那天,李飛飛在國會山指出,如果沒有一群背景多樣的工程師,我們可能會創建出一套有偏見的演算法,做出不公平的貸款申請決策,或者只在白人臉上訓練神經網路,從而創建出一種在黑人臉上表現不佳的模型。「我認為,如果我們20年後覺醒,發現我們的技術、領導者和從業者缺乏多樣性,那將是我的末日圖景,」她說。

李飛飛開始相信,關鍵任務是把人工智慧的發展重點放在幫助人類體驗上。她在斯坦福大學所從事的一個項目是與醫學院合作,將人工智慧帶到ICU,努力減少諸如醫院獲得性感染之類的問題。它涉及到開發一個攝像頭系統,可監控洗手站,並在醫院工作人員忘記正確擦洗量給出提示。這種類型的跨學科合作是不尋常的。斯坦福大學臨床卓越研究中心主任、醫學教授阿諾德·米爾斯坦(Arnold Milstein)說:「沒有其他來自計算機科學領域的人向我伸出援助之手。」

AI應當如何進化?這項工作讓李飛飛看到了希望。AI可以用來補充人們的技能,而不是簡單地替換之。如果其他學科的人(甚至是現實世界中的人)加入這一工程,他們就可以製造出一些工具來擴展人類能力,比如實現耗時工作自動化,讓ICU護士有更多時間陪伴病人,而不是建立人工智慧使某人的購物體驗自動化,並讓出納員下崗。

考慮到AI正在飛速發展,李飛飛認為她的團隊需要調整人員——越快越好。

幫助女性進入計算機領域

李飛飛對數學相當很痴迷,她深知要讓女性或者其它有色人種進入計算機領域,需要付出巨大努力。根據國家科學基金會(National Science Foundation)的統計,2000年,女性拿到的計算機學士學位只佔全年總量的28%,2015年更是降到18%。在李飛飛自己的實驗室內,也很難聘請到足夠多的有色人種和女性研究員。李飛飛說,雖然她的實驗室比典型AI實驗室更加多樣化,但是男性仍然佔主導。她還說:「女性不夠多,少數民族更是不夠多,實驗室儲備人才也存在這樣的問題。學生參加AI會議,會看到90%的與會者都是同性,非裔美國人的數量也遠沒有白人男性多。」

當李飛飛成為奧爾加·魯薩科沃斯基(Olga Russakovsky)的導師時,她幾乎快要退出行業。魯薩科沃斯基當時已經是一名計算機科學家,拿到了數學學士學位和計算機碩士學位,都是在斯坦福拿到的,但是她在論文方面落後了。魯薩科沃斯基是實驗室唯一的女性,她覺得自己與同行脫節了。後來李飛飛來到斯坦福,情況有了變化。李飛飛幫助魯薩科沃斯基學會一些研究技能,魯薩科沃斯基還說,李飛飛讓她有了自信。現在魯薩科沃斯基是普林斯頓大學計算機系的助理教授。

4年前,魯薩科沃斯基念完博士,她希望李飛飛能幫助自己建一個夏令營,讓那些對AI有興趣的女士參與進來。李飛飛同意了,她們馬上召集志願者,給高中二年級學生打電話。雖然只有24個名額,但是一個月之內卻收到200份申請。2年後,他們擴大了項目,設立非盈利組織AI4All,將年輕人帶到斯坦福、加州大學伯克利分校,包括女孩、有色人種、經濟狀況不佳的人。

在加州奧克蘭市區,AI4All有一個狹小的共享辦公室,由於組織的成長,現在它即將搬出。現在AI4All在6所大學設立夏令營。去年她們在卡耐基梅隆大學舉辦夏令營,為20個名額招募成員,收到900份申請。有一名AI4All學生想用計算機視覺技術偵測眼病,還有一人用AI編寫程序,給911呼叫按緊急程度排序,由於救護車未能及時抵達,這名學員的祖母不幸離開人世。很明顯,個人視角會給未來AI工具帶來巨大影響。

谷歌旅程

在斯坦福管理實驗室近3年後,李飛飛於2016年離開,加盟谷歌,擔任谷歌雲(Google Cloud)首席科學家,谷歌雲是公司的企業計算業務部門。李飛飛想知道行業是如何運作的,如果能根據客戶的關注點部署新工具,也許可以擴大自己的研究範圍。Facebook、谷歌、微軟等企業也投入巨資,研究AI,希望AI能幫助業務快速發展。與大學相比,企業擁有更多更好的數據。對於AI研究人員來說,數據就是燃料。

最開始時,李飛飛充滿激情與活力。她與企業會談,將科學研究應用於現實。在她的領導下,部門推出面向公眾的AI工具,有了這套工具,任何人不需要寫一行代碼就能開發機器學習演算法。她在中國設立實驗室,優化AI工具,用於醫療健康領域。她在達沃斯世界經濟論壇發表演講,與國家元首、流行藝人交流。

然而,在私營企業工作帶來新的壓力,這種壓力往往讓人不舒服。去年春天,由於谷歌與美國國防部簽署Project Maven合同,李飛飛招來非議。從本質上講,項目就是要用AI工具分析視頻圖像,政府可能會用該技術控制無人機襲擊目標,按照谷歌的描述,它們可以用AI識別低解析度目標,拯救生命才是首要使命。許多員工反對公司將自己開發的技術應用于軍事無人機。當時4000名員工請願,要求公司發表聲明,承諾谷歌與合同承包商不會開發戰爭技術。還有幾人辭職抗議。

雖然李飛飛沒有直接參与交易,不過負責Maven項目的正是她所工作的部門。李飛飛寫過一封郵件,希望公司不要陷入尷尬境地,這封郵件被《紐約時報》拿到,媒體報道將李飛飛推向風口浪尖。看起來讓人困惑,因為在整個行業李飛飛如同倫理道德的化身。事實上,在公眾抗議之前,李飛飛認為這門技術是無害的,她從未想過員工會反感。

為什麼會出現這樣的問題?李飛飛還是知道的,她說:「問題的關鍵不在於事件本身,而在於時間點,企業的責任感、AI崛起、矽谷應該參與對話,所有這些因素交織在一起,Maven項目成為了交匯點。」雖然谷歌說自己「不做惡」,立場還不夠鮮明。

迫於壓力,谷歌沒有續簽Maven合同,爭議慢慢平復。一些谷歌科學家和高管組成團隊,李飛飛也是其中一員,他們編寫公開指南,承諾谷歌會用AI技術造福社會,避免工具出現偏見,不讓工具傷害人類。一直以來,李飛飛都在為重返斯坦福做準備,不過她覺得自己有必要親眼看到指南通過。李飛飛說:「每個機構都必須設立一套行事原則,評估流程時必須負責,我覺得這點相當重要。本傑明·富蘭克林曾經說過,當憲法出台時,它可能不是完美的,但它的確是當時最好的。大家會有不同的意見,不同的派別可以繼續對話。」李飛飛說,指南發表的幾天是她當年最快樂的幾天。李飛飛還說:「能夠參與,能夠做點貢獻,對我而言相當重要。」

AI倫理

6月份,我前往李飛飛的家中拜訪她,李飛飛的家在斯坦福校園。那時剛好晚上8點多一些,當我們交流時,她的丈夫將小兒子和女兒送到樓上睡覺,父母在姻親的單元樓過夜。餐廳變成了遊戲室,所以我們坐在客廳聊天。到處都是家人的照片,架子上放著一台1930年代的老式壞電話。當我問她時,她說父母是移民過來的,李飛飛的父親喜歡去跳蚤市場出售舊東西。

一邊交流,信息在手機上跳了出來。醫生給李飛飛的母親開了葯,父母讓她將說明翻譯給自己聽。李飛飛可能會在Googleplex開會,或者在世界經濟論壇演講,也可能正在參加國會聽證會,如果父母需要幫助,會發簡訊給她。她馬上回應,沒有打斷思路。

在生活的大部分時間裡,李飛飛往往需要同時關注兩件不同的事。她是一名科學家,對藝術也有著深刻的見解。她既是美國人,又是中國人。她對人很感興趣,也對機器人感興趣。

7月末,李飛飛打電話給我,當時她們家正在為旅行做準備,她在給女兒洗手。李飛飛問我:「你看到沙倫·沃拉爾(Shannon Vallor)發表的聲明了嗎?」 沃拉爾是聖塔克拉拉大學的哲學家,專門研究新興科學技術存在的哲學與倫理問題,她說自己要到谷歌雲工作,擔任倫理顧問。

為了這件事,李飛飛做了許多努力,在華盛頓證詞中,她曾經引用沃拉爾的話說:「沒有真正獨立的機器價值,機器價值就是人類價值。」谷歌任命史無前例。其它企業也行動起來,圍繞AI軟體的使用、誰能使用設置圍欄。2016年,微軟設立內部倫理委員會,微軟還說,由於倫理委員會存在倫理擔憂,它已經拒絕與某些潛在客戶合作。如何使用AI技術?微軟也開始設限,比如封殺某些面部識別應用。

7月份我們交談時,李飛飛知道自己即將離開谷歌,2年的休假快要結束了。當時有許多人猜測說,李飛飛會因為Project Maven爭議離開。不過李飛飛卻說,她之所以回到斯坦福,主要是因為不想放棄學術職位,而且她也有些累了。李飛飛還說,在谷歌度過動蕩的夏天之後,倫理指南就像是隧道盡頭的一線光。

李飛飛渴望能在斯坦福設立新項目。秋天,李飛飛與約翰·艾切曼第(John Etchemendy,前斯坦福大學教務長)宣布說要設立一個學術中心,將AI與人類研究融合在一起,匯聚硬科學、設計研究、多學科研究。李飛飛認為:「作為一門新興科學,AI從沒有真正傾盡全力吸引人文主義者和社會科學家參與進來。」許久以來,大家都認為這些領域對AI來說無關緊要,但李飛飛卻認為它相當關鍵。

從本質上講,李飛飛是一名樂觀主義者。6月參加聽證之後,她曾告訴立法者:「我深入思考那些對人類既危險又有危害的工作,比如救火、自然災害搜救。」她相信,技術可以幫助人類儘可能避開危險。

想讓單個機構的單個程序改變整個行業的確有些難,受到諸多限制。儘管如此,李飛飛還是認為要竭盡所能訓練研究人員,讓他們像倫理學家一樣思考,研究人員用原則而非利潤指導自己行事,背景多種多樣。

在電話中,我問李飛飛,她有沒有想過AI也許可以用完全不同的方式發展,避開至今我們所看到的問題。她回答說:「很難想象。」李飛飛還說:「科學進步和創新來自於幾代人的乏味工作,要不斷糾錯試錯。我們花了一段時間才認清偏見。我工作了6年,然後才意識到:『天啊,我們陷入了危機。』」

在美國國會山參加聽證時,李飛飛曾說:「AI科學還很稚嫩,作為一名科學家,我感受到自己的卑微。這門科學誕生只有60年。一些經典科學存在已久,比如物理、化學、生物學,這些科學每天都在進步,讓人類生活變得更好,與它們相比,AI還要走漫長的路才能認清自己,知道自己有哪些可以幫助人類的潛能。用適當的指南引導AI發展,可以讓生活變得更美好。如果沒有指南,技術會讓貧富分化變得更嚴重,讓排斥力變得更強大,進一步強化偏見,幾個世代以來,我們一直在努力克服這種偏見。」李飛飛試圖讓我們相信,現在的時代已經是一個介於發明和影響(指發明帶來的影響)之間的時代。

來自cnbeta.COM

为您推荐

發佈留言

联系我们

联系我们

工作时间:周一至周五,9:00-17:30,节假日休息

返回顶部