揭祕谷歌內部AI倫理委員會 由高管組成把持真正權利
[ 摘要 ]ATRC由谷歌首席法律官肯特·沃克(KentWalker)管理。其他成員包括谷歌基礎設施主管烏爾斯·霍爾澤 、AI主管傑夫·迪恩、Google.org副總裁傑奎琳·富勒、教育和大學專案副總裁麥吉·約翰遜以及谷歌母公司Alphabet旗下領先AI研究公司DeepMind聯合創始人穆斯塔法·蘇雷曼。
騰訊科技訊 4月8日訊息,據外媒報道,兩週前,谷歌成立了專門的外部專家團隊,負責審查與人工智慧(AI)相關的棘手倫理問題。然而,此舉很快就引發了喧囂。在員工對該委員會所招募成員表示不滿之後,谷歌於上週解散了這個新團隊,其新成員甚至都沒有機會見面。
這段插曲表明,谷歌在努力應對這項塑造其未來的強大技術所帶來的社會影響方面面臨的艱鉅挑戰。再怎麼強調AI對谷歌的重要性也不為過,該公司執行長桑達爾·皮查伊(Sundar Pichai)去年就曾表示:“AI比電或火的出現具有更深刻的意義。”但谷歌始終處於一場日益擴大的公眾辯論的中心,這場辯論的主題是:自動化系統如何可能使弱勢群體處於不利地位,或導致大規模失業,以及AI是否應被整合到武器裝備中。
谷歌打算組建的團隊名為“先進技術外部諮詢委員會”(ATEAC),其如何應對上述問題的能力已經無關緊要。但是在谷歌內部,還有另一個幾乎與ATEAC名字相同的團隊,即高階技術審查委員會(ATRC),據稱這個團隊才有真正的權利來幫助塑造谷歌解決其AI倫理困境的方法。
彭博社查閱的檔案顯示,谷歌宣稱,該公司去年召集的另一個委員會試圖“代表不同的、國際的、跨職能的觀點,這些觀點可以超越眼前的商業問題”。據知情人士透露,谷歌尚未公開其ATRC成員名單,但其中包括該公司多名最有影響力的人士,他們與皮查伊及其老闆、谷歌聯合創始人拉里·佩奇(Larry Page)合作多年。
ATRC由谷歌首席法律官肯特·沃克(KentWalker)管理。其他成員包括谷歌基礎設施主管烏爾斯·霍爾澤 (Urs H?lzle) 、AI主管傑夫·迪恩(Jeff Dean)、Google.org副總裁傑奎琳·富勒(Jacquelline Fuller)、教育和大學專案副總裁麥吉·約翰遜(Maggie Johnson)以及谷歌母公司Alphabet旗下領先AI研究公司DeepMind聯合創始人穆斯塔法·蘇雷曼(Mustafa Suleyman)。
熟悉這個內部委員會的批評人士將其視為一種粉飾。他們表示,在谷歌宣告的倫理原則與其財務利益相牴觸的情況下,由高管組成的內部AI倫理委員會不太可能對谷歌起到認真的制衡作用。谷歌內部多人表示,該公司ATRC的議程和決定在啟動幾個月後仍不清楚。這些人因害怕報復而要求不具名。
當被要求置評時,谷歌發言人提到了去年12月份釋出的一篇博文,該博文首次提及了ATRC,強調了該公司在AI部署的倫理原則方面取得的進展。當時,谷歌進行了100次審查。在這篇博文中,沃克舉例指出,該公司決定在解決重要的技術和政策問題之前,暫緩使用一種通用的面部識別工具。
許多技術公司最近制定了倫理原則來指導他們在AI方面的工作。微軟、Facebook和為警察部門生產電擊槍和身體攝像頭的Axon公司,現在都成立了針對這一問題的諮詢委員會。但專家們質疑,這些行動是否主要是為了阻止新的政府法規生效。紐約大學研究團隊AI Now Institute在2018年的一份報告中寫道:“倫理規範可能會通過承認存在問題來轉移批評,而不會放棄任何監管或改變技術開發和應用方式的權力。我們沒有看到強有力的監督和問責來支援科技公司旅行這些道德承諾。”
去年,谷歌的AI戰略首次遇到了嚴重的倫理問題。當時,有關谷歌在名為Project Maven的無人機專案上的工作被披露,導致員工抗議和罷工。去年6月,谷歌釋出了一套合乎倫理的AI原則,併成立了多個委員會,對提議的產品是否符合標準進行投票。這些團隊類似於谷歌對廣告和移動軟體等服務的隱私準則和法律責任進行審查的方式。
對於AI來說,則有個“負責任創新團隊”(Responsible Innovation),它由為谷歌效力12年的老將Jen Gennai領導,負責處理“日常操作”,並將問題提交給全權負責的委員會。另一個較大的顧問團隊由較低級別的工作人員組成,他們隨時需要獲得關於技術產品和規程的內部專門知識。這份內部檔案指出,這兩個機構位於ARTC之下,後者會將“幫助解決谷歌審查過程中出現的複雜問題”。
“短命”的外部諮詢委員會已經成為谷歌內部尖刻政治衝突的典型例證。在該機構成立後幾個小時內,那些谷歌反對者將傳統基金會主席凱·科爾斯·詹姆斯(Kay Coles James)和她此前公開發表的關於同性戀、變性人以及氣候變化的言論聯絡起來,促使谷歌員工迅速憤怒起來。
一份要求罷免詹姆斯的請願書開始流傳。ATEAC的一名成員辭職,另一名成員為留下來的決定辯護。右翼新聞媒體釋出了員工批評詹姆斯的洩密資訊,Breitbart News將嚴厲批評詹姆斯的資訊描述為“徹頭徹尾的汙點”。傳統基金會沒有立即回覆記者的置評請求。
被邀請加入谷歌外部諮詢委員會的巴斯大學電腦科學教授喬安娜·布萊森(JoannaBryson)稱,谷歌委員會的崩潰是一個重大挫折。她在一封電子郵件中寫道:“歸根結底,我們回到了現狀,我個人認為這是不可接受的。”
谷歌似乎離想出一種讓任何人都滿意的方法還差得很遠。上週四,當該公司關閉其外部諮詢委員會時,一份公司宣告稱,該公司正在“重新制定計劃”,但它沒有提到內部審查團隊。 (騰訊科技審校/金鹿)