美國年輕人的道德困境:頂尖大學生正在拋棄矽谷
編者按:斯坦福已成為電腦科學的中心,是科技巨頭的農場系統。對於這裡充滿抱負的年輕人來說,只要是問題就一定會有解決方案,他們就是問題的終結者。正是靠著這份自信和才華,這裡走出去的人創辦了一大批全球知名的科技公司。但在Google等在Facebook、Google等相繼爆出重大丑聞的情況下,這所大學又該如何面對自己學生的許多夢想工作被輕視的世界呢?Victor Luckerson深度剖析了在科技抵制潮的背景下,斯坦福大學和學生是如何反思和應對的。文章標題為: The Ethical Dilemma Facing Silicon Valley’s Next Generation 。
技術天生就是好的嗎?
斯坦福商學院,在Elizabeth Holmes曾經反芻矽谷神話的講臺之上,現在掛著一個濺血的哨子。超過500人聚集到這裡來傾聽Theranos真正的故事。2004年,在該校一位著名的化學工程教授的幫助下,Holmes以輟學者的身份創辦了這家一度估值達到90億美元的驗血公司。但是Holmes卻不在場。相反,為同學們講故事的是Tyler Shultz和Erika Cheung,當他們發現這家年輕的故事篡改實驗資料並且危及病人時,這兩位剛畢業的局內人勇敢地向政府機構告發了這家祕密的初創企業。在兩位客座演講者頭頂上方的投影螢幕上,跟不祥的口哨搭配的是這場活動的一個煽動性的標題:“血濺矽谷獨角獸”。
Holmes在精心編織會導致自己公司滅亡的謊言時,她十分倚重技術圈的一條老生常談:把不懈追求市場統治地位看作是一種美德。2015年,她在臺上是這麼說的:“從你制定備份計劃的那一刻起,就代表了你承認自己不會成功。”但因為大膽發聲而面臨法律威脅的Shultz和Cheung,反對這種不惜一切代價追求高尚願景的想法。Cheung說:“我們再也不知道該如何處置新技術了,我們不知道那會導致什麼樣的後果。”
這席話引起了大家的共鳴,會後學生們排著隊跟兩位告密者自拍並讓他們幫簽名。高中時把Holmes視為偶像的斯坦福新生Kendall Costello曾夢想有朝一日進入Theranos工作。但現在她的興趣已經轉到如何去監管技術而不是開發下一個有望改變世界的產品。Costello說:“2年後,在目睹了她的帝國覆滅之後,再加上類似Facebook的Cambridge Analytica等醜聞的爆發,我再也不抱幻想了。”
技術天生就是好的嗎?這股不斷髮展的質疑已經蔓延到本行業最富饒的新兵基地。斯坦福以“農場”著稱,因為這個園區曾經是創始人Leland Stanford那些馬匹的家,但今天科技公司和風投家已經把這裡的16000名學生看作是自己的小職業球隊聯盟。公司為了獲得在校園舉辦招聘會的特權而花大價錢。畢業生往往可以選擇去哪一家全球知名的科技巨頭,2018年電腦科學和電氣工程專業的起薪就達到了114000美元。得益於學校跟這個行業的緊密聯絡,有6000多家公司是斯坦福的頭腦孕育出來的,其中不乏惠普、Google以及Netflix等的確改變了世界的公司。斯坦福就是矽谷,這是印在學校宣傳手冊上面的第一句話。
但是,從Facebook被利用作為宣傳的手段,到Amazon買監視軟體給美國政府,無休止的負面科技新聞,已經迫使斯坦福重新評估自己在重塑矽谷未來領袖當中所扮演的角色。學生正在重新考慮在Google或者Facebook工作究竟是謀得了一份夢寐以求的工作,還是懦弱地為了獲得企業利益而出賣自己。教授在改寫課程以應對科技公司正在努力克服的道德挑戰。校長Marc Tessier-Lavigne已經把教育學生了解技術的社會影響作為其長期戰略計劃的主題。
隨著技術日益統治著我們的日常生活,斯坦福作為該行業工程師的教育家,以及初創企業的金融家的角色正變得愈發重要。這所學校未必要對我們數字世界的創造負責,但是這個世界的架構師是他們培訓的。現在,學生們正在進行艱難抉擇,考慮如何在一個顯然用了錯誤的方式構建的世界裡謀生。電腦科學與公共政策專業的新生Matthew Sun是那場活動的組織之一,他說:“我寫的一行程式碼第二天就會被數百萬人用到,這似乎很強大。但現在我們意識到這未必總是好事。”
天生驕子
在別的大學,大一的時候大多數學生參加的是社團活動。但在斯坦福,新生們出席的卻是招聘會。在在William R. Hewlett教學中心與David Packard電氣工程大樓——這兩棟為了紀念1939年率先為矽谷奠定科技基礎的2位校友而命名的建築物之間,是一頂白色的帳篷,本科生會提著厚厚的一摞簡歷進到裡面。哪怕是烏雲密佈預示著暴雨將傾的1月早晨,學生們也提前30分鐘開始列隊候場。等到帳篷開放時,隊伍已經排了有60多人了。
數百申請者在裡面擠成一團。其間是一排排的摺疊桌,桌上擺著印有公司標誌的紀念品以及激勵人心的口號:“你做過的最好的工作”(IBM)。“從第一天開始,幫助我們創造歷史”(Amazon)。“建立和設計為每個人服務的程式碼”(Google)。這些公司必須是Computer Forum的會員才能有這樣的招聘機會,這是斯坦福一個管理科技公司在園區招聘事務的組織。由於每年的會費高達21000美元,所以這種招聘會往往只能吸引到最知名企業參與。
但2018界的電腦科學畢業生Vicki Niu對此的感受並不美妙。儘管第一次參加這種招聘會時她就像趕上黑色星期五打折促銷一樣興奮,以及一種像參加夜總會一樣專屬感。(學生只有出示斯坦福ID才能進場)但就像其他新人一樣,她在大型知名科技公司實習生名額的爭奪中被掃地出門。她說:“每個人都想拿到Google、Facebook和Palantir的面試機會。所有的炒作都是圍繞著那些公司進行的。我的一部分心態是想要去學習東西,但我想絕對也會有這種巨大的社會壓力,自己也有證明自己和向別人證明自己很聰明的渴望。”
斯坦福大學計算機系的研究生課程一直以來都備受推崇——Google就是其博士生Larry Page和Sergey Brin的研究專案。但大學生的強烈興趣相對較新。2007年的時候,該校授予英語專業學士學位數量還要比電腦科學的多。不過次年,斯坦福就修訂了自己的CS課程,從一刀切的教育模式換成了更靈活的框架,專業細分成立圖形、人機互動以及人工智慧等方向,從而提高了這個專業的吸引力。
課程的改變與矽谷的財富爆炸及大家感受到的自負是一致的。iPhone為成千上萬做app開發的潛在企業打開了大門,當它的創始人逝世之後,喬布斯贏得了堪比愛迪生的名望。Facebook一躍成為有史以來發展最快的網際網路公司。隨著經濟從上次的衰退中慢慢恢復元氣,投資者決定把兜裡的錢投給有朝一日會成為下一個Google或者Amazon的Uber和Airbnb這樣的初創企業。Chris Bosh和 will.i.am將程式設計師比作巫師、超級英雄,以及搖滾明星。
斯坦福和它的學生熱切地對這種文化轉變張開懷抱。2000至2016年任校長的電腦科學教授John Hennessy是Google董事會成員,現在擔任起母公司Alphabet的執行主席。LinkedIn創始人Reid Hoffman是斯坦福校友,現在他引入了一門叫做Blitzscaling(閃電式擴張)的電腦科學課程,讓知名的創業者給學生傳授如何“建設大規模組織、使用者群以及企業,並且要以令人眼花繚亂的速度做到這一點。”(Elizabeth Holmes就是其中的講師之一)扎克伯格成為Sahami熱門的電腦科學導論課的嘉賓。這些都在不斷地提醒著斯坦福的同學他們擁有了怎樣的特權,可以有那麼多的大人物為他們傳經送寶。
2013年,斯坦福開始像風投機構一樣直接對學生的公司進行投資。就算沒有斯坦福的融資,學校跟財富的距離之近也有助於眾多的大想法取得進展。2011年還是大一學生的Evan Spiegel開始做Snapchat,他當時就是通過Facebook上的一個斯坦福校友網聯絡上自己的第一位投資者的。大家對編碼的熱情蓋過了玩樂隊做電影或者寫部落格。
但編碼不僅僅只是宣洩創意的手段,也是躋身上流社會的一條特殊通道。Gallagher問道:“為什麼那麼多有才華的年輕人要進諮詢機構和銀行?這些職業有聲望可以讓父母感到自豪,而且薪水很高,並且讓你走上開啟新大門的職業道路。現在他們發現進Google和Facebook也有同樣的功效。”
2014年Niu進校時,電腦科學已經成為了最受歡迎的專業,90%的本科生至少參加了一門CS課程。還在高中的時候,她對矽谷的瞭解仍僅限於《實習生》,這是一部兼具宣傳Google功能的喜劇片。她很快就意識到,在一個受人尊敬的科技巨頭找到一份工作或者用靠開發應用致富是斯坦福成功的主要標誌。她的作業基本上是技術性的,側重於編碼的過程而不是結果。在極少數情況下,當Niu在課堂上聽到關於倫理的討論時,往往是圍繞著超級科技精英的關切進行的,比如未來的殺手機器人會摧毀人類。她說在課堂上似乎沒有人關心技術的社會影響。
技術改變世界的另一層含義
大一那年春天,Niu跟兩位同學一起舉辦了一場會議,目的是想看看大家對一個聚焦技術的社會效用的新社團興趣如何。為了吸引大家參與計算機科學系資助了她們準備一些紅咖哩和泰式炒河粉。Niu最後驚訝地發現食品被一掃而空。原來大家對這個議題都很關心。
這場會議催生了CS + Social Good這個學生組織。該組織的目的是讓學生接觸到科技巨頭以外的職業機會,以及渴望達到那些巨頭一樣地位的、野心勃勃的初創企業。在第一年,該小組開發了關於社會影響工作的新課程,邀請演講者討論技術的積極用途,並提供暑期獎學金,讓學生在非營利組織實習,而不是蘋果或谷歌。數百名學生和教師參與了該組織的計劃。
在Niu看來,“社會福利”主要是指技術的積極應用。但是阻止技術的不良使用跟促進好的應用一樣重要。這是整個矽谷在自己的名聲被敗壞之後都要被迫應對的事實。技術不僅僅只是中立的了。它還可以造成非常嚴重的傷害。
在斯坦福出席活動的扎克伯格
特朗普當選美國總統的時候Matthew Sun剛進校沒幾周。2016年總體選舉爆發的種種劣跡讓社交媒體連線人向善的說法受到了質疑。現在已經是CS + Social Good負責人的Sun說:“技術業很多不那麼美好的東西在我們剛進校的那年發生了。從此以後,我們的看法就不一樣了。”
很多學生髮現很難找出是哪一個特別的事件顛覆了自己對矽谷的印象,原因純粹是因為那樣的事情太多了。比方說導致Facebook名聲受挫的不僅是俄羅斯人的干預,還有Cambridge Analytica的隱私醜聞等。Uber被自己員工曝光的性騷擾醜聞又因為公司對待司機的方式受到日益強烈的質疑而雪上加霜。研究調查發現蘋果的iPhone在兒童當中成癮,導致抑鬱和自殺的風險增加。Amazon的臉部識別軟體介紹給了美國政府,微軟的員工聯名請願,抗議公司與ICE簽訂的合同。在Google,20000名員工去年11月因為公司給一名受指控性騷擾的主管提供的補償而罷工。
對於懷揣著對技術的樂觀看法走進校園的學生來說,接踵而至的壞訊息顯得有點刺耳。電腦科學專業的畢業生Nichelle Hall曾經把Google視為自己嚮往的軟體工程師工作理想的工作地。但是去年秋天當她收到這家搜尋巨頭現場面試的邀請時卻拒絕了。這不僅是因為這家公司觸犯了自己不作惡的信條。而且也因為她覺得替大企業工作可能會導致個人的道德觀與企業指令發生衝突。
在這股科技抵制潮中Google算不上受損最嚴重的品牌。Facebook才是學生反覆提到的失寵企業。據大學新生Jose Giron講述,因為一系列爭議事件之後,Uber現在被迫採取各種手段來籠絡人心。而祕密的資料探勘公司Palantir,因為創始人,斯坦福校友Peter Thiel跟特朗普的關係,以及大家對該公司幫助特朗普開發技術來推進其嚴厲的移民政策而失去了吸引力。Sun說現在大家學電腦科學都有負罪感了。如果你執意去學大家會把你叫做叛徒,然後你也覺得自己像個叛徒。如果你接受了一份高薪工作,大家可能會說,“噢,你要替大科技公司效勞裡。你關心的只有自己。”
在大的科技公司找到一份工作往往被視為既是激情所在又名利雙收,這是計算機專業擴張得如此厲害的原因之一。但是當公司的名聲有汙點時,員工也會遭殃。學生證爭論進Facebook的同學是不是變少了,還是不那麼樂意去誇耀這件事了。對於這種轉變Hall和Sun概括得很簡潔。Sun說:“現在沒人會說,‘我在Uber弄到了一個實習機會!’”Hall接著說:“他們會說,‘我弄到了一個實習機會……是Uber的……’”
看不到的道德雷區
這種擔憂要大於哪一家公司在未來工程師心目中的地位的升降。斯坦福和整個美國的電腦科學課程都還沒有為隨著技術影響力而擴大的道德雷區做好準備。Sahami承認,很多電腦科學課在設計上主要是教學生如何解決技術完呢提而不是思考解決方案可能帶來的現實問題。這種挑戰部分是因為電腦科學相對而言是個年輕的學科,這意味著不當做法的實際例子會實時出現在新聞頭條上。
電腦科學畢業生Vik Pattabi原先學的是機械工程。學機械工程的學生經常會被提醒要記住1940年塔科馬橋垮塌的教訓:這個現代奇蹟因為受教育程度很高的工程師未能預見到所有的威脅(此例中為風的因素)而毀於一旦。Pattabi的計算機課還沒有類似的例子。矽谷很多的次級和三級效應是最近2、3年才發生的。
另一個問題是學校長期存在工程(所謂的“techies”,技術人)與人文或者社會科學專業(所謂的“fuzzies”,模糊性)之間的分裂。雖然該校最近已經更加關注跨學科研究,但是在理解這個老生常談的問題上依然存在差距。文理之分是老問題了,但是對於有朝一日自己寫的演算法將統治數字世界的學生來說,這種利害攸關的程度會更高。
斯坦福與灣區企業巨頭的緊密聯絡一直以來都是其招生的賣點,但這個賣點在IT業帶來的問題的映襯下突然之間顯得不一樣了。旨在顛覆斯坦福“冷漠文化”的學生團體SLAP開始鼓動學生不要去Amazon和Salesforce工作,因為他們跟ICE和美國邊境巡邏隊有商業聯絡。在該團體看來,斯坦福在制度上和文化上一直都將自己與現實發生的問題割裂開。而這裡的學生就坐在象牙塔裡面,只做課程和工作需要他們做的事情。
計算機專業設了一門“社會中的技術”課程,裡面吸納了一些倫理課程,並且教育學生道德責任是該系認定流程的組成部分。CS + Social Good也已經擴大了自己在校園的足跡。但是電腦科學專業的靈活性卻是把雙刃劍。這既意味著關心本學科整體性的學生可以將編碼的嚴格訓練與倫理教育組合在一起;同時也意味著一些學生太過容易就能避免跟自身工作的後果發生關係。
明年加州將就一項法案展開投票。這項法案提議用計算化的風險評估系統(計算被捕者回來出庭的可能性)來取代保釋金,其用意是讓交不起保釋金的人有更公平的逃脫牢獄之災的方式。斯坦福的學生對是否支援演算法進行了投票,結果是五五開。發起投票的政治科學教授Jeremy Weinstein並沒有給出“正確”答案,而是說:“我們需要對演算法進行解構,這樣才能幫助大家看清楚這種技術不僅僅是某種值得信任的東西,不是說因為它是數字化的所以就是客觀和公平的,其實它反映的是大家做出來的一系列選擇。”
翻新的課程設計
Weinstein是CS系新版的道德課程CS181的3名領頭人之一,另兩位是電腦科學教授Sahami和哲學家、政治科學教授Rob Reich。在過去1年半的時間裡,在技術遭遇抵制的背景下,3人跟本校社會道德中心的研究員Hilary Cohen一起構思了這門課程的結構。課程將會討論演算法偏見問題,臉部識別時代的隱私,自動化技術的社會影響,以及私有平臺的責任問題等等。學生們要利用實際的犯罪歷史資料集來開發自己的風險評估演算法,然後像脫口秀一樣,分成小組相互提出問題和應答。
這是斯坦福第一次有其他領域的專家直接參與到電腦科學的課程裡面。約有300名學生報名參加這門課程,其中不乏歷史、哲學和生物學專業的學生。這為研究技術和研究人文的人提供了一個相互學習的機會,也讓教授從關注矽谷的技術文化轉移到行業的社會影響上。發生在技術圈的這種道德清算堪比當年核彈的出現。
“能力越大,責任越大。”CS181助教Antigone Xenopoulos不是唯一一個引用蜘蛛俠這句話的學生。她說:“如果他們打算賦予學生擁有如此巨大影響力和能力的工具的話,斯坦福應該引導這些學生樹立道德指南針。”
課程的其他方面也在改變。Sahami說他們正在持續地引入更多道德和社會關切方面的討論進入到技術性課程裡面。早年學校請的是Holmes和扎克伯格這樣的著名高管教學生們如何走上成功之路,而現在新的道德課程將引進WhatsApp、Facebook以及NSA的嘉賓演講者回答“尖銳問題”。Sahami說:“我認為這不是行業正在影響斯坦福,其實是我們跟行業的關係讓我們可以與這些領域的決策者展開更加真誠的對話。”
還有一些更加關鍵的聲音在斯坦福承擔了更永久性的角色。Alex Stamos 是Facebook前首席安全官,去年秋天,他為非計算機專業的學生開設了“黑客實驗室”課程,幫助他們理解網路安全威脅。今年晚些時候他還將開發一門更先進的電腦科學課程,探討錯誤資訊和騷擾氾濫時代的信任和安全問題。他希望將自己對抗數字攻擊的經驗傳授給學生。那些攻擊不是通過黑客手段,而是通過付費廣告、煽動性的迷因以及付費的Facebook活動實現的。Stamos說:“有一件事情我們沒有傳授給電腦科學專業學生,那就是所有這些技術上並不高明的手段的濫用會造成真正的傷害。我希望給學生看到,‘吶,這些是我們之前犯過的錯誤,這些是存在的問題,這些是公司對那些錯誤的反應。’”
Stamos不認為道德是思考處理技術最緊迫問題的正確框架。他說:“問題不在於大家的決策是完全邪惡的,而在於大家沒有預見到自身行動的後果。這部分是因為缺乏偏執狂。我們矽谷的問題之一是按照正常使用方式開發產品……除非你瞭解之前發生過的所有那些事情,否則很難設想所有那些濫用。”
儘管他認為斯坦福應該為矽谷的狹隘視野承擔一些責任,但是也表揚了學校歡迎擁有相關經驗的技術領袖幫助學生為出現的威脅做好準備的舉措。他說自己當年讀書的時候討論的是如何創辦可以改變歷史的公司。而現在的學生對自己所謂對社會會產生什麼樣的影響很感興趣。
經常有學生問Stamos自己要不要去Facebook或者Google工作的問題。他告訴他們應該去。之所以應該去不是對那裡堆積如山的問題不管不顧,而是正是因為有問題才要去,不去就沒有解決那些問題的機會。
矽谷會變成西部的華爾街嗎?
即便面臨毀滅性的批評,科技巨頭仍在鞏固勢力。儘管醜聞纏身,上個季度Facebook的使用者群增長還是加速了。Uber今年將會上市,估值高達1200億美元。蘋果、Amazon和Google均計劃中不久的將來設立新的分支機構。儘管學生在積極討論去具有道德觀的初創企業工作,美國初創企業的設立數卻幾乎是40年以來最低的。進入到五惡人(Facebook、蘋果、Amazon、Google、微軟)領地的小公司往往不是被收購就是被摧毀。
儘管大家討論得很熱烈,但是卻很難找到一位公開宣稱永遠不會為這些大公司工作的學生,因為他們提供可觀的薪水、有吸引力和職業保障的工作。國際學生首先要擔心的是如何確保工作簽證,拿助學金的學生可能需要有足夠的錢才能支撐其他的家庭成員。而但對於很多其他人來說,他們不清楚在矽谷發生的任何事情是不是真的就是不對的。從這種意義上來說,這些工程師就像我們一樣,對新聞標題感到震驚,但仍然會點選進去看。電子工程研究生Jason He說:“這些事情對於大多數學生來說感覺太大了,承擔不起。到頭來,對於那些花了很多錢來讀書的學生來說,如果有人給出6位數的工資,要想拒絕是很難的。”
斯坦福有一種想法認為,仍然有機會讓每一家公司都向善。拒絕了Google面試機會的Nichelle Hall後來在Medium的信任與安全團隊找了一份工作。但她意識到如果Google是自己唯一的就業選項的話自己會打消顧慮。就像Stamos所說那樣,去到問題那裡才有機會解決問題。
影響是我在校園聽到最多的詞。學生正是因為它才決定去斯坦福,去追求電腦科學的職業生涯,畢業後為這個世界做善事。Hoffman用這個詞來描述他的閃電式擴張的課,Holmes也用這個來向學生解釋為什麼自己要輟學。她說:“我已經有了走出去製造影響所需的工具。”這是矽谷的貨幣,有人用來行善,有人用來做惡。
用幾行程式碼就能製造影響的能力一直以來就是軟體工程師與其他人的區別所在,反叛的年輕人正是利用它從過時的上一代人手中拯救世界,將矽谷變成了他們自封的烏托邦。但現在不再是這種景象了。現在有抱負的工程師都會拿自己的選擇的職業跟投行進行比較。10年前因為對複雜得超脫控制的自動化系統的誤解,金融業摧殘了整個世界——也破壞了自己對如果出問題最終也會有別人買單的信心。你能從只要有人建議扎克伯格辭職時他那懷疑的眼神中看到這種信心,你能從Google CEO Sundar Pichai一開始拒絕到國會作證看到這種信心。你也能在斯坦福看到這種信心,因為捐款從來都沒有這麼高過,融資從來都沒有這麼容易過,而招聘會依然充斥著發誓要讓世界更美好的各種口號。
也許所謂的矽谷這整片土地都會完全僵化成一條西部華爾街,讓那些掌握內幕訊息的人從總是止不住使用他們產品的提線木偶身上大賺一筆。如果今天年輕的技術質疑者在步入工作世界之後變得玩世不恭的話,這樣一個未來是很容易想象的。但這正是技術充滿希望、令人陶醉又具有危險性的原因——總會有那些有才華的頭腦以為自己能想出解決方案來收拾我們搞出來的亂攤子。大家,尤其是年輕人,總是會對新想法的浪漫著迷。4個月後就要畢業的Hall說:“我們創造出了此前未必會存在的東西,所以我們無法預料到所有會面臨的挑戰。但一旦我們預料到了,重要的是我們要用仁慈和謙卑去化解那些挑戰。這肯定很難,但這一點很重要。我已經準備好迎接這一挑戰了。”
編譯組出品。