自詡“鄰里監督者”,亞馬遜旗下家庭安全公司卻為種族歧視推波助瀾
【獵雲網(微訊號:)】2月12日報道 (編譯:一晌貪歡)
亞馬遜旗下的家庭安全系統公司Ring運營的一款“鄰里監督”應用,名叫Neighbors,你可以在這款社交媒體平臺上看到這樣的帖子:“偷我包裹的人抓到了!!!”
這篇帖子並排展示了兩張人像:一張是家庭安全攝像機拍攝到的,另一張是大頭照,似乎兩者是同一人。
帖子中寫道:“這名男子在2019年1月14日偷了我和鄰居的包裹,我在此激動地告訴大家該小偷在2019年2月3日被紐約警察局逮捕”。帖子下面的評論紛紛稱讚公佈此貼的人。
Neighbors自詡為“新的鄰里監督者”。但在更實際的層面上,如果Neighbors的帖子只是關於犯罪或“可疑活動”的報告,那Neighbors就像NextDoor(美國當地社群的鄰里社交平臺)。NextDoor長期面臨著種族主義問題,Neighbors也逃不開這個問題。每個Neighbors的帖子都有以下標籤之一:犯罪、安全、可疑、陌生人、寵物丟失。Ring相機拍下的片段,如果與警方共享,可能提供線索從而幫助破案。
Neighbors不僅僅是一款社交媒體應用,它更是一項服務,旨在與Ring security camera安防攝像頭一起協作使用,Ring是一家基於Wi-Fi聯網的家庭安全公司,去年2月以10億美元被亞馬遜收購。收購三個月後,Neighbors於2018年5月正式上線。如果使用者原本有Ring安全攝像機,那就可以直接從相機上傳視訊內容到Neighbors。如果使用者下載了Neighbors並邀請了一個朋友加入這個應用程式,則兩人都可以得到10美元的折扣券用於購買Ring安全產品,包括門鈴視訊攝像頭、泛光燈攝像機和家庭安全攝像機。
除了打造一個“新的鄰里監督者”,亞馬遜和Ring公司正在使視訊監控變得常態化,甚至導致鄰里彼此對立。社群學院Macomb Community College英語系教授Chris Gilliard致力於研究機構技術政策,他表示:這種以“犯罪和安全”為重點的平臺可能加劇種族主義問題。
Gilliard說:“過往的事例讓我們瞭解到,即使住在某個特定的社群,黑人的白人鄰居通常也不會把他們當成鄰居或者不認為他們屬於這裡。所以黑人在某些情況下被視為外來人。諸如Neighbors的系統應用如果加劇了這種歧視,這實在非常惱人。”
亞馬遜版的“鄰里監督者”平臺上,輕微犯罪受到了嚴格監管,種族主義也很常見。視訊帖子中涉及有色人種的比例頗高,描述還經常帶有種族歧視的語言,或是對視訊中的人做出種族主義假設。在許多方面,Neighbors和Ring生態系統就像一個虛擬的門控社群:人們可以通過下載Neighbors來選擇加入,並且通過Ring相機,使用者可以將鄰居框定為威脅因素。
外媒做了一項調查,把所謂“家庭”地址設定在位於布魯克林Williamsburg的一間辦公室,並保留預設的5英里半徑的社群,這意味著其範圍包括曼哈頓南部、布魯克林大部分地區、皇后區和霍博肯的部分地區。然後在Neighbors應用程式中就這一地區察看了100多篇使用者提交的帖子(日期從12月6日到2月5日),結果發現,大多數報告為“可疑”的人都是有色人種。
截圖來自Neighbors應用,展示了下文描述的“6名幫派成員走向屋頂”的帖子。
位於公寓門外的攝像機拍下的一段視訊顯示:六個年輕人(都是有色人種)正走向樓梯間,一些人揹著揹包。這段視訊於1月2日晚上8點13分發布,標題為“6名幫派成員走向屋頂”。在沒有證據支援的情況下,帖子底下的評論竟然鼓動帖子釋出者報警,說這幾個年輕人吸毒。外媒就此事詢問Ring公司之後,這段視訊被刪除。
Neighbors描述犯罪的視訊帖子幾乎都是輕罪。經檢視,75%的“犯罪”是偷盜包裹。但在對這些視訊的評論中,人們很快就開始進行人身攻擊和謾罵。
Neighbors播放列表上有一個置頂帖(由Ring員工人工置頂)顯示了一個黑人從門前偷了一個包裹。然後這個帖子底下的評論極盡惡毒的話語。
威脅生命的行為,可能因社交平臺而加劇
外媒調查時設定的Neighbors app地域範圍
根據Ring社群準則,Neighbors禁止“對任何個人進行直接威脅、恐嚇、騷擾”,也禁止“任何貶低、誹謗或歧視的帖子”,但該應用沒有審查機制,全靠使用者報告違規帖子。準則還聲稱:只允許“犯罪和安全相關內容”。可是社群準則並沒有定義何為“安全”,而只是鼓勵使用者“發現讓你產生懷疑的行為,也不管這種懷疑是否合理”。
準則指出:“在描述個人時,重點是提供足夠數量的相關細節,以將這個人與可能具有類似特徵的其他人區分開來。僅僅報告嫌疑犯的膚色並沒有多大用處,其它細節資訊才更有用:比如嫌疑犯的頭髮顏色和髮型、穿著的衣服、佩戴的珠寶、年齡、其它顯著特徵、紋身、傷疤等等。”
外媒詢問Ring公司,是否對Neighbors的有關種族歧視的內容或評論進行了調整。該公司的一名發言人卻說:“Neighbors允許使用者與鄰居分享交流安全資訊,在一定情況下把實時的犯罪和安全資訊共享給當地執法部門,我們旨在促進這種社群內部的合作。”
Neighbors使用者經常鼓勵其他使用者根據共享視訊片段報警。當Neighbors貼出有諸如盜竊包裹等犯罪時,Ring公司員工會評論說:“如果你已報警,請在下面分享案件編號和警官的聯絡資訊。一旦我們有了案件編號,Neighbors團隊也許可以利用你的視訊幫助執法部門破案。”
電子前哨基金會(Electronic Frontier Foundation)基層宣傳總監Shahid Buttar表示:報警可能會給有色人種的鄰居帶來致命的後果,可是Neighbors的使用者通常都明確支援儘快報警。
Buttar說:“在美國,警察暴力執法(而不受懲罰)的情況客觀存在,且主要針對有色人種。所以在某些情況下,上述報警行為可能威脅到不相關第三方人士的生命,這些人可能只是在工作或生活在自己的社群。而社交媒體應用平臺加劇了這種威脅因素。”
2018年12月Neighbors應用上的一篇帖子
在twitter上,Gilliard預測Ring將被用來向警方報告為亞馬遜送貨的有色人種快遞員的情況。事實上,Neighbors上抱怨快遞員的帖子總是涉及有色人種,說他們的快遞服務不夠好。如此一來,Ring安防攝像機就不僅僅是鄰里監視工具,而成為了監視人們正常工作的裝置。
2月3日的一篇帖子寫道:“快遞員只會扔東西。快遞到了也不按門鈴通知,對於易碎物品沒有小心輕放,遇到這些情況我就會發帖報告這個快遞員。”
Ring公司的產品也延伸到現實的執法領域。美國多個警察局(比如科羅拉多州奧羅拉警局、加州洛杉磯警局、海沃德警局等)在購買Ring產品時都享有折扣。甚至在加州海沃德,整個鎮上的居民都享有購買折扣。某些警察部門(比如科羅拉多州奧羅拉警局)還把Ring 攝像頭應用於“門廊海盜行動”,他們把裝滿石頭、用亞馬遜膠帶密封的誘餌包裹盒留在裝有Ring攝像頭的門廊上。奧羅拉警局發言人Matthew Longshore說:亞馬遜提供箱子,Ring公司提供攝像機。據Ring公司發言人稱,該公司在預算範圍內向城市警察部門提供退稅或補貼。
Twitter上的一篇帖子寫道:門廊海盜行動,注意了!GPS追蹤器就放在你家門口的包裹裡,Ring攝像頭正盯著你!偷快遞前,三思而後行!感謝亞馬遜的幫助!
Buttar說:“公共補貼或平臺推廣是非常強大的工具。僅就管理而言,在市政當局支援這些社交平臺之前,應該對它們進行嚴格的審查。而且,如果這些平臺導致人們無端面臨來自警察執法的嚴重威脅(甚至危及生命),那這樣的平臺工具就不應該被推廣。”
Ring公司傳遞了一個非常特殊的資訊:你不必信任你的鄰居,但是你可以讓亞馬遜來幫助監督你的社群。Neighbors應用程式是免費的。但裝了這款應用之後,使用者反而覺得周圍並不安全,因此更傾向於花錢購買Ring家庭安防系統產品。
Neighbors具有廣告作用,因對危險的恐懼,且為同伴壓力所驅動,從而吸引使用者使用亞馬遜的攝像機系統。但實際上,該應用強化了使用者的種族主義偏見,並在使用Neighbors的社群中將有色人種置於危險境地。
2019年1月Ring公司專利公開
將來,Ring公司可能會將面部識別技術整合到亞馬遜的Ring/Neighbors生態系統中。 2018年12月,Ring申請了公開專利,這表明公司希望利用面部識別技術,將攝像頭拍攝到的內容與“可疑人員資料庫”進行比對。
面部識別技術在識別有色人種,尤其是有色女性人種方面準確率相當低。根據美國公民自由聯盟(ACLU)進行的一項測試,亞馬遜的面部識別軟體Rekognition在2018年錯誤地識別了28位國會議員照片。其中有色人種的國會議員識別錯誤率高的不成比例。Ring的一位發言人解釋說:“這項專利不等於實施應用”,但他沒有說專利中描述的技術將永遠不會應用。
Gilliard對外媒表示:“我必須強調,監控是否能讓社會更安全,這取決於監視的物件是誰,不應該把這種監視用在已經被邊緣化的人群身上。難道真要監視在社群內散步、跑步的有色人種嗎?又或者要監視那些快遞員、抄表員嗎?”