華盛頓人臉識別監管議案獲微軟支援：亞馬遜態度曖昧
訪問:
亞馬遜已經請求該議案的提案人、華盛頓州參議員盧文·卡里勒（Reuven Carlyle）澄清一些問題，並對一些內容進行調整，例如，這部議案要求號稱能識別人臉的人工智慧軟體 開發 商向有意對其進行測試的第三方開放其產品。卡里勒已經評估了各方的許多修改請求，其中也包括亞馬遜。他也在週四提交了修訂版的議案。
“公正地說，亞馬遜對人臉識別施加有意義的限制持有深深的懷疑和擔憂。這顯然是他們長期商業戰略的一項核心技術。”卡里勒說，這位民主黨人代表了西雅圖的部分地區，其中也包括亞馬遜的總部所在地。
他認為，該公司希望保留創新能力。不過，“他們也明確表示其目標是能夠找到一種合適的狀態，讓他們可以支援這項立法。”
人工智慧軟體在美國和中國的頂尖科技公司中扮演越來越重要的角色。一些公司和遊說組織對該技術表達擔憂，尤其是那些通過面部特徵對人進行追蹤和歸類的產品，因為這類產品可能存在偏見，還有可能破壞隱私。亞馬遜就曾與批評其軟體的研究人員展開過爭論。現在，許多政府開始著手監管這項技術。
微軟總裁兼首席法務官布拉德·史密斯（Brad Smith）接受採訪時表示，向第三方開放軟體，以供測試之用，是這部立法提案的關鍵部分之一。他認為，任何開發這種軟體的公司都應該支援這種做法。
反對這種測試“就像汽車企業反對氣囊測試一樣”。史密斯說：“一家公司為什麼要反對讓公眾有能力知道某項服務是否運轉良好？公眾有權評估這些服務，相關企業也應該認識到這種第三方測試的重要性。”
亞馬遜拒絕對是否支援這項立法發表評論，因為具體的議案仍在調整修改過程中。該公司週四釋出一篇博文，闡述了他們認為人臉識別軟體應該通過何種方式進行監管。例如，該公司表示，當執法部門使用軟體時，這些部門應該有人來評估結果，確保公民自由不被破壞。亞馬遜還表示，他們支援對面部識別軟體的標準化測試。
“任何立法都必須保護公民權利，還要允許持續的創新，讓技術可以實際應用。”亞馬遜網路服務（AWS）全球公共政策副總裁邁克爾·龐克（Michael Punke）說。
這項議案還有幾項要求也遵循了史密斯去年12月在部落格中的建議，包括用直白的語言闡述程式會採取什麼措施，並且在軟體對客戶進行分析時向其傳送明確通知。此外，當據此作出的最終決策會對消費者產生法律影響，或者類似的重大影響時，還應該對這些決策展開有意義的人工評估。
該法案還禁止在沒有獲得法院命令的情況下使用軟體展開持續監控，除非是可能危及生命安全或產生嚴重傷害的緊急情況。
卡里勒認為，相關行為應該獲得使用者的明確許可，而不應該隱藏在格式條款中，誘騙使用者點選確認。
卡里勒計劃下週召開一次會議來討論這項議案，並邀請企業和遊說團體參會。他希望能在下週末將議案提交給委員會審議。
雖然該立法提案僅在華盛頓州討論，但其影響範圍卻不僅限於亞馬遜和微軟這些總部位於該州的公司，還包括所有在該州開展業務的企業，以及處理消費者資料達到或超過10萬人或者有半數營收營收來自個人資料銷售的企業。此外，即使該議案最終無法通過，其他州也有可能以此為樣本。
值得一提的是，已經有第三方機構對亞馬遜和微軟的人臉識別人工智慧程式進行測試，包括麻省理工學院媒體實驗室和美國公民自由聯盟。
在發現自家人臉識別軟體在膚色較黑的影象上表現糟糕時（女性尤其明顯），微軟CEO薩提亞·納德拉（Satya Nadella）下令研究人員和工程師解決這個問題。亞馬遜則對相關報道提出反駁，他們認為研究人員並沒有採用合適的測試方法，或者測試場景不夠精確。
“如果議案獲得通過，就向著構建人臉識別技術的監管基礎邁出了重要且急需的一步，而且創造了一種可供其他州或國家參考的模式。”史密斯說。