亞馬遜員工自白信：我們不應該向軍方出售人臉識別技術

編者按：「我是亞馬遜的員工，我們不應向軍方出售人臉識別技術。」

這是一封字句之間充滿震撼、憤怒以及失望的員工自白信。追隨谷歌員工、微軟員工的腳步，亞馬遜內部正在積極聯名勸阻公司停止向美國軍方和政府出售 AI 技術項目。

當下，致貝佐斯的百名員工聯名信現在已經獲得超過 450 名員工的簽名。但是，亞馬遜「堅定」支持政府項目的表態卻仍未見鬆口。在谷歌不抵員工「起義」剛剛放棄五角大樓百億美元雲計算合同之後，亞馬遜已經成為該項目的最佳候選人。只是，在亞馬遜員工看來，這一切已經與亞馬遜所倡導的價值觀背道而馳。

「如果我們要成為具備領軍力的公司，我們必須在民眾利益與公司利潤之間做出選擇。我們可以向軍方和政府出售具備威脅性的監控系統，或者，我們也可以堅持正確的做法。但是，我們永遠做不到兩者兼顧。」

該匿名身份的真實性由Medium的編輯進行確認。

來源：Medium，編譯：四月。

當一家公司將新技術帶進這個世界時，它就有責任和義務權衡這項技術可能帶來的後果。我所供職的公司亞馬遜正在允許美國各地的執法部門購買其面部識別產品 Rekognition，我和其他員工要求這項業務立即停止。

幾周前，我和我的同事們向傑夫·貝佐斯及其他高管發出了一封聯名信，包含 450 多名亞馬遜員工的簽名。這封信還呼籲停止對數據分析

公司 Palantir 提供支持，並建立員工監督公司道德決策機制。

Palantir 通過亞馬遜的雲服務業務與 ICE （Immigration and Customs Enforcement，美國移民和海關執法局）簽訂了大量合同，為 ICE 大部分的人員驅逐和追蹤項目提供技術支持。（Palantir 是一家在 2003 年創立的大數據公司，主要為美國執法部門提供預測性警務工具。）

貝佐斯清楚地知道這些項目的用途以及存在的風險，他正在積極地與行業各界進行對話。面向公眾舞台，貝佐斯承認新型科技產品可能被獨裁者多度使用，甚至被濫用。但在公司內部，他仍然建議我們靜觀其變，等待民眾接受這種擔憂的「免疫反應」，而不是有意識地解釋亞馬遜將如何採取行動防止我們的技術被濫用。

如果亞馬遜繼續無所作為，我們認為「傷害」在所難免。

畢竟，這種擔憂不只是「將來時」。現在，亞馬遜正在研發、營銷和銷售危險人物監控系統（類似於國內的「黑名單監控系統」）。亞馬遜官方宣傳稱，該系統一次能夠存儲和搜索數千萬張人臉。執法部門已經開始使用該套系統，卻幾乎沒有成形的監管機制對該系統的使用進行限制。

佛羅里達州的奧蘭多市正在通過城市監控攝像頭的實時視頻輸入測試 Rekognition 項目。俄勒岡州的治安官部門目前正在使用 Rekognition 項目，現場執法的官員將照片與資料庫的人臉圖像進行比對。這不再是一個對於未來假設情況的探討。

如果我們要成為具備領軍力的公司，我們必須在民眾利益與公司利潤之間做出選擇。

從過往的案例中可以看到，因為缺乏監督機制，國家將手中的強大監視工具用來瞄準那些可能是無辜的人。在美國，缺乏公共問責制已經導致有色人種、移民和那些正在行使美國憲法權利的人們遭受過度監控和過度干擾。

當政府和執法機構在部署強大先進技術的同時，卻忽略了這些亟待解決的社會問題是危險和不負責任的。

當亞馬遜 AWS 全球公共部門副總裁 Teresa Carlson 公開表態，亞馬遜將會「堅定不移地支持」為美國國防和情報客戶執法時，我們感到失望。即使我們還不知道「他們所知道的一切」。

亞馬遜還建議將 Rekognition 項目與軍用人體攝像頭系統進行聯結，這將把軍方用於問責罪犯的工具變成轉向普通民眾的移動監控設備。

我們為什麼要這樣做？

我們都有權在不受政府監控的情況下生活。像我們這樣的公司不應該去協助專制和監控，現在沒有理由這樣做，未來也沒有理由。但是看看當下，Rekognition 項目正通過從單幀視頻中提取數十個面部人臉特徵，並將其存儲起來供以後使用或立即將它們與數百萬張圖片的資料庫進行比對。

亞馬遜出售這套系統和其所倡導的價值觀背道而馳。

我們稱自己是一家以客戶為中心的公司，貝佐斯表明過對於移民不公平政策的態度：他直接反對針對移民的不道德政府政策，如穆斯林禁令。

我們無法以犧牲社會利益為代價來換取從部分大客戶中獲利，我們也無法避開內部員工對於這種行為的審視。我們銷售的產品隱含缺陷技術，因為它可以被強加上既成的偏見。

研究表明，面部識別更容易誤認皮膚較黑的人。最近一項針對 Rekognition 項目的測試清楚地證明了這一點。該測將每一位國會議員的人臉與罪犯照片進行比對，其中有 28 項錯誤匹配，在錯誤識別的結果中有色人種不成比例地過高。

退一步說，即使這些不準確性得到解決，允許政府使用人臉識別軟體仍然是不負責任、危險和不道德的。產生種族偏見等的更底層偏見實際上存在於更廣泛的社會架構和司法體系中，而人臉識別系統的使用只會不斷放大和推進這種偏見生成機制。

考慮到美國目前的政治環境，警方加大了對黑人家庭的監控力度，特朗普政府正在繼續對移民進行全面管制，這使向政府出售人臉識別項目的做法更加令人反感。

我們不想以任何方式加入到快速推進的監控安防政策中。對於亞馬遜來說，儘管我們要求 Rekognition 客戶遵守法律，但這並不能完全保證保護公民的自由。所以，不參與是避免對該技術負面影響擔責的一種方式。

我們跟隨 Google 員工的反對 Maven 項目和正在反對 JEDI 項目的微軟員工的腳步。無論我們對軍隊的看法如何，都不應該從「增加軍隊的殺傷力」這件事中獲利。

無論是在我們國家還是在其他國家，我們都不會對於製造壓迫和殺害人的技術保持緘默。在亞馬遜所倡導的領導力價值中，「如果我們要成為具備領軍力的公司，我們必須在民眾利益與公司利潤之間做出一個選擇。」

我們可以向軍方和政府出售具備威脅性的監控安防系統，或者，我們也可以堅持正確的做法。但是，我們永遠做不到兩者兼顧。

原文鏈接：https://medium.com/s/story/im-an-amazon-employee-my-company-shouldn-t-sell-facial-recognition-tech-to-police-36b5fde934ac