亞馬遜AI又遭抗議：一個好端端的美國官員，怎麼就成勞改犯了？

來自專欄量子位8 人贊了文章

李根 發自 凹非寺

哈哈哈。

如果你近期稍微關注到亞馬遜在美遭遇的抗議和diss，想必對ACLU這個組織不會陌生。

ACLU，全稱The American Civil Liberties Union，中譯為美國公民自由聯盟，是一個美國民間組織。

之前我們報道過，亞馬遜因為積極向美國執法部門兜售人臉識別技術Rekognition，因而遭遇ACLU集中關注，並號召亞馬遜股東、用戶給貝佐斯寫信，停止售賣這樣的AI技術給執法部門。

但貝佐斯壓根沒有搭理，雖然在個別城市合作中有點小問題，也沒有影響亞馬遜繼續推進這項業務的決心。

不過，ACLU倒是徹底跟亞馬遜杠上了，而且還換了鬥爭路線，從抗議亞馬遜AI輸出，到給亞馬遜AI找問題。

如願的是，竟然還真給找到了。

近期，ACLU拿美國國會議員的照片測試，發現亞馬遜AI竟將其中的28名，確定為曾經被捕的人。

這下確實很尷尬，一個好端端的美國政府官員，都這樣被識別成了罪犯，那廣大公民又怎麼放心呢？

跟之前被diss不同，這次亞馬遜自己也急了。

官員識別成罪犯

在ACLU的測試中，他們花了12.33美元，用來體驗亞馬遜主力推薦的刷臉AI Rekognition，並拿533名國會議員的照片作為樣本。

但就在輸入這些照片後，竟有28名國會議員被匹配成了被捕人員的照片——顯然是個明顯的錯誤。

△ 一名黑人議員被識別為罪犯

於是場面變得非常尷尬。

之前ACLU反對亞馬遜售賣這個刷臉AI，其中有一個小原因就是擔心技術不夠好，將普通公民特別是有色人種公民誤識別。

△ ACLU報告顯示有色人種誤識別率很高

現在好了，亞馬遜AI在默認設置下，果然出現了誤識別，而且誤識別比率達5.2%，已經是一個很高的數字了。

這個實驗報告一公布，立馬讓更多美國吃瓜群眾炸了鍋。

於是不同於之前抗議時的沉默，亞馬遜這次出來回應了。

亞馬遜回應：錯誤設置誤導

亞馬遜給出的回應聲明說，ACLU的測試有嚴重的失誤，就是拿測試物體的匹配度閾值來測試人，自然準確度就會大打折扣。

亞馬遜說，他們的AI Rekognition在實際應用中，對人對物的匹配準確率設置是可以調節的。

識別物體，燒餅、椅子等等，需要的匹配準確率要求沒有那麼高，一般閾值是80%。

但識別人，要求就會比較高，一般都會被設置成95%甚至以上。

也就是說，不是我們亞馬遜AI不給力，而是測試的ACLU沒正確使用。

亞馬遜也趁機對外PR了一把，表示在已經使用亞馬遜Rekognition的圖像和視頻分析技術的案例中，在打擊人口販賣、抑制兒童剝削、追蹤失蹤兒童等方面發揮了積極的社會作用。

並且通過帶來如此更高效的身份驗證，增強社會的安全性，可以更輕鬆查找圖像或防止被盜等等，這都能讓公共部門和執法部門效率更高。

最後，亞馬遜還強調，這個刷臉AI也不是完全替代人類執法者，而是作為輔助，幫助他們縮小調查範圍，可以更有效做出決策判斷，完全是人機協作的，會雙把關。

言下之意，就差明說ACLU的這個測試「別有用心」了。

ACLU再反駁

當然，ACLU怎麼會認慫，立馬給出了律師回應。

ACLU表示，亞馬遜在對政府售賣這個AI時，推薦的默認值就是80%匹配閾值的，而且亞馬遜自己官方網站也鼓勵客戶使用這個默認值。

所以不是ACLU測試流程不行，而是亞馬遜AI有技術缺陷。

ACLU還表示，問了很多被亞馬遜推銷刷臉AI的客戶，均表示亞馬遜沒說過不同對象識別要用不同的匹配度閾值。

更讓ACLU反對的是，亞馬遜只說了刷臉AI有益的那一面，但對正在引發的公民權利侵害卻避而不談。

ACLU指出，由於亞馬遜向政府部門售賣刷臉AI，警方已經將此用於確定參加抗議活動的對象，ICE則用來監視移民，一些城市執法者甚至用來經常跟蹤未獲告知的居民。

所以亞馬遜AI之害，已經在產生重大的公民權利問題了。

於是ACLU再次呼籲，應該制止並暫停亞馬遜AI被用於執法部門。

亞馬遜靠AI漲業績

那經歷這次diss之後，亞馬遜會停止向美國政府部門推銷刷臉AI嗎？

顯然不會。

我們之前也介紹過，這個被反對的刷臉AI——Rekognition，是基於AWS的圖像識別和分析的平台，提供的功能包括物體和場景檢測、面部分析、面部比較和面部識別。

也就是說，這個AI對外輸出，主要是通過亞馬遜雲服務業務AWS。

除了直接賣給美國政府部門，亞馬遜還通過AWS賣給大數據公司Palantir之類的。

之前特朗普對非法移民的「零容忍」政策實施以後，ICE計劃里使用的人臉識別系統，正是來自採用了AWS的Palantir方案，也就是間接使用了亞馬遜AI。

那為啥說亞馬遜不會妥協呢？

太賺錢了。

就在昨天（7月27日），亞馬遜發布了2018財年第二季度財報。

報告顯示，亞馬遜第二季度凈利潤為25.34億美元，較上年同期的1.97億美元增長1186%；凈銷售額為528.86億美元，較上年同期的379.55億美元增長39%。

遠超預期，盤後股價一通小漲。

其中，這份亮眼財報的主要功臣是亞馬遜AWS。

雲服務第二季度凈銷售額為61.05億美元，比上年同期的41.00億美元增長49%；運營利潤為16.42億美元，相比之下上年同期為9.16億美元。

所以換你當亞馬遜CEO，你會自斷其臂嗎？

— 完 —

歡迎大家關注我們的專欄：量子位 - 知乎專欄

誠摯招聘

量子位正在招募編輯/記者，工作地點在北京中關村。期待有才氣、有熱情的同學加入我們！相關細節，請在量子位公眾號(QbitAI)對話界面，回復「招聘」兩個字。

量子位 QbitAI· 頭條號簽約作者

?? ? 追蹤AI技術和產品新動態

推薦閱讀：