人人生而平等，AI讓社會更平等

原文：Artificial intelligence can make our societies more equal. Here』s how

作者：Brandie Nonnecke

翻譯：HW_哈威

審校：Kaiser

AI 正在進入與我們息息相關的各個重要社會機構，在各類高風險決策中大顯身手。AI甚至已經打入了醫院、法院以及就業辦，並決定誰能拿到保險金、誰能獲得假釋，還有誰能拿到工作 。儘管在很多情況下， AI 能夠通過克服人為決策所固有的錯誤和偏見從而提高效率，但演算法作者或輸入數據本身也存在偏差——不但不修正，反而會把偏見放大。

我們要知道，演算法本身並不是中立的。它反映了數據和計算中的假設。如果演算法接收了帶有偏見的數據，或是反映當下社會偏見的因素被賦予了過高優先順序，那麼隨之而來的就是帶有歧視性的結果。

演算法的功能是由提升特定因數的優先順序實現的，就是通過分配優先權重給特定的因數——用觀察到的和隱變數來識別統計模式，並隨之提供「若XXX進行YYY行為，執行ZZZ（if this, then that）」的結論。（有點像IFTTT）

假設某高權重因數真有預測效果，而且歷史總會重演，演算法就可以表現出一種自我強化偏見。對於那些在數據和計算中高估、低估或錯估的情況，由此所得出的結論就會使不平等現象永久化。

「人們擔心計算機會變得過於聰明，將會統治世界；但真正的問題是，計算機並不聰明，但也已經在統治世界了。」 —— 演算法大師 Pedro Domingos

為了說明這方面的內容，我們首先來了解一下預測性警務模型和健康保險風險預測兩個例子。預測性警務模型使用歷史犯罪記錄來預測犯罪熱點地區，包括日期、時間和地點等等。因為少數族裔和低收入社區比繁榮的白人社區更經常受到被警方「關照」，預測性警務模型的核心——歷史犯罪數據就會給出一張有偏差的圖，裡面會顯示巡邏越頻繁的社區犯罪率越高。結果就是預測性警務模型會對少數族裔和低收入社區進行永久監控，這樣或許會擴大種族偏見。

再來看看健康保險這個例子。保險公司現在已經可以通過數以千計的非傳統「第三方」數據源的組合來預測一個人的未來健康風險，比如購買記錄和鄰居的健康狀況等等。使用這種數據或許能準確預測保險公司的風險，但這也意味著處於風險中的人可能會被收取貴的要死的保險費，否則將被拒絕投保。對於那些健康狀況不樂觀的社區的居民來說，這些預測模型或許趨於保持不同人群間的健康狀況差距。

使用「社會系統分析（Social-Systems Analysis）」

廣泛來說，偏差會通過滲入有價值的數據和主觀因素的優先順序進而進入演算法當中。不完整、非標準化或是用錯誤測量工具收集來的數據集，將會呈現出對現實的錯誤反映。而且如果採集過程本身反映了長期以來社會不平等，那麼通過該方式採集來的數據也會將這種不平等永久化。

舉個例子，如果使用來自一個傾向於僱用和提拔高加索男性員工的行業的數據組給一種演算法進行訓練，可能就會導致高加索男性比其他候選者更具系統性排名優勢。通過用「社會系統分析（Social-Systems Analysis）」這一途徑（即系統性社會不平等會對AI系統的培訓數據產生影響，開發人員來進行質疑和糾正）來分析數據和假設，或許就可以更早地識別並糾正偏差，降低AI不斷增強的歧視性。這就引向了下一種推薦的方式，此方式會讓更多樣性的團隊更容易識別偏差。

在每個階段都融入多樣性

多樣性應該被加入到AI發展過程中的每個階段，從設計與開發到質疑其對決策的影響。研究表明，無論累計智商多高，更多樣化的團隊在解決問題方面更加高效。明確注意設計、應用和評估AI啟用決策的影響的包容性，不僅可將無意的歧視性影響最小化，也會把AI的設計與應用變成促進社會、經濟和政治包容性的動力。

（奇人異士的參與讓ow從眾多FPS遊戲脫穎而出）

AI 目前正處在一個拐點上，其發展與應用可以為全球性挑戰帶來前所未有的益處，諸如氣候變化、食品安全、衛生健康、教育等等。但 AI 的應用必須要仔細管理，以保證將來的數字經濟和數字社會發展得更加平等，而不是更加歧視。

拓展閱讀：

他這個Z炮是怎麼壓到我的？——OpenAI解釋Dota2AI的實現過程

以彼之道，還施彼身——使用機器學習來揪出作弊的玩家

智能會議的五重境界

官方微博：@景略集智

微信公眾號：jizhi-im

集智QQ群：557373801

商務合作：chenyang@jizhi.im

投稿轉載：kexiyang@jizhi.im