沒有女性平等參與的AI研究終將走向偏見

本文已獲授權轉載

來源：聯合國婦女署 微信號：unwomenchina

姑娘，你用的」新科技」大多是男人為男人設計的。從2016年起國外多家媒體開始關注報道人工智慧中存在的性別偏見，多個著名女科學家也發聲指出這一現象。 李飛飛， 斯坦福人工智慧實驗室負責人（斯坦福AI實驗室唯一的女性）也是谷歌雲首席科學家，說： 「人工智慧將對人類社會做出巨大改變，但我們這一整代的技術人員和領導人的多樣性卻正在消失。」讓小編為你盤點在過去的幾年中，人工智慧還有其他科技所表現出來對女性用戶的歧視。

1

2012年，美國政府在為豐田2011款塞納汽車做汽車正面碰撞試驗中使用了女假人，發現當這一款車在以35英里每小時的速度撞上護欄時，坐在前座的女假人有20-40% 的死亡或者嚴重受傷概率。而之前在使用男假人時，平均概率是15%。弗吉尼亞大學應用生物力學中心2011年做的調查發現繫上安全帶的女司機比男司機在經歷同樣的汽車碰撞時，受傷的概率比男司機高出47%。

2

卡內基美隆大學用軟體 Ad Fisher 發現谷歌網站會通過用戶表現猜測用戶是否是男性用戶或者女性用戶。一旦判斷用戶是男性，谷歌更有可能向用戶展示高薪管理職位的廣告（給男用戶展示了1852次，給女用戶展示了318次）。（另外大家不妨在各網站搜索「首席執行官」的圖片，你會發現出來的大多都是男性的照片）

3

波士頓大學和微軟的研究人員在2016年發現，學習谷歌新聞文字的軟體再現了人類的性別偏見。當研究人員對軟體進行提問，「男性是程序員那麼女性是？」它的回答是「家庭主婦」。新的研究表明，性別偏見根植於兩組圖片集中：華盛頓大學的 ImSitu 和微軟的 COCO，原本是用來幫助軟體更好地理解圖像內容。每個圖片集都包含了 10 萬多個來自網路的複雜場景，並配有說明。兩個數據集都存在性別偏見。在 COCO 中，勺子和叉子等廚房物品都與女性高度相關，而類似滑雪板和網球拍等戶外運動設備則更多地與男性相關。當圖像識別軟體通過這些數據集進行訓練時，這種偏差就會放大。COCO 數據集訓練出來的系統可能會把滑鼠、鍵盤和男性更為緊密地聯繫在一起。

4

除了輸入數據產生的偏見，人工智慧也能通過和用戶的互動產生偏見。2016年，微軟推出的聊天機器人，Tay，在 Twitter 上正式上線。然而在短短24小時內，Tay 在部分用戶的刺激下開始發表種族歧視，性別歧視的言論，被微軟匆匆下線。在後來的公開信中，微軟聲稱在開發 Tay 時已經為其加入了很多言論過濾功能，並且在 Tay 可能會說出不當言論的場景進行了大量的壓力測試。 微軟聲稱，有人利用了一個漏洞對 Tay 展開攻擊，最終使其開始在 Twitter 上發表「極為不當」和「應受到譴責」的文字和圖片。

人工智慧用的演算法 (algorithm) 是人類設計和訓練的。科研者的價值觀和偏見對演算法都造成很大的影響。這也是為什麼我們需要更多的女性科研人員參與人工智慧的設計，將女性用戶的需求還有尊重性別平等的理念融入到人工智慧的系統里。演算法對男性和女性所形成的特定印象主要來源於機器在閱讀以及和人類交流過程中所採取的方式。所以我們更需要將社會性別主流化，把性別平等理念融入到日生活和對話中。智能時代的女性

假設我們可以改正人工智慧中的性別偏見，那人工智慧可以為女性帶來什麼樣的好處？SAP公司的員工對這一話題寫下了自己的感想，我們來讀一讀吧！

「

在平時的生活中，你是否已經切實感受到了人工智慧時代的到來？和iPhone上的Siri說一句話，它就能立即播放你想聽的音樂；對著手機上的APP眨眨眼、轉轉頭就能成功登陸，簡單且安全；給掃地機器人定個時，每天回家就能看到光潔如新的地面並收穫愉悅心情。是的，這些都是人工智慧時代帶給我們生活的變化，不同於機器時代幫助我們減輕勞動的洗衣機、洗碗機，人工智慧是計算機科學的發展與延伸，如語音識別、人臉識別、機器學習等。正如上一代的電器設備極大的改變了我們的生活，人工智慧同樣在進一步解放我們的雙手，給我們更多的自由空間。

回望時間的長河，每一場科技革命都是雙刃劍，這一次也不例外。在這一次科技浪潮中，作為女性，我們究竟是受益者還是受害者呢？一方面，在人工智慧時代，女性能從繁重的家務中得到極大的解放，體力繁重的工作有機器人幫忙，智能設備能改變工作環境和方式，女性能更靈活的處理家庭和工作的關係；另一方面，人工智慧正在逐步取代很多崗位，從事簡單勞動的女性可能飯碗不保，就業結構的調整給女性工作帶來新的挑戰。

總體說來，人工智慧作為一種新的生產要素，將極大的提高人類的生產力水平，帶給人類整體上更豐富的物質、更輕鬆的生活方式。人工智慧的加入，分擔了人類的體力、計算、分析等類型的工作，但人類可以在其它方面發揮更大的作用。

以女性勞動者比率較高的兒童看護為例。機器人可以幫助孩子準備營養均衡的食物、創造睡眠環境、保持良好的衛生條件並確保安全，也能放音樂、講故事，陪伴孩子玩耍。但養育孩子離不開人的互動，皮膚接觸、眼神交流、建立安全依戀、感受到被愛與關懷、處理情緒問題、脫離自我中心、培養道德意識等。在這個過程中，智能機器人只能作為幫手，減輕人的負擔。真正指引兒童發展方向的只能是人，由機器人撫養長大的孩子只會長成機器人，不能洞察別人的情緒、不能與人合作、沒有感情不會去愛。有了機器人的幫助，我們能把更多的時間和精力投入到高質量的陪伴和教育中，這需要更真誠、更純粹的人性。同樣地，有機器人幫助我們為老年人服務，讓他們身體上更舒適，我們才有更多精力關懷老人的滿足感和完善感，有時間傾聽他們的回憶和心理訴求，握著他們的手表達愛。機器人歸根結底是一種工具，我們越多的利用這種工具，就能在更大程度上把人的工具化減弱，有更多機會回歸人本主義，做更有意義有價值的事情。

人工智慧時代也是創新的時代，宏觀來看，人工智慧的時代必然會產生新的社會需求，有需求就會有供給，滿足時代要求的新興行業會層出不窮；微觀來說，相對於能儲存、分析大量數據的機器人，人類的優勢是直覺、靈感和創意等這些右腦支配的能力，如果人類和人工智慧有競爭關係，那挖掘右腦的優勢才能立於不敗之地。談到這裡，又要恭喜女性，因為最新的研究表明，男性和女性大腦的主要區別就是，相對於男性，女性左右腦區之間有更多的連結。或許這就是為什麼總體來說女性在和右腦相關的能力上更勝一籌。在人工智慧時代，我們期待更多來自女性的創新讓世界更加豐富多彩，也期待男性和女性更加公平的社會。

人工智慧時代的到來對人類提出了更高的要求，不僅要有寬闊的視野，洞察時代的變化，也要不斷的自省內觀，更多的了解自己、理解他人和關係。作為女性，要勇敢的追求自己的事業，也要謙虛的持續學習，活出自己的精彩！

——SAP 楊穎

2017年

」

我們迫切需要更多的女性在科學、技術、工程和數學領域佔一席之地，引領新科技的發展和研製。《隱藏人物》中一句經典台詞說道：「他們也會讓女性在航天局工作，不是因為我們穿裙子，而是因為我們戴眼鏡。」 在此我們也希望更多的女科技人員參與到人工技能的研究中，不再隱藏。

本頁刊發內容未經書面許可禁止轉載及使用

公眾號、報刊等轉載請聯繫授權

copyright@zhishifenzi.com

知識分子為更好的智趣生活 ID：The-Intellectual