AI的倫理困境是個偽命題

前幾日應學習時報之約寫了一篇小文《演算法的社會倫理困境》。AI無疑是改變現有社會規則的技術，因此同歷史上出現的所有改變社會規則的技術一樣，在出現的最初都會被認為造成了人類社會的倫理困境，然而只要經過一兩代人，所謂困境就成了常態，而社會運行效率和幸福程度則得到了質的提高。

文章原文如下：

1. 人工智慧用於社會管理引發爭議

a. 這篇文章提到，美國威斯康星州使用人工智慧系統協助判案

他偷輛車就被人工智慧評估重判8年。當AI觸角伸向司法界，是合理，還是荒唐？

可以大致推斷出，這個系統是一個基於統計事實的推理系統，可能採用的是貝葉斯網路技術。

2. 無獨有偶，上海交大兩位教授也開發了利用人工智慧技術識別罪犯的系統

上海交大研發人工智慧：通過臉部識別技術辨別罪犯_網易數碼

這是一個典型的圖像分類系統，通過使用大量罪犯照片訓練分類器，從而提取出罪犯面部長相的一些共有特徵，以此為依據推斷任意一張面孔，其人的犯罪危險性程度

2. 大數據讓演算法前所未有的強大

a. 機器學習和深度神經網路，克服了演算法設計中人的局限。人工智慧技術近幾年的火熱，主要是由於機器學習、深度神經網路方面的技術突破，以及大數據技術的成熟。此次技術突破使得從前很多被認為機器不可能解決的問題，變得可以解決。過去技術人員開發信息系統，需要將領域知識在頭腦中轉換為演算法和程序。這就對系統開發造成了兩方面的限制：

i. 一方面，需要編寫演算法的人把領域知識轉換為演算法，但是領域專家通常並不掌握演算法編寫的技能，而演算法工程師也很少同時又是計算機以外某個專門領域的專家。要解決這個問題要麼讓領域專家掌握編寫演算法的技術，要麼讓演算法工程師掌握領域知識。不論哪種做法，都會極大降低系統開發的效率，使得開發智能系統成為一件困難的事情。

ii. 另一方面，即使上述方法奏效，每一個領域專家所掌握的知識是有限的，並且面對快速變化的社會現實，也需要不斷更新，還有一些知識是隱含的，領域專家自己都沒有意識到它們的存在。這樣一來，演算法即使編寫出來，也常常是有偏差，有局限，並且更新不及時的。

此次技術突破改變了這一現狀，消除了對領域知識的依賴。演算法可以通過機器學習的方法，從大量數據中自動提取出來，不再需要人來編寫。這不僅減少了錯誤遺漏，降低了開發成本，並且可以隨著數據的變化自動更新，而不會因為現實的變化而落伍。

2. 只要有數據，只要數據中有統計規律，演算法就能找到這些規律

深度學習必須以大量數據為基礎，不僅量要大，而且對於所要處理的問題領域來說，要蘊含著該領域的統計規律，用數據科學的行話說就是特徵不能稀疏。現實中的數據有很多不滿足這個條件，一般來說，適合人觀看和查詢的數據，通常都不滿足要求，因為這些數據經歷了過多的人為加工，很多特徵都被加工者的主觀性扭曲或者抹殺了。

3. 演算法不仁，以數據為芻狗

a. 演算法並無所謂好壞，只是找出數據中蘊含的模式。上面說到，演算法只是根據數據中的特徵，計算期望值，相似度等統計指標，根據這些指標，給出分類或者預測結果。對於演算法來說，這些指標並沒有人們認為的那些含義。

b. 演算法中沒有價值判斷，最終是人給計算結果加上了價值判斷。但是一旦人們把演算法給出的結果，用在處理社會關係上，這些結果就對相關的每個人產生了意義。開頭提到的威斯康星州判案系統就是例子。

4. 終究還是人的問題

a. 演算法讓一部分人掌握了過大的權力。雖然技術突破和大數據讓演算法開發變得容易，但是獲取到足夠的數據和計算資源，開發並利用演算法，仍然是一件具有相當門檻的事情。因此能夠掌握利用演算法的仍限於少數人。這就使得這少數人在社會生活中相對於其他人佔有了極大的優勢。為了社會公平，我們對財產擁有優勢的人徵收更多的稅負，對掌握權力的人施加種種制衡，但是我們對擁有演算法優勢的人如何限制，仍然沒有可行的思路。

b. 對演算法的迷信。技術突破讓演算法不需要人編寫，雖然減輕了人開發演算法的負擔，但也讓人更難以理解演算法。大多數深度學習產生的演算法都讓人無法理解，但是由於大多是情況下演算法是有效的，人們即使不理解，也樂於利用演算法。這就產生了一個風險，沒人知道演算法的邊界和失效條件，因此也就不能判斷演算法何時會出錯。由於不理解，使用者往往傾向於忽視這種風險，於是形成了對演算法的迷信。威斯康星州的判案系統就是這種情況。司法系統的工作人員對演算法產生了一種盲目依賴，於是演算法成了那隻判

c. 相應的社會約束機制難以跟上。新技術只要有效，很快就會在社會生活中廣泛應用，但是新技術往往深刻地改變了人們的生活方式，而與這些改變相適應的社會約束機制，只能在新技術的社會影響日益明確之後，才能逐漸建立起來。社會規範總是滯後於社會現實，在技術快速發展的當今，這種滯後造成的問題尤為顯著。今天人工智慧對人們日常生活的影響，恰如一百年前汽車普及造成的影響。當美國普通家庭開始擁有汽車很多年之後，道路信號，交通規則，駕照考試等設施和機制才逐漸完善，跟上技術變革的腳步。對中國人來說，汽車對社會生活的衝擊是別人家的事，並沒有給我們留下太深的印象。然而這一次不同，人工智慧的技術突破，中國幾乎與世界前沿水平同步，因此也必然同時面對技術對社會生活的種種衝擊。

d. 在變化中探索秩序。人工智慧技術仍在快速發展過程中，對社會生活的種種影響才剛剛開始顯現。對此我們既不能因噎廢食，阻礙技術發展，也不能放任自流，任由叢林法則支配；而是必須因應技術發展的潮流和社會現實的變化，不斷探索調整，興利除弊，讓技術發展始終作為推動社會進步的動力。

公開發表的文章在這裡：

中共中央黨校 - 學習時報網_大數據演算法的困境
推薦閱讀：