谷歌員工爆料：Facebook運用人工智慧的方法 令人不寒而慄

來自專欄 我為科技狂

眾所周知的是，目前，快手的日活人數大概1.1億人的樣子，月活人數有在2億人以上。今日頭條旗下的抖音，日活人數進一步增長到了8千萬人左右，月活人數1億多。騰訊的王者榮耀，日活人數應該是在5到6千萬人之間，月活人數亦在2億人之上。於是，網路上開始盛行這樣一句話，「南抖音，北快手，王者農藥遍地走」。的確，這三款APP在億萬的人群中走紅，均可稱得上是奇蹟。再有，互聯網圈中有的人看來，快手對比抖音，就如同微博對比知乎。快手主要面向在三、四線城市及農村地區的人群，而喜愛抖音的人群中有相當多的人生活在一、二線城市。況且，抖音在海外的知名度遠超快手。

快手之所以能在廣大的人群中火起來，除了得益於互聯網、通信等技術不斷地進步，移動設備的性能更好且價格更低外，還受益於快手本身所擁有的那一套演算法。而日前，媒體引述快手的CEO宿華所說的話，「演算法的背後是人，演算法的價值觀就是人的價值觀，演算法的缺陷是價值觀上的缺陷」。宿華提到的演算法，也就自然引出了一個更高層次的話題，人類該如何運用人工智慧？不妨以全球最大的社交媒體平台Facebook作為本文的案例。

前些天，不論國外，還是國內，業界中有不少的人，針對Facebook泄露人們的隱私信息，通過媒體平台發表了各自的分析和見解。近期，谷歌公司的一名研究員（谷歌大腦）Fran?ois Cholle在社交媒體Twitter上連續發表了好幾十條推文，從而向人們表達了自己的觀點。並且，這些推文基本可以組合成一篇完整的文章，一篇關於人工智慧的文章，也是一篇發人深省的文章。

Cholle在Twitter上有寫到：

Facebook已經做了一系列「成功」的實驗了，其中的內容包括，Facebook通過控制信息流里展現的內容，進而控制人們（用戶）的情緒和想法，以及預測人們在未來可能做出什麼樣的決定。比如，Facebook預測哪些人會分手，預測哪些人會建立新的戀情。當前，如果硬是要說人工智慧有什麼重大的威脅足以引起人們擔憂的話，那這樣的威脅其實已經暴露出來了。用一句簡單的話說就是，平台針對自身的使用者及海量的數據，利用人工智慧，對民眾實施極為有效且大規模地控制。事實上，Facebook一直非常努力地想成為人工智慧領域中的領軍公司之一，但當人們看清了Facebook對個人的隱私數據保護不力，以及利用人工智慧的方法，讓人不寒而慄。

對人工智慧研究社區的各位，下次你們以任何形式參與到Facebook的人工智慧生態系統中時，建議你們都好好地想一想，想想你自己又幫助Facebook增加了哪些能力。我們共同養大的怪獸（這裡指的是Facebook），最終會回過頭來把我們每一個人都吃掉。我很抱歉，我把這事說得過於誇張了些。但這起與Facebook相關的數據泄密事件，給人們帶來的威脅，值得我用這般誇張的辭彙。在我看來，Facebook並不僅僅是泄露了人們的隱私數據那麼簡單，更值得人們擔心的是，Facebook把個人的數字信息用來控制人們的心理和行為。

現在，有兩個長期的趨勢正在改變著全世界的模樣。一個，我們每個人的生活越來越去物質化，越來越多地享受於在網路上創造內容。無論我們是在工作中，還是在下班回到家時，其中有太多的人都如此。二個，人工智慧正變得越來越聰明。在能夠影響我們如何享受數字化內容的演算法層面上，這兩個趨勢的作用開始疊加。人工智慧可以決定我們能看到哪些文章，我們和誰聯繫，我們看到誰的觀點，我們收到誰的反饋等等。而這些演算法對我們而言並非完全透明，甚至是完全不透明的。社交媒體平台基於人們這麼多年來所積累的數據，利用演算法處理我們能享用哪些數據的做法，讓這些平台的系統對我們的生活，對我們要變成什麼樣有了可預見的控制力。當我們的生活越來越多地由數字生活組成的時候，我們在面對這個世界的管理員——人工智慧（演算法），我們其實顯得越發地脆弱。

如果在某幾年的時間裡，你看到什麼新聞，不論這些新聞是真是假，看到哪個政客的觀點，以及誰能看到你的觀點等等，這一切都是由Facebook控制的，這等同於是Facebook就對你的政治理念和你的世界觀有了相當的影響。而在今天，這對我們而言，也並不是什麼新聞了。我們已經知道了，至少是從2013年起，Facebook就進行了一系列的實驗。在這一系列的實驗里，Facebook可以通過關閉信息流里的某些內容的方式，控制不知情的試驗人群的心情和決定，以及預測這些人在未來會有什麼樣的行為舉動。

簡短來說，Facebook可以同時測量所有關於我們的信息，同時還能控制我們接觸到哪些信息。當Facebook可以同時接觸到人們的感知和行為數據時，這就變成了一個人工智慧的問題。那麼Facebook就可以開始為人類的行為建立一個優化的閉環，一個強化學習的閉環。在這個閉環里，Facebook可以觀察到目標人群在當前的狀態，然後持續地改進給他們看到的信息，一直改進到他們開始表現出Facebook想要看到的觀點和行為為止。

在人工智慧研究領域，有相當一部分的內容，尤其是Facebook一直在投資的內容，就是關於研究人員們如何開發出演算法，以儘可能高效地解決這種優化之類的問題，從而實現這樣的閉環，最終讓平台對其中發生的現象有完全的掌控力。以Facebook為例來講，在閉環里被Facebook掌控的對象就是我們自己。

人類的大腦天生就對簡單的社交控制沒有任何抵抗力，這讓Facebook要達到這個目標變得不知道有多麼的簡單。現在當我思考這些問題的時候，我已經不由得想起了一系列有效得令人後怕的心理攻擊手段。其中有一些已經在廣告業使用了很長的時間，比如正面/負面社交強化，只不過執行得很弱，沒有針對任何特定的目標。

結語：當前，人類開發出的人工智慧還僅是弱人工智慧。然弱人工智慧在被人們應用的過程中，即已暴露出了值得人們深思的問題。試著想一下，當人工智慧從弱人工智慧進化到強人工智慧，甚至更遙遠的超級人工智慧，那時人類在應用人工智慧的過程中，一定還會遇到更多更大的問題？不過，在我看來，若科技公司是在運用人工智慧幫助人們更快、更健康地成長，幫助人類社會更好地進步……那麼這樣的科技公司和人工智慧技術對人類自然是有益的。而Facebook無疑是其他科技公司引以為戒的典型參照……

微信公眾號：我為科技狂Tech

推薦閱讀：