【扎克伯格最黑暗的一周】Keras 作者炮轟：Facebook 將淪為極權主義監獄

Facebook 的 「劍橋數據門」 事件持續發酵，雖然扎克伯格已經髮長文解釋原因，但公眾並不買賬。昨天，Keras 的主要作者、谷歌研究員 Fran?ois Chollet 發表一系列推文，抨擊由 AI 驅動的 Facebook 很快就會成為 「極權主義的圓形監獄」，他說：AI 研究人員應該有良知，不要幫 Facebook 做事。另外，諸多高管也批評或質疑 Facebook。扎克伯格遇到了今年最大危機，能挺住嗎？

隨著 Cambridge Analytica 醜聞的持續發酵，Facebook 成了眾矢之的，一個讓人有點意外的譴責來自：谷歌。

谷歌研究員 Fran?ois Chollet 在昨天發表一系列推文，警告說，Facebook 的問題不僅僅是隱私泄露或缺乏信任，而是由 AI 驅動的 Facebook 很快就會成為 「極權主義的圓形監獄」。

他呼籲研究人員：「請表現出一些良知」。

Fran?ois Chollet：有良心的科學家都不該為 Facebook 工作

「我們目睹的是一個強大的實體，它建立了超過 20 億人的精細心理特徵，進行著大規模的行為操縱實驗，它的目的是開發出世界上最好的 AI 技術。就我個人而言，這真的令我感到害怕。」Chollet 昨天發推特說，「如果你是做 AI 的，請不要幫助他們。不要玩他們的遊戲。不要參與他們的研究生態系統。請表現出一些良知。」

根據 Fran?ois Chollet 的 LinkedIn 個人資料，自 2015 年 8 月以來，Chollet 一直是谷歌的一名軟體工程師和 AI 研究人員，專註於深度學習領域的研究。他最有名的頭銜是 Keras 的主要作者，Keras 是一個有世界各地數十萬 AI 研究人員使用的開源深度學習庫。

Chollet 認為，在 Facebook 事件中，問題不僅僅是 「你的隱私受到了損失」，也不僅僅是你的隱私可以被用作極權主義的「圓形監獄」 這一事實。在我看來，更令人擔憂的問題是，數字信息消費被用作一種心理控制的媒介。

世界在很大程度上受到兩個長期趨勢的影響：首先，我們的生活日益被非物質化，包括在工作和家中線上的信息消費和信息產生。其次，AI 變得越來越聰明。

在影響我們如何消費數字內容的演算法層面，上述兩種趨勢有重疊。不透明的社交媒體演算法正在越來越多地決定我們閱讀哪些文章，我們與誰保持聯繫，我們閱讀誰的觀點，獲得誰的反饋。

經過多年的訓練，演算法對我們所消費信息的處理使得這些系統在我們的生活中掌握了相當大的權利，決定了我們成為什麼樣的人。由於我們的生活很大程度上已經轉移到數字領域，我們變得非常容易受到那些規則——AI 演算法的影響。

在這麼多年的時間裡，如果 Facebook 能夠決定讓你看到哪些新聞（真實的新聞或假新聞），讓你看到誰的政治地位在提升，以及讓誰看到你的動態，那麼 Facebook 實際上就已經在控制你的政治信仰和你的世界觀。

這並不是什麼新鮮事，至少從 2013 年開始，Facebook 就已經進行了一系列的實驗，它們通過調整新聞信息流（newsfeeds）的內容，成功地控制了不知情的用戶的情緒和決策，並且能夠預測用戶未來的決策。

簡言之，Facebook 可以同時窺測我們的一切，並控制我們消費的信息。當你能同時觸及感知和行動，你就會看到一個 AI 問題。你可以開始為人類行為構建一個優化循環。一個 RL 循環。

在這個循環中，你可以觀察目標的當前狀態，並不斷調整向它提供的信息，直到觀察你想要的結果和行為。

人工智慧研究領域的很大一部分（特別是 Facebook 一直在投重資研究的領域）是開發演算法，以儘可能有效地解決此類優化問題，從而關閉這個 loop，並實現對所處理的現象的完全控制。

在此次事件中，被完全控制的是 「我們」。

「前任」 們也倒戈：卸載 Facebook，它是 「社交驗證反饋循環」

與 Fran?ois Chollet 相比，WhatsApp 聯合創始人 Brian Acton 對 Facebook 的態度更加強硬，在劍橋分析公司事件發生不久之後，他發了一條推特：It』s time.#deletefacebook（該卸載 Facebook 了）。

WhatsApp 擁有每月 15 億活躍用戶，於 2014 年 2 月被 Facebook 以超過 160 億美元的天價收購，Brian Acton 在去年 9 月離開 WhatsApp。

實際上，Brian Acton 並非唯一一個倒戈的 「前任」。去年，Facebook 有兩位離任高管對前東家表現出擔憂和質疑。

一位是 Facebook 的前用戶增長主管（former head of user growth）、風險投資家 Chamath Palihapitiya，他在 Facebook 有 6 年的任職經歷。去年 11 月他在斯坦福大學商學院演講的時候說，Facebook 鼓勵 「虛假、脆弱的人氣」，讓用戶感到空虛，以及需要受到關注，人們繼續不得不分享他們認為會獲得其他人贊同的帖子，形成了 「惡性循環」。

「我們創造的工具正在撕裂社會運作的結構。我們確實是在這麼干」。

之後，前 Facebook 總裁 Sean Parker 也在另外一個場合表達了對社交網路的擔憂。他說，Facebook 的發展讓人上癮，他將 Facebook 描述為一種 「社交驗證反饋循環」（a social-validation feedback loop）的模式，利用人性的弱點來博取用戶的注意力。

Sean Parker 曾是 Facebook 的創始人之一，他自詡為社交媒體 「有良心的反對者」，他認為像 Facebook 在全球每月有 20 億用戶的社交媒體巨頭，實際上已經改變了用戶與社會之間的關係。

Sean Parker 並沒有具體說明 Facebook 如何利用人性的弱點來博取用戶的注意力。但 Fran?ois Chollet 認為，由於人類的思想極易受到簡單的社交操縱模式的影響，這種行為被稱為 「心理攻擊模式」。

其中一些攻擊模式已經在廣告中使用了很長時間（例如積極 / 消極的社交強化），但是它們是非常弱的、沒有針對性的形式。從信息安全的角度來看，人的這種心理可以被視為 「漏洞」：已知可以用來控制一個系統的漏洞。

Fran?ois Chollet說，就人類的思維而言，這些漏洞永遠沒法修補，因為它們就是人類的思維運作的方式。它們存在於 DNA 中。對個人而言，我們沒有切實可行的方法來防禦它們。

「人類的思維是一個靜態的、易受攻擊的系統，它將越來越多地受到越來越智能的 AI 演算法的攻擊，這些演算法同時觀察著我們所做的、所相信的所有事情，並且完全控制著我們所接觸到的信息。」

技術充當了 Facebook 劊子手，在敲開中國大門之前，小扎似乎別無選擇

Chamath Palihapitiya 和 Sean Parker 對前東家的擔憂和質疑，針對的是當時被廣泛報道的 Facebook 在美國總統大選期間發布了大量的俄羅斯政治廣告，但當時並未引起 Facebook 的重視。

到了 2018 年年初，扎克伯格在他的 2018 年個人挑戰中，罕見的將整頓 Facebook 寫了進去，而往年的個人挑戰都是讀書、旅行、環遊交朋友等等活動。扎克伯格寫道：整個世界都處在焦慮和分裂之中，他希望能讓 Facebook 在 2018 年改變這種狀態。

看上去，「前任們」 的聲音進到了扎克伯格的耳朵里。

如果不是劍橋分析公司事件突然曝光，Facebook 應該會採取緩慢的措施堵住漏洞，比如針對假新聞的情況，Facebook 不久前改變信息流展示方法，優先推薦好友的信息而不是新聞信息。

但沒有人會想到劍橋分析事件會來的這麼猛，估計 Facebook 也沒有想到後果如此嚴重。在事件發生整整 5 天后，扎克伯格才現身公關，這 5 天時間裡 Facebook 股價下跌超過 10%，市值蒸發 500 億美元。

在接受 Recode 採訪時，扎克伯格說，Facebook 將花費數百萬美元去分析數以萬計的應用程序。

不過，內部已經有了分歧：Facebook 是否能在全世界找到足夠多的人來分析這些程序？

對於這次劍橋分析事件，用扎克伯格的話說，「Facebook 在這件事情中所犯的最大的錯誤」，是低估了用戶隱私的重要性，Facebook 幾年前就知道了此事卻沒有認真追究。總體而言，劍橋分析門似乎更多的是一個法律執行層面上問題。

Facebook 面臨更深層次的問題是，技術能否在保持中立的情況下，讓公司繼續成長。

Chamath Palihapitiya 和 Sean Parker 等 「前任們」 對前東家的擔憂不無道理，一方面 Facebook 面臨假新聞、恐怖暴力內容的困擾；另一方面，Facebook 利用人性的弱點來博取用戶的注意力的做法越來越不得人心。

對於前者，雖然扎克伯格不想成為內容警察，但他調整 Facebook 信息流、推出媒體評級系統、封禁 ICO 廣告的做法，顯然是讓技術充當了劊子手。這樣做雖然能禁止部分假新聞，但也把部分流量趕到谷歌、亞馬遜這樣的平台上。

對於後者，由於用戶量增長已經達到瓶頸，Facebook 在絞盡腦汁在讓用戶的停留時間上越陷越深，只能用更多的技術、收購更多的社交公司。在敲開中國的大門以前，小扎似乎沒有其他的辦法。

參考鏈接：

https://twitter.com/fchollet/status/976563870322999296

https://venturebeat.com/2018/03/22/googles-francois-chollet-ai-researchers-with-a-conscience-shouldnt-work-at-facebook/

https://www.youtube.com/watch?v=PMotykw0SIk&feature=youtu.be&t=21m21s

https://venturebeat.com/2018/03/20/whatsapp-cofounder-its-time-to-delete-facebook/

（本文首發於新智元微信公眾號：AI_era，歡迎關注。未經允許不得轉載。）

【2018 新智元 AI 技術峰會倒計時 6 天】

峰會門票火熱搶購，搶票鏈接：