以政治挂帥破解社交大數據危機｜伐柯熱點

來自專欄 伐柯Logos

也許技術本身不可恥，但是濫用技術的行為肯定是可恥的。

作文｜戴雨瀟

編輯｜文如水、劉智雄、戴雨瀟

美術｜戴雨瀟

首發｜觀察者

日前，國家廣播電視總局針對「今日頭條」播出有違社會道德節目等問題，約談了網站的負責人並責令整改[1]。隨後，今日頭條多個欄目停止更新，進入維護狀態。上周，「今日頭條」關停低俗客戶端及公眾號「內涵段子」。

幾乎在同樣的時間，媒體曝光「快手」等平台存在未成年孕婦和未成年媽媽主播。三天後，國家廣播電視總局約談了這些短視頻平台負責人，要求依據《互聯網視聽節目服務管理規定》整改，並要求停止新增視聽節目上傳賬戶[2]。之後「快手」從各大手機廠商的安卓應用商店陸續下架。自4月13日起，有網友發現小程序「快手App」在微信中已無法檢索到[3]。

針對有關部門的整改處理，「今日頭條」的創辦人張一鳴在4月11日凌晨發布文章《致歉和反思》，指走錯了路，沒貫徹好輿論導向，他願意承擔所有責任[4]。「快手」CEO宿華也於早些時候發出致歉信，向公眾承認錯誤，宣布整改，並把道歉信掛在快手首頁數天，生怕別人看不到[5]。

世上並不只有中國在對互聯網平台的內容進行政治審查，在太平洋的另一端，美國最近剛好發生了類似的事件。不久前，調查發現英國「劍橋分析公司」（Cambridge Analytica）曾盜取至少5000萬臉譜（Facebook）的用戶數據並利用這些數據影響了美國2016年的總統大選，引起軒然大波[6]。3月22日上午，臉譜公司創始人兼首席執行官馬克 · 扎克伯格接受記者訪問，就數據泄露門向公眾致歉。

美國政壇認為茲事體大，國會參議院司法委員會和商業、科學和交通委員會在4月10日聯合發起了對扎克伯格的質詢，有關部門認為臉譜沒有在用戶個人隱私的保護方面做出足夠努力[7]。這場聽證會罕見地有近一半參議員參加，在美國朝野引起了廣泛關注。

在聽證會上，扎克伯格承認自己的公司在防止假新聞傳播、境外勢力干預大選、仇恨言論泛濫以及用戶數據被盜等諸多方面有所不足。他表示，臉書沒有全面而廣泛地承擔起應承擔的責任是一個巨大的錯誤，「臉書公司由我創立和運營，我理應對這一事件負責」[8]。

無論是中國的快手和今日頭條還是美國的臉譜，這幾個社交網路平台的共同的特點是他們在業務上都十分依賴技術，但是對自己使用的技術可能帶來的不良後果認識不足。他們在瘋狂成長壯大的過程中有意無意地忽視了自己平台上的很多內容對龐大的用戶群體所產生的巨大影響，只有在出現了較大的惡性事件並且被曝光之後才會在社會輿論和政府法規的雙重逼迫下老老實實地低頭認錯。

快手官方在4月1日發布的公關文中稱，「我們注意到有媒體報道，快手平台上存在低齡媽媽的視頻內容，其中一些存在炒作傾向，造成了不良社會影響，我們向因這些視頻受到影響的用戶深表歉意，也感謝媒體的監督」[9]，把責任全都推給了個別「存在炒作傾向」「影響惡劣」的創作者。快手這種「顯得無辜、假裝誠懇、往往不談自己責任」的行為也立刻遭到了批判。白岩松在節目中總結這篇公關文的大意就是「只要您沒發現，我們一切照舊，您發現了，我們馬上可以採取相應措施」[10]。

今日頭條的做法也很絕。年初因為傳播色情低俗信息被網信辦約談之後，今日頭條先是說要招聘2000個內容審核編輯，「黨員優先」，然後又把招聘人數提高到了4000人，副總編輯徐一龍表示，這個數據還會繼續增加，預計很快突破10000人[11]。現在想起來黨，完全是病急亂投醫，黨組織發展的新時代接班人就是讓你找來刪帖的嗎[12]？

相比這兩家中國公司面臨的危機，在資本主義的美國，臉譜公司的運氣顯然好得多。在美國政府「公審」扎克伯格的過程中大家發現在這些平均年齡61歲的政客里很多人對這些社交網站的運作方式不具備的基本常識。（其中竟然有個參議員問「既然臉譜是免費的，那你們靠什麼盈利」這種幼稚的問題。扎克伯格沉默了數秒之後告訴他「參議院先生，我們投廣告」[13]。）

由於每位政府官員只有五分鐘的質詢時間，很多真正和技術以及法律相關的核心問題沒有辦法得到充分展開[14]。在質詢中，密蘇里州參議員羅伊 · 布倫特（Roy Blunt, R-Mo.）問扎克伯格，公司是否會跨設備追蹤用戶的各種數據，即使他們沒有正在刷臉譜[15]。扎克伯格的回答是不確定，要回去問問團隊。密西西比州參議員羅傑 · 威克（Roger Wicker, R-Miss.）問道臉譜在用戶登出之後是否會持續搜集用戶數據[16]。扎克伯格也是顧左右而言他，沒有給出直接回應（我可以十分肯定地告訴大家，這兩個問題的答案都是 Yes）。

上面提到的三家公司在出事之後反應都很快——快手立刻宣布關閉幾個「炒作」賬號、今日頭條說要招幾千名黨員刪帖、扎克伯格在質詢中承諾以後會「更努力」保護用戶數據。這些都是揚湯止沸。他們並沒有直面問題的核心——不當地運用技術。這些企業現在跑出來道歉，並不是因為他們深刻地意識到了自己對整個社會構成的重大威脅，而是因為政府要斷他們的財路了。這種對技術的絕對信賴和盲目崇拜已經導致了現在世界範圍內社交大數據的危機。為了破解這一危機，我們首先應該對技術的本質進行反思。

在過去的幾百年里，迅猛發展的技術深刻地改變了這個世界。最近出現的互聯網和大數據站在了一系列技術革命的巔峰，成了我們這個時代的符號（有人把互聯網和大數據技術的出現分別稱作第三次和第四次工業革命）。在今天，與其說技術改變了人們的生活，不如說技術已經成為了人們生活中不可或缺的一部分。甚至對不少年輕人來說，社交網站上的活動才是生活本身，他們在乎自己在網上的形象勝過現實中的形象。各式各樣的技術正在以令人感到恐怖的速度野蠻生長，而人類的思維模式和社會的組織形式卻還保持著過去幾千年的進化速度，人被技術遠遠地甩在了後面。因此，如何有效地掌控和利用人們自己所創造的技術成了眼下亟待解決的問題。

在現代技術的故鄉——西方，人們對技術的態度在不同時期有巨大的差別。整體來看，我們認為人類的技術思想經歷了從「正」到「反」最終歸為「合」的黑馬式演化（參考我和同事在期刊《社會中的技術》上發表的英文論文《超越正反技術烏托邦主義的對立》Transcending the opposition between techno-utopianism and techno-dystopianism）[17]）。

在技術剛開始萌芽的時候，人們對這一新鮮事物充滿好奇也寄予厚望。這一時期技術領域的代表思想「技術烏托邦主義」（techno-utopianism）認為科學技術可以實現物質富足、秩序合理、自由正義與社會和諧的人類烏托邦夢想[18]，舉例有英國哲學家弗朗西斯 · 培根的著作《新大西島》[19]、聖西門和歐文的烏托邦社會主義（舊譯：空想社會主義）實踐等。

隨著科技的飛速發展，技術給社會帶來的負面效應逐漸顯現了出來，一種與技術烏托邦主義完全相反的思想潮流便應運而生。他們認為科技發展不會給人類帶來烏托邦的未來，反而會剝奪人類的自由和尊嚴，推動人類走向毀滅。科技的產生破壞了人與自然的關係，使人類從自然中脫離並異化，由機器所支配[17]。這一主義的代表作有英國作家赫胥黎在二十世紀初發表的小說《美麗新世界》等[20]。

西方經歷了一正一反兩個極端之後，才開始對技術進行較為系統性的哲學反思。存在主義者們精準地指出，技術的發展可以有多種選擇途徑，社會價值決定了技術效益的最大化和技術負面的最小化[17]。海德格爾在《技術的詰問》中批判技術工具論蒙蔽了技術的真正本質，「如果我們把技術當作某種中性的東西，那恰恰我們就是以最惡劣的方法聽任技術擺布了；這一現在十分流行的看法，尤其使得我們對技術之本質茫然無知」[21]。

海德格爾認為現代技術的本質是不斷向自然和人類「索求／挑戰」（Herausfordern）的「框架」（Ge-stell），它讓一切都變成以供技術來應用的資源。也就是說，人類自己所創造的技術已經開始反過來限制人類自身的解放和獨立全面發展了[21]。

需要說明的是，海德格爾並不認為我們就要因此停止發展新技術。人之所以會被技術的「框架」所限制，是因為對技術本質的無知。只要我們意識到技術不是唯一認知世界的方式並深刻地認識和反思技術的本質，那麼我們就能走出「框架」，進而抵消技術的危險[17]。

海德格爾《技術的詰問》

回到我國，西方科學技術直到近代才系統性地傳入。清末民初的時候，我們的思想家在洋人的堅船利炮面前，在亡國滅種的巨大威脅之下，不可能冷靜客觀地從中國的視角去進行對技術的深刻反思。那個時代的國人對科技幾乎都持正面肯定的態度。「鐵路、電話發明出來了，比趕牛車快，比寄信快，給生活帶來了便利，對生活的影響是正面的，基本上看不到負面的影響」[22]。從1905年康有為發表《物質救國論》到「新文化運動」中陳獨秀等人大力提倡「賽先生」，可以說在這段時間裡國人中的絕大多數都是「科技拜物教」的信徒。

新中國建立以後，我國科技事業高歌猛進，生產力和綜合國力都得到了大幅提升。在過去二十年里，中國網路經濟的發展更是以驚人的速度領跑全球，大型互聯網企業在數量和規模上已經可以和美國企業比肩[23]。現在，技術的問題開始逐漸顯現出來，前文提到的社交大數據危機就是當下技術領域的重要矛盾之一。值此之際，我們有必要拋棄近代對技術的迷信盲從，直面技術的問題。

從以上技術思想史的角度來分析，中國由於起步較晚，對技術的思考尚處於「發展中」的狀態，而西方經歷了一系列複雜的思想轉變，似乎已經到達了某種「已發展」的狀態。既然如此，為什麼在處理社交大數據危機這個眼下世界性的難題面前，西方的處理和應對方式並沒有比中國成熟呢？我認為原因可以歸結為西方的兩大「不幸」和中國的兩大「幸」。

對西方來說，第一大不幸是他們並沒有聽從海德格爾的忠告（德國弗萊堡大學還因為海德格爾在筆記中寫過「猶太人是能破壞歐洲的技術世界的化身」等觀點以「反猶」罪名撤銷了海德格爾教席[24]）。時間快進到1994年，被稱作「互聯網教父」的凱文 · 凱里寫了一部暢銷至今的《失控》，幾乎一手徹底摧毀了在他以前一切嚴肅的技術哲學思考。

凱文 · 凱利指出，科技和生命共同擁有某些屬性，「如果DNA可以製作成正在運行的計算機，而計算機可以像DNA那樣進化，那麼在人工製品和自然生命之間有可能──或者說一定──存在某種對等關係」[25]。「在將生命的力量釋放到我們所創造的機器中的同時，我們就喪失了對他們的控制」，而且這是一個美妙的結局[26]。他的這一看法符合海德格爾把技術看做一種可以限制人的「框架」的觀點。只不過海德格爾是教導人們要審慎地對待這一技術的危險，而凱文 · 凱利認為技術有技術自己的目的，它早就「失控」了。人應該放棄自己的主導地位，去擁抱技術的「失控」。

互聯網時代的「網紅」凱文 · 凱利

我在這裡必須須強調，凱文 · 凱利的技術思想比「科技拜物教」要更加極端和危險。「科技拜物教」至少還是把技術當做一種對人有利的「物品」，而凱文 · 凱利是把技術當做至少和人類平起平坐（或者更高等）的存在來對待，並呼籲人們儘快向技術投降。以這種觀點來看，現在根本就沒有什麼社交大數據的危機，「演算法」決定了某些破壞社會公序良俗的內容流量大，人們應該老老實實地接受「演算法」。這種主張人應該順從「技術意志」（如果它真的有「意志」的話）的投降主義思想令人感到不寒而慄，最終只會加速推進人類社會的滅亡。

如此激進的思想之所以能在當下社會大行其道，很大程度上是因為它完美地切合以矽谷諸公司為代表的美國新興高科技互聯網資本巨頭的利益。他們需要以這種思想作為武器去挑戰傳統資本巨頭。理查德 · 巴布魯克和安迪·卡梅倫（Richard Barbrook & Andy Cameron）兩位學者在文章《論加利福尼亞意識形態》中無情地批判了凱文 · 凱利代表的「.com 新自由主義」。他們認為九十年代矽谷互聯技術的崛起和美國當時的新自由主義、反建制思潮以及一種樂觀的技術決定論息息相關。這種「加利福尼亞意識形態」進一步加強了企業對於個人的奴役、加劇了社會的貧富分化並且促進了美國中心主義的泛濫[27]。簡而言之，凱文 · 凱利和矽谷的背後是一種比傳統資本主義更恐怖的「進化版資本主義」。

這就引出了西方的第二大不幸，（新）自由主義和資本主義的意識形態決定了在西方即使這些互聯網巨頭濫用技術、危害用戶安全、置整個社會和共同體於危險之中，政府也無法做出有效的應對（政府甚至經常還會和他們同流合污，從震驚世界的「稜鏡門」中可見一斑）。這次很多參與質詢扎克伯格的美國參議院司法委員會和商業委員會成員都曾接受臉譜公司可觀的競選捐款和政治獻金[28]。所以我們也就不難理解，即便操縱選舉對於美國這種票選民主國家來說是動搖「國本」的大事，但是扎克伯格依然能夠在這次「公審」中屢次迴避要害，輕鬆矇混過關。

反觀中國，第一點值得慶幸的是中國的理論優勢。中國文化中的道家辯證學說和儒家中庸之道將我們置於一個較高的哲學起點。我們不必像那些西方思想家那樣「愛之如珠玉、棄之如敝屣」，非要走一走「正反」的極端之後才能形成對事物動態、完整、全面的認識。《禮記》有云：「執其兩端，用其中於民」。我們應該藉助中國思想的力量，站在西方過去多年技術思想的肩膀上，用「頭足倒置」的黑格爾辯證精神同時對技術進行肯定、批判和反思，以此代替西方技術觀漫長而曲折的演進過程。

中國的第二大幸是制度優勢。我國實行的社會主義制度是由政治主導社會的發展，而不是由商業主導政治。今年3月19日，第一任國家監察委員會主任楊曉渡表示，「有資本希望在掌握經濟權力之後，謀取政治上的權力，這是十分危險的」。這一表述精鍊地提出了中國特色社會主義道路的制度優勢——「資本不幹政」。新中國經過多年的探索，形成了一條不同於蘇聯也不同於西方的道路——「利用社會主義的國家政權，約束資本和市場，讓資本和市場為社會主義服務、為人民服務」[29]。

具體地講，在技術的發展過程中（尤其是針對諸如社交大數據這類極其敏感的技術），我們的管理政策應當以「政治挂帥」為核心思想。毛主席在1958年1月黨的南寧會議上超前地指出，「搞技術革命不是說不要政治了，政治與技術不能脫離。思想政治是統帥，政治又是業務的保證[30]」。他的言論值得我們深思。致力於技術批判理論研究的哲學家安德魯 · 芬伯格（Andrew Feenberg）認為資本主義的利益始終控制著技術目標的選擇、應用和設計，技術的發展取決於佔主導的霸權[31]。這正是技術的危險之處，因為政治是有底線的，然而資本沒有底線。「政治挂帥」的技術發展思想可以確保技術服務國家和人民，而不是變成極少數人為自己謀私利的工具。

首先，我們有效運用理論優勢，以文化自信對技術進行反思會發現，大數據社交網路技術在以下的幾個方面「框限」了人的發展。其一，社交大數據以人的歷史「框限」了人的未來。演算法只能根據人的歷史行為去預測他未來的喜好，「以過往之我，推今日明日之我」[32]。 《大學》道：「苟日新，日日新，又日新」，是講人要時時刻刻進行自我革命。社交大數據技術阻礙了自我革命。要想初步解決這一問題，一個很簡單的辦法就是在演算法設計中規定必須有一定比例的隨機內容。

其二，社交大數據以機械的演算法「框限」了人的發展。在我國無論是以前的儒家思想還是晚近傳入的馬克思主義都有以人為本的優良傳統。社交大數據技術收集用戶的很少一部分信息，通過有限的「演算法」，呈現出一種公式化的僵硬形象，用冰冷的數字抹殺人的價值，這是一種對人的物化。除此之外，大部分社交網路採用的「成癮導向」演算法讓人們越來越離不開這個媒介，加重了技術對人的控制，使人在很大程度上淪為了技術的奴隸，從而導致了人的主體性的喪失[35]。虛擬世界的歡愉模糊了人對真實和現實的清醒認識，扭曲了人同其他人以及整個世界的關係。

快播的王欣曾經狡辯講「技術本身並不可恥」。對此我只能說，也許技術不可恥，但是濫用技術的行為肯定是可恥的。況且任何技術里或多或少都包含了設計者和使用者的價值觀。今天大部分社交網路演算法的核心價值就是提高用戶的數量和黏性，這種設計導向顯然就有問題。為了改變這一現狀，必須限制演算法的「成癮導向」價值以及在平台主動應用「防沉迷系統」等措施。除此之外，用戶的自知自覺至關重要，我們不應以自己在個別社交平台上的榮辱去定義整個人生的價值。

其三，現在的社交大數據技術以大眾品位「框限」了個人追求。在很多社交媒體，某些內容會被演算法「推薦」給我們是它們受到不少人的歡迎，有很高的點擊率或者瀏覽量，這並不代表這些內容本身的品質優良、會促進我們知識者素養的提高。以「流量」為核心價值的平台最後難免被各種博人眼球、嘩眾取寵的低俗和有害內容佔領，這些信息就像鴉片一樣逐漸侵蝕用戶的心智。

在快手上就有大量過度娛樂化、庸俗化的劣質內容，比如王樂樂、楊清檸等「低齡媽媽」網紅 、牌牌琦的「社會搖」[33]。今日頭條的很多板塊將低俗作為吸引用戶眼光和關注的「利器」。在「趣圖」頻道，頭條號「多玩十萬個冷知識」將歷史知識用低俗方式進行包裝，圖片內容涉及造謠傳謠，關於歷史人物的不實內容的圖片點贊量高達數萬；甚至還有漫畫涉及兒童色情，語言污穢不堪等等[34] 。為了應對這部分危險，需要政府和社會對平台進行積極引導和有效監督。

為了應對社交大數據技術的這些負面效應，我們應該以道路自信，充分發揮體制優勢，「執其兩端，用其中於民」。相比被資本掣肘的美國，這次中國有關部門對今日頭條和快手等平台的處理十分果斷，有魄力、有擔當。在未來，我國可以考慮針對社交網路和公共管理大數據技術（以及其他領域的技術）成立特別的監督審查機構。一方面自然是為了捍衛中國的互聯網，保障國民的重要信息不會被不當利用，另一方面也是以政治的強大力量確保敏感領域新興技術的研發和應用符合社會公共秩序和善良風俗，在最大程度上降低他們的負面效應，防止可能給人類社會帶來的危險。

除此之外，政府應該繼續堅持重視大數據發展的基本路線，積極結合新興技術提高政府治理能力。無論大數據技術可能隱含什麼樣的危險，毫無疑問的是大數據的作用會越來越重要。現在全國31個省份中有27個已經把省一級的大數據交給了新技術公司，這已經變成大的時代趨勢。但是政府也需要確保大數據的安全，以防人民的個人信息被有些企業用以謀私。

現在很多新技術公司正在跟政府積極謀求合作，來解決社會治理的問題。比如廣東食葯監和阿里簽署了打擊網路食葯違法的條款；公安部推出「團圓系統」，和阿里、滴滴等公司合作，上線一年找回1274名兒童；公安部跟騰訊合作推出「麒麟系統」打擊偽基站電信詐；西安和螞蟻金服等企業共同推進「智慧城市」建設，在交通、商業、民生、政務和信用等領域開展全面合作，等等等等[36]。這些都是政府合理使用大數據技術所帶來的可喜成果。

著名科技史學家梅爾文 ? 克蘭茲伯（Melvin Kranzber）有一句名言，「技術不是善良的，不是邪惡的，也不是中立的」。我在這後面補充一句——「技術發揮什麼樣的作用，完全取決於發明技術和使用技術的我們」。

願生命擁抱技術，創造出新的奇蹟。

文章編號：伐柯熱點＃五十四

（本文首發觀察者網，作者在原文基礎上略有補充）

References:

[1] http://www.xinhuanet.com/2018-04/04/c_1122639601.htm

[2] http://www.sohu.com/a/227837149_114778

[3] http://tech.ifeng.com/a/20180416/44955796_0.shtml

[4] https://mp.weixin.qq.com/s/4r6rCwNE7BgTLD37cPJOoA

[5] http://tech.sina.com.cn/i/2018-04-03/doc-ifyswxnq1677266.shtml

[6] https://www.nytimes.com/2018/03/19/technology/facebook-cambridge-analytica-explained.html

[7] http://world.people.com.cn/n1/2018/0411/c1002-29919024.html

[8] http://thehill.com/policy/technology/382523-zuckerberg-apologizes-to-congress-over-spread-of-fake-news-hate-speech

[9] http://user.guancha.cn/main/content?id=10753

[10] http://www.sohu.com/a/227207866_99991664

[11] http://www.tmtpost.com/3004486.html

[12] https://mp.weixin.qq.com/s/iau-Ol4sSDsv0g2kyoUZ9Q

[13] https://www.nbcnews.com/card/we-run-ads-n864606

[14] http://www.globalview.cn/html/global/info_23937.html

[15] https://www.bloomberg.com/view/articles/2018-04-11/zuckerberg-testimony-why-facebook-is-winning-so-far

[16] https://www.youtube.com/watch?v=8gR_mBrN-XU

[17] Dai, Y.-X., & Hao, S.-T., Transcending the opposition between techno-utopianism and techno-dystopianism, Technology in Society (2017)

[18] 鄔曉燕，《科學烏托邦主義的問題提出和概念內涵》，自然辯證法通訊（2007）

[19] Bacon, F., New Atlantis, University Press (1919)

[20] Huxley, A., Brave New World, Ernst Klett Sprachen (2008)

[21] Heidegger, M., The question concerning technology, Technol. Values Essent. Readings (1954)

[22] 蔣慶，《儒家拯救人類出離科技「框架」的三條途徑》，儒家網（2018）

[23] http://m.jiemian.com/article/1642272.html

[24] https://www.thepaper.cn/newsDetail_forward_1307736

[25] Kelly, K., What Technology Wants, Penguin (2010)

[26] Kelly, K., Out of Control: the New Biology of Machines, Social Systems, and the Economic World, Hachette UK (2009)

[27] Barbrook, R., & Cameron, A., The californian ideology, Sci. as Cult. (1996)

[28] https://www.theverge.com/2018/4/11/17219930/facebook-campaign-contributions-mark-zuckerberg-congress-donations

[29] http://www.globalview.cn/html/zhongguo/info_16920.html

[30] 毛澤東等，《毛澤東思想萬歲》（1968）

[31] Feenberg, A., Barney, D.D., Community in the Digital Age: Philosophy and Practice, Rowman & Littlefield (2004)

[32] 吳飛，《異端之理性與機械化性理》，尊周書院（2017）https://mp.weixin.qq.com/s/6eL0HXpqinlAzinuIBWscw

[33] http://www.guancha.cn/society/2018_04_09_453127.shtml

[34] https://item.btime.com/m_90845cc63394a0b74

[35] 李剛、朱文，《「社交網路」網路安全幾何》，人民網（2014）http://theory.people.com.cn/n/2014/0807/c387081-25423024.html

[36] 樊鵬，《大型互聯網技術公司正在重新定義政府職能 》，復旦大學中國研究院（2018）https://mp.weixin.qq.com/s/XZ4IOy2ja0_MWjGXGGlpVQ

Acknowledgement:

感謝余亮、文如水的討論。

本文作者的其他文章