301、【轉載】新技術文明中，人類還能不能作為主人存在？

08-16

來自專欄前沿科技的道德哲學反思

新技術文明中，人類還能不能作為主人存在？

2018年07月08日

來源：澎湃新聞網

【編者按】Facebook數據泄露事件（亦稱臉書事件）持續發酵。當以大數據技術為基礎的社交媒體逐漸成為當代社會的重要結構性元素，當人類社會從對一般工具的依賴開始走向對指紋解鎖、人臉識別等智慧生活的依賴，當普通民眾讓渡了「識別性」所獲得的「便捷性」和「安全性」的生活軌跡本身構成大數據的一部分，當傳統的農業秩序和工業秩序全面轉向信息時代的數據秩序，智慧生活的革命意味著社會變遷的拐點，秩序切換的混沌也不可避免導致了智慧生活的焦慮，特別有一種焦慮揮之不去，那就是大數據時代的隱私問題，深層次的問題是數據巨機器的形成和人的自由的喪失。我們如何在個體自主性與公共秩序性之間找到新的平衡？我們如何在數據權力與倫理權利之間實現新的制衡？我們如何在演算法暗箱與隱私通貨之間搭建新的規則？我們如何在數據暴力與多元社會新技術文明中，人類還能不能作為主人存在？之間達成新的共識？

《探索與爭鳴》編輯部與華東理工大學社會科學高等研究院、華東理工大學社會與公共管理學院特邀相關領域的專家學者，聯合召開了以「智慧生活與技術治理」為主題的圓桌會議，希冀在對Facebook數據泄露事件背後數據監控模式和新型風險社會深度反思的基礎上，探求全球的對數據監控之規制的技術治理新政。

扎克伯格在聽證會現場的視頻截圖

個體隱私數據正在進入利益價值的社會化循環

20世紀80年代以來，互聯網的快速發展推動信息社會進入到大數據時代，大數據催生了人工智慧，也加速推動了互聯網的演進。社交網路既是一種社交工具，也是產業和經濟發展的重要平台。作為提取並售賣人們提供的信息的強大工具，社交網路同時也在把正常的對話和乏味的日常生活轉變為新的商業機會。在大數據時代，廣告已經找到侵入生活的另一種方式，即通過使用數據挖掘技術獲取用戶信息進行分析，並進一步利用獲得的知識（信息）來「定製」和「推送」廣告。應當說，信息和數據技術的發展提供了隱私暴露的主渠道，個體化隱私數據正在進入了利益價值的社會化循環當中。

近期，作為一家數據分析企業的劍橋分析公司所導致的「臉書」用戶隱私泄露事件受到社會各界廣泛關注，其影響在持續發酵。人們不禁要問：「臉書」數據泄露事件到底反映了一個什麼性質的問題，或者說「大數據時代怎麼了」？

對此，可以有多種視角的解讀和詮釋。公眾的第一反應似乎是大數據實業界在隱私保護方面做了很少的工作，因此把公眾隱私置於風險之中。情況可能並非如此！恰恰相反，不論是政府部門、大數據業界抑或理論界等相關主體，在數據隱私保護方面已經做了不少努力。應當說，該事件反映的並不是人們在表層所看到的某個產業巨頭不關注數據隱私保護的問題，而是數據產業界在對數據隱私保護付出巨大努力之後仍舊出現的隱私泄露問題！

在筆者看來，真正的問題實際上是新興技術，尤其是數據和人工智慧技術在新的技術時代是否正在脫離人類控制的問題！當然，毋庸置疑，這一事件的發生一定會使數據產業面臨如何更好地平衡商業價值和商業倫理的問題，在產業活動中必須做到數據的合理使用和隱私保護的有機結合。人類在發展技術中能否真正實現對技術有效控制的問題，正在以一種新的形式出現在當代處於數據化生存的人類面前，我們必須更好地洞視我們的時代，對新技術時代的數據事實做整體化描述，描述作為技術事實、社會事實、倫理事實和法律事實的大數據。

我們生活在一個信息和圖像數據爆炸的大數據時代，信息技術和互聯網的發展正在深刻改變社會組織結構和個體行為規範，隨著全球數據量的指數增長及其對人類生活的全面侵入，「大數據時代來臨」成為全球性共識。筆者認為，「大數據時代」並非某種自然範疇，而是聚合了特定歷史畫面的社會發展模式，代表了某種強調某些特定性質並使其他性質邊緣化的解釋框架，「時代圖景」往往具有豐富和多元性，每一種「時代圖景」也都依賴於理論家思想譜系的主要元素。以大數據技術為基礎的社交媒體正在演化為當代人類生活的重要結構性元素，新技術的社會運用正在不斷重塑人們的生活方式，在新媒體技術所導致的生活方式變革中，用戶隱私暴露與數據泄露等問題成為亟待關注的社會問題。

新技術演進的歷史軌跡與時代坐標的定位

人類似乎正在進入一個「隱私談話」終結的時代，越來越多的談話和交流通過郵件、媒體和社交媒體進行。理解數據隱私及其泄露風險離不開「技術社會」這一重要現代性構架，我們應當把握新技術發展的歷史軌跡並對時代坐標作準確定位。

對於置身其中的當代技術社會，我們可以用諸如「網路社會」、「信息時代」、「人工智慧時代」、「大數據時代」等理論辭彙進行描述和凝練。在1962年出版的《技術社會》中，埃魯爾詳細論述了「技術社會」之存在、特徵及其對人類歷史的影響。他的「技術」概念拓寬了傳統思想界對技術的工具性理解，展示了具有寬泛和包容性的技術圖景。他認為，技術是所有人類活動領域合理得到運用並具有絕對效率的方法的總體，哪裡有以效率為準則的手段的研究和應用，哪裡就有技術存在。

技術已經成為染指人類社會歷史發展根基的統攝性力量，在一定意義上，技術決定著科學、經濟及文化走向，技術已成為人類生存的新環境，這就是所謂的「技術社會」。歷史地看，我們所處的新技術時代是以往技術社會的歷史延伸和邏輯拓展，問題在於，其中到底有哪些邏輯架構的延展。

筆者認為，數據時代依舊面臨著技術發展中的三重邏輯悖論挑戰：一是「主奴悖論」，即製造者與製造物的矛盾，也就是如何避免製造物對製造者的叛逆，如何防止技術失控？二是「不均衡悖論」，即技術與社會制衡力量的矛盾。第三次工業革命以來，技術的指數增長與相應的社會規約、文化、倫理道德、文化系統的發展速度不匹配的矛盾更加凸顯。三是「工具和目的悖論」，即原初意義上作為中性工具的技術與演化中成為意義源或目的本身的技術殖民困境。新技術文明中，人類還能不能作為一個主人而存在？這無疑是一個繞不過的基礎性問題！

技術社會的三重邏輯悖論在當代數據社會中依然存在；同時，技術社會的眾多實踐又演化和呈現出不少新理論形態，比如新技術決定論：演算法決定論、數據決定論；比如新倫理悖論：數據隱私與暴露、自動駕駛中的「新電車難題」等；比如技術恐懼論的新形態：新盧德主義、數據恐懼、演算法共謀等。傳統理論概念在數據時代生命力依舊存在，同時又遭遇不少新的技術事實和社會事實之挑戰，在人工智慧時代，新的技術產品是勞動友好型的，但新技術發展的過程往往是勞動替換型的，人工智慧技術發展所導致的技術性失業的挑戰已經得到各國關注。

目前，在大數據發展中，產業界、學術界以及政府機構對數據本身共識性的東西並不太多，採取的監管措施也非常多樣化，實踐中尚沒有任何一個國家對數據的權屬問題進行明確界定。按照庫恩的範式理論，科學發展通常會經歷從常規科學、科學危機、科學革命，再到常規科學的發展歷程。大數據學科無疑具有多學科交融的特徵，其發展一開始就在「危機重重」中行進。儘管在實踐上取得了巨大進步，經歷10多年發展後，大數據學科依舊處於追問「是什麼」的階段，不同學者、不同產業、不同國家和不同地區在一些基本問題上往往會給出不同答案。

從技術發展史來看，通常在技術發展初始階段會存在對技術的「批判不足」、「神化或美化有餘」的特徵。跟傳統技術發展不同，人們對大數據技術的發展，一開始就充滿了質疑和反思，方向感並不清晰，疑惑和模糊一直存在，處於「邊接受，邊懷疑；邊懷疑，邊接受」的狀態。也就是說，數據技術發展的風險問題一開始就受到高度關注，技術的社會批判理論必定呈現出與以往技術批判不一樣的路徑。

關注數據隱私，用倫理規約新興技術發展

以現代性為基礎構架的技術社會中的主奴關係、發展不均衡性以及目的工具關係中隱藏的三重邏輯悖逆正持續延展到數據社會中。同時，當代中國正在進入的大數據和人工智慧社會，正面臨新全球化、新工業革命、社會轉型三重疊加的現實挑戰。在當代社會，數據成為關鍵基礎設施，對數據技術的治理也一直在進行，但似乎並沒有避免問題的發生，一些新的技術實踐活動後果在不斷牽引出人類的技術憂慮。以信息科技和生命科技為核心，以新材料、新能源科技為代表的新興科技發展極大推動了人類文明進步。由於高科技自身的高度複雜性和不確定性，加之其高投入、高收益、高風險等特徵，由此帶來的社會倫理問題也在日益增多。

信息技術發展伴隨著兩個主要技術革新，一是計算機硬體小型化，二是網路連接普遍化。圖靈關於計算的理論分析為大型機誕生做了關鍵性準備。1950—1960年代大型計算機在關鍵領域的應用顯示了信息技術的潛力，1970—1980年代個人機出現使得計算機進入了日常生活中。從應用倫理學學科發展脈絡來看，20世紀80年代開始，對於新興科技發展前景的爭論中已經涉及新興技術對社會規範的影響。20世紀90年代，在西蒙·羅格森、特雷爾·貝納姆以及R.卡普羅等學者的推動下，計算機倫理開始關注信息社會的更大背景，而不僅限於計算機和網路倫理問題，信息倫理學成為真正意義上的現代信息倫理學。

對於信息倫理學來說，不只是要以經典倫理原則來討論信息這個對象，更要為信息時代的人類生存提供新的倫理規範。實際上，新興技術的出現一定會導致新倫理出現，比如作為信息倫理學家的摩爾提出倫理上的摩爾法則：技術革新對社會的影響越大，其產生的倫理問題越多；弗洛里迪等學者提出了在線生活宣言等。

現代世界的圖像轉換過程中伴隨著隱私概念內容的不斷豐富，我們應當明確數據隱私的基本含義，這無疑是進行數據隱私保護的基本前提。隱私是一個具有多元性的概念，可以從不同層面進行理解，其倫理內涵有一個歷史演變過程。1890年沃倫和布蘭迪斯在《哈佛法律評論》中首次提出了隱私權概念，將隱私視為一種權利；梅森進一步認為隱私是「控制、收集和使用個人信息的權利」；科爾南則將隱私定義為「某人控制其他人接觸自己個人信息的能力」。斯庫曼認為隱私與個人生活的私密方面，與人際關係的微妙方面，與人們關心他人對所知的關於自己的特定事情的態度等密切相關。

我們可以把隱私劃分為物理隱私和信息隱私兩類：前者主要指對個體的物理訪問或者對個人私人空間的訪問，而後者主要是指訪問個人可識別信息。從歷史上看，隱私首先是指物理隱私，漫長的農業社會以及工業社會初期，隱私主要用來指稱與個人物理空間相關的「無形財產和權利」。隨著信息技術的發展和後工業社會來臨，個人和團體信息被納入隱私保護範圍，信息隱私演化為隱私的重要方面。在網路社會中，隨著信息可獲取性的極大增長和大數據時代的來臨，數據隱私成為重要的隱私內容。

對隱私的討論不能僅僅從個體價值和意義層面進行，而應當將其置於特定社會環境中。大數據、人工智慧、網路技術發展使社會環境發生了重要改變，人們可以足不出戶地利用技術完成絕大多數社交活動，滿足各種需求，生活方式的改變使得人們對待隱私的態度也發生變化。

對此，赫里斯托菲季斯指出，技術環境影響人們的社交行為、各種網路社交新技術給人們提供了暴露隱私的方式和條件，鼓勵人們通過暴露自己或者他人的隱私來獲得人氣。在商業利益驅動下如果暴露部分隱私可以獲利，很多時候人們願意主動暴露隱私，從而導致「隱私悖論」出現。個人獨立空間的縮小往往會使得個人自我展示慾望增強、隱私個體化程度不斷弱化；信息資源的共享化趨勢則使得個人隱私的社會化程度不斷增強。

大數據時代的最大風險是「我們並不了解大數據的風險」。在思想探索進程中，我們必須反對認識上的決定論，不能直接假定「大數據是壞的，或者大數據是好的」。除了關注技術進步本身，我們應當努力描述作為「社會事實」和「倫理事實」的大數據技術，應當對數據時代日常生活進行全面審視。數據時代的隱私泄露及保護問題，要求我們在技術層面重新審視技術與人的關係，發展「為了人類的技術」；在倫理層面發展負責任的倫理以規約新興科技發展；在政策層面通過法律規定來進行監管，建立利益相關者廣泛參與的有效網路和數據監管及保護機制。

努力提供大數據技術治理的「中國方案」

人們對大數據技術中存在的隱私泄露風險感到擔憂，同時也對通過大數據追蹤疾病、應對自然災害，關注弱勢群體的流動指標和規律等對社會帶來的福祉感到興奮。認識新興科技風險的特徵，反思當前新興科技風險治理模式所面臨的問題，研究更為合理的新興科技風險治理模式，對於引導新興科技走向「與人為善」的發展之路具有重要意義。

當前我國正努力於推進創新型國家建設，力圖使科學技術更好地為社會、經濟發展服務，在此情境下，反思中國當前的新興科技風險治理模式存在的問題，建立符合中國國情的新興科技風險治理模式顯得尤為重要。數據是發展人工智慧的關鍵基礎設施，擁有針對特定領域的龐大數據集成能夠成為塑造強大競爭優勢的重要源頭。以傳統技術為規約對象的技術治理體系，並不能很好地適應網路社會發展的需要，處於現代化進程時空高度壓縮和多重問題疊加階段的中國，更需要加強對問題的反思、研判及應對，避免數據技術的泛化與濫用，充分借鑒國際經驗，提供數據技術治理的中國智慧。

大數據技術治理應當做到頂層設計與行動主義相結合，應當著力解決發展失衡、治理困境、數字鴻溝、分配差距及數據隱私泄露等問題，進一步推進健康、協同和可持續發展，發揮社會與文化的想像力和洞察力，同時注重實踐品格的培育。

對於大數據技術的發展既不能過度樂觀，選擇性簡化或忽略問題的嚴肅性，也不能過於放大風險甚至成為「技術災變論者」，因而裹足不前，阻礙技術發展。我們應當歡迎、認知和引領新技術，對新的信息和數據技術及其可塑性保持開放性心態。在大數據治理中，應當超越技術工具論假定的局限性，實現數據技術的價值回歸。數據技術不僅僅是一種治理工具，大數據時代更應當成為人們未來生活的一個重要組成部分，賦權和激活治理主體，達到「共享共治」的目標。在此過程中要區分國家發展階段的差異，發達國家經驗不能照搬，因為不同的初始條件可以有不同未來場景。

從國際實踐來看，由於各國具體情況不一，規制目標和個人數據保護水準的設定存在差異，各國在數據本土化、數據隱私保護、網路空間治理方面呈現出多樣化的特徵。總體而言，歐盟基本堅持更嚴格的數據管理，對數據發展中遇到的問題頒布不少相應法律條文進行規範，隨著實踐的發展，法律條文變化也比較快。比如「稜鏡」計劃曝光及美國臉書公司在歐洲非法追蹤用戶數據等被起訴後，歐盟法院於2015年判決2000年簽署的保障跨大西洋數據流動的歐美「安全港」協議制度無效。美國則強調更加寬鬆的監管措施，堅持「風險為本」，努力促進技術創新。比如，2012年2月《消費者隱私權法案》中提出了「尊重場景」原則，同年3月美國聯邦公平交易委員會提出「簡化選擇」原則等。

隨著數據社會來臨，對數據隱私保護和數據監管應更好地做到因地制宜，美國和歐盟的做法可以提供一些有益借鑒。作為數據技術發展的利益相關者，中國的數據技術發展並非「向左」或者「向右」的問題；處於時空壓縮和快速現代化進程中的中國，在大數據時代和第四次工業革命中應當堅定不移地「往前走」。作為世界上最大發展中國家，當代中國的現代化實踐發展已經超越了傳統西方社會發展的模式和經驗。基於西方社會發展實踐的理論話語不足和難以提供行進的路標和方向，中國在大數據發展的理論和實踐的不少方面已經處於引領和示範地位，中國應在新全球化進程中繼續大國的責任與擔當，為世界提供大數據發展的「中國道路」。

本文原載《探索與爭鳴》2018年第5期，原標題為《新技術演進中的多重邏輯悖逆》，澎湃新聞

引自：新技術文明中，人類還能不能作為主人存在？

（2018.7.28）