「數據引導你的行為」：大數據背後的權力與不公

思想市場 / 曾於里 / 2018-04-01 「數據引導你的行為」：大數據背後的權力與不公大數據時代個人的信息安全，正成為國內外輿論關注的焦點。國內有網友發現，同樣的商品或服務，老客戶看到的價格反而比新客戶要貴出許多，在機票、酒店、電影、電商、出行等多個價格有波動的平台都存在類似情況。這在互聯網行業被稱作「大數據殺熟」。另外，李彥宏在中國高層發展論壇上就個人信息利用問題發表的觀點——「我想中國人可以更加開放，對隱私問題沒有那麼敏感。如果他們願意用隱私交換便捷性，很多情況下他們是願意的，那我們就可以用數據做一些事情。」此言一出，李彥宏成為眾矢之的。國外，Facebook也遭遇了數據泄露醜聞。根據一名劍橋分析公司員工的爆料，該公司在用戶不知情的情況下，秘密分析了大約5000萬臉書用戶的個人資料，以此制定個人化的政治宣傳，預測並影響選民投票，幫助美國總統特朗普贏得2016年的大選。Facebook很快遭到了市場的懲罰，股價蹭蹭往下掉，市值蒸發500多億美元。這一醜聞愈演愈烈，國外發起了#delete Facebook（刪除Facebook）運動，埃隆·馬斯克站出來當起了表率，註銷了自己兩家公司SpaceX和Tesla在Facebook的官方主頁，越來越多的網友參與其中。並且，因為影響選舉，數據泄露還上升為政治事件，引起了英美等國政要的「強烈不安」。很長一段時間以來，我們享受到了大數據時代帶來的種種便利，而忽視個人信息被攫取和利用的巨大風險。我們本以為逃匿在網路空間是為了「隱身」，可在互聯網企業眼裡，我們其實是在「裸奔」。人們關於個人信息安全的保護意識，開始蘇醒。

數據引導你的作為此次涉及非法收集用戶信息的數據公司「劍橋分析」由共和黨大金主、對沖基金億萬富豪羅伯特·默瑟投資，美國總統特朗普前首席戰略顧問班農擔任董事，與特朗普有著千絲萬縷關係。在紐約的一次公開演講中，劍橋分析的CEO 亞歷山大·尼克斯曾分享過這個公司的運作「秘密」：他們會對成千上萬名調查者進行心理分析，並將他們分為32種不同的人格，然後融入選民的Facebook足跡、消費足跡和投票記錄等，最終分析並影響他們的投票行為。也就是說，根據數據對每一個用戶畫像的捕捉，它就可以比用戶的朋友更了解他。在劍橋分析網站的首頁，一行大字醒目而跳脫，Data drives all that we do（數據引導你的作為）；而劍橋分析政治服務部門的廣告語是：「我們定位你的選民，打動他們讓他們採取行動。」在官網上，劍橋分析列出了自己的光榮業績：「為五大洲超過100場競選提供支持；僅在美國，我們就為贏得總統選舉、國會選舉和各州選舉發揮了關鍵作用。」數據在引導你的作為——表面上看這有些危言聳聽，但當你足夠多的數據被收集合併歸納之後，數據的確可以做到。數據是社交媒體的生命線。為了提供準確的定製化、個人化信息服務，讓資訊的推送與用戶的偏好吻合，都需要對用戶進行畫像。而畫像的基礎數據，就是個人的身份信息、瀏覽習慣等。一旦你在互聯網上有任何行為，比如進入某個APP，購買某樣東西，閱讀某篇文章，其實都在被記錄、被分析。你的一切信息都會成為別人的資料庫，被用來給你畫像。過去，這一切被統稱為大數據，一直以來，輿論對大數據時代多持一種樂觀態度。的確，數據潛藏著豐富的價值，比如大數據分析是更好的決策工具，很大程度便利了我們的生活……但對於數據對個體行為的引導，則缺乏足夠的重視和警覺。國際網路安全專家施奈爾（Bruce Schneier）在《隱形帝國》一書里寫道：「臉書（facebook）只是根據按贊的動作，就可以推測一個人的種族、個性、性向、政治意識形態、感情狀態和藥物使用情形……」谷歌公司研究員Fran?ois Chollet在泄露事件後發表了一系列推文，警告說Facebook的問題不僅僅是隱私泄露或缺乏信任，而是由AI驅動的Facebook很快就會成為「極權主義的圓形監獄」。他在抨擊Facebook的文章中寫道：「不透明的社交媒體演算法正在越來越多地決定我們閱讀哪些文章，我們與誰保持聯繫，我們閱讀誰的觀點，獲得誰的反饋。經過多年的訓練，演算法對我們所消費信息的處理使得這些系統在我們的生活中掌握了相當大的權力，決定了我們成為什麼樣的人。」凱文·凱利認為，技術狂熱是我們的一種自然狀態，我們喜愛我們的東西，並且由它們引導。互聯網公司先是大量收集你的數據，巨細無遺地捕捉、收集進雲端資料庫，對你進行數據畫像，再根據你的畫像不斷向你投遞個性化的信息流和廣告，你習慣了這種信息接收方式，成為被種種信息餵養的你——技術瓦解了「自我的真實」。久而久之，互聯網公司推送的信息就能夠影響你的決策，「數據引導你的作為」成為一種現實。?無處不在的信息泄露劍橋分析是如何攫取個人信息的？2013年，當時在劍橋大學工作的研究者科根做了個性格測試軟體，除了受訪者本人之外，該應用還能收集受訪者Facebook好友的數據資料。一共有約32萬名美國選民參與了此次測試，但加上每人的Facebook好友，科根一共收集到了超過5000萬Facebook用戶的數據。後來，這些收集時號稱被用作學術研究的信息，被轉手給了劍橋分析。Facebook的核心問題在於，它輕易地將用戶數據分享給第三方。科根此前被允許收集Facebook用戶信息，但僅限於學術目的，但它順走了其他4000多萬用戶的信息，未得到用戶許可，且在未經允許下將個人數據賣給另外的第三方，這才是最令人憤怒之處。但環球同此涼熱，未經允許被竊取信息並被利用的現象，在國內也非常普遍。支付寶在「年度賬單」的首頁讓不少用戶默認勾選了「我同意《芝麻服務協議》」以套取用戶數據，他們的信息將「被同意」分享給第三方。騰訊方面，不少人質疑微信偷看用戶聊天記錄。今日頭條被質疑利用手機麥克風獲取用戶數據隱私。「手機百度」、「百度瀏覽器」兩款手機APP涉嫌在消費者安裝前，在未告知用戶、未取得用戶同意的情況下，獲取「監聽電話、定位、讀取短彩信、讀取聯繫人、修改系統設置」等各種許可權……不少評論者建議，互聯網企業應當自覺與用戶建立隱私保護的契約，以文字證據提供權益保障。然而認真閱讀超長的隱私政策的人寥寥可數，即便認真讀了，用戶也未必能發現其中暗藏的玄機；即便發現了其中的玄機，用戶也沒有什麼說「不」的底氣和權力。目前很多情況下，各種APP對個人信息的獲取和使用有不對等的霸權，個人如果不通過授權，很多最重要的功能就無法使用。就比如很多人已經習慣了使用支付寶和微信，習慣了「無現金」的生活狀態；很多人也習慣了將微博和微信作為獲取信息和人際交流的工具；很多人習慣了在淘寶、京東網購……但這些APP得以使用的前提，無一例外是你在註冊之後必須同意它們設定的種種條款，即便這些其中有不少不平等、不合理，可能造成個人信息被泄露和濫用的條目，一旦你點擊「不同意」，就意味著你無法使用這些工具。基於社交需要和生活便利需要，你很難對這些APP說「不」，不得不「讓渡」出個人信息——即便你明明知道它正處在風險之中。總之，那些讓人們感到便捷舒適的服務，多半都以公眾出讓隱私為前提的。

避免「數據極權」中國互聯網企業的發展走在世界前列，其中一個很大的原因就是，我們對個人信息的保護持比較開放態度或者說保護力度較弱，互聯網企業獲取個人信息的成本很低。這可能是彎道超車必須承擔的風險成本。但有風險，更凸顯對風險管控的重要性，而非放任風險的存在，並最終像Facebook這樣，被指「操控大眾心理」，直接威脅美國的民主根基。應該看到，數據並非是數據那麼簡單，數據還是一種權力。英國哲學家傑里米·邊沁提出的全景監獄設想，在福柯這裡衍生出了一種全新的權力運作方式。福柯曾說：「完美的規訓機構應能使一切都一目了然。中心點應該既是照亮一切的光源，又是一切需要被了解的事情的匯聚點，應該是一隻洞察一切的眼睛，又是一個所有的目光都轉向這裡的中心……這裡發號施令，記錄各種活動，察覺和裁決一切過錯。而做到這一切僅僅需要一種精密的幾何學的直接幫助。」而今，我們在網路上的行為受到了互聯網公司全天候的監視，「全景敞視」成為一種現實。任何人在互聯網上的蹤跡和信息，都被數據公司所觀看，並且這種觀看無時不刻在進行。一方面你的確具備了使用互聯網的權利，但另一方面你也賦予互聯網公司掌控你的信息的權力，你的隱私權、自主權等輕易被剝奪。羅素在《權力論》中指出：「我相信，機械權力必然產生一種新思想，這使得控制政府比以往任何時代都更為重要。由於技術的發展，民主或許會變得更為困難，但它也會變得更為重要。那擁有巨大的機械指揮權的人，如果得不到控制，也許會覺得自己是神——不是基督徒的愛神，而是異教的雷神會火神。」也即，數據權力不僅造成個人信息被濫用成為常態，並且，數據權力還可能變成一種「數據極權」，通過監視數據，進而監視思想、控制思想，輕而易舉地「形塑人們對政治角色的體認、挑戰既有的政治認同、解構大眾的政治心理」。因此，解決問題的關鍵在於，應該將互聯網公司的數據權力關在籠子里，避免數據被濫用。一方面要打破全景敞視，賦予用戶知情權。不僅應讓用戶知曉，哪些數據被監測，哪些數據被利用，被利用在什麼地方；還應讓用戶知曉具體的分析演算法是什麼，以及該演算法如何具體使用其數據。並且，應賦予用戶信息使用事先的同意權，以及事後的撤回權、刪除權。除此之外，還應迅速構建起對搜集個人信息的行為的限制與監管體系。應該從法律的高度上保護數據隱私，打破互聯網公司與用戶之間不對等的權力關係，對涉及數據的採集及其目的使用進行必要的限制，同樣需要對數據的使用過程有清晰、明確的邊界和能夠被嚴格理解的基本要求。我們已經進入了一個大數據時代，它具有不可逆轉的趨勢，並讓我們的社會生活實現了里程碑式的跨越；但也應該看到，人們在享受大數據提供的種種便利的同時，某些失控的行為正在發生。我們對此應有足夠的重視和警惕——畢竟一旦科技用以作惡，後果比什麼都可怕。
推薦閱讀：