在數字監控時代我們還能做點什麼？

在信用制普及的國家，銀行早已開始通過數據與演算法評估用戶信用。在中國，社會信用體系會在2020年強制執行，以評估13億公民的可信度。無論喜歡與否，中國的每一位公民和法人的行為都將被評級和排名。

編者按：

在互聯網世界，販賣用戶隱私在內的數據生意早已不是秘密，互聯網由最初的匿名轉向實名制，也由90年代的烏托邦設想演變為數字控制與監視的工具。如果沒有相應的權力制衡，個人信息的大數據極易被寡頭收割和利用。劍橋分析（Cambridge Analytica）利用Facebook用戶數據操縱2016年的美國大選，這一事件已充分展示了數字控制對現實世界的影響。

今天的文章將討論，數字監控如何作用於我們的生活，我們又該如何應對。

1.你的數字身份

根據盧西亞諾?弗洛里迪（Luciano Floridi，牛津大學信息哲學與倫理學教授、互聯網研究所研究主任）的說法，三個關鍵的「去中心化轉移」（de-centering shifts）改變了人類對自我的認知: 哥白尼的「太陽中心說」模型，達爾文的自然選擇理論，以及弗洛伊德關於我們的日常行為是由潛意識控制的說法。

弗洛里迪認為，現在已經進入了第四個轉變，線上和線下的行為共同融合為我們的連線生活（onlife）。他斷言，社會正趨向於一個實體與虛擬混合的信息空間，我們正在獲得一種連線生活的人格，這與我們在"真實世界"中的人格並不相同。Facebook與朋友圈等社交平台放大了這種連線生活的人格，人們在上面展示自己編輯與美化過的生活，網路空間不再僅僅是一種逃離真實世界的方式。

在你不知情的情況下，你的信息已被詳細記錄於某個資料庫，填充為數字檔案，這份檔案可以被拿來評估你的健康程度、財務狀況或生活習慣等。甚至僱主也可能利用秘密演算法監視與評判你的行為， Intermex 公司（一家國際電匯服務公司）的一位前職員聲稱，她因為關閉了一個應用程序而被解僱，這個應用程序能讓該公司不斷追蹤她的位置。

信用、網路、位置、購物等等數據在線上組成了我們的數字第二身份，但是這個身份組成的新世界卻完全可以毀掉你的現實生活。

一位女性被一家數據中間商（private data broker，負責對收集到的消費者數據進行分析與分銷）錯誤地指控為冰毒經銷商，艱難熬過房東和銀行拒絕為她提供住房和信貸許多年，她才終於洗脫了自己的嫌疑。在信用制度已經普及的國家，由於錯誤或數據被不公正處理，借款人一生平均可能損失數萬美元。

政府資料庫的準確度可能更為糟糕，比如在美國，「可疑活動報告」（SARs）或者不準確的逮捕記錄時有被扣在無辜者頭上， 這個問題很久以來一直困擾著公眾。 國家和市場操縱者的海量數據意味著虛構的報告能迅速傳播開，但糾正卻需要數月或數年的法律工作和宣傳，這種缺陷根植於數據評判系統的設計。

缺陷之處在於信用演算法被粗暴地簡化，無法考慮到複雜環境。例如「賴帳」的人可能是因為住院而錯過時間，「信用良好」的人也可能只是個吃白食的。 這就是我們所有人在數字世界裡面臨的挑戰。如果這套控制生命的演算法繼續存在，我們就需要弄清楚它如何能夠接受人類內在的細微差別、不一致和矛盾，以及它們對現實生活如何反應。

演算法同時也容易變為深化偏見的高級工具。當個人偏好被用於廣告和內容推薦時，它可以重現和加強我們的偏見。為了讓用戶花費更多的時間在自己的平台上，公司會通過演算法過濾出用戶想看到的信息，讓用戶處於自己的文化與價值觀的泡沫中。左翼政治與互聯網活動家伊萊·帕里澤（Eli Pariser）在2011年同名著作中將這種現象稱為過濾泡沫，現在已經在迅速加深政治兩極分化。

數字化的我們已經被演算法所包圍。我們是一個良民、一個可信之人，還是一個威脅、一個隱患，這些都由數據和演算法來決定。演算法成為了權力的直接掌管者，甚至能夠決定我們看見什麼、思考什麼。

2.政府：馴服的遊戲化

對於被分類的我們來說, 還沒有有效的方式能讓演算法對這種分類負責。不僅如此，當演算法的決策與我們的生活互動之後，我們甚至難以想到要對演算法進行問責。

美國國會於1970年通過了《公平信用報告法》(Fair Credit Reporting Act) ，以管理信貸局收集數據的做法，建立問責制、公平機制和補救機制。從《公平信用報告法》開始，美國監管機構常常鼓勵企業使用演算法做出決策，初衷便是避免人類決策者的非理性或潛意識偏見。

但演算法的設計者，使用者和調整者仍然都是人類。演算法無法逃離現實社會的弊端，因為收集的個人和社會數據便來自這個存在歧視的社會。基於數據與演算法的決策只不過是將人的觀念轉換為了一串串代碼和參數，被轉換的也包括了現實世界中的各類歧視。人腦的偏見常常來源於將「因果關係」替換為簡單的相關，而基於相關性的演算法只會強化相應的偏見。

更揪心的是，商業跟蹤和政府監控之間薄薄的界限越來越薄。諷刺網站洋蔥報（The Onion ）曾經發表過一篇文章，題為《中央情報局的『臉書』計劃大大降低了中情局的成本》。現實也只是一步之遙。 斯諾登泄露的文件說明美國國家安全局會利用廣告cookies收集個人信息，黑客攻擊和數據搜集也被同時納入公司的商業計劃和國家的政治戰略。

世界各國政府都早已開始監控和評級。在美國，國家安全局(NSA)並不是唯一關注國民行為的官方監視機構。2015年，美國運輸安全管理局提出了擴大 PreCheck （允許指定的飛行常客在國內旅行期間獨享快速安檢的權益）背景調查的構想，社交媒體記錄、地理位置數據和購買記錄都包括在內。這個想法被嚴厲抗議後擱淺了，但這並不意味著它已經死了。中美的情況正在趨同——信用評分的擴大進入生活，即使我們對此還一無所知。

中國缺乏國家信貸體系，央行擁有8億人的財務數據，但只有3.2億人有傳統的信用記錄 。根據中國商務部的數據，由於缺乏信貸信息，年度經濟損失超過6000億元。這就是為什麼政府堅持認為公民評分早就應該實施，而且迫切需要解決"信任赤字"。王淑芹教授最近贏得了幫助政府開發"中國社會信用系統"的競標，「大多數人的行為取決於他們的思想境界，一個相信社會主義核心價值觀的人會更體面」，王教授認為——而金融體系所評估的「道德標準」以及金融數據則是一份獎勵。

想像一下，根據政府制定的規則，所有行為都將有可能被評定為正面或者負面，並在這套信用體系中提煉成一個數字。這會成為你的公民評分，告訴每個人你是否值得信賴。另外，你的評分會被公開地與所有人的排名相比，用來決定你是否有資格獲得抵押貸款或工作，你的孩子可以去哪裡上學，能否拿到戶口，甚至你能否有機會約會（參見百合網支持芝麻信用）。

政府不再通過大棒和自上而下的恐懼維持穩定與順從，而是試圖把馴服變得更像遊戲。這是一種在部分地區探索出的社會控制方法——獎勵制度。真正的問題在於: 一個人自己的分數不僅僅取決於自己，也會受到他們網友言行的影響。 如果身邊有人在網上發布負面評論， 他們自己的評分也會被拖下水。

這就是服從的遊戲化。誰會公開批評這個體系呢？ 叮——你的分數可能會下降。令人擔憂的是，很少有人明白，不好的分數將來會傷害到他們。更令人擔憂的是，有多少人還不知道自己在被評價。

3.學術界：演算法問責的嘗試

2013年紐約大學舉行的"管理演算法"會議上, 一個由學者和活動家組成的社區對演算法的輸出進行了批判性地分析。現在他們正在推動一場關於演算法問責的強有力的對話, 簡稱# algacc。像2000年代的「知識無界」（A2K，由認為獲得知識應與正義、自由和經濟發展的基本原則聯繫起來的的民間社會團體、政府和個人的鬆散集合）動員一樣, algacc 把焦點轉向了2010年代的一個關鍵性的社會公正問題——演算法的透明。

很多商界人士更想看到這場運動早點夭折，保險公司、銀行和大型企業的發言人和說客普遍認為，關鍵演算法應該得到商業保密協議的嚴格保護，永遠不能被外人審查，更不用說批評。他們有很充足的理由——如果你知道在黑匣子內發生了什麼，系統可能會被操縱或被黑客攻擊。根據現行法律，這種知識產權也確實被保護得很好。

但如果人類被限制於這樣一個嚴密的評分系統內，那麼評分的方式必須是透明的。當一個重要的決策者決定使用一個資料庫時，Ta就應該向被排名和評級的人們解釋數據的使用情況、分析方式，以及如何識別、糾正、質疑可能出現的錯誤、偏見或違法行為。

事實上，在演算法決策的每個階段，簡單的法律改革都可以為演算法時代帶來基本的保護。公眾也可以參與對演算法的問責和改革的推進。例如在美國，社會活動者可以與法律學者合作，通過《信息自由法》（Freedom of Information Act，頒佈於1967年，是美國關於聯邦政府信息公開化的行政法規）和公平的數據實踐來揭示演算法某些方面。而記者則可以與程序員和社會學家合作，不斷揭露侵犯隱私的數據收集、分析和使用的技術，並推動監管機構打擊那些突破底線的人。

有些演算法研究人員在分析現有數據之外，更進了一步，與民間監管機構、檔案管理員、致力於開放數據的活動家和公共利益律師結為聯盟，確保用於分析、聚合、批評的原始材料能考慮到多方意見。社會學家和其他人也需要投入到這個異常重要的長期項目里，確保演算法產生的文檔足夠公正，否則國家、銀行、保險公司和其他勢力將會製造出更多秘密檔案。

演算法問責是一個大型的公眾項目，需要倫理學、哲學、法學、社會學、新聞調查、社會活動等等不同領域的人來各顯神通。這是所有人都需要面對的事業，它迫在眉睫，很多致力於此的專家也在尋求更廣泛的支持。如果我們不保持警惕， 「分散式信任」就會變成「網路化恥辱」。生活將成為一場無休止的人氣競賽，我們都在爭奪只有極少數人才能獲得的最高評價，就像《黑鏡》里預言的那樣。

4.技術：奪回你的隱私權

我們的未來， 是否都將被貼上網路和數據挖掘的烙印？也許現在還為時尚早，我們並不了解監控與信息評估無處不在的文化會是怎樣。但這種趨勢正在蔓延，當這些系統繪製出全人類的社會、道德和金融歷史時，未來會發生什麼？ 隱私和言論自由還要被損害多久？ 誰來決定這個系統走哪條路？ 這些問題很快便要被納入考慮。

對隱私的保護不僅使個人受益，它從根本上塑造了社會的功能。對於社會邊緣的社區和社會運動，例如爭取婚姻平等和其他曾被污名化的觀點，隱私是必要的。對個人隱私的保護使這些群體在改變現狀之前能夠建立網路，組織和發展他們的想法與平台。但是當人們知道他們被跟蹤和監視時，他們就會改變他們的行為。這種令人不寒而慄的影響損害了我們的知識自由和社會進步的能力。

除非有大規模的公民為了奪回隱私權而抗議，否則我們將進入一個個人行為被他們無法控制的標準所判斷的時代， 而且這種判斷無法被消掉。後果不僅令人不安，而且是永久性的。忘記了刪除或被遺忘的權利，只剩年輕和愚蠢。

好消息是，技術也可以有效地防止被跟蹤。廣告攔截器和其他瀏覽器的隱私工具可以減少超過一半的跟蹤，使用更複雜的工具，如 Tor 瀏覽器會更有效。換句話說，技術更嫻熟的人可以享受更好的隱私和數字自由。但這將導致了技術上的「軍備競賽」，這本身就令人擔憂，不過這種技能也的確與那些佔據優勢的技術黨相關。與此同時，出版商被廣告攔截器等工具誤傷，危及自由媒體。

雖然現在停止這個新時代可能已經太晚了，但我們現在確實有選擇和權利可以利用。比如，我們需要對評級人員進行評估。凱文·凱利在他的書《不可避免》中描述了一個未來， 在那裡，觀察者和被監視者將透明地相互跟蹤。他寫道：「我們現在的核心選擇是，這種監視是一種秘密的單向監視，還是一種相互透明（同時監視觀察者）的『貪婪』」。

參考資料

https://aeon.co/essays/judge-jury-and-executioner-the-unaccountable-algorithm

https://aeon.co/essays/the-strange-benefits-of-living-in-a-total-surveillance-state

http://www.wired.co.uk/article/chinese-government-social-credit-score-privacy-invasion

https://www.theatlantic.com/technology/archive/2017/05/the-thinning-line-between-commercial-and-government-surveillance/524952/

編譯：子川

老掉了的朋克，開源社區推廣者

文章首圖/尾圖：Kaethe Kollwitz Edward Hopper

文章來源：wired /the atlantic/aeon

圖片來源：網路

編輯：劉果 嚴妍

校對：劉果

排版：付安琪

各位讀者大家好，視角雜誌會定期在讀者群內分享推文的相關信息，希望進群參與互動的朋友可以聯繫角角（微信Aimee0526），感謝關注視角雜誌。