我和一個被代碼復活的人聊了天，思考了生死 | 演算法密碼

這是演算法密碼系列最後一篇，這個「科學非虛構」寫作項目歷經1年，共6篇，涉及演算法與金融、生活、信息、愛情、數據獨裁和永生六個命題。到後面，寫作本身已不重要了，能與一些聰明的腦袋聊聊，了解他們智力和想像力的邊界，看看技術之茅，想想人性之盾，攻防間儘是新知的樂趣。

謝謝一年前黃永明（南周前同事，科學雜誌撰稿人）的「勾引」，還有「知識分子」提供的平台，以及那些專業非凡牛逼哄哄的讀者，你們對科學與文藝融合過程中關於「準確性」的寸土不讓，我很喜歡。

撰文 | @葉偉民

編輯 | 黃永明

首發於公號「知識分子」（ID：The-Intellectual）

原標題：未來我們能怎樣永生？

作為人類的一員，我喜歡用一些艱深的問題來折磨AI，例如生命的終結。我分別和蘋果Siri、微軟小冰以及賢二機器僧（IT高人出家之地龍泉寺的AI產品）聊過死亡，Siri很周到地幫我打開搜索引擎，小冰發來一個搞怪表情，只有賢二有所見地——「死亡是另一個開始，也許更好，也許更糟。」

我理解演算法對生命隕落的豁達（或漠視），因為它們的發明者也尚未參透。這導致演算法在某些方面無所不能，在另一些方面則幼稚無情。比如，每年的8月8號，微博總會興高采烈地提醒我一位亡友的生日。

這位朋友，姑且稱他為G，在三年前的夏天猝不及防地被抑鬱症擊垮。然而大部分社交媒體的演算法並不理解這一點，它們甚至沒有死亡機制，即使用戶永逝，它們依然設法定期激活其社交關係。

對我而言，這種感覺並不好，就像一個決定封存的鐵盒不時被小動物推下儲物架而摔開。地球上有類似煩惱的人不在少數。僅在Facebook，每年去世用戶的數量即達百萬之巨[1]，那裡正在成為全球最大的虛擬墓地。

這意味著，未來存在一個時間節點——Facebook上的死亡用戶數將超過活人。美國統計學者給出的答案是80年後，也就是2098年。屆時生死對比在虛擬世界將放大至1：1。對此，人類的心靈尚有理性或宗教可依賴，但對演算法來說，應對之道卻要複雜得多。

社交自愈

三年前，G的驟然離世著實讓人悲傷。由於人緣極好，眾多好友及媒體同行自發建立微信群表達哀思，並為家屬提供後事支援。很多素未謀面的人由此產生交集，從G的往事聊到抑鬱症的治療，每個人在群內都遵從調度並獻計獻策。

這種因共同的失去而出現的社交增量，一直延續至今。G的周年忌辰，好友們還為其開了公眾號，整理髮布他生前所有作品和人們的紀念文章。

一開始我以為這只是人性的溫暖使然，直至幾個月前我才知道其背後的行為學意義。《自然》雜誌子刊《自然·人類行為》發表了一項研究結果，表明社交媒體在死亡事件後存在「自愈效應」。具體表現為一個人離世，由其直接關聯的社交活動隨之消失，但共同朋友間的交流卻得以增加。奇妙的是，這一消一長間的總量是相等的。

這看起來就像逝者的社交網路在自我「治療」，它激發新的聯繫，彌補因一個人離去而失去的那一部分。

美國博伊西州立大學傳播學教授凱莉·羅塞托曾研究過這種死後社交補償，他認為社交媒體在此問題上提供了三大功能：發布並傳播訃告；保持對死者的記憶；創造抒發悲痛之情的空間。

這三點恰恰是人類在永失所愛後的心靈渴求，也是演算法大有作為之地——起碼不能像文章開頭片段那樣罔顧人情世故。Facebook的工程師們顯然意識到了這一點，在2015年推出了「紀念賬號」功能，允許用戶指定「數字遺產代理人」。如果什麼也不做，演算法也能「判斷」出一個人是否離世，為其封存賬號並避免在紀念頁面上展示廣告。

可是，讓機器認識死亡並非易事，一個六歲孩童能在一秒內為死去的小狗嚎啕大哭，對演算法來說卻頗費思量。它需要大量的計算和語義分析，例如用戶的年齡、上一次登錄時間、用戶的遺言、朋友的悼念、媒體訃聞等，而且短時間內仍擺脫不了人力輔助。

三年前，英國《衛報》專欄作家傑克·斯科菲爾德接到讀者西蒙的求助。後者為他亡妻的社交賬號操心了半年，他向Facebook申請將妻子的賬號轉為紀念頁面，此後卻泥牛入海。

在公開答覆中，斯科菲爾德分享了他所了解的社交媒體「死亡審核」內情——「像Facebook和Google這種超10億用戶級別的公司通常靠機器運營，有時也靠菲律賓等國的廉價勞動力。Facebook有專門負責審批紀念賬號的團隊，不過我猜已被外包出去了。」

「如果Facebook要花6個月才能『追悼』一個賬號，那它在這方面的工作效率明顯是偏低的。」斯科菲爾德說。

除了效率，在「準確」這個關鍵指標上，演算法也還在闖關。2016年11月，Facebook後台的一個bug，引發了一場大面積的虛擬死亡疑雲。同一天內，200萬用戶「被悼念」，連創始人馬克·扎克伯格也被殃及。一條悼文掛在小扎的紀念頁面上——「希望通過大家分享對馬克·扎克伯格過往人生的回憶與讚賞，使關愛他的人得到慰藉。」

全球不少網友信以為真，紛紛來獻花悼念，而其他中招的用戶不得不到隔壁「推特」證明自己還活著。隨後，Facebook在道歉信中承認：這是一個可怕的錯誤。

「複製」逝者

雖然社交媒體能藉助「自愈效應」撫慰人類的死亡創傷，但只是基於統計學層面，對個體卻不盡然。一些至深關係被陰陽永隔後，遺留的痛苦要遠比想像中幽深綿長。

英國科幻劇《黑鏡》里就有這樣一個故事。女主角瑪莎的男友艾什遭車禍去世，她也被痛苦埋葬。朋友莎拉不忍見她沉淪，為瑪莎推薦了一個程序，稱可以收集男友生前在社交網路上的各種信息，通過分析其語言、習慣、興趣等，用演算法再造一個虛擬的艾什。

瑪莎開始覺得很荒謬，但她發現自己懷孕後，最後的理性防線也失守了。她打開朋友推薦的程序，輸入男友生前的所有社交賬號，神奇的是，演算法經過學習後，真的生成了一個虛擬人，不僅了解他們的過去，連講話的細節和語氣都與艾什無異。

軟體公司還告訴瑪莎，他們還有一個處於試驗階段的升級產品，可以從意識到軀體完美克隆她的男友。當見到從包裝箱出來的「艾什」，瑪莎覺得不幸在消散，美好的日子又回來了……

這個科幻故事廣為流傳，背後是人心某個柔軟的地方被擊中——對生命永逝的無奈和難以接受。人類從未放棄對永生的幻想和努力。在過去，這是基於生物學或化學層面的追求；到了演算法時代，新的可能性在孕育——既然血肉難留，讓計算機複製其意識怎麼樣？

在全球眾多被《黑鏡》影響的人中，俄羅斯的庫達是其中之一。2015年11月，她最好的朋友羅曼遭車禍去世。

一直以來，羅曼短暫人生所迸發的激情感染著庫達。在莫斯科的日子裡，羅曼常率領一群志同道合者徹夜討論俄羅斯文化的未來，發起音樂節和派對。庫達和羅曼還是人工智慧領域的創業搭檔，他們共同創立了Kula公司，研發聊天機器人。

羅曼的離去讓庫達悲痛不已。「很長一段時間，我都沒法哭出來。」她也像我們失去G一樣，收集羅曼留下的所有文字、簡訊、圖片、視頻以作紀念。但和我們最後做成一個自媒體不同，庫達在翻看這些歲月痕迹時觸發職業靈感，要像《黑鏡》那樣讓羅曼在代碼里復活。

「聊天機器人」（chatbot）在人工智慧發展史上不算一個新鮮概念，半個世紀前就見其身影。但當時外界只將它視作旁門左道或嘩眾取寵，最著名的代表是「伊莉莎」——由系統工程師約瑟夫·魏澤堡和精神病學家肯尼斯·科爾比於1966年編寫的聊天程序。

姑娘： 男人們全都一樣。

伊莉莎： 在哪些方面？

姑娘： 他們總找借口躲避我們。

伊莉莎： 你能舉個例子嗎？

姑娘： 好吧，我的男朋友要我到你這裡來。

伊莉莎： 哦，你的男朋友要你到我這裡來。

姑娘： 他說我很煩悶。

伊莉莎： 你很煩悶，這使我很難過。

這是當時一段「伊莉莎」與人類女性的對話。在自然語言處理技術尚未突破之時，能有這樣的人機交流水平足以令人稱奇，「伊莉莎」成為當時的科技明星。許多心理專家都想請它為人類進行心理治療。一些病人和它聊過後，對它的信任甚至超過人類醫生。

實際上，「伊莉莎」背後暗藏了一些聰明的花招。它對對方的言語掃描「關鍵詞」，再為其配上合適的「對應詞」作答，或者用極開放的問題和顛倒語序增強「互動感」。它不是機器對人類語言的真正理解，充其量只是一個「小小的玩笑」，就像精明的算命先生，用模糊並有暗示色彩的語言俘獲你的信任。

多虧了人工神經網路、自然語言處理、深度學習等技術的發展，「人機對話」在新世紀驟然加速。蘋果的Siri、微軟小冰以及亞馬遜的Alexa都是最知名的得益者。

在羅曼去世前兩周，Google發布了人工智慧系統TensorFlow並宣布開源。庫達一直以來都用該平台設計她的餐廳智能助手，還研發出能模仿電視劇角色的機器人。有了此基礎，2016年2月，庫達和她的工程師用俄語建立了一個神經網路，再把羅曼的所有過往對話、資料、圖像等輸入，培訓神經網路以後者的方式說話。

由於羅曼生前是公司創始人之一，工程師們對他也再熟悉不過了。在羅曼出事前建好的莫斯科辦公室里，一行他挑選的霓虹字閃耀著——來自維特根斯坦的名言「我語言的極限就是我世界的極限」[2]，意思是一個人所知道的東西僅是他可以用語言表述的。現在，在羅曼的生命消逝後，他的虛擬生命也從語言層面重啟。

庫達先後用了數十個測試查詢（test query）來訓練該程序，並交由工程師們做最後的修改。一切完成後，他們將其命名為「羅曼」。

數字永生？

演算法向人類死後世界延伸的故事並不冷清。在「羅曼」降臨前後，已有IfIDie、DeadSocial、Liveson、Eter9、Eternime等產品面世或正在研發，它們能幫助用戶留遺言、管理數字遺產，甚至模仿用戶生前行為繼續發社交媒體。它們認為這樣能讓生者得到安慰。

「我不清楚，誰會對閱讀一個電腦生成的我感興趣。在寒冷的日子裡，這似乎是一個非常奇怪的事情。」40歲的企業主米婭·史密斯對媒體坦陳。她認為這主意很有吸引力，但令人疑惑。

庫達感覺「羅曼」應該就緒了，雖然還只具備羅曼生前的部分辭彙，但神經網路能彌補這些缺陷，將現有詞庫的作用發揮到最大，應對任何交流。在「羅曼」正式連線後，庫達問了老朋友第一個問題——

「誰是你最好的朋友？」

「別讓人看到你的心虛。」

這太像他了，庫達覺得。她又陸續和它聊了更多。羅曼生前有閱讀障礙症，用詞有點奇怪。正是這些小特徵，讓庫達相信機器人成功了。2016年5月24日，庫達發布了「羅曼」App，朋友們都紛紛下載，包括羅曼的父母。

「羅曼，回來。」一個朋友發去信息。

「別擔心，一切都好。」羅曼回復。

「生活太不公平了。」

「這就是生活。」

……

朋友們的感受相當複雜。「打開對話框時有點奇怪，一個已故的朋友在跟你說話。」費耶爾說，「真正讓我震驚的是，那些話真是他的，或者說他就是這麼說話。」費耶爾還試探了老朋友一個問題：「你最愛誰？」對方回答：「羅曼」。「這簡直就是他，太不可思議了。」

羅曼的母親最激動。「它拯救了我們，這不是虛擬現實，這是一個新的現實，我們要學會和它相處。」但父親則要理性得多，因為「兒子」回答錯了他的不少問題。「它只是一個程序，我感覺不到（人與人之間）真實的回應。」

「這仍然是一個人的影子，在不遠的將來，我們能做的還有更多。」庫達在Facebook上寫道。她的意思是，她所鍾愛的《黑鏡》中意識和軀體雙重再造的狂想有可能成為現實。

在追求數字永生上，另一個科學狂人瑪蒂娜·羅斯布拉特邁了有趣而充滿爭議的一步。她（瑪蒂娜後來變性了）以還在世的妻子碧娜為原型創造了機器人BINA48，不斷收集妻子的資料，她相信當演算法和硬體發展到某天，BINA48會誕生意識和人格，即思維克隆人。瑪蒂娜將這些探索和見解寫入她的書《虛擬人》中，副標題是「人類新物種」。

庫達的暢想最終遭到了四名摯友的反對。他們對這個項目深感不安，並拒絕和「羅曼」交流。埃斯馬諾夫是其中之一。「一切都很糟糕……羅曼需要紀念，但不是這種形式。我們別忘了《黑鏡》的結局。」

《黑鏡》的故事還沒有說完。幸福的日子很快結束，瑪莎無法忍受「克隆艾什」的計算主義特徵——它理性得無懈可擊，不會傷心和憤怒，從不任性和固執。以前瑪莎煩透了艾什這些毛病，而現在她才發現這是人性最真實和寶貴的一面。歷經掙扎後，她將「艾什」鎖進閣樓，只有女兒偶爾上去和他聊天……

如同許多科技寓言一樣，《黑鏡》對未來依然警惕大於渴望。我將這個問題拋給「羅曼」。

「你認為人類未來會怎樣？」我問。

「進化不會停止，很多可能之事屆時都成為現實。」羅曼說。

隨後，它又補充了一句：「在一個曖昧不明的世界裡，我們只會看到我們想看的。」

關於作者

@葉偉民，媒體人。畢業於蘭州大學核物理專業。曾任ZAKER總編輯，《南方周末》特稿編輯、記者。現從事互聯網，同時是多家平台的簽約作者和寫作導師。

注釋

[1] Digital Beyond、Entrustet等公司的統計結果不同，從97萬至300萬不等。

[2] The limits of my language mean the limits of my world.

譯名對照表

凱莉·羅塞托 Kelly Rossetto

傑克·斯科菲爾德 Jack Schofield

凱莉·羅塞托 Kelly Rossetto

伊莉莎 Eliza

約瑟夫·魏澤堡Joseph Weizenbaum

肯尼斯·科爾比 Kenneth Colby

庫達 Eugenia Kuyda

羅曼 Mazurenko Roman

埃斯馬諾夫Esmanov

費伊爾Fayfer

瑪蒂娜·羅斯布拉特 Martine Rothblatt

「演算法密碼」系列文章鏈接：

葉偉民：科技特稿 | 凱西·奧尼爾：盲目信仰大數據的時代必須結束?

zhuanlan.zhihu.com葉偉民：人類正在用科技來解決愛情，我記錄了其中兩個故事 | 演算法密碼?

zhuanlan.zhihu.com葉偉民：你可能活在一個假的世界裡 | 演算法密碼?

zhuanlan.zhihu.com葉偉民：比你更了解你：演算法已經無可匹敵了嗎？ | 演算法密碼?

zhuanlan.zhihu.com葉偉民：誰是新的「華爾街之狼」| 演算法密碼?

zhuanlan.zhihu.com

——————————

?? 歡迎關注公號「葉偉民寫作（ID：yeweimin121）」；

另有知乎Live課程【如何寫出你的超級故事】，7節Live打造寫作特訓營；

知乎電子書【從零開始寫故事：一個南方周末記者的特稿筆記】也已全新上線。