恐怖谷與人工智慧

恐怖谷與人工智慧

最近我家的音箱壞掉了。

它的主要癥狀是，在我換好睡衣關好燈在一片漆黑里慢慢地滑向夢境之時，突然用甜美的女聲說一句「來聽聽我的推薦音樂吧~」，然後一首隨機的奇怪歌曲播出來。根本都沒有點過好嘛！

簡直要生生被它嚇成神經衰弱。

我喜歡這個小東西的主要原因是它內置人工智慧，早上醒了拍拍它說周杰倫，周董就開始給俺哼唱紅塵客棧，有種AI在手世界我有的快感；但現在覺得它半夜裡嚇人，也是被AI給鬧的----從前家裡電器壞了最多就是變成啞巴或者冒點雪花，誰見過半夜一激靈給你推薦歌曲的！

日本機器人專家森昌弘在1969年提出了非常著名的「恐怖谷理論（Theuncanny valley）」，大概意思是說隨著非人物體和人類的相似度逐漸增加，人類對非人物體的好感度也會增加，直到達到一個臨界點，然後Boom！突然你就會對這些和人類非常接近的非人物體感到噁心或者恐懼，直到它們與人類的相似度再次增加到無法辨認為止。

吶，就是下面這個圖（大晚上的我一個膽子很小的人為了找到一張不那麼嚇人的圖也是拼了）：

這大概也是我們潛意識裡都會覺得人形機器人有點嚇人的原因。有一年的GMIC有一個高仿機器人的展台，如果不是同事在身邊我是決計不敢靠近的，這種似人非人的特徵充滿了不可控性，我們幾乎會本能地察覺到，它們有能力(capable)的同時又不可預測，因而成為了危險的來源。

所以我們在無數的影視劇里也可以察覺到這種不安：電影《機械姬》，去年的英劇《Humans》和今年秋季剛剛上檔的《Westland》，講的都是高度模擬的機器人被壓迫進而覺醒反抗的故事。這些劇集裡面，機器人們會像人類一樣悲傷、憤怒和不滿，也會用人類的方式反抗：使用槍械和刀具，駕駛汽車逃亡，等等等等。

但是它們真的需要這樣做嗎？

一樁傷害（對人類而言）的形成，需要兩個必要條件：傷害的動機和傷害的手段。動機這種複雜的事情我們可以一會再說，先來說說傷害的手段好了。

先要說明的是，機器人和人工智慧是兩回事，一個不太嚴謹的類比是，這兩的區別基本等同於我們的肉身和思想；而且目前我們還沒能真的製造出在各個方面都擁有與人類等同智能的人工智慧(Artificial General Intelligence，簡稱AGI)。

但是即使是狹義的，只能執行某些特定任務的人工智慧(Artificial Narrow Intelligence, 簡稱ANI)，也足夠用更高級的方式造成傷害了。我們活在一個被ANI環繞的世界裡：它們是手機導航，智能家居，幫你預定機票，翻譯對話，在納斯達克執行量化股票交易，在工廠里製造手機，在醫院裡診斷癌症，還有近在咫尺的無人駕駛汽車。如果它們「有意願」的話，我們大概會像三體里的面壁者羅輯一樣，一天之內被Killer5.2 謀殺N次。

也許你會嗤之以鼻說，那些手機導航神馬的，根本就不是人工智慧嘛。但這就是人工智慧很詭譎的地方，用提出了AI這個概念的人工智慧之父JohnMcCarthy 的話說 ：「As soon as it works, no one calls it AIanymore （只要AI可以開始正常工作，就沒人把它當AI了）」，它飛速地滲入我們生活的方方面面，將空氣一樣隱形而無所不在，即使現在它還只是「工具」而已。

那麼它們會「有意願」嗎？

阿西莫夫覺得我們可以用「機器人三定律」（1. 機器人不得傷害人類，或因不作為使人類受到傷害；2. 除非違背第一定律，機器人必須服從人類的命令；3.除非違背第一及第二定律，機器人必須保護自己。以及第0定律：機器人不得傷害人類整體，或因不作為使人類整體受到傷害。）來給AI們創建一套倫理體系；我軟亞太研究院的院長洪小文博士在某次採訪中表示AI更像是人類的左腦，與其思考如何規範AI的行為，不如更多想想如何控制使用/編碼人工智慧的人類的行為（大意，非原話）；鋼鐵俠ElonMask直言不諱說我們要「對AI小心點」（不過他還是創建了OpenAI…也許是覺得既然要小心不如從頭抓起）；斯坦福更是有專門的學者在研究人工智慧倫理學。

不過我比較同意的是牛津大學哲學家Nick Bostrom的看法。他的基本論點是，如果我們考慮人類技術發展的指數型加速的規律（即文明越發達，其技術發展速度也就越快），可能在未來幾十年間，我們就可能需要面對比人類智能高出幾百幾千倍的超級人工智慧(SuperIntelligence)。而超級人工智慧的「智能」程度以及它的思考邏輯/「人」生意義，都是人類可憐的小腦瓜所不能夠了解的。

莊子說，夏蟲不可語冰，井蛙不可語海，大概就是這個意思。

一隻螞蟻不能理解為什麼人類要搗毀蟻穴去建摩天大樓，不是它覺得我們的動機很可笑，而是它不能理解什麼是摩天大樓，不能理解人類有能力創造摩天大樓，更不能理解人類在建造摩天大樓的時候，毀滅蟻穴根本不是最終目的----那只是一個人類甚至都不會注意到的副產品。

明天，我們都有可能變成超級智能面前的螞蟻哦。

說了這麼多，似乎我在鼓吹人工智慧威脅論的樣子。但是生亦有時，死亦有時，也許人類聰明到可以創造比自己更偉大的造物，也是在茫茫宇宙中有可能發生因而也必然發生的發展路徑。從小時候開始讀科幻世界開始，我就覺得人類消亡或異化是必然的事 ----被自己的造物顛覆，也許算是不錯的ending。

只是在這之前，我真想看看超級智能們創造的新世界，好也罷壞也罷，只是好奇。只恨不能再活五百年----

不過，也許有別的解決方案：掃描一下我的大腦，然後進行數字化重建，這樣「我」就可以呆比較久了，一樣路痴，一樣有小情緒，一樣記得某些重要的瞬間，一樣有奇怪的好奇心。

只是，這樣的「我」，算是「人工智慧」還是人類呢？

如果有一天這個數字化的我決定給自己換一副和斯嘉麗約翰遜一樣的軀體呢？

「她」會落進恐怖谷里嗎？