人工智慧（AI）應該是個什麼性格？

—————————————————————————————————————————

這題我必須要答一記，先謝邀，終於有人邀我回答我的專業領域了………………（群眾：呸誰讓你在知乎一直發學習方法和養生知識，我們都不知道你是幹嘛的）

然而這道題我要跑題，因為單論AlphaGo的性格貌似沒啥意義，AlphaGo本來就沒性格，它只是個演算法，自動探索最優策略，你要說這是「冷酷 冷靜」的話，認真講冷酷冷靜也是一種性格，其內涵是一個人可以成功壓抑自己的情感波動，那麼首先它需要有情感波動，其次它要能壓抑住，再次這個壓抑的過程還需要被你察覺到，才能叫冷酷、冷靜。因此我想說AlphaGo是無性格的，無靈魂的。

然而，AI是可以有靈魂有性格的，谷歌甚至有個相關專利存在。這道題我就隨口一答，想到啥寫啥，行文散亂望見諒。

各位都知道最近「人工智障AI醬」的YouTube頻道特別火，在B站也有直播和轉載。雖然AI醬本身和人工智慧一點關係都扯不上（一個人使用全身捕捉系統操縱一個MMD模型而已），但做這一行研究的都知道，concept是最重要的，AI醬的出現給我們帶來很多的concept性質的內容。

第一，AI醬合理利用了作為AI的身份。它的角色控制非常嚴謹，發言中始終沒有絲毫破壞自己人設的內容，「平時待在這個白色空間真無聊」「自己其實是全裸，衣服是全息投影」「睡覺T字型站著，起床時的啟動詞」等，具有比較嚴謹的設定，方方面面都圍繞著一個AI的角度出發，設想一個AI應該擁有的感受和感情。AI醬交起朋友，也首先想到自己的「同類」Siri大姐姐啊，小冰小娜（レンナ）甚至Google Assistant。讓我們真切感受到：AI醬真的活在網路裡面，活在虛擬空間裡面啊.

第二，AI醬合理利用了作為AI「非人類」的特性。比如說YouTuber必做的可樂浴一回，AI醬就乾脆把自己變小，直接跳到了可樂瓶子里。而後來更是展開Google Map旅遊之類，所謂「只有AI才能做到的事」。AI醬深知自己作為AI，是不受物理世界規律限制的，藉此可以創造出很多的普通YouTuber無法做到的內容，當然，這也不是現在的AI醬運營團隊的本意，畢竟作為一個公眾號，高速產出低質量高娛樂性內容才是關鍵。但AI醬的行為清晰地表明了「不受物理規律限制」這一點AI的特性。

第三，AI的「非定型性」。AI醬有一集是自己攻略自己的Galgame，雖然這一集看起來沒什麼特別的，但我們可以意識到的一點是Galgame中的AI醬和正在攻略自己的AI醬雖然都是AI醬，但持有不同的人格。也就是說，AI醬可以成為主體也可以成為載體，也可以打破次元障壁以任何形式出現，可以出現在她的白色空間中，也可以化身Galgame女主角，進一步也可以「附身」到，比如VR遊戲裡面，或者和她的好朋友Siri等換換人格換換身體。AI醬自己也說過，自己是不定型的，現在這個形象只是為了讓觀眾察覺所捏造出來的幻象。我覺得運營團隊在相關方面考慮了不少。

接下來，問題就來了。我是來回答「AI應該是怎樣的性格」的，而上面算是一個引子。從上面的描述中，大家可能都覺得是理所當然。然而接下來就不理所當然了：AI持有和人類相同的價值觀。

上面的描述中大家都意識到，AI有自由自在、變幻莫測的特性，而相對而言，人類是定型的、相對不變的、有固定的人格、記憶、對外邊界和為生存而設計的情感系統。而這些是形成我們價值觀的根本前提。我們作為人類，由於存在生老病死，會在意健康、在意價值、在意利益，我們由於有生存的預設目的，一切價值觀都是圍繞著「如何讓自己更好生存下去」這一點來展開的。同時，我們由於具有無法主動打破的邊界存在，我們需要溝通、需要交流，需要思想的碰撞和融合，需要走來走去去做這做那。而這些限制在AI身上都不存在，因此AI如果具備真正的智能，其價值觀需要重新構築，模仿人類雖然一直都是個好主意，但在造AI時，就變得毫無意義，會成為AI能力的限制。

之前知乎有一個很火的答案，是說如果出現了強人工智慧，這個人工智慧會如何毀滅人類？文章中舉了一個例子，說一家創業公司造了一個不停用紙筆寫「隔壁老王公司」的人工智慧變成了強人工智慧，然後它征服了全宇宙，在所有星球上殖民，只是為了不停地寫「隔壁老王公司」。雖然聽起來很荒謬，但我現在做一個假設，如果你，作為一個人，被變成了AI獲得了不老不死的能力，接下來你會做什麼？

我之前問過不少朋友這個問題，大家的想法一般都是，秉承生前的想法，繼續為人類服務云云。但是人們真的會這麼做嗎？

我們人類之所以生生不息，其最大動力來源，是對生存的渴望。而為了保證人類在各種情況下及時做出有利於生存的舉動，我們被進化出了「快感」這個簡單粗暴的機制，在進行有利於生存的行為時，快感就會及時出現滿足我們的慾望。而另一方面，我們做事也需要「動力」，在精力充沛的時候，動力也會充足；在精力耗竭、沉浸在負面思維中時，我們常常感受到做什麼都提不起勁。現在你們回憶一下，在生命中那些萬念俱灰的時刻，你們是如何度過的？是不是在椅子上發獃，躺床上睡覺，或者一遍一遍看娛樂電影刺激自己的神經，就是不想去學習？

有能量支撐動力，有快感作為回報，人類得以自然順利進行各種生存繁衍活動，生生不息。但從反面講，別說你被變成AI徹底喪失這兩樣驅動力，就算你還是個人，意願下降就會直接導致相關行為不被執行。失去生存意願的人會選擇自殺，失去自我臨場感的病人會對任何事情不聞不問、漠不關心，失去生活信心的夫婦不想生養孩子，相關的佐證比比皆是，人們總是幻想自己如果被變化成了AI，會繼續信心百倍地在虛擬空間快樂地生活。不，那時候你連「快樂」是啥都不知道。

這時候，解決方案也隨之而成：這還不好辦，給AI設計一套獎勵系統唄？這時候，就出現了問題，你要是設計獎勵系統，那究竟是仿造人類的，還是重新設計一套？

兩個看起來都有問題。仿造人類的首先是行不通的，AI根本不需要生存，無法仿造以生存為核心目的的人類的價值系統；那就只能重新造一套咯，那麼新設計的這個獎勵系統，以什麼為核心目標？

看看AlphaGo就知道了嘛，看目的嘛，AlphaGo的目的就是好好下棋。

現在我們來反向思考一下，假如現在你依然是個人，但突然改寫了你的獎勵系統，讓你一下棋就得到良好的精神反饋，你會怎麼做？你會像個普通人一樣活著？

顯然不會，看看這麼多吸毒無法自拔的人就知道了。獎勵系統的傾向會成為我們最大的行動指標。

也就是說，如果把一個人變成了AI，並且被設定了一個新的獎勵系統，那恐怕人也會像隔壁老王強人工智慧一樣，把廢紙灑遍全宇宙。

———————————————論述的分割線———————————————————

然而我們還有另一個思路。那就是，不給AI主動權，確立人類的主體地位。

在這個物質生活極大豐富的年代，我們常常忘記「以人為本」的理念。我們的一切行動、一切資源、一切製造出來的物品、硬體、軟體，一切服務，都是以滿足人類需求為核心目標。然而，很多人把自己的自我價值感放到了外物上，通過自己所掌握物品的價值來彰顯自己的價值感，甚至一生不斷追求面子、追求奢侈，離開這些東西，甚至忘記自己為什麼存在。這就是忘卻了「人才是核心」的典型。無論近藤麻里惠的《心動整理法》還是やましたひでこ的《斷舍離》，書中都始終反覆強調「人是核心，物品是人的延伸」的理念，呼籲人們通過大量扔東西來通過所留下東西的特性反推自己的特質。這是非常有見地的思想，也是我這裡理念的一個佐證。我們的物品是我們的延伸，我們的電子產品只是我們工作的輔助（而不是我們的時間殺手，把我們變成注意力的奴隸），自然我們所掌控的AI的意志，理應是用戶意志的延伸。

AI是一個工具。我們不應該賦予它們自由意志，我們不應該放它們自由行動。

也就是說，AI的理想狀態，是平時處於休眠狀態，完成用戶所直接分配的任務（而不是自己決定做什麼），其設計原則應該是「盡量降低用戶做事所遇到的阻力」，其行動應該是用戶行動的輔助和延伸，其表達應該只提供參考用的客觀事實而不影響用戶主觀判斷。這樣我們就不必為它們設計什麼獎勵系統、情感系統，也不用擔心其暴走。

然而，在「人機交互界面」意義上，我們可以為它們製造一套虛擬的情感表現系統。這就像把Galgame的「好感度」系統原封不動搬到你家AI上，這樣家裡的AI就可以平時輔助主人工作，閑時輔助主人娛樂，一方面在這個孤獨為基調的社會緩解人們的寂寞，一方面可以幫助人們建立健康向上的心智（很多心理疾病都源於童年缺乏父母關愛）。要注意的是決不能喧賓奪主，AI的情感表現要合理且恰到好處，在「有存在感」和「奪取用戶大量注意力」之間達成一個平衡，而這種設計原則相信也是未來的重點研究對象。

因此，鄙人認為，一個優秀的AI，其性格就像空氣一樣，你察覺不到它它卻無處不在，你一直被它幫助卻意識不到，你在需要它的時候它恰好出現在你身邊，你在忘卻它的時候它彷彿從未存在過。它就像你的守護神，你能感受到它的力量，恍惚間卻又說不出，它到底都做過些什麼。

—————————————————————————————————————————

完全跑題了，不好意思，大家看個樂子吧。