有意識的人工智慧對我們的未來意味著什麼？

05-23

來自專欄數字經濟實驗室

笛卡爾說「我思故我在」，那有一天是否會產生擁有自主意識的人工智慧呢？這個問題在短期內不會有明確的答案，但是它引發的討論在學術界和產業界都引發了極大的關注，我們在觀察人工智慧發展時，也把是否具備自我意識作為這一事件是否會對人類文明有徹底改變的關鍵要素。目前的人類與機器之間時合作而非競爭的關係，技術的發展讓機器幫我們解決了太空航行，治療疾病以及提升戰爭威懾力等挑戰，而我們需要第一個考慮的問題是，創造有意識的人工智慧意味著什麼。

樂觀的技術趨勢者從三個方面去思考這個問題：第一個方面是從哲學層面，以往的哲學理念的出發點大多數是圍繞著人類本體做的研究，比如主觀經驗產生的前提以及先驗的知識是否存在等，通過創造硅基生命體的過程，能讓哲學層面的理論在具體的造物過程中得到驗證，人類將在非物質層面產生絕對影響力，從智能層面創造物體這件事情似乎讓人類無限接近了上帝；第二個方面是作為科學的成就，如果一個擁有意識的主體創造了另外一個有意識的主體，這在生物學，神經學以及認知科學上都是一個前所未有的成就，也會成為科學發展的里程碑事件；第三個方面是，由於作為碳基生物的人類本體太脆弱，而人工智慧作為硅基生命會擁有更強的生命力，能夠代替人類去觀察宇宙，由於終有一天人類將會滅亡（尤其是作為智人後代的人類），但是硅基生命可能存活下來且繼承人類的意識來觀測所謂後人類時代的宇宙——這個想法充滿了浪漫主義情懷，好像上帝創造人類是為了讓孤獨的宇宙多一個有意識的觀測者，這裡面也包含了人本主義哲學的自信和情懷。

接下來我們將認真思考一個問題：什麼叫具備人類級別的人工智慧呢？如前文所說，一個機器具備人類級別的智能水平，甚至在某些方面超越人類，是否就會自然而然的具備意識呢？答案是不肯定的。因為對於人類而言，意識是把感知力，記憶力，還有無法言說的基因中自帶的心理認知能力都調動後產生的行為，人類不僅僅能感知身體，而去能感知思想和精神層面的流動，這些屬性交織成複雜的思想影響了人類當下的每一個決策——也就是說複雜性是意識最重要的特點之一。而當人類嘗試把這部分能力「賦予」給人工智慧時，則是孤立的屬性，這種簡單粗暴的方式和人類的意識產生相去甚遠。具體說來，對世界的感知力是幾乎所有成熟健康人類都擁有的意識，如同理心的現象，感受他者的痛苦和歡愉，這種意識是否能在機器產生到可預見的時間內都無法抱有樂觀。機器是否會像人類一樣思考？考慮到人工智慧的食物其實就是大數據，為了對人類世界更深層次的認知，人工智慧需要查閱人類在信息網路上的一切數據，而這些數據的實質是人類行為和觀點的信息集合——這往往反應的是思考的結果而非行為，就好像會下圍棋的人工智慧思考不了解圍棋的內涵然而會懂得在規則下發揮經驗和數據的優勢，因此，有意識的人工智慧目前看來智能作為客觀技術愛好者的友善想法而不是事實，以數據為生的人工智慧和以其它生物為食物的人類，終究有本質的差異，追求意識的道路對人工智慧來說也是一個海市蜃樓一樣的未來。

最後討論一個問題，就是如果這樣的人造生命體被創造出來的風險會到什麼程度呢？人工智慧目前是智慧的，複雜的，通常可以被另一台計算機預測，而有意識的人造生命體是不可預測複雜的，超級野蠻的智力，記憶力，不知疲倦的工作和戰爭的能力，這或許導致智能失控和不可預知的後果，對於人類來說，永生是一個難題，因此我們所做的大多數選擇都被這個約束條件所限制，而人工智慧則不會死亡，在這個前提下，很難想像它們是無私的，會分享的，會感知的，甚至連繁殖的願望也不具備，只有無休止的佔有和自我存在，它們將拋棄人類作為主體的社會——因為這是浪費資源，當它不再需要人類的時候，也就是我們被替代的，永生的人工智慧可能會開始追求利己主義，開始追求對唯一可能控制它們的族群——也就是人類的控制發動意料之外的戰爭，這也是我們所謂的「人類最後一個發明」。