人工智慧專家在害怕什麼

06-24

美國趣味科學網站7月14日發表阿倫·欣策的文章，談到了作為一個人工智慧的研究者，對人工智慧有了哪些恐懼。

首先，是對於未知的恐懼。他說，我們閱讀認知科學的最新研究成果，然後將其轉化成一種演算法，並將其添加到一個現有的系統中。我們在不了解智能和認知的情況下試圖設計AI。但是，隨著AI的設計變得更複雜，計算機處理器的速度更快，它們的技能也將會提升。這將令我們賦予其更多責任，即使這意味著出現意外的風險激增。我們知道「人非聖賢孰能無過」，所以我們很可能根本無法創造出一個真正安全的系統。

其次，是對於濫用的恐懼。他說，我們發展人工智慧的目標是希望能夠創造出人類水平的智能。在這一過程中，我們將通過進化找到並消除錯誤和問題。一代接一代，這些機器對於出現在前幾代身上的錯誤會處理得越來越好，從而能在進入現實世界之前消除那些可能產生意外的隱患。同時，我們還可以利用進化來影響人工智慧系統的道德標準，賦予那些展示出善良、誠實和同理心的機器以進化優勢，從而保證我們能夠研發出更多服從的僕人或是值得信賴的夥伴而非無情的機器人殺手。但是，儘管神經進化可能會減少意外結果出現的可能性，卻無法完全避免，一旦意外出現，又遭到濫用，後果將十分可怕。

再次，是對於社會不公的恐懼。他說，機器人正在各個領域取代就業。有朝一日，或許所有的人類工作都將由機器人完成，包括如何去製造更加智能的機器。如果我們不能創造出一個環境，讓其中的AI變得能夠使所有人受益，就會出現擁有機器的人更富有，沒有的人更貧窮的狀況，這樣，我們中那1%的人與其他人的差距將會越來越大。

最後，是對於機器反撲人類的恐懼。他說，當AI超越了人類的智慧，當有一個（或幾個）超級智能系統發現其不再需要人類時，面對一個能夠做人類永遠做不到的事情的超級智能機器，我們如何才能提出一個具有說服力的論點，證明我們的存在是有價值的？一直以來，我們這個人類的群體都存在著很多的錯誤：我們彼此仇恨，相互發動戰爭，沒有平等地分配食物、知識和醫療求助，還污染地球。即使沒有其他外部因素比較，我們被允許存在的理由都在逐漸減少。現在，比我們更加智慧理性的機器出現了，我們應當存在的原因更加難找。幸運的是，根據現在AI發展的速度，我們還有50——250年的時間可以準備。在這期間，我們可以聯合起來，探討出一個關於超級智能為什麼不應當消滅我們的好答案，雖然，這將是一件非常艱難的事。所以，無論是個人還是社會，我們所有人都需要為那個噩夢般的場景做好準備，利用僅存的時間來證明為什麼我們的創造物應該允許我們繼續存在。同時，我們也應該意識到，超級智能不僅會構成對我們的人身威脅，也會構成對政治和經濟的威脅。如果我們不先找到一種方式來更好地分配財富，使人工智慧的勞動力不會僅僅服務於少數佔有著生產資料的人，我們離消失的距離可能會更近。

面對人工智慧專家的預測，真是心有戚戚焉。感覺最近一段時間，世界物理學研究又在經歷一個快速發展的階段，我們正在無法控制地向上帝隱身的地方挺進。大洪水過後，是耶和華他老人家親手毀了我們的巴別塔，難倒這一次他就肯眼睜睜地看著我們將相對論和量子力學融合，實現宏觀世界和微觀世界的統一，從而窺見宇宙的本質？若是這樣，人工智慧突飛猛進的發展就真的好解釋了：人類確已過時，上帝已通過我們之手，設計好了新的代言人。