AI威脅未來人類社會？ 為AI設定的「二十三條軍規」 | 總編專欄

本文是《環球科學》總編、社長陳宗周先生撰寫的系列專欄「AI傳奇」的第十六回。隨著人工智慧在很多領域達到甚至超過人類的智能，「AI威脅論」的聲音漸漸響起。不少人擔心AI會導致人類失業，以及一系列倫理問題。對於AI的未來，人類是如何應對的？

陳宗周是《環球科學》雜誌社社長，《電腦報》創始人。

柯潔在烏鎮與AlphaGo的棋局已經沒有懸念，人們把目光投向AI與人類未來。

烏鎮內外

2017年5月23日，AlphaGo來到中國浙江烏鎮，與當今世界圍棋第一強者柯潔對奕。其實，這次三番棋的圍棋比賽已經沒有懸念。此前的上年末這年初，AlphaGo已經與全球頂尖圍棋手連下60盤棋，無一敗績。據說，柯潔曾面對當時化名為Master（大師）的升級版AlphaGo，兩戰皆負。在烏鎮，柯潔要戰勝又經過幾個月自我學習的AlphaGo，沒有可能。結局果然如此，AlphaGo以3:0輕取。賽後，代表人類作最後頑強抵抗的柯潔有感而泣，稱讚機器對手太完美了。

的確，AlphaGo在棋局中有著絕對的統治力，人類棋手沒有任何勝機。賽後，柯潔宣布，這是自己與AlphaGo最後的比賽。DeepMind也同時宣布AlphaGo退役，今後不再與人類比賽。人機圍棋大戰，棋局已經結束，AlphaGo將進入更廣泛更深入的AI領域。

烏鎮內外，全球媒體關注的焦點也超越圍棋，聚焦AI與人類的未來。

圍棋等博弈類遊戲，還只是AI能力的一次試驗。隨著AI這一輪強勁復興，在一個又一個領域裡，AI的卓越表現讓人驚艷，但新一輪的擔憂又出現了：AI會超越人類智能嗎？什麼時候超越？AI會威脅人類嗎？在一天天強大的AI面前，人類將何去何從？

貌似能解答這些問題的人，一個個適時出現了。2017年年初，牛津大學歷史學博士、以色列希伯來大學的歷史系教授尤瓦爾·赫拉利（Yuval Harari）的一本新書中文版一紙風行，書名叫《未來簡史》（Homo Deus: A Brief History of Tomorrow）。雖然冠以歷史，但全書卻是在描述人類未來，尤其是AI影響下的人類未來。書名中的拉丁文Homo Deus，意思是人神或神人，翻譯者處理為智神。作者的上一本暢銷書《人類簡史》講述作為智人的人類，如何創造了今天的輝煌，而新書則講述人類的新階段，即受到AI強烈影響的階段。書中有一個關鍵的、極端的、當然也備受爭議的觀點，那就是在AI影響下，人類的大部分可能變成無用階級，只有少數人進化成特質發生改變的智神（人神）。

《未來簡史》這個時候出版，自然引起了廣泛關注。儘管也受到了廣泛的嚴厲批評，如英國《經濟學人》雜誌尖銳抨擊《未來簡史》是「一部膚淺、華而不實的作品。」但這些批評似乎沒有影響書的熱銷，書中觀點，如認為無機演算法（機器演算法）會超越有機演算法（生物演算法，即人類演算法）、智人（今天人類）會失去統治力等等，都廣為傳播。

而美國發明家、未來學家雷·庫茲韋爾（Ray Kurzweil）在十多年前的《奇點臨近》（The Singularity Is Near: When Humans Transcend Biology）一書中，同樣對未來作出大膽假設。這本書不但預言AI會超過人類智能，還預言未來AI和人類會緊密結合，形成人機系統。他甚至敢預測具體時間，說21世紀40年代中期，這樣人機融合的奇點（突變點）時刻就會來臨。

如果仔細閱讀相關書籍，會發現名人及他們的暢銷書其實也並不完全是在描述黑暗未來。2017年1月新華社記者採訪尤瓦爾·赫拉利，直截了當地問他對人類未來是悲觀還是樂觀。他的回答是——總體樂觀，關鍵在於全球合作。對於人工智慧可能帶來的問題，最重要的是處理好人類和技術的關係，讓技術服務人類，而非奴役人類。而包括人工智慧問題、生物技術可能帶來的問題、氣候變化問題，都需要全球共同應對，因為沒有一個國家可以單獨解決這些問題。從歷史上看，人類總能直面挑戰。比如上世紀五六十年代，人們曾擔心核武器會毀滅地球，但最終，人類用智慧解決了這一問題，保持了總體和平的形勢。

如果赫拉利有著這樣的認知，也許與多數人的意見並不相左。但是，由於媒體的推波助瀾，名人們對AI未來發展的各種負面分析和預言更加集中和突出，使AI威脅論形成輿論漣漪，一波接一波擴散。

AI威脅論為什麼是錯的？

而主流AI專家學者，堅持反對AI威脅論。臉書（Facebook）AI實驗室主任、紐約大學計算機科學教授楊立昆（Yann LeCun），是深度學習的主要奠基者之一，他非常反感AI威脅論。 2014年4月在接受IEEE 《Spectrum》採訪時，他認為AI研究者在之前很長的一段時間都低估了製造智能機器的難度。AI的每一次新浪潮，都會帶來這麼一段從盲目樂觀到不理智、最後到沮喪的階段。

今天出現AI威脅論的盲目悲觀預言，很像是進入一片生機勃勃茂密森林的人，迷失了眼前的方向和路徑。如果能登上森林之巔遠望，回顧來路，遠眺前方，那結論可能完全不同。

歷史是一面鏡子。《互聯網進化論》作者、中國人工智慧專家劉峰博士這樣分析道：歷史上，我們一路在恐懼中走來，恐懼過日食、月食；新技術革命後，我們的恐懼更為頻繁，害怕過機器，恐懼過機器控制人類；害怕過火車，認為會破壞龍脈；害怕過電視，擔心永遠沉迷於節目中；害怕過千年蟲，會導致社會大混亂；現在開始恐懼人工智慧。擔心人類變為奴隸，甚至木偶，這恐懼依然是歷史上種種恐懼的延續。

是的，現在的AI威脅論，依然是人類未來不確定恐懼症的延續，每當重要的新事物出現時，這種恐懼症就會周而復始出現。而這樣的恐懼症，往往由於名人和智者一時或片面的言論而得以加重，甚至出現了AI會終結人類的囈語。

為AI發展作出奠基性貢獻的阿蘭·圖靈，既是智者，也是名人。他系統研究過機器能否思考、機器是否具有智能這類問題，並很早就預言過計算機的未來。圖靈1954年不幸去世後，母親莎拉·圖靈（Sara Turing）寫了一本影響很大的書，書中引用了圖靈最親近同事、英國數學家紐曼的夫人一封信。紐曼夫人寫道：「我記得大約是1948年，阿蘭同我丈夫坐在我家位於鮑頓的花園裡討論計算機及其未來動向。我未能參加這次討論，但不少話語傳入了我的耳中。突然我聽到一句話，使我不禁全身打顫。阿蘭沉思後說，『我推測當計算機發展到那個階段，我們將可能不了解它是怎麼工作的。』」圖靈對計算機未來的思考，不僅影響了在場的紐曼夫人，也曾影響了那一代人。但是，快70年了過去了，我們看到的是什麼？有人還會為計算機的未來恐懼得全身打顫嗎？智者的預言失效，這不是第一次。

今天的AI可能還是胚胎

對於今天的AI發展階段，著名華裔女科學家李飛飛2017年5月在谷歌 I/O 2017 大會上，曾經有形象的描述。她認為，過去的 60 年，可以稱為「in-vitro AI」，或者「AI in vitro」（in vitro即試管內、生物活體外）階段。這一階段為AI研究的基礎問題以及眾多子學科打下了基石。後者包括機器人、計算機視覺、自然語言處理、語音處理、生物保護學等等。這同樣是一個研究人員們不斷理解數據、尋找工具集的過程。

李飛飛說，2010年左右是一個分水嶺。這時，三個不同領域的進步終於達到了一個前所未有的里程碑高度：統計機器學習領域工具的成熟、互聯網和感測器帶來的大數據、摩爾定律預測的硬體計算性能提升。這三者的合力，把AI從「in vitro」階段，推上了一個被稱為「in vivo」（in vivo即生物活體內，也可以理解為胚胎階段）的全新階段。

「AI in vivo」，是一個AI技術向世界做出實際貢獻的階段。當下這個時間點，還僅僅只是個開頭。在李飛飛眼裡，這是一個歷史性的時刻：AI終於開始發揮現實影響力，改造無數個行業。

李飛飛強調：一切剛剛開始。現在AI領域的工具和革命性技術，僅僅是廣袤海洋中的幾滴水。剩下的可探索空間，即我們能藉助AI實現的事情，幾乎是無限的，再怎麼誇大也不為過。對此，如果為此感到興奮激動，或許是應該的——有許多工作等著我們去做，來實現「AI in vivo」。

李飛飛的上述描述非常準確和精彩。如果把AI比作試管嬰兒，已經經歷了60年漫長試管階段，而放入人類社會這一巨大的生物體內成長的胚胎階段才剛開始。這時的AI具有蓬勃生長的無限活力，但目前還只是充滿希望的胚胎。

AI專家們比較一致的觀點是，今天的AI在感知和認知方面已經取得了長足的進步，常常超過人類智能。而在情感和自主意識方面，AI與人類智能還有非常大的差距，甚至可以說還存在鴻溝。

機器智能和人類智能的這道鴻溝，能不能填平和什麼時候填平，也是人類長久探討的問題。

樂觀的信號出現

即使在這樣的階段，人類也高度重視AI給今天和未來帶來的影響。例如，AI和機器人應用最大的影響，是改變人們的工作崗位。工作崗位的變遷，在人類社會發展中一直存在，但近年來AI威脅論者不斷地渲染和誇大，AI和機器人會奪去人類的飯碗。於是，對工作崗位變遷的研究，是重大社會課題之一。

關於AI影響工作崗位的研究報告一個接一個地出台，以前的報告常常含有警示意義，提醒人們要高度重視這一問題。但是，樂觀的報告也開始出現。2017年4月，瑞銀財富管理推出了《亞洲前曕：人工智慧如何塑造亞洲新面貌》研究報告。報告大膽預測，在AI驅動創新的潮流下，亞洲地區中長期將有3000萬~5000萬個工作崗位受到衝擊。國內一家知名媒體據此製作了這樣的標題——《瑞銀：人工智慧將威脅亞洲3000萬個工作崗位》。其實，報告中還有更重要的信息——隨之而起的新工作機會將能減輕此影響。

瑞銀估計，至2030年AI每年為亞洲貢獻的經濟價值將高達1.8萬億~3.0萬億美元。而AI對金融服務、醫療保健、製造、零售和交通等行業都將產生巨大影響，這些行業加在一起，相當於當前亞洲GDP的三分之二。

瑞銀認為，AI會影響大量的崗位。但從總體上看，AI不大可能導致就業危機。亞洲員工整體生產力會隨著AI的崛起而顯著提高，將有充分的機會來提升技能，並轉向其他創造性領域。最終AI會在亞洲創造數百萬個新的就業機會，因此凈失業率應會大幅降低且相對可控。

瑞銀的報告給人以啟示，AI是會大量影響工作崗位，但如果應對得當，社會的整體就業情況反而會改善。瑞銀的研究報告，可以作為對尤瓦爾·赫拉利們的回應。

人工智慧會讓大量人類失業嗎？

工業革命以來的經驗與事實也可以作為佐證，機器的廣泛使用使農業和手工業工人大量減少，但全社會就業崗位卻大量增加。信息技術革命也是如此，水銀瀉地般滲透進各行業的信息技術，影響了無數舊的工作崗位，但我們也親眼目睹，新的崗位源源不斷產生出來。有人曾經計算過，如果沒有數字程式控制交換機，一半以上的美國婦女從事電話接線員工作還忙不過來。但今天她們在哪裡？在另外的崗位上。這是新技術調整工作崗位的一個典型例子。歷史的鏡子，可以照見AI的未來。

未雨綢繆的「二十三條軍規」

人類更重大的關注點是AI倫理與相關法律，這是關於AI的根本性問題。聯合國教科文組織一直重視技術倫理的研究。2016年12月，教科文組織的顧問機構世界科學知識和技術倫理委員會（COMEST）新技術研究的一個工作小組，發布一份報告草案，報告審視了使用自動機器人及人機互動的相關倫理問題。報告指出，快速發展的高度智能自動機器人，很可能會挑戰現有的道德劃分標準。報告堅定地指出，機器人行為即便再複雜、再智能、再自動化，仍然是由人類決定。由於設想未來機器人可能會變得更高級（可能達到能通過經驗學習來設定自我的程度），因此，它們的規則系統會成為值得認真考慮和反思的倫理問題。報告還認為，如果機器人的自主性發展到有必要對其進行倫理制約的程度，可以通過將專門的倫理代碼編程到系統中，來防止它們做出危害性行為（如威脅人類和環境）。報告特別指出，考慮到當代機器人的複雜性，當機器人功能紊亂而傷害到人類的情況出現時，誰應該承擔倫理和法律責任是一個新的研究領域。

聯合國教科文組織在研究和建立全球AI倫理方面責無旁貸，這項工作也應該由全人類共同參與和擔責。

2017年1月，在美國加州阿西洛馬召開的「阿西洛馬會議」（the 2017 Asilomar conference）上，特斯拉CEO伊隆·馬斯克、DeepMind創始人戴米斯·哈薩比斯等844名AI和機器人領域的專家們基於對AI迅猛發展的深切關注，聯合簽署了「阿西洛馬AI原則」（Asilomar AI Principles），這一文件也稱為阿西洛馬宣言。宣言呼籲全世界的AI工作者遵守這些原則，共同保障人類未來的利益和安全。

阿西洛馬AI原則分為三大類23條。第一類為科研問題，共5條，包括研究目標、經費、政策、文化及競爭等；第二類為倫理價值，共13條，包括AI開發中的安全、責任、價值觀等；第三類為長期問題，共5條，應對AI造成的災難性風險。這23條原則，也被稱為「二十三條軍規」。這樣的比喻借用自美國著名作家約瑟夫·海勒的黑色幽默小說《第二十二條軍規》書名，含義是為AI的不規範或非法行為設置不可逾越的障礙和禁區。

不妨對比一下我們熟知的美國著名科幻作家阿西莫夫的機器人三定律——第一定律：機器人不得傷害人類，或因不作為使人類受到傷害；第二定律：除非違背第一法則，機器人必須服從人類的命令；第三定律：在不違背第一及第二法則下，機器人必須保護自己。我們發現，出發點都相同，阿西莫夫的三定律更簡潔明了。

但是，阿西洛馬AI原則意義更為重大，反映出人類AI應用日趨成熟的同時，面對的人機倫理問題更為複雜。因此，對AI今天和未來的思考更加成熟和周密，已經在倫理和法律上認真探討對AI進行實際有效的管控。阿西洛馬AI原則是人類進入AI時代的重要宣言，是指導人類安全開發和應用AI的重要指南。因此，阿西洛馬AI原則受到AI從業者和全社會的共同支持。

上述的研究報告和宣言，也許是人類行動的第一步。對AI時代人機倫理的探討與研究，以及相關法律的制定與完善，將是一項永不休止的基礎性工作。儘管AI還在胚胎階段，但人類對它的未來，已經未雨綢繆，做好周密的準備。

所以，AI是人類可靠的智能工具，也是親密的朋友，我們完全有信心和能力，讓未來美好家園裡，永遠不會出現終結人類的機器惡魔。

AI傳奇專欄回顧：

第十五回 | 形形色色的機器人

第十四回 | 伊拉克戰爭引爆的無人車浪潮

第十三回 | 80後締造的無人機帝國

第十二回 | 虛擬機器人崛起

第十一回 | 數據重塑世界

第十回 |機器神醫創造的精準醫學奇蹟

第九回 |AI掀起教育史上一場數字海嘯

第八回 |他為人類開啟第二雙眼睛

第七回 |機器翻譯為人類重建巴別塔

第六回 | 語音合成，在校生書寫訊飛傳奇

第五回 |深度學習登台語音識別

第四回 | 助飛的雙翼

第三回 | 「深度學習之父」傑夫·欣頓

第二回 | AI的酷暑與寒冬

第一回 | 2016，AI春暖花開

轉載請聯繫：newmedia@huanqiukexue.com