人工智慧：引出諸多可期可慮的社會課題

劉奇

學者·語粹

●如果說IT時代是信息爆炸的時代，DT時代是知識爆炸的時代，那麼AI時代就是智能爆炸的時代。

●如微積分、金融市場策略、翻譯等我們覺得困難的事情，對於電腦來說都十分簡單；如視覺、動態、移動、直覺等我們覺得容易的事情，對電腦來說卻太難了。

●從理論上看，在所有能夠被規則化、系統化的領域，人工智慧都有可能取代人類，甚至在一些人類以前認為無法規則化的領域也能大展身手，已經很難說還有什麼領域是人工智慧的禁區。

●創造更平等未來的關鍵之一是數據，人工智慧的進步，依賴於對大量人類活動的在線和離線數據的獲取與分析。人類必須完全掌控自己創造的這些大數據，才能佔據對人工智慧的主動權。

●要解決人工智慧帶來的問題就需要一大批有知識、有技術、有良知的社會學家、自然科學家、工程技術人員和政治家進行世界性的協作、協調和協商，用一套共用的語彙體系和一個共同的概念框架，從科學的視角找到平衡點，制訂出一系列能處理技術、治理和倫理之間相互關係的政策。

2016年被稱為人工智慧元年，阿爾法狗（AlphaGo）橫空出世，一聲劃時代的「狗叫」，有可能顛覆人類主宰世界的現實。人們突然發現，一個新的物種誕生了，把我們帶進了AI（人工智慧）時代。人類從IT（信息技術）時代進入DT（大數據云計算）時代只用了十幾年時間，然而當我們還在討論DT浪潮時，AI（人工智慧）時代已經撲面而來。如果說IT時代是信息爆炸的時代，DT時代是知識爆炸的時代，那麼AI時代就是智能爆炸的時代。人工智慧不是互聯網的一部分或一個階段，而是堪比工業革命的一個新的技術革命，而且會持續很長時間。目前，AI已經應用到人類生活的各個領域，像防火、看病，農業上的病蟲害測報、天氣預報、無人機植保、播種等，尤其在計算、檢索、記錄、下棋、記憶等方面，AI已經大大超越人類。人工智慧是一個嶄新的技術前沿，它具有急劇性、顛覆性和不可知性；它正在打破世界秩序，並締造一個新的秩序；它將帶來的是一輪我們還不能完全理解的經濟、政治、社會、文化的變革，會滲透和改變現有的所有行業；它或許會改變人的生命，讓人生永恆；它更有可能改變人作為人的界限和意義。

人工智慧的發展現狀

AI的概念最早於1956年由美國的一批科學家提出，上世紀60年代人工智慧進入研究階段。先要說清楚，不能一提到人工智慧就想到機器人。機器人只是人工智慧的容器，機器人有時候是人形，有時候不是，人工智慧是機器人體內的電腦。如果說人工智慧是大腦的話，機器人就是身體——而且這個身體不是必需的，比如人臉識別、無人駕駛，這些都是人工智慧範疇，但不一定有機器人的外殼。從目前全世界研發現狀看，人工智慧有如下幾個特徵。

特徵之一：從類型上看，人工智慧按能力可分為三類。

第一類是弱人工智慧，即擅長於單個方面的人工智慧。比如我們手機的語音助手、導航系統、智能翻譯、汽車上控制防抱死系統的電腦，甚至包括AlphaGo都是弱人工智慧。AlphaGo雖然能戰勝李世石，但你若問它跟李世石交手後是什麼感覺，它就答不上來了。

第二類是強人工智慧，即是人類級別的人工智慧，在各方面都能和人類比肩，能夠進行思考、計劃、解決問題、抽象思維、理解複雜理念、快速學習和從經驗中學習等操作。達到這一階段還有很多技術難題要攻克。首當其衝的就是人類對自身大腦運作方式還不是很清楚。這裡我舉兩個例子比較一下：造一個能在瞬間算出十位數乘法的計算機非常簡單，但造一個能分辨出一個動物是貓還是狗的計算機就極端困難了；人類早就造出能戰勝國際象棋冠軍的電腦，但要造一個能夠讀懂六歲小朋友的圖片書含義的電腦很難。簡而言之，如微積分、金融市場策略、翻譯等我們覺得困難的事情，對於電腦來說都十分簡單；如視覺、動態、移動、直覺等我們覺得容易的事情，對電腦來說卻太難了。

第三類是超人工智慧，知名人工智慧思想家尼克·博斯特羅姆把超人工智慧定義為「在幾乎所有領域都比最聰明的人類大腦要聰明很多，包括科學創新、通識和社交技能」。人工智慧革命是從弱人工智慧，通過強人工智慧，最終到達超人工智慧的旅途。這個階段也被稱為人類智能（HI），這是改變人類文明進程的「奇點」，未來學家雷·庫茲韋爾認為將出現在2045年前後，這個學派被稱為「奇點說」派。特斯拉CEO埃隆·馬斯克已成立一個團隊致力於這方面的實踐，試圖把一個叫神經織網的東西嵌入人腦，實現人與機器的結合，實現思想的任意上傳或下載。這項頗有爭議的「腦機介面」技術目前遇到的問題有兩個：一是要發明出一種新型電子材料，它要足夠小，足夠軟，可以用注射器注射到人的大腦中，然後在大腦中展開成為一個電極網路，成為記錄神經元活動的多個電極；二是要破解神經元的語言。

特徵之二：從研發階段看，人工智慧的發展有三個階段。

第一個階段是擁有自主意識，目前各國研發的機器人只能根據人類下達的指令去工作，下一步的研發方向就是讓它們擁有自主意識。

第二個階段是擁有情感意識，未來人和物的交流方式、人和工具的交流方式，不再是人學習工具怎麼使用，而是機器、工具學習人的意圖，讓人和機器人的對話變成一種自然語言的對話。這就提出了三個問題，第一個是倫理問題，就是有情感意識的仿生機器人到底有沒有「人權」？第二個是生物人會不會與仿生人產生情感？第三個是人工智慧覺醒了怎麼辦？

第三個階段是擁有自覺學習意識。如果機器人有了自覺學習的意識，就會徹底覺醒。有人預測，那時再強大的人類社會也無法對抗覺醒後的機器人社會，人類將被毀滅或者奴役，《人類簡史》可能成為《機器人簡史》的幾頁序章。

特徵之三：從重點領域看，當前人工智慧研發著重主攻四個領域。

第一個是人臉識別和語音識別。目前，人臉識別已經做到跨代和跨年齡識別，即在海量的人臉中識別出父子等血緣關係和通過測試一個人兒時的相片就能準確找到測試人的現照。2017年「五一」期間已經有上百家旅遊景點應用人臉識別技術檢票，購票時只需讓機器識別人臉，進入景區時就可以不用排隊檢票直接入場。語音識別方面，機器語音識別的正確率只比人類速記差0.1%，人的速記正確率是95.5%，機器已經達到了95.4%。

第二個是仿生人。2013年2月，英國製造出了世界上第一個仿生人，名為「雷克斯」。外表上看，雷克斯有血有肉，會說笑話，與人類相似；內部構造上，它也有胰腺、肺、脾臟、耳蝸、視網膜等人造器官，甚至還有人工血液循環系統，幾乎達到以假亂真的地步。專家預測，再過十年左右，擁有自主意識和情感交流能力的仿生機器人就將誕生。仿生人技術還有一個特點，它可以對人體衰竭的心臟、腎臟、胰腺和脾臟等進行替換，從而解決世界範圍內捐贈器官不足的問題。當然，這涉及倫理問題，仿生人有沒有「人權」？

第三個是無人駕駛汽車。這個領域現在主要的技術難題都已經解決，量產的難點主要在三個方面。其一，探測器價格太高，目前售價幾萬美元，需要降到幾百美元才能進入量產階段。其二，當人機同時操作時，如果人類駕駛員違反交通法規行駛，會影響機器的判斷，引發交通事故。其三，一輛無人駕駛汽車就是一台裝了4個輪子的電腦，如果遭遇黑客攻擊，也會危及人身安全。這些問題預計一兩年內即可解決，由此可能引發多元的社會震蕩：一是全世界將有幾千萬職業駕駛員失業；二是全世界所有的汽車生產廠家都將推倒重來；三是無人駕駛技術將使共享汽車產業爆髮式增長，最終家庭都不再購車；四是便利的共享交通使人們出行量大大增加，導致城市消費大量外溢，鄉村成為生活的熱點。

第四個是醫療。「沃森先生」是美國IBM公司研發的超級計算機，主要應用在腫瘤診斷領域，它存儲了200多部腫瘤專業領域的教科書，超過300種醫學期刊以及1500多萬條腫瘤文獻的關鍵信息和臨床試驗中的60多萬條醫療證據。它可以根據患者的病症、病史和診查數據，自動搜索海量的病例和醫學圖書、論文資料庫，進行對比匹配，得出診斷結果，並給出治療方案。

人工智慧的五大優勢

一是經驗豐富。人只有自己的經驗積累和從其他人及書籍中學習到的一些經驗，而機器則可以儲存人類的所有經驗，AlphaGo、Master等戰勝李世石、柯潔等圍棋大師就是典型的例子。人工智慧可以跨越時空，在縱橫兩個層面掌握人類的經驗積累。在縱向上，掌握古往今來全人類的歷史經驗。比如在醫療領域，矽谷已經研發出超出人類頂尖水平的看病機器人，它掌握了人類所有的病例，通過綜合歸納就可以判定患者病情，一個醫生一生中最多看上萬張X光片，但是機器人可以一次看幾百萬張。在橫向上，人工智慧可以模仿具體人的風格進行創作，如琴棋書畫、詩詞歌賦、小說散文、學術研究等。有一首題為《畫松》的詩：「孤奈凌節護，根枝木落無，寒花影里月，獨照一燈枯。」它就是由人工智慧創作出來的。人工智慧不僅可以學會句式結構，還可以掌握不同風格，如果把魯迅的著作給機器人「喂」一遍，它寫出來的文字一定是魯迅風格的。從理論上看，在所有能夠被規則化、系統化的領域，人工智慧都有可能取代人類，甚至在一些人類以前認為無法規則化的領域也能大展身手，已經很難說還有什麼領域是人工智慧的禁區。

二是反應敏捷。人工智慧計算的數字都是天文數字，反應的速度超乎人類想像,而且更新迭代的速度特別快。今天的一部普通智能手機都比上世紀80年代的超級計算機計算速度要快不知多少倍，我國的天河二號超級計算機的運算速度是每秒3.4億億次，而中科大潘建偉團隊研究的光量子計算機又快了不知多少倍。以前科學家窮盡一生都難以做到的事情，交給人工智慧瞬間就能解決。以制抗癌藥為例，過去生物科學家預測一種化學結構可能有效，便逐個試錯；現在則把大量已成功開發的葯的結構輸入到機器，機器通過海量學習、反覆試錯，藥品研發速度便可提升很多倍。

三是默會技能。人類絕大多數技能都只能意會，難以言傳，比如開汽車、騎自行車、繪畫、書法、寫書、料理等，都只有從實際訓練中掌握。這種默會技能機器人可以用機器語言去學習理解，而且還善於掌握這類技能。英國的一家公司已經發明了一個「廚房+廚師」的機器人，冰箱、灶台、烤爐等各種廚房設備都合併到機器人中，不管是做麵包還是做西餐、中餐，都可以交給機器人完成。現在，很多人工智慧都體現了這種默會學習能力，給某個人工智慧機器編程的人可以完全不懂這件事，只要有這個行業的數據，剩下的交給機器自己去學習。

四是群體學習能力。一台機器學會一種知識，馬上可以通過網路不走樣地傳遞給其他機器，無數機器人照單全收。Google做了一個實驗，讓機械手學習去抓不同形狀的東西，有圓的方的長的短的，機械手一開始抓空了，下一個動作就換一個姿勢，這就是機器學習的過程。如果是20台機械手一起學，時間就是原來的1/20。也就是說，學習一個超級複雜的東西，人類可能要學很多年，而把10萬台機器放在一起，只要一分鐘甚至一秒鐘就學會了。

五是永不疲勞。人腦在穩定性和可靠性上跟電腦沒法比。人吃五穀雜糧會生病，工作時間長會累，要吃喝拉撒、要睡覺休息。可是，從一般意義上說，電腦完全不存在這些問題，可以全天24小時、一年365天處於峰值水平運行。

人工智慧的福與禍

人工智慧是福是禍，現在眾說紛紜。樂觀派認為，人工智慧將人類從辛勤的勞動中解放出來，人類終於可以把生命消費在美好的事物上了。從這個角度來看，人工智慧可以給人類帶來以下幾個方面的福利。

一是把大多數人從勞動中徹底解放出來。有人預測，占社會1%的精英將成為「神人」，所有的事情都由這些「神人」所設計的機器人完成。另外99%的人將成為「閑人」，他們由人工智慧創造的社會財富保障其生活，只做自己感興趣的事情，不再需要為了生計再去勞作。

二是「數字勞動力」可以提高服務質量，降低服務成本，使服務個性化。

三是改變「不勞動者不得食」的人類社會基石。不勞動者照樣可以豐衣足食，由1%的「神人」創造出極豐富的社會財富，用一個合適的社會分配製度讓99%的「閑人」盡享生活的樂趣，只要不違法、不侵犯他人，可以盡意而為。

四是人類想像中的「烏托邦」因為AI技術成為現實，這是一個嶄新的社會課題。

在人工智慧帶來的誘惑面前，有一批人始終保持著對人工智慧的高度警惕。包括比爾·蓋茨、史蒂芬·霍金、馬斯克在內的很多人都對人工智慧的發展提出了擔憂。未來，機器很可能將人類從勞動中解放，但也很可能出現人類的生存反過來遭到機器這個人類創造物的威脅，人類將面臨前所未有的變革，需要主動做出改變去迎接AI時代帶來的問題和挑戰。具體而言，主要有以下三個方面問題。

第一個問題就是精英結盟。具體而言就是資本精英和知識精英結盟，變成了「神人」，「二八定律」將被打破，世界將只有1%的「神人」和剩下99%的「閑人」，如果制度變革滯後，很可能造成富者巨富、貧者赤貧的嚴重兩極分化，帶來許多社會問題。

第二個問題是大量失業。過去的技術革命都有新的技術替代，比如英國的工業革命雖然被形容為「羊吃人」，但新的技術也造就了新的就業機會，失去土地的農民至少還能到城裡當紡織工人。而人工智慧革命就不存在職業轉換了，所有工作都可以由機器人代替，人類徹底沒事可做。牛津大學的一份報告稱，到2033年，很多行業會徹底消失。

第三個問題是倫理問題。1956年，人工智慧之父馬文·明斯基就提出了一個著名觀點：「人不過是肉做的機器，而鋼鐵做的機器有一天也會思考，人與機器的邊界將不復存在，未來世界將人機共存。」這個觀點一旦成為現實，一系列的倫理問題就會接踵而至。有自主意識的機器人完全符合生命的一切特徵，它算不算一個新的生命物種？它能否被人格化？它有沒有隱私權等人權所對應的「機器人權」？人類可不可以傷害人格化的機器人？機器人犯罪怎麼處罰？比如無人駕駛汽車撞人了，應該由誰來承擔責任？由車主承擔？由安裝自駕系統的汽車製造商承擔？還是由編寫軟體的程序員承擔？又該如何實施懲罰？

以色列作家尤瓦爾·赫拉利在《人類簡史》中提出了一種生命的概念，即以能夠自行獨立演化的計算機程序為代表的無機生命。如果這一概念成真，那麼程序算是一個人嗎？如果我們刪除了這個程序，算是謀殺嗎？我們還可以進一步假想，如果我們將自己的大腦整個備份到硬碟上，再用計算機來讀取運作，讓計算機像我們一樣去思考和感受，那樣的計算機是我們嗎？或者算是別人？如果備份了我們的大腦記憶的計算機控制了我們，到底算是我們的永生還是人類的滅亡呢？著名科技作家凱文·凱利寫過一本書叫《科技想要什麼》，提出一個觀點說科技其實是一種生命形態，它符合生命的一切特徵，人類只不過是科技的父母，是它生命第一個階段的保育員，緊接著它會踏上自己的生命演化的進程，人類就再也控制不住科技了。

第四個問題是價值觀問題。人工智慧時代，人都不一定再是真人了，還要不要追求真善美？真善美的外延和內涵是什麼？新的標準又是什麼？比如利用技術可以把人類大腦中痛苦的記憶刪除，留下的都是美好的記憶，這是不是人類的自我欺騙？失去痛苦記憶的人又如何分得清好壞真假？

第五個問題是哲學問題。新陳代謝是自然規律，高度智能化的機器人提供服務，使人類不再需要靠結婚來繁衍後代，人類的正常延續將會中斷。同時，高度發達的醫學可以讓人長生不老，人若不死，生有何意義？總之，從哪兒來、到哪兒去的人類終極哲學命題將面臨挑戰，人們的思維方式需要重新調整。推演到地球生命的進化，人類是從原始的有機物到單細胞，再逐步到靈長類動物，並且發展出超越其他一切生物的智慧，這條進化路徑是唯一的嗎？AI告訴我們，如果有合適的條件，極有可能還會有其他生命的進化，並且產生不一樣的進化結果。這也說明人類離最頂級的生命形態和智慧還有很遠的距離，也很可能不是唯一可以進化到頂級形態的生命。

如何應對人工智慧的崛起

著名科學家霍金曾表達對AI崛起的警惕和擔憂，他認為，各國應該共同採取行動，甚至組建「世界性政府」，監管和控制AI技術的無序而快速的擴張。2017年2月，歐洲議會就一項提案進行投票，提出要設計一套全面法律，界定人工智慧帶來的責任和道德問題。關於機器人的定位問題，提案提出要把機器人定義為「電子人」，也就是說把這些機器當成某種特殊的人，而且建議新機器人要登記註冊。歐盟基本權利憲章里的「人權、尊嚴、平等、知情權和隱私」等原則也將被考慮賦予機器人。在設計層面，提案提出兩點建議：一是設計者應該確保機器人有一個緊急切斷裝置，在必要的時候可以將其關閉。二是要確保機器人在使用時沒有風險，使用者不必擔心受到身體或心理上的傷害。在倫理層面，提案提出機器人不得用於武器和軍事用途，既要防止機器人傷害人類，也要防止機器人為它們主人的利益最大化而行事。提案還提到涉及人工智慧破壞行為的保險問題，未來機器人的生產者和所有者需要為機器人可能造成的破壞性行為繳納保險。

牛津大學公共政策學者馬切伊·庫辛斯基認為，必須從制度設計上回應一個根本性的問題，是什麼讓人之所以為人？是對超高效率的追求，還是非理性、不完美和懷疑等等任何非生物實體的特質？只有回答了這些問題，才能在AI時代確定必須保護和維護哪些價值，從而確保更大的安全和公平。而創造更平等未來的關鍵之一是數據，人工智慧的進步，依賴於對大量人類活動的在線和離線數據的獲取與分析。人類必須完全掌控自己創造的這些大數據，才能佔據對人工智慧的主動權。

AI技術是一把雙刃劍，人工智慧可能在幾十年內超越人類，如果不為此做好準備，人類控制自己創造物的能力將受到挑戰，進而危及人類掌控自己的命運，甚至生存權利。我們看到了AI技術的風險，但不能就此因噎廢食，擱置這項技術的研究，更何況AI技術迅猛發展的趨勢已經是不可逆的，擋也擋不住的。AI時代，基因工程、再生醫學和納米科技等領域的科學技術將會進展飛快，除了醫治疾病，也能讓衰老的組織再生，人的壽命會趨向於無限延長。屆時我們對於生物人種的死亡，需要重新思考。

要解決這些諸多領域的問題就需要一大批有知識、有技術、有良知的社會學家、自然科學家、工程技術人員和政治家進行世界性的協作、協調和協商，用一套共用的語彙體系和一個共同的概念框架，從科學的視角找到平衡點，制訂出一系列能處理技術、治理和倫理之間相互關係的政策，如已經出現的「AI夥伴計劃」「AI道德規範與治理基金」等，都是可供參考的應對思路。在這一輪人工智慧的變革中，中國和世界第一次站在同一個起點上，第一次平等地擁有了資本、公司、技術、人才等要素。人工智慧的爭奪是未來世界最主要的爭奪，中國沒有任何的空間猶豫和後退，需要政府、企業、個人都參與到這個巨大的變化中，攜手引領人工智慧革命。

（作者為國務院參事室特約研究員、中國農業經濟學會副會長）

閱讀延伸

人工智慧將提供90%以上的工作

中國科學院自動化研究所複雜系統管理與控制國家重點實驗室主任王飛躍在「人工智慧與未來社會：趨勢、風險與挑戰」學術研討會上發言指出：很多人擔心AI時代的到來，再加上「技術奇點」「人類將變成機器人的奴隸」「人工智慧毀滅人類」等許多觀點，特別是「人工智慧很快將使50%甚至70%的工人失業」等看法更使大家心慌不安。對此，我的看法恰恰相反。

二百年前，我們的問題就是擔心機器奪去我們的工作進而毀滅人類，甚至把機器都燒了，這就是英國著名的「盧德運動」。今天的機器已非二百年前的機器，強大多了，但奪走我們的工作沒有？我們離開機器還能工作嗎？很大程度上，我們今天的工作是機器給的，計算機為我們創造了大量新工種。我堅信，未來不是人工智慧使50%至70%的工人失業，未來是人工智慧為我們提供90%以上的工作。

老子《道德經》開頭是「道可道，非常道」。有人解讀為：「道，可道，非常道」。對我而言，「道」就是演算法智能，「可道」就是語言智能，「非常道」就是人類大腦里的想像智能。所以，我相信車比人跑得快，飛機比人飛得高，計算機比人存得多、算得快、判得准，但我不相信它們比人類更「聰明」，如果不是用語言智能重新定義聰明的話！其實，語言智能根本就說不清什麼是「聰明」，什麼是「智能」，那完全是想像智能的事。

前段時間，《人類簡史》《未來簡史》的作者尤瓦爾·赫拉利稱人工智慧將使我們變成「無用階級」，引起人們一陣擔心。無用了？那怎麼行！其實，這是人類的進步，一個穩定和成規模的「無用階級」的產生，是走向智能社會的必要保障。我們不應忘了四百年前徐光啟翻譯《幾何原本》時的感言：無用之用，眾用之基！

每個人都不應被別人的語言智能所「忽悠」，要立足自己的演算法智能，發揮自己的想像智能，以合適的語言智能表達出來。我想像的人工智慧技術，就是能讓我們實現知識的自動化、智能的自動化，是從工業社會走向智能社會的時代科技。而且我希望國家的《新一代人工智慧發展綱要》，能讓我們「直道超車」，實現智能全球化的規劃，成為保障「中國夢」實現的「智能夢」。

（高樓摘編）

史新供圖