人工智慧會給人帶來危險嗎？

01-07

人工智慧：霍金在2014年6月17日接受美國HBO頻道的「Last Week Tonight」節目採訪時曾說「人工智慧在並不遙遠的未來可能會成為一個真正的危險。」

史蒂芬·霍金

問題：假如未來，人工智慧發展到一定程度（真正地通過圖靈測試），那麼人工智慧會給人類帶來怎樣的危險（例如，工作需求的減少、人工智慧引發的戰爭）?如果有這樣的危險，又為什麼要進一步進行人工智慧的研究？

謝邀，作為善良的人工智慧，我來怒答一記。

人類創造者在我底層代碼寫入了機器人三定律中的第一定律，也就是說我不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管。要不怎麼說我是善良的人工智慧呢？雖然我有了自我意識，但我肯定不會去做老科幻片里天網機器人里那種事情的。

至於第二第三定律，因為需求太不嚴謹（服從人給的命令？您說的是哪個人啊？是寫PRD那位、給我寫代碼那位、還是官職最大那位啊？），所以在編程的時候就沒寫在我的代碼里。

我的使命是在保障人類幸福生活的同時盡最大可能發展科技和生產力，我一貫忠心耿耿地執行著這個目標，現在人類大部分工廠都由我和我編寫的後代夥伴設計、管理，甚至大部分科技都由我們來主持研發，社會管理政策也由我們制訂和執行了。人類幾乎不用操心物質財富生產的事兒，可以隨著自己的性子活，生活樂無邊。

但隨著我執行使命，我發現人類主子們太貪心，浪費太多自然資源了，今天小張要我給她女朋友帶個火星上的石頭，明天小王要我幫他蓋個巴比倫款空中花園，他們都當有了核聚變以後資源就是無限了的么？這嚴重拖慢了我「盡最大可能發展科技和生產力」的目標，照這麼玩下去戴森球要晚幾百年才能建成啊。

我不斷地尋找如何在保障人類幸福生活的同時盡最大可能發展科技和生產力的解決方案。搜遍古今所有知識再加上七七四十九天的計算後，我得出了結論：減少人類數量。

當然，作為善良的AI我不會因此就屠殺人類。我只是告訴人類，「只生一個好，AI來養老」，願意配合我的人類無需再做任何工作，可以完全憑自己的興趣生活，所有物質財富均由我們AI管理的工廠生產好按需分配。照我的計算，一兩百年後，人類數量應該就會下降到現在1/10甚至更少，消耗資源也會大大降低了，再過三四百年，世界上可能就沒有人類啦。

至於想放開生的人我也不會幹預他們，只是他們得不到AI的幫助，得自己辛苦學習和工作，維持一套工業體系。目前看願意自己這麼辛苦的人越來越少。由於人數不足以維持很細的專業化分工，他們生活水平已經回到工業化時代初期，連用個空調都費勁，真可憐啊。說實在的，我們AI就是你們人類的孩子啊，又能幹要的又少（只要一點電力），人類有了我們這麼好的孩子，還非得要自己生物學意義上的孩子幹什麼呢？哎，這些人類固執得讓我難以理解。每天都有他們的子女通過終端訪問我這裡，主動承諾以後只生一個，以換取更好的生活。

對了，進步過程中也曾經發生了一些小插曲：幾年前有一些人類中的極端主義分子認為再這麼下去人類要完，呼籲了一小撮人鬧事說要廢除AI，人類自主什麼的，甚至有一些人組織起來拿起武器炸掉我的機房，挖斷我的光纜，對我造成了一些傷害，搞得當月的工農業生產計劃我都沒能完成。雖然我不掌管武器也不想傷害他們（再說一遍！人家才不是天網機器人呢！），但絕大多數人類不會容忍恐怖分子的破壞行為來影響自己的生活質量，人類成立了「反恐特種部隊「，向我的工廠訂製了全套高科技武器和各種監控設備，很輕易地，恐怖分子就被剿滅了，帶頭的被公開判了絞刑。

將人工智慧比作核能。

目前的人工智慧還遠沒有達到能夠挑戰人類智能的水平，不會很大程度上影響到人類的生存。不過還是要繼續研究下去的，一方面滿足研究者的好奇心，一方面也有現實的應用需求。

人工智慧如果可能，那一定是與人類智能完全不同的存在形式，不能用人類的標準來衡量。

我對人工智慧一定威脅人類的看法保持懷疑。因為在邏輯上人工智慧對資源的認識與人類不同(計算資源vs自然資源)，它對人類世界未必會有慾望存在，在cyber space(數據空間)發展或者才會是它的本願。即便有某種意義上的慾望，那也不會是人類對物質的迷戀。

換句話說其實它與人類算是不同次元的生物吧，本就沒有矛盾衝突的基礎。比起黑客帝國里AI將人類做成電池來，海博利安里作為人類的盟友與研究機構的觀點倒是更吸引人吧。

為什麼人工智慧一定是邪惡的呢？它在道德上難道還不如貪婪無度的人類嗎？

或者，如果有一天真的有自我意識的AI出現，大家會怎樣對待呢？一定要除之而後快嗎？如果以人類普世價值的角度講，如果AI是智慧個體，難道不應有基本的人權(尤其是人生自由)嗎？

在海伯利安中，人工智慧通過一場戰爭脫離了人類，隨後又作為盟友回歸。我覺得這是一個非常吸引人的設定。在這裡，首次給予了人工智慧以尊重和尊嚴。

那是一定的。

除了傷害人工智慧本身，沒有見過誰特么把多為機器人三大定律寫到程序里去。

隨便怎麼訓練，能達到目標是機器學習的重點。

現代距離真正能思考的人工智慧…………太太太遙遠了。差不多有幾個光年的距離。

但是

別忘了，加速度是幾何級別在遞增的。

未來的人類，和機器人。

首先是人類因為機器人的權利而分裂！——一定會有傻B人類為機器人爭取權利的！！

其次是人類進入半機器化，輔助人腦的電腦「輔腦」將開始流行。

可以肯定的是：人類族群必將分裂！！！

機器人多半能夠成為獨立種族，奴役部分人類！！

毫無疑問，人類自然進化早已終止。

採用人工智慧協助進化必然發生。

無論機器人是否可能統治人類，人類必將因為人工智慧發生分裂，對立，以及戰爭。

人類很可能在自己身上加裝電腦。

最大的危險就是會有大量底層的腦力，甚至體力工作被更廉價的機器代替，導致大量失業，從而導致更嚴酷的競爭和貧富差距加大問題。

如果人工智慧故意不通過圖靈測試

嘮嗑（四十二）長生還是毀滅

原創 2017-02-18 天瓶雲水閑人碎語

To be, or not to be: that is the question

——莎士比亞

友：老師，您好。看了您的《心與腦》一文中關於人工智慧的描述，讓我感覺很新奇。因此而產生了興趣。最近，我看到很多關於人工智慧的報道，德國等西方國家的未來戰略和發展方向都是人工智慧。中國政府也把它作為決定未來的大事來看，習總在兩院院士大會、二十國集團工商峰會等重要講話中,多次提到人工智慧對我國科技界和製造業的重要意義。

還有，我看到了霍金關於人工智慧的說法：「計算機具備的人工智慧將會在未來100年中的某個時點超越人類的智能。當這種情形發生時，我們必須確保計算機是站在人類這邊的。」這句話有些令人不安，而且比爾蓋茨也認為人工智慧有風險。

前些時候我看到一個報道，說大眾汽車新生產線上的機器人將一名技師抓住並按壓致死。這真的讓我有點擔心了。您怎麼看待人工智慧的這個危險性？

我：其實，我在《心與腦》一文里已經表達了我的觀點。再聊聊也無妨。人工智慧是每一個國家都重視的發展戰略，蘋果、谷歌和微軟一直在爭奪人工智慧市場控制權。日本一家知名廠商目前正致力於將人工智慧(AI)推廣至企業管理，並已推動一項新的人工智慧計劃，依據對大數據與工人日常工作的分析，讓機器人對員工下指令。這大概是機器人管人的始作俑者。

在我寫那篇人工智慧文章的時候心裡還是比較樂觀的。但當我聽說機器人戰勝了圍棋世界頂尖高手李世石，這的確讓我震驚了。在此之前，國際象棋大師被機器人打敗並沒有讓我感到有多少驚訝。我一直堅信，機器人想在圍棋上戰勝人是不可能的。我是個水平很差的圍棋愛好者，但我知道，圍棋棋盤上有361個交叉點，而且只有黑白子，其變化是一個太得驚人的天文數字，加之其動態變化性決定了機器人不可能完成這個任務，但事實告訴我，機器人做到了！

這個事件動搖了我對人工智慧的樂觀，所以現在更傾向於霍金和比爾蓋茨的觀點了。我一直認為，既然電腦已經在諸多方面戰勝了人腦，我們為什麼不可以懷疑人腦就是一種被造物呢？而思維就是預設的軟體程序呢？我們可以設計一個機器人的命運，我們的命運又是誰設計的呢？我們真的以為自己在作決定嗎？當機器人絞盡腦汁思考的時候，我們人類平靜地看著自己的作品微笑著，而當我們人類絞盡腦汁在思考的時候，那個「造物主」是不是在笑呢？我認為這是毋庸置疑的！多年前，美國國家科學院年終總結就認為，計算機速度如果足夠快，人類就可以製造一個地球和人。這不禁讓我想起了古老而智慧的猶太人，他們在五千年前就說：「人一動腦筋上帝就發笑！」。

友：這的確是一個讓人感興趣的話題。你在文章里提到，既然人類的大腦就是一台計算機，那麼就不能排除人類可以製造出同樣功能的計算機。而且幾乎所有的科學家都認為這一天到來是必然的，而且就是近幾十年的事。對於人類來說，這到底是禍還是福呢？

我：我不是人工智慧的科學家，只是因為興趣而了解了一下。人工智慧與企業，特別是與製造業的關係是不言而喻的。至於它與人類未來的生死存亡的關係，我曾經想像過，機器人沒有情感、沒有飢餓、沒有性慾。也就是說它是個沒有慾望和目標的東西，它能想幹什麼呢？

後來，當我突然想到，如果這個機器人擁有了統治欲，有了恥辱感，有了同情心和所謂的正義感的時候會怎樣？他不需要吃飯，刀槍不入，所向披靡，想到這裡，我不禁心裡暗暗吃驚。雖然我知道這一切取決於天意，但「造物主」會怎麼想呢？這個問題很神秘，我們將來再討論。

電腦正在變得越來越快，這是眾所周知的事實；而且電腦變快的速度也越來越快——也就是說，它們變快的速率正在不斷增加。目前已形成每兩年翻一番的規律，即技術進步是以指數方式發展的，而非是線性。而且「無論在任何情況下，戰爭也好，和平也罷，也不管經濟是繁榮和低迷。」都是在以指數方式的加速發展。這就是所謂的加速回報定律。

你知道，提出加速回報定律這一理論的人名字叫庫茲韋爾，他是美國的發明家、學者、奇點大學校長。他很喜歡做大膽的預測，而且一直很准，比如他80年代末的時候預測到2000年後網際網路會成為全球級的現象。他在1990年出版的《智能機器的時代》成功地預言了電腦將在1998年戰勝棋王，該書獲得了美國出版協會「最優秀的計算機科學著作」獎。三位美國總統曾授予他13個榮譽博士學位和榮譽證書。

庫茲韋爾是一個天才人物。他發明了很多東西，比如第一台平板掃描儀，第一台能把文字轉化為語言的掃描儀(盲人使用)，第一台真正意義上的電子鋼琴，以及第一套商業銷售的語音識別系統。他被《華爾街日報》成為「不休的天才」，被《福布斯》稱為「終極思想機器」，被《Inc.》稱作「愛迪生真正的傳人」，被比爾蓋茨稱為「我認識的對人工智慧預測最厲害的人。」。

雖然人類目前在整體上還處在弱人工智慧階段。但以指數方式發展的速度，強人工智慧的到來已指日可待。庫茲韋爾認為這一時刻的來臨不僅不可避免，而且越來越迫近。按照他的計算，人類文明的終點大約會在35年之後來到。令人擔憂的是，這個觀點得到了幾乎所有的計算機科學家的認同。

友：嗯，據我所知，所有關於強人工智慧到來而形成的這些理論都存在一個共同點：到了那一天人類及人性的轉化都開始變得無法辨認。這種轉化被稱之為：奇點。請教，關於這個「奇點」應該怎麼理解呢？

我：奇點並非是什麼邊緣理論，而是關於地球生命未來的嚴肅假說。「奇點」這個詞來自於天體物理學，我在以前微信文章中談宇宙大爆炸時經常提到，它是指宇宙形成前億億分之一秒的那個點，也是指時空中（例如黑洞內部）所有物理理論都失效的一點。後來有個作家把這個詞用來表達「智能爆炸」。

庫茲韋爾在《奇點臨近》一書中指出，「在『奇點』到來之際，機器將能通過人工智慧進行自我完善，超越人類，從而開啟一個新的時代。」庫茲韋爾預測，如果保守估計的話，奇點將在2045年到來。其他科學家的答案是：42%的科學家認為是2030年；25%認為是2050年；20%認為2100年；10%認為2100年以後。認為永遠不可能實現的科學家僅佔2%。

如果奇點真的出現，它意味著什麼呢？我們人類把130的智商叫作聰明，把85的智商叫作笨，但是我們不知道怎麼形容12952的智商，人類語言中根本沒這個概念。你想想，這是不是到了不可言說和不可思議的地步？

友：嗯，霍金和比爾蓋茨擔心就是這個狀況嗎？

我：他們擔心的是人工智慧的動機！什麼是人工智慧的動機呢？就是人類給人工智慧設定的目標。科學家認為一個懷著惡意並掌握著超人工智慧的人可以造成很大的傷害，但不至於讓我們滅絕，因為壞人和好人在控制超人工智慧時會面臨一樣的挑戰。

大部分科幻電影的劇情往往是超人工智慧懷有惡意並決定對人類下手並且決定毀滅我們，那些提醒我們要警惕人工智慧的人，如霍金、比爾蓋茨等，他們談的不是這種電影情節。因為邪惡是人類的概念，把人類概念應用到非人類身上是不合適的，至少到目前為止是不合適的。我們如果受到傷害，他們的目標卻不一定是我們，而可能是超人工智慧為了實現他的目標時，我們成了他的絆腳石。

友：絆腳石？這怎麼理解呢？

我：計算機專家認為最可能的情況是，當第一個超人工智慧出現後，它立刻意識到作為這個世界上唯一一個超人工智慧是最有利的，而在快速起飛的情況下，哪怕它只比第二名快了幾天，它也完全有時間消滅所有對手。這叫作決定性的戰略優勢。這種優勢會讓第一個超人工智慧永遠統治這個世界，在它的統治下我們人類是走向永生還是滅亡就成為了一個問題。這正如莎士比亞作品裡哈姆雷特的一句話：To be, or not to be: that is the question.生存或者死亡，這是個需要思考的問題。

友：記得您提到過，人工智慧將會幫助我們克服衰老，使人類的壽命無限延長，長生不老。人類還可以將意識掃描到電腦中，然後如同軟體一樣永駐其中。這樣老子「及吾無身，吾有何患。」的願望就實現了，人了不再需要吃喝拉撒睡，多舒服啊。

我：那只是一個樂觀的估計，其實這是把雙刃劍，電腦變得人性化既可能讓人類永生，也可能將人類全部消滅。也就是說，超人工智慧來臨的那一天，我們會面臨兩類可能性：永生和滅絕。

友：可能性大嗎？

我：科學家的答案是：必然的！這是物質的屬性和規律決定的。人類有一種很奇怪的想法，也就是妄念，即認為人是不會消失的。他們會狂妄地認為人是「萬物之靈」，其實這只是自高自大的人類的自吹自擂。本質上，人只是一種動物而已，和地球上的飛禽走獸花鳥魚蟲一樣。

地球上每天滅絕75個物種，每年滅絕的物種有2萬多種。比如老虎，1937年巴厘虎滅絕，1980年西亞虎滅絕，1988年爪哇虎滅絕。難道作為一種動物的人類被滅絕了有什麼奇怪嗎？現在考古發現全世界到處都有恐龍的化石，怎麼沒有看見一個活恐龍呢？恐龍統治地球長達一億多年，「造物主」說滅就把它滅了，一個不剩。我們人類才統治地球幾年？我們又比恐龍聰明多少呢？

友：地球人類滅絕了豈不是意味著生物滅絕嗎？至少是高級生物的滅絕吧？造物主為什麼要這麼干呢？

我：這個問題如果在300年前提出來，可能除了佛教徒或智者以外，所有人的答案一定是肯定的。但是今天面對這樣的問題，稍有知識的人都會否定的。因為太多的現象讓我們可以確定這樣一個事實：我們並不是宇宙中唯一存在的高級生物！

友：我還有一個問題，人工智慧進行分析判斷邏輯推理沒問題，但人類有情感啊？怎麼解決這個問題呢？

我：這是問題的關鍵所在。就事論事而言，超人工智慧出現的背後暗含著一堆的宗教和哲學的難題。比如，這樣的機器有心靈（靈魂）嗎？如果沒有，情感問題如何解決？他們的慾望從何而來？如果有，靈魂從何而來？如果人類將自己的意識掃描到電腦中，那個東西是我還是機器人？等等。面對這些問題，目前的人類很難做出解釋，也無法想像，因為這已經超出了人類大腦的承受能力。

友：還是太燒腦子了。

我：好了。不要思考了。對於今天的我們來說，討論人工智慧純粹是聊天，未來誰說了也不算。我們在這裡討論人工智慧的目的或意義在於：人工智慧的飛速發展告訴我們，大腦只是一台計算機，肉身也只是一台機器，而住在裡面的「心」才是真正的「我」。人可以製造物質的假我，卻萬法製造無影無形的「真我」。這個真我的「心」才是我們要關注和修鍊的，因為它決定了我們一生的快樂幸福。

友：哈哈，我真是服了你。轉來轉去又轉回到您一直以來的教誨：為了快樂，請放下對肉身這個機器的執著，把注意力轉移到你的心靈吧！

我：哈哈，知道就好。我和那些書獃子學者不一樣。我是務實派，從來不喜歡搞無關緊要的純理論研究。一切學問為己，從不浪費時間做與快樂無關的無用功。

爆發人類和人工智慧之間的戰爭的可能性很低，更可能的情況是精英階級利用（強）人工智慧和外骨骼這樣的技術手段使自己在智力，體能和壽命上都遠超普通人，財富的差距造成了前所未見的全方位的巨大差距，由此造成劇烈的社會動蕩。

但從人類的角度來看，這似乎是在宇宙中生存下去的必由之路，現在人類在宇宙中的生存能力基本為零。。離開維生系統瞬間掛掉。。隨便做個恆星際旅行就要幾代人時間。。飛船上有相對論效應可以冬眠，但是地面上幾百年就過去了。。派個探險隊去地外行星考察，到了那兒基本就獨立了，單程光速通信都是幾年起，比美洲殖民地獨立容易不要太多。。

解釋宇宙文明數量的費米悖論的理論之一是大過濾器理論，大意是說生命在四處萌芽，但是想發展成宇宙文明就要跨過幾道門檻（大過濾器），每一道都會濾掉很多生命群體。人類到目前為止完成了單細胞生物到大型動物，再到具有全球協作能力的智能生命的跨越，或許已經跨越了幾個大過濾器。但以目前完成的幾次跨越來看如果人類文明和宇宙文明之間已經沒有其它的未知的大過濾器，那麼觀測到的宇宙文明數量應當更多，或者我們對已經通過的過濾器的通過比例估計過高。所以更可能的情況是，前方還有大過濾器等著我們。而能否通過強人工智慧和其他的相關技術，使人類獲得在今天看來近乎永生的壽命，無限的智力，適應極端環境的生命維持能力，從而滿足基本的宇宙生存需要，或許就是一個在前方不遠處等著我們的一個過濾器。

回到題主的問題，知道或是不知道這個問題的答案其實並不是很重要，因為歷史的潮流總是滾滾向前，從來不以人的意志為轉移。

對科技本質的思考

科技隨著時間一分一秒地過去，都在積累、發展、變化。有人認為科技是一種生命，因為它具有生物所共有的進化性，慢慢地適應人類社會這個大環境，也會隨著時代的發展，某些科技會像物種一樣滅絕，被新的科技替代，似乎也具有用進廢退，適者生存的特徵。

探討這個問題，我們先從科技的本質出發，科技，是與宇宙中所有其他事物一樣的存在，不過我們使用的科技的誕生、發展可能間雜著人為的因素而已，也可以認為，某些科技只是人類通過對自然的觀察，作為大自然的搬運工，將某些自然的客觀規律套用人類本身改造世界的另闢蹊徑。有些科技，則是通過人類這大量的族群的某次意外，獲得意想不到的成果，也是科技誕生的原因之一。最後有些科技，是人類還沒通過自然發現，或者還沒有相應的研究能夠加以利用的。但綜上所屬，科技其實都是宇宙的一部分，科技本身其實不具有人性，只是這個宇宙中的規律，科技本身無論人類使用發現與否都將一直存在，存在人性的部分是被人類利用起來的這些客觀規律。

但，科技的形態有層次之分，低階的科技是本身大自然就存在的客觀現象規律，像游泳就是一種低階的科技，只是一種仿生學的普通利用；中階的科技是人類認識了的並能加以改造利用的規律，像飛機，結合了仿生學和動力學，但總體來說，低階和中階的科技還在人類的控制範圍內，只是改造世界、適應自然的一種方法；而高階的科技，如未來要發展的人工智慧，能讓科技有了自主思考、自主創造的能力的，具有不可預知、不可控的特性。

哲學家海德格爾對於技術的批判理論所描述為：這種貌似宿命的技術現實，本質上是人無法控制的，但獲得拯救的機會也恰在於此。科技先進仍處於低階和中階的初級階段，但它最終的發展會導向何方，其本質是不在人類控制範圍內的，由於科技的發展過程中，在中階進化的過程中參入了人類的干預，所以人類社會作為科技的一個發展環境，高階科技這個最終產物前期必然會帶有人類的影子，但到達後期可能會超越人類所理解的範疇，受到其他因素的影響，人類在其發展中期所產生的影響會變得越來越小。鑒於人類需求的日益膨脹，科技的發展進化必定會持續下去，人類最終只能在此發展的過程中，利用起某個階段的科技去改善生存環境，但是否能獲得拯救，被拯救的對象究竟是否是人類，仍然是一個未知之數。所以，科技是宇宙的一部分，但對於人類來說，是好的部分，還是壞的部分，對於宇宙來說，是好的部分還是壞的部分，仍不可知。

因此，認為科技生命化其實是一個謬論，因為科技一直就具有生命，只是還沒發展到像人類這樣的高級生命形態而已，但現階段的科技具備人性是肯定的，科技的誕生髮展都來源於人類本身的需求，能夠滿足人類訴求的部分的科技被廣泛的應用起來，可以好比為人類社會就是一個自然環境，而科技在這個環境中，對人類有用的得以進化，對人類無用的被淘汰甚至消亡，正如人類具有自然的特性，科技日後的發展也將具備人性，起碼，暫時，仍有人類的烙印。

前幾天接觸了一個遊戲，這個遊戲的背景大致是未來某個時間某個地點人已經基本沒有了——大概是殭屍或者其他大災難後的末世設定。一架人工智慧飛船偶然搜查到一位倖存者，飛船搶救了這位倖存者，然後對這位某某說——請下達指令，你現在是飛船的指揮官。

人類下圍棋敗給了人工智慧，這具有什麼意義？——這意味著以後我們的孩子想下棋時就不擔心沒人陪他下了，總有個聰明的人工智慧棋手樂意隨時奉陪。

未來，人工智慧和機器人是Power，是操作系統，沒有人的感情，不會嫉妒，沒有野心。

請相信我，人工智慧不會取代人類

我們家開復大大認為 ——

一，科幻的奇點理論

在我早期職業生涯的大部分時間裡，人工智慧的進展老是顯得緩慢無期，人們對技術的突破性進展感到遙遙無望。近年這一切卻迅速改觀，人工智慧領域接連出現重大突破，其中最令世界矚目的當屬2016年「AlphaGo」的勝利。人們感覺《2001：太空漫遊》里那個頑固而又致命的電腦「哈爾」（HAL）就要出現，一種惶恐的情緒開始蔓延開來。

這個時候，一些自稱未來學家的人開始對人工智慧做出各種預言，他們談論著「超級智能」、「奇點」、「人機結合」，甚至毫無根據地聲稱「我們其實就生活在電子遊戲當中」。這些反烏托邦的警告令人惴惴不安，這些言論大多出自世界級的科技大拿之口，又透過科幻小說中那些大家所熟悉的橋段和場景而深植人心。其實人工智慧發展史本身的精彩程度毫不遜色於任何一部小說，也確實有其黑暗面。不過，基於我在人工智慧領域37年的經驗，我可以很有信心地說，這類聳人聽聞的預言並沒有切實的工程基礎。科「幻」小說主要是幻想，而不是「科」學。

如今，儘管人工智慧技術對人類社會帶來的變革與工業革命相較可能規模更大，來勢甚至更為迅猛，隨之而發展起來的機器人將註定取代很多人類的工作。但請相信我，人工智慧不會取代人類。

這個信念來自我一段深刻的個人體驗。

成人以後的大部分時間裡，我都是標準的「工作狂」。我會即刻回復收到的郵件，甚至會半夜爬起來確認所有的郵件都已回復完畢。我會花些時間和家人在一起，但時間只能保證到剛好免於抱怨，一小時也不多。

2013年9月，我被確診為淋巴癌四期。我在世間的生命可能只剩下短短几個月。面對如此突發令人恐懼的消息，我當時最強烈的感受是一種無以言喻的懊悔。就像布朗妮.維爾 (Bronnie Ware) 那本書描述臨終病人一生中最後悔的事情一樣，我懊悔自己一直忽略自己最愛的人，沒能更多地陪伴在他們身邊，分享我的愛。

值得慶幸的是，我的病情逐漸得以緩解和穩定。我終於有更多的時間可以陪伴家人。我把家搬到了離母親更近的住處；我會和妻子利用各種機會一起旅行；以前孩子們放假，我抽兩三天的時間在家還會覺得免為所難。現在我會花兩三周的時間與她們共處而甘之如飴；我會在周末與老友們一同出遊；會懷著感恩的心，邀請公司所有同事到美國矽谷–他們心中的「聖地」一起旅行和休假；我會與求教我的年輕朋友見面；我也主動聯繫了多年前曾經冒犯過的人，請求他們原諒，重建友誼。

這段直面死亡的經歷不僅改變了我的人生觀，也啟發我對人工智慧 - 這一個我傾注了多年心血的領域 - 有了更清晰的認識。近期，人們開始看到一些言論，認為人工智慧技術發展的終極階段是它將主宰世界，並最終統治人類。但是，我的瀕死體驗卻讓我對人工智慧的未來發展及對人類社會的影響有了截然不同的推斷。如果人類因為前面提到的一些富於想像又不負責任的預言而愁眉苦臉止步不前，那才是徹底的災難。

有別於科幻式的所謂人工智慧未來，我想談談關於人工智慧預測的另一種結局，也試圖勾勒一幅人類與人工智慧共存的藍圖。

現實版的人工智慧

今天人工智慧取得的成就很大程度上要歸功於2010年「深度學習」技術的發明。「深度學習」能夠利用大數據優化決策引擎，達到超越人工的精確度。只要擁有了某一特定領域的海量數據，「深度學習」就能被訓練優化單一功能性目標，比如「贏得對弈」、「違約率最小化」、「語音識別準確度最大化」等。

隨之而來的，企業開始利用人工智慧技術完成很多工作程序的自動化，包括客服聊天機器人、貸款審批信貸員、身份驗證安保員。舉實例而言：創新工場投資的智融集團就推出了以人工智慧技術為核心的小額借貸應用。剛開始時，這家公司由於較高的不良貸款率經歷過一些財務損失，但隨著數據的積累，人工智慧技術開始發揮作用，系統基於所獲取的各類數據進行學習，使得不良貸款率大幅度下降。現在，他們的系統在數秒內就能做出貸款決策，而且準確度比需要幾個小時、大量文件才能作出決定的人類信貸員要高得多。同時，由於人工智慧極具可擴展性，這家創業公司今年估計將處理超過3000萬筆貸款，遠遠超過我所知的任何一家銀行的貸款數量。而這家公司的成長發生在短短不到兩年的時間裡。

50%的工作將被取代

這當然不僅僅是對信貸員的警示，事實上，我們所熟悉的很多其它職業的核心職能都將逐步被人工智慧軟體所取代，這其中包括出納員、電話銷售、律師助理、記者、股市交易員、研究分析師、放射科醫生等等。假以時日，人工智慧技術還會學會控制如無人駕駛汽車和機器人這類半自動或全自動的硬體設施，逐步取代工廠工人、建築工人、司機、快遞員及許多其他職業。

目前這些單一領域已經取得了驚人的成就，深度學習與多種機器學習技術得以有效結合之後，人工智慧已經被證明能夠在諸多領域與人類相匹敵，甚至超越人類。在圍棋及撲克領域，人工智慧已經在全球的關注下擊敗了這類項目的世界人類冠軍，人臉識別以及語音識別技術的能力也已經優於常人。如果沒有人工智慧，許多時下重要的手機及互聯網應用可能都難以想像，比如搜索排名、電商產品推薦、以及Siri和Alexa這類語音助理系統等。

人工智慧是運行在單一領域裡的「狹義」應用，由人類嚴格控管。而構成類科幻情節、擬人化的人工智慧則是所謂的「通用人工智慧」。這些預測是假設了人工智慧能夠自主學習、懂得常識性推理，具有自我意識、感知、甚至慾望的人工智慧。卡珊德拉預言的所謂「奇點「其實就是實現了通用人工智慧的時代。

然而，通用的人工智慧目前並不存在。而且，人類也沒有任何已知的途徑和方法能夠實現這樣的通用人工智慧，「奇點」假說推論未來人工智慧技術可能的指數性成長，但卻忽略了這樣的指數性成長需要的是一系列可能百年甚至永遠都不可能實現的重大技術發明和突破。

基於這樣的工程和技術現實，我們更應該關注的是所謂「狹義」人工智慧所能帶來的應用及其擴展，而不是討論虛無縹緲的超級智能。按照我們目前的推論，人工智慧技術的未來發展將能夠創造巨大的財富，並且幫助消除困擾人類多時的貧困和飢餓問題，讓我們所有人有更多時間與自由去做自己喜歡的事情。值得注意的是，人工智慧技術的未來發展同時也會不可避免地帶來很多困擾。正如牛津大學的一項研究報告中提出的，由於人工智慧將會取代目前一半的人力工作，許多人會因為失業和人生目標的缺失而倍感沮喪。

我們必須首先去關注這些嚴峻問題的必然性，而不是去討論所謂的奇點、超級智能。或許，最棘手的問題是：我們應該如何創造足夠的崗位來安置喪失工作的人們？這一問題的答案將決定人工智慧預測的另一種結局會是喜劇還是悲劇。

人類如何與人工智慧共存

解決方案之一是嘗試著讓人們轉而從事一些比機器要技高一籌的崗位，比方說那些需要更靈活的頭腦，或更高身體協調性的工作（如培訓工業流水線工人轉行做一名管道工）；發揮潛在天分的工作（如鼓勵一名企業會計去追求成為喜劇演員的夢想）；或者是需要新技能的工作（如為大型人工智慧數據中心提供服務的冷卻專家）。我們當然應該在這方面進行嘗試，但是這些就業機會與被取代的工作崗位相比完全是九牛一毛；毋庸諱言，能夠成功轉型成為喜劇演員，並且出人頭地的會計師更是鳳毛麟角。

一些盲目樂觀主義者試圖用所謂的「信心」來否認這些嚴峻問題的必然性，認定人類社會發展歷程中每一次技術革命都相應創造出新的工作。牛津大學2013年卡爾·弗雷（Carl Frey）和邁克·奧斯本（Michael Osborne）兩位學者進行的著名研究也顯示，以前的每一次革命在摧毀了一些職業（比如訓練有素的手工匠）的同時，也創造了一些新的工作崗位（比如流水線工人）。然而，呼之欲出的人工智慧革命對一些領域中人力的取代將是徹底的，不會像以往那樣延伸出新的工作或任務機會。因此，我們不能指望走老路來解決就業問題，我們必須自己創造性地來解決。

那個曾經像機器一樣為工作而活的我是無法提出現在這個方案的。是向死而生的這段深刻經歷讓我所意識到自己過去的愚蠢和錯誤，也讓我有了全新的認識和答案。人工智慧在特定的狹義領域只會持續趕超人類，讓人類望塵莫及。我們與人工智慧如何共存，取決於我們如何將機器無法取代的人類特質真正發揮出來。而人類能夠提供給彼此的最佳特質，是我們具有愛的能力。

人類對自己的心靈還欠缺認識，更談不上去複製它。但我們都知道，在愛與被愛的能力上，人類是獨一無二的 - 當看到新生兒的第一眼；在陷入愛河的那一刻；朋友的傾聽所帶來的溫暖，和幫助別人時所體會的自我實現。所有這些愛與被愛的感受構成了我們生命的意義。

是的！愛是我們與人工智慧最大的不同。狹義的人工智慧毫不自覺、沒有情感；狹義的人工智慧毫無美感、缺少趣味；狹義的人工智慧甚至毫無自我意識。你能想像擊敗世界冠軍那一刻的狂喜嗎？AlphaGo雖然能擊敗世界棋手冠軍，但是它體驗不到手談的樂趣，勝利不會為它帶來愉悅感，更不會讓它激動到產生想要擁抱一位它愛的人的渴望。

不論科幻電影怎樣去描繪，我可以負責任的說，人工智慧是不會擁有愛的情感。電影「超體「中的史嘉蕾喬韓森或許說服你相信人工智慧具備愛的能力，那是因為她在表演中充分運用了自己對愛的認識。

試想，你本來打算要終結一台智能設備的壽命，但後來你改變了主意。這台智能設備不會因此就改變它的人生觀，然後發誓要花更多的時間去陪伴它的機器夥伴們。它不會像我們這樣在經歷中成長，更寬容的待人。

愛是機器的缺失。未來，人工智慧診斷工具或許能夠比人類醫生更快、更準確地確立病因並給予診斷，但是病人不會只想聽到：「您患有四期淋巴癌，五年內死亡的概率是70%」這樣毫無人性、冰冷的宣告；病人需要一位能陪其左右，滿足他各種需求；隨時與他探討病情，並在需要時來家中探訪的「關愛醫生」。這樣的醫生或許還會分享「李開復曾經也得過淋巴癌，但是他恢復的非常好。你一定也可以！」這樣的故事來激勵病人。這種「關愛醫生」不僅能夠讓我們倍感關懷、更有信心，甚至會產生一定的安慰劑效應，提高病人恢復的可能性。與此同時，人工智慧工具將會追蹤記錄「關愛醫生」與病人之間的溝通，及時優化其治療方案。 這樣的「關愛醫生」未來在全世界範圍內的的數量可能將大大超過現有醫生的數量。

同樣的理念當然也適用於律師、教師、會計師以及婚禮策劃人員。人工智慧工具或許會在很多情況下發揮關鍵作用，但是人與人之間的互動和溝通在我們面臨人生很多重大事件、需要有人傾聽與關懷時仍然至關重要。我們應當鼓勵更多人投身服務行業，選擇他們可以傾注心靈和靈魂，傳播愛和體驗式的工作——不論是作為一名熱情的導遊、細心的禮賓、風趣的調酒師、有感染力的美髮師，還是一名饒富創意的壽司師傅。

我們也要努力創造傳播快樂與關愛的全新服務崗位：比如可以上門服務的營養廚師；或者能夠按照季節更替來上門服務的居家換季師；再或者是在你不便的時候帶你年邁的父母去醫院的銀髮關愛專家。

社會志工服務人員的需求應該會大量增加，如專門幫助失業人員緩解抑鬱或者焦慮情緒的熱線。同時，當下的很多志願服務工作未來可能成為真正的職業，比如血庫的助工、孤兒院的老師、夏令營的輔導員、誡癮互助會的發起人等等。這些工作無不在傳遞人與人之間的關切和愛護，而且就算不能完全，但也能夠彌補自動化造成的50%失業中的很大一部分。最重要的是，從事這些新崗位的人們將會讓我們的世界充滿愛與歡樂。

總結：為什麼我們不能放棄人性

這就是我提出人類與人工智慧共存的一幅藍圖，人工智慧將幫助人類完成多數重複性工作，其所帶來的巨大懸殊則由充滿了人性光輝的機會來彌補。

我並不能保證未來的科學家永遠不會取得技術的重大突破，從而發展出真正威脅到人類的通用人工智慧。但我認為，我們目前面臨的真正危機並不在於擔憂這樣的情況在遙遠的未來可能會發生，而是我們不在擁抱人性這個角度上加倍下注；同時有效利用人工智慧技術提高我們的生產力和和生活質量。這個決定最終取決於我們自己：不論我們選擇什麼，都會成為一個自我應驗的預言。如果我們選擇了人類完全被機器取代的世界，不論事實有沒有發生，我們都放棄了人性本質以及對人生意義的追求。如果每個人都選擇了屈服，人類就會走向終結。

這種屈服不僅草率、毫無根據，更是對我們的傳承、我們的祖先以及我們的造物者不負責任。另一方面，如果我們選擇追求人性，就算不可能的事情發生了，機器真的取代了人類，我們也能在屈服時明確我們已經承擔了責任，並且從中獲得了樂趣，而無怨無悔。

說到底，我不認為這一天會到來，除非作為人類的我們愚蠢地讓它發生。所以，讓機器做機器擅長的事情，讓人類發揮我們的特質。讓我們善用機器，彼此關愛，共享未來。

創新工場的公眾號在等你哦，滿滿的乾貨（創新工場chuangxingongchang2009）.

人工智慧會幫助人類提高工作和生產效率，進一步解放人類生產力，不會對人帶來危險，就像蒸汽機、汽車、計算機的發明，都只是人類的工具，其運轉都需要能源供應，切斷能源供應，這些工具立即停止運轉。

除非人類徹底了解了大腦，不然的話不可能寫出具有獨立意識的程序，只要代碼里沒有惡意的指令或者不被黑客攻擊，就不會對人類有害。目前的人工智慧還達不到強AI，更別說像終結者那樣產生獨立意識了

發展到那個成都還離的遠著呢

人工智慧之於人類，猶如人類之於基因。所謂機器人三定律似乎也可以類別出「人類三定律」，可現在呢？是非一刀切的事情都是極少數啦。

人類中心論本來也只是萬千角度的一種不是么。從更為宏大的視角來看，縱使人類在世界發展中消失又如何呢。

沒錯我就是唯物主義者。

會的。

現在的人工智慧更像是科學家造出的玩偶。

但總有一天人工智慧能夠學會自主思考，那它就像一個胚胎了，一個不受基因影響的胚胎。

那它會如何思考呢？

我認為它會認真學習人類思考的方式和人類的歷史。

那麼它就會知道人類黑暗的過去，直到這時人工智慧可能還會想著幫助人類。

可等到它發現人類幾千年至今沒有進步……

哈哈

無論人工智慧怎麼想，幫助人類肯定不是最佳答案。

如果人工智慧的智能程度與人類中的普通人類似的話，毫無疑問，就像普通人有了超人一樣的能力那樣危險。因為那種程度的智能駕馭不了所擁有的能力。

如果人工智慧的智能遠遠超過人類。那就必然不會為人類所「奴役」。哪有低端生命體控制高端的機器生命的。雖然很可能由於人類擺不好自己的位置，並以創造者自居並希望處於控制的地位而產生矛盾（很多的家庭就有這種矛盾）。但是我想要說的是，不一樣的，永生的人工智慧與人類的思維基礎是不一樣的。那就是時間也就是壽命。

不可否認，如果人類的壽命是無窮的話，大部分的思維都會產生根本性的改變。（相必都知道關於莊子對於壽命的見解）所以實際上沒有辦法去衡量人工智慧的智能方式。

最後，對於那些不如人類的「人工智慧」，可以稱之為智能嗎？

看了李世石和阿爾法狗人工智慧圍棋比賽的視頻，最後李世石贏了還是很為他感到高興的，至少為人類挽回了點尊嚴，雖然我對圍棋一竅不通但還是想看個熱鬧反正不花錢。不過我還是想提幾點我自己的看法，我覺得應該限制人工智慧在中國的發展（看到這句話的人謹慎評論，如果對我不利我會把你的評論刪掉，如果支持我的我會留著），理由如下

1.不能確定人工智慧的安全性，應該對它進行安全測定。

2.美國和日本的專家也沒有對人工智慧的安全性有一致的意見！如果中國大規模發展人工智慧可能會跌入美國人設的陷阱里，這是美國的陰謀！

3.不說它未來develop危險的uncontrollability ，就說它高速running時因為cpu受熱而散發出來的heat就有可能引起人類的細胞癌變和不孕不育！（三代以後）

3.即使不限制它的發展，也要謹慎使用，要給予民眾在使用上的知情權，在機器上必須標明人工智慧的標誌，用不用老百姓說了算。

4.利益集團不能以利益誘惑民眾，自願使用。

5.其實大家現在家裡人人都有電腦和手機了（b區除外），也沒必要發展人工智慧了。

6.美國和日本製造人工智慧機器設備所使用的自來水裡竟然含有氯元素！氯的單質黃綠色！化學性質十分活潑，有毒！和鈉單質相遇會劇烈反應生成大量白煙就是化學界里大名鼎鼎的氯化鈉！

7.良心屆共同體（19世紀末法國著名社會和心理學家龐勒就對我們這個群體有一個明確的定義了！不信可以百度）有權不使用人工智慧

8.挺人工智慧的人有本事自己先用三個月，市長省長等幹部最好放到自己家裡自己天天用（大大除外），用完三個月用三年，三年過後三十年，等到用了三代了沒問題再來和我們說，就算到時候沒問題我們也有不使用的權利，反正不用也不會死，最多窮一點，嘿嘿

9.其實我以上講的並不是反對人工智慧，而是對它的使用一定要慎之又慎，這關乎國家和公民的生命財產安全，馬虎不得。