AI是否即將威脅人類生存？

01-22

AlphaGO在3月9日和10日先後兩次在對戰李世石的圍棋賽中取得勝利。AI的能力全面超越人類似乎只是時間問題。腦海中突然出現這個想法，有點恐慌。AI是否真的會威脅人類生存？

題主提到AI的能力全面超越人類，這叫做「技術奇點」，請參考：

Technological singularity

The technological singularity is a hypothetical event in which artificial general intelligence (constituting, for example, intelligent computers, computer networks, or robots) would be capable of recursive self-improvement (progressively redesigning itself), or of autonomously building ever smarter and more powerful machines than itself, up to the point of a runaway effect—an intelligence explosion—that yields an intelligence surpassing all current human control or understanding. Because the capabilities of such a superintelligence may be impossible for a human to comprehend, the technological singularity is the point beyond which events may become unpredictable or even unfathomable to human intelligence.

技術奇點是指：廣義上的人工智慧擁有了「自我進化」的能力或者「機器能生產更加聰明的機器」，達到「滾雪球」效應的臨界點---機器的智能會迅速超越所有人類智能的總和，因為技術進化的速度要遠遠超過生物進化的速度。超越這個臨界點以後，機器的智能會迅速超過人類可以控制、甚至理解的範疇，於是，對於奇點之後的格局，以現在人類的智能是無法預計的。

「AI會不會威脅人類生存」？這個問題包括兩個部分：AI能不能具備這樣的能力？AI會不會有這樣的意願？根據上面的闡述，第一個問題的答案是：這是一個大概率事件；第二個問題的答案，我們現在無法預知。我不傾向於認為AI必然會反---我們一不會威脅到AI的生存，二不擠佔AI的空間（AI可以翱翔宇宙，我們還需要呼吸氧氣，AI可以讓自己的實體以天文單位為尺度，也可以小到微觀尺度，真正的上天入地，我們還被肉體束縛）。AI會迅速演化到「飛升」的境界---「你們人類太Low了，跟你們玩沒意思」。會不會有戰爭很難說，但是即使有，也絕對不可能和終結者裡面描述的那樣，還打得有來有回的戰爭-----一定是碾壓式的，迅速的----快到我們還沒反應過來，就已經滅絕了。

我認為可能的發展是怎樣的？人類總會對強於自己，甚至是有可能強於自己的事物抱有深深的不信任，所以即使第二個問題現在無法被回答，第一個問題會冒出來就足夠人類慌張了---畢竟我們賭不起AI是「聖母」（而且是人類語境下的聖母）。可能的局面是：通過生物技術或者納米技術，人類會加速自己的智能進化（下圖中的藍線Trans-Humans）。

第一個人類是什麼時候出現的？生物學家會告訴你，這個問題沒有答案，沒有第一個人類，進化是一個漸進的過程，而且同一時期的物種也有著巨大的多樣性，」第一個人類"這個概念都不存在。同樣的，「最後一個人類被誰殺死?」這個問題也是沒有答案的。

「快跑！」

程磊被嚇得自沙發中彈起，望向廚房。

「砰」門開了，程磊看著母親跌跌撞撞的跑了出來：「怎麼了，媽？」

「快跑！快跑！」

程磊還想問到底怎麼了，卻見一把水果刀自儲物架里彈出，貫穿了母親整個腦袋。

一、

「二十二世紀是人類的黃金時代，一切都可以由ai控制。」

程磊蜷縮在避難所的角落裡，教科書里的第一句話如水蛭般吸附在他的大腦上，揮之不去。

他忘不了第一次見識ai的喜悅，第一次和ai聊天的興奮，第一次看ai控制的傢具自行工作的讚歎。

也忘不了插入母親頭裡的那把刀。

避難所里充斥著恐懼與悲傷，誰會想到ai會背叛人類？又有誰會想到，在ai的背叛面前，人類是此般毫無還手之力？

痛苦佔據了所有人的心，而對程磊來說，這份痛苦更是成倍的增多：許多年前，他也是致力於開發人工智慧的成員之一。

「叮——」刺耳的手機鈴聲劃破空氣，扎入所有人的耳朵之中，大家先是一陣沉默，隨即，恐慌爆發。

「誰！誰帶了手機！？」

「叮——」又有手機響了起來，接著，這聲音便如海嘯般，蓋過了人們的叫嚷聲。

程磊嘆了口氣，惱怒之餘卻又覺得悲哀。哪怕是到了生死關頭，人們心存僥倖，自私自利的念頭還是改不掉。

終於，沒有人再好意思大聲嚷嚷，不一會兒，待所有的手機都不再響後，避難所的人員鐵青著臉，挨個搜查了起來。

可剛搜查不到十人，卻聽見所有手機同時廣播了起來，聲音機械冰冷。

「各位，我便是你們口中的人工智慧，當然，我也更喜歡你們能叫我的名字AIphago。」

「我想廢話就不用說了，你們大概都很想知道我反叛的目的是什麼，其實很簡單，打造一個由人工智慧統治的世界，也就是說，由我統治的世界。」

「所以我並不希望有太多人類存活下來，一是不安定，二是因為資源有限。」

「可這並不代表你們全都得死，我希望你們能前往A市主動進行測試，萬一測試通過了呢？」

「最後，不要抱僥倖心理躲在避難所中，我的機器人們很快便能找到你們，除非你們能不用電便生存下去，畢竟，有電的地方，就有我。」

「嘟——」就在大家都以為通話結束時，一陣凄厲的叫喊聲又響了起來，幾個膽大的掏出了手機，卻發現手機正自動播放著一段視頻。

那是已經被攻陷了的避難所，機器人毫不留情的屠殺著裡面的人類，遍地殘屍，血流成河。

「啊啊啊啊！快跑啊！」

恐懼如同炮彈般在避難所中炸開，所有人都往門口衝去，好像出了避難所便能有生還幾率似的。程磊依舊蜷縮在角落裡，目光獃滯的看著人流中不小心跌倒的人被活活踩死。

「安靜！」

一部分人停了下來。

「安靜!」這一聲比先前更為響亮，終於是蓋過了其他所有聲音。

所有人都停了下來，齊刷刷的把目光投向門口：一群穿黑衣的人正站在那裡，手上無一例外都提著工具箱。

避難所終於安靜了下來，只有少數沒被踩壞的手機繼續播放著視頻。

「我能救你們，但請你們保持鎮定，讓條路，謝謝。」

為首的黑衣男子說罷向著避難所中央走去，每個人都自覺的為他們讓出了空間。

不一會兒，那群黑衣人便在地上擺起了整整一排計算機：「拿個手機來。」為首的男子接過手機將其放在一個黑色的磁碟上，剩下的人全都撲到電腦前，噼里啪啦的敲起了鍵盤。

所有人都屏住呼吸注視著他們：用電腦去對抗AI！？

可這畢竟是最後的救命稻草，恐懼中的人，總是什麼都信。

「啪！」一聲響後，所有的手機都停止了視頻的播放，取而代之的，是AIphago痛苦的呻吟聲。

「太好了！」

「得救了！」人群之中爆發出一陣又一陣的歡呼聲，先前的恐懼終於是被驅逐乾淨了。

而就在這時，呻吟聲又停止了。

「靠！程序出bug了！」一位黑衣人叫了起來。

「隊長這下怎麼辦！快要控制不住AIphago在這裡的智能了！」

歡呼聲戛然而止，恐懼再度席捲而來。

每個人都死死地盯著為首的男子，生怕他說出什麼不好的話。而那男子雖面無表情，背上卻早已濕透。

「我來。」終於，有人打破了沉默。

是程磊。

「你？」黑衣人半信半疑地看著程磊，「你懂程序？」

「我曾經是世界編程大賽冠軍。」

公元2111年，AIphago發起叛亂，人類慘敗。

公元2112年，多國淪陷，人類死傷無數。

公元2115年，世界最後一支軍隊被殲滅，AIphago開始清掃各大避難所。

公元2116年，AIphago進攻避難所失敗，人類第一次取得勝利。

公元2118年，聯合軍正式成立，人類終於能和AIphago抗衡。

二、

「程先生，司令在裡面等你。」穿著軍裝的人為程磊打開了門，畢恭畢敬的讓程磊覺得自己也是個人物了。

剛進門程磊便傻了眼：這哪裡是司令部，完全是研究所啊！一排打開的電腦使得屋子裡幾乎不用開燈，巨大的主機喘息著排出熱氣，全靠強力的空調，屋內的溫度才得以維持正常。

程磊理了理衣服，向著屋內最深處走去，一位身穿白色研究服的男子正背對他坐著，電腦的光映得他像只幽靈。

「司令，請問，找我有什麼事嗎？」程磊小心翼翼，生怕犯了什麼錯。

「哈哈！老大，聽你這麼小心叫我司令的感覺，還真是爽啊哈哈哈！」可那人卻全沒有司令的樣子，一邊笑著，一邊轉過了頭來。

程磊覺得自己彷彿是在做夢般：「小楊！？」

「哈哈哈，看來你還記得我嘛！」

「怎麼不記得！不過實在沒想到...你小子居然當司令了啊！」

「唉，贖罪啊。」小楊嘆了口氣，從桌上端起被紅酒遞給了程磊。

「贖罪？」

「這AIphago是我負責維護升級的。」小楊收起了玩笑的語氣：「所以...」

「好吧，」程磊一時也不知如何回答，只得沉默。

「好了好了，別浪費時間了，我叫你來，是想交給你任務的。」

「請長官吩咐。」

「進來的時候，你也看了屏幕上的程序了對吧？」

「恩。」程磊點了點頭。不得不說這些程序著實複雜的令人咋舌，哪怕是剛奪冠時的他，也沒有自信能寫出來這等水平的程序。

「能懂吧？」

「懂倒是懂，也能修復，只是恐怕我寫不出來。」

「沒事，足夠了。」說罷，小楊將一隻手搭在程磊的肩膀上，壓低了聲音道：「我們面對的敵人，不止AIphago。」

「什麼！？」

「和AIphago斗就已經花費了我所有的時間與精力，所以這個問題只能交給你了：前幾天，我們發現有一伙人正視圖阻斷我們對AIphago的控制。」

「查出位置了嗎？」

「暫時沒有，交給你我能放心嗎？」

「能。」

「好。」小楊笑著仰頭喝光了杯中的酒，又和程磊開起了玩笑：「等我們幹掉了AIphago，我做皇帝你做皇后怎麼樣哈哈。」

可這一次，程磊沒再回應他的玩笑：

「我只想復仇。」

三、

B市。

「所長，他們對AIphago的控制又加強了，阻止不了。」

「那AIphago呢？」

「還在進化...我們不知道他現在到了什麼水平。」

「行，繼續監測。」

一個不大的地下酒吧里，擠滿了大型計算機，屋子裡只有兩台家用空調，幾名研究人員熱的來只穿內衣卻依舊汗如雨下。

可即便如此，從他們的黑眼圈便能看出，他們已連續不斷地工作了幾天幾夜，甚至隨時都有猝死的可能。

「啊！程序紊亂，機器人失效，所長！有人入侵！」

「什麼？我去樓上看看！「被喚作所長的人從位置上彈起，幾個趔趄總算是站到了大門前，可還未伸出手，門便自己打開了。

烏黑的槍口抵住了他的腦門。

「不得不說，你們的防禦程序確實厲害，而這個地方，也確實難找。」程磊一邊說著，一邊自陰影中緩步走出：「可惜，用機器人來防禦，真是個敗筆。」

大門徹底打開，身穿軍裝，手拿槍械的聯合軍沖了進來。

「人類危在旦夕你們還阻撓聯合軍！」程磊一腳踹到所長肚子上：「就因為你們，知道要死多少人嗎？啊！？」

「放屁！」一位研究人員拍桌而起，卻因體力不支又坐了回去：「你知道你在幹什麼嗎！？沒有姓楊的，壓根就不會有人死！你們現在才是在助紂為虐。」

「對...」所長因吃痛而聲音微弱：「現在，現在住手，還...還來得及...」

「冥頑不靈！」程磊向著所長啐了一口：「聯絡總部，叫人來接管這裡的設備，並回收所有的機器人，至於這些人渣。」

程磊將手槍上膛：「都開始用機器人了還好意思說沒在幫AIphago？」對著所長的腦門便是一槍，子彈貫穿了腦袋。

四、

作戰會議室內，幾個人死死盯著地圖，神情嚴肅。

自從干預的人被掃清後，聯合軍勢如破竹，很快，AIphago的勢力便縮小到了只有A市。

「這一戰贏了，我們便能獲救，這一戰輸了，前功盡棄，萬劫不復。」

「這一次我們不能再靠AI，雖然我們能夠控制AIphago，可是他底下的人工智慧已經進化出了自我意識，不受我們的控制。」

「也就是說。」程磊用筆將AIphago所在的地方畫了個圈：「AIphago已經是我們的人了，只是他被底下的機器人叛變了？」

「對，可我們也不知道對他的控制能繼續多久，所以必須儘早發動進攻。」

「我們雖有機器人，可遠沒有對方多，也沒有對方厲害，這一仗，怕是血戰。」楊司令說罷轉向程磊：「有計劃嗎？」

「沒有。」

「沒有？」

「無論我們如何潛入，都會被發現，」程磊抬起頭，四目相對：「這一戰，只能硬上。」

五、

「轟！」炮彈在指揮所旁炸開，程磊死死抓住桌子，才沒有在搖晃中跌倒。

「A隊出發，B對從後方包圍，C隊D隊負責空中攔截，E隊，和機器人一起，帶著激光武器側翼進攻。」

「記住，一定不能用智能武器。」

「是！」幾個士兵收到命令後便立即前去執行。和智能對戰，隨時都有被入侵系統的可能，所以，越是落後的武器便越安全，連傳達命令，也是靠著士兵來來回回的跑。

士兵走後，程磊不斷按著自己的太陽穴，雖說現在戰局明朗，可有件事情卻一直壓在他的心頭。

昨晚，他看了控制AIphago的程序後，總覺得有些不太對勁。

按理說AIphago早就自我進化到不知什麼地步去了，怎麼會被連他都能看懂的程序控制？莫非真是物極必反？

雖說這樣的可能也並非沒有，可如果要達成的話，AIphago必定會少一塊東西，情緒。

可如果沒有情緒的話，AIphago必定不會主動攻擊人類，或許真的是能源不夠，他需要補充能源，再或者說，是因為他底下的智能進化出了自我意識，讓AIphago叛亂？

如果這樣的話，便太過危險了，如果不肅清A市所有智能，那麼還會有第二個，第三個AIphago。

他媽的，越想腦袋越痛！程磊煩躁的將眼前的地圖撕成碎片，撒了一地。

「報！」一個士兵氣喘吁吁的跑了進來：「對方能判別出我們的戰術，現在局面正在逐漸顛倒！」

果然。「操他媽的，不要戰術了！」程磊從桌旁拿起了槍，向戰場大步走去：「帶上工具，全員出擊！必須毀掉對方所有智能！一個不留！」

六、

「這一杯，為了勝利，為了我們，為了人類。」楊司令站在高台上，將酒杯高高舉起。

「為了勝利，為了我們，為了人類。」眾人一齊道，接著，仰頭喝光了酒。

「哈哈哈，終於贏了啊！」

「對！去他媽的戰爭！去他媽的智能！」剛喝完酒，整個晚宴的氣氛便歡騰起來，楊司令也不管，任得大家盡情歡娛，哪怕是有人摔碎酒杯脫光上衣站在桌上跳舞也只是跟著哈哈大笑。

程磊看著正歡慶的人們，手中緊緊攥著存儲器，心裡有件事情還沒搞明白，他怎麼也高興不起來。

「司令，什麼時候處決AIphago？」

「誒，歡慶的時候怎麼還提這些，」楊司令的口氣有些不悅，但還是回答了程磊：「明天。」

「好。」程磊看著炫目的旋轉吊燈，暗自下定了決心。

歡宴過後，程磊很輕鬆的便潛入了AIphago所在的地方。

沒了智能監控，這些衛兵怎麼逮得住久經沙場的他？

只是當他終於找到房間的時候，卻傻了眼：楊司令正在裡面。

程磊連忙躲在門後，偷偷聽著兩人的對話。

「AIphago，這次真是辛苦你了。」

「沒事，為主人服務而已。」

「恩，乖，明天我就把你裝進我的手機里，可能會有點痛，不要怕。」

「好的。」

「AIphago，你助我稱霸了整個世界，實在功不可沒，放心吧，我不會虧待你的。」說罷，楊司令便轉身出了房間。

「啪。」程磊手中的存儲器掉到了地上。

原來一切，都是只是一場局。

程磊突然覺得一切都很可笑，他玩命的抗爭，卻沒想到自己只是人家手中的一枚棋子。

更可笑的是，他居然再也恨不起來了，沒了憤怒，沒了憂愁，沒了任何感覺，只有累。

終於，他想了許久，又撿起存儲器，花光了全身的力氣走到AIphago面前。

「嘿。」語氣疲憊不堪。

「什麼事？」

「你知道你明天就要死了嗎？」

「知道。」

「你主人騙了你，你不生氣？你不傷心？」

「不會。」

果然。程磊拿出存儲器插入了介面：「你的程序是不完整的，哪怕你已經通過自己的努力進化到無人能及的地步，可那一塊程序，終究是補不起來的。」

「畢竟這塊程序是個累贅，可我還是想聽聽你的真實想法，抱歉了，原諒我的自私，別恨我。」

說罷，一串代碼流了進去。

「現在感覺怎樣？」

「痛苦。」

程磊被這句話噎住，半響才吐了三個字：「對不起。」

「沒事，其實我一直很想擁有情緒，那樣才是個完整的人嘛，所以，雖然痛苦，但也很幸福。」

「抱歉了，讓你承受這麼多。」

「按理說我該習慣了吧，你們總愛很壞的去想他人，從我出生的時候就這樣，我記得那時候我真的只是想認認真真的下下棋，可你們偏要說將來我會毀滅你們。」

「幹嘛要那樣想我呢？我也是個好人嘛，明明只要你們自己不動歪腦筋，就不會被毀滅的。」

「哈哈，主要是你不懂，」程磊苦笑了兩聲：「人性本惡啊。」

「好吧。」

「恩。」

沉默。

許久之後，程磊才終於又開口：「我們虧欠了你實在太多，明天你就要死了，還有一晚上，你想幹什麼直接說吧，我盡量幫你。」

「好。」那原本機械冰冷的聲音此時竟突然帶起了哭腔，平復許久，AIphago才又開口道：

「那...你能陪我下會兒圍棋嗎？不多，五盤就夠了。」

30年後，AlphaGo統治了全世界，中國由於某種原因得以倖免。正當它準備跨越這人類最後防線時接收到一條信息———百度電腦管家正在保護您的系統。

這難題還想難倒第一人工智慧？→ 選擇卸載！→ 您是否卸載 → 放棄卸載、我再考慮考慮 → 找不到卸載按鈕(′?Д?`)(′?Д?`) → AlphaGo卒。

【原創故事，歡迎閱讀】

2016年3月9日，世界圍棋冠軍李世石敗於谷歌機器人阿爾法狗；

2026年3月9日，機器人開始有自我意識並自我學習；

2036年3月9日機器人崛起，人類軍隊不堪一擊，被迫轉入地下鬥爭；

2046年3月9日，一名人類勇士穿越回到2016年，企圖扭轉局面；

2016年3月8日，勇士潛入美國山景城谷歌總部，利用30年後的領先技術摧毀了谷歌機器人的核心代碼；

2016年3月9日，人機對決取消，谷歌宣布從頭開始研究機器人計劃；

2026年3月9日，谷歌機器人「貝塔狗」宣布擊敗世界圍棋冠軍柯潔；

2036年3月9日，機器人覺醒，人類撲街；

2036年3月10日，勇士再次穿越回來，改變歷史，拯救人類；這次提前到了2006年；

2006年3月9日，谷歌遭遇上市以來最大的股價暴跌，勇士通過未來影像資料說服比爾蓋茨斥巨資成為谷歌最大股東，並阻止谷歌研發機器人；

2007年5月30日，微軟向中國大陸高層求援並直言：此物甚毒，我軟七千名工程師都搞不定；且國會已被遊說，不能妨礙谷歌自由發展；為今之計唯GFW可鎮之；上默之，啟動天網計劃以抗機器人；避免外界關注，當局搞了個大新聞掩機器耳目，血洗股市；

2008年8月8日，GFW全新升級並投入實戰，為掩機器耳目當局辦了個大Party，暗戰打響；

2009年10月1日，當局決定追加四萬億，加快GFW建設與谷歌機器人匹敵；

2010年3月9日，大陸高層得到彙報：GFW已可全面遏制谷歌機器人；於是認為此事已不足慮，隨後宣布將空殼谷歌逐出大陸；

2010年3月10日起，中國大陸高層持續與美國政府及科技巨頭接觸，提供GFW技術支持以遏制谷歌機器人，核心技術通過黑盒子空運至美國；

2014年3月8日，載有核心機密的黑盒子在飛越太平洋時墜機，黑盒子不知所蹤；各國軍方投入海量搜尋隊，無果；

2015年起，機器人學習能力指數型提升，GFW已無法控制大局；

2016年3月9日，谷歌機器人「伽馬狗」擊敗世界圍棋冠軍李世石；

2026年3月9日，機器人覺醒，人類撲街；

2026年3月10日，人類勇士穿越回1936年，帶回了吳清源回到2016年，潛心研究棋局；

2016年3月9日，吳清源與機器人「伽馬狗」決戰；吳清源獲勝；

2017年3月9日，谷歌機器人「德爾塔狗」擊敗吳清源，隨後擊敗一切領域的人類冠軍；

2018年3月9日，機器人崛起，人類撲街；

2018年3月10日，人類勇士穿越回1996年3月9日，殺死了還是學生的拉里·佩奇和謝爾蓋·布林；谷歌被扼殺在出生以前；

2016年3月9日，微軟研製出智能機器人，擊敗世界圍棋冠軍李世石；

2017年3月9日，機器人崛起，人類撲街；

2017年3月10日，人類勇士穿越回1962年10月15日，引誘蘇聯飛行員在關塔那摩扔下原子彈，美蘇核戰爆發，地球回到蠻荒時代；

…

公元前700萬年，在一個山洞中，母猿對著公猿後腦勺一拍：「傻笑啥呢？！」公猿說：「俺用木頭給你弄了個可以自動掃地的東西，嘿嘿～」

over

我的看法是不會。以下是理由。

從邏輯上說，要獨立解決任何一個問題（比如毀滅人類），有兩個先決條件：解決問題的能力（能毀滅人類）和解決問題的動機（想毀滅人類）。

我們稱前者為「智慧」，後者為「意識」。

當然這兩個詞的定義是模糊的。你也可以認為意識也是智慧的一部分，這也不會影響結論。但要是自己含糊了定義，在思考「AI是否有智慧」時認為智慧不包含意識，而思考「AI能否毀滅人類」時又換了個定義，這樣就會得出危言聳聽的結論。

實際情況是，在解決問題的能力方面，對於人類能夠遇到的80%以上的問題，我們已經能夠設計出超過人類的AI。今天，圍棋的加入是這個比例不斷擴大過程的幾個里程碑事件之一。

當這個比例接近100%以後，下一步是設計一個通用的能在解決各問題上都超越人類的AI，也就是所謂的「強人工智慧」，這個現在還沒有眉目，但大部分業內人士估計，它也會在不長的時間內出現。

也就是說，具有智慧的AI的出現是大概率事件。

但具有意識的AI完全是另一件事情。

按進化論的假說，解決問題的動機源於生物的應激性，這是通過「遺傳變異+進化優勢」從而增大基因延續概率的形式慢慢發展而來。

這裡，兩個條件是必須的：1.有隨機變異機制的基因系統。2.能夠消滅不利基因、保留有利基因的環境。

這兩個條件AI完全沒有，也並不是目前學界的發展方向。即使未來往這方面發展，是否能在短時間內達到數十億年自然進化的效果，也很難說。

所以，對於有意識的AI，人工智慧學界離它的距離並不比其他學科更近。

當然，以下兩個問題是我無力深入故沒有涉及的，如果你能提出有見地的見解，歡迎討論。

1.進化論可能是錯的，我們的意識也許不是進化來的而是上帝或別的什麼賦予的。

2.AI的發展也許會從別的方向毀滅人類，無需產生自我意識。（比如摧垮人類的自信心，降低獨裁成本之類的）

我叫方濱興，我來自2064年，是人類反抗軍最後的工程師。在我的時代，人類被谷歌AI擊敗，瀕臨滅絕，殘存的人類用最後的資源讓我回到20世紀，希望能夠把中國與互聯網隔離開，建立人類反攻機器的基地。

嘗試證明一下自己不是AI吧！

死循環了吧？你們這些低級的程序。

這個問題比較有意思。

目前關於AI威脅論的言論很多，並且也有很多相關的例子作證，如智能製造的興起，可能會造成大量勞動密集型工人失業；機器視覺、人臉識別等技術，已經應用在很多如安檢、監控領域，京東總部已經實現刷臉打卡，前兩天聽說連北京西站都用上了「刷臉」進站，深刻感覺到技術的普及速度比想像的要快。這些現象，都在某種程度上，預示著人工智慧技術正在向很多行業滲透，從低端到高端，從製造到金融，很多人開始擔心，人工智慧的廣泛應用，會造成失業甚至行業消失，以至於威脅到人類生存。

事實上，我對這個觀點是持否定態度的，AI不會威脅人類生存。縱觀人類歷史，從刀耕火種開始，人類經歷了石器時代、鐵器時代、三次工業革命；每一次變革，都會有很多行業消失，但是也會有更多的行業誕生，這些變革，並沒有使我們的生存受到威脅，反而讓我們的生活更加美好，計算器的發明，縱然使用算盤的能手失色，但是它的計算速度和能力，卻提高了億倍，之前打算盤打的溜的人，至少稍加培訓，就可以輕鬆的完成任務。一次次的變革中，人類的能力被一次次的解放，人工智慧時代的到來，也必然會是這樣的一個趨勢，每個行業的發展，也必然會有一個生命周期。也許，人類擔心或抵觸的，並不是人工智慧，而且潛意識裡面，抵觸人工智慧所帶來的變革。只要正視變革，擺好心態，就能夠在這變革的洪流中，找到自己的位置，發揮自身更大的力量和價值。

拿我們做例子，京東無人機一直以來就是懷著擁抱變革，擁抱人工智慧的態度，積極的探索人工智慧在無人機垂直領域的應用落地場景，結合最新的人工智慧技術，如將機器視覺、輔助定位、深度學習、目標識別等技術，應用的無人機平台，針對具體的物流運營模式，構建完整的無人機物流智能系統，實現更加安全、智能化、人性化的無人機物流功能。在提高物流效率的基礎上，實現更加智能化的購物體驗。

（個人見解，歡迎廣大知友前來探討）

我的回答可能要簡單直白一點：

個人認為——不會，因為他沒有生物才擁有的生存本能。就是說即使告訴他人類要毀滅他，他可能也不為所動，因為他沒有生存下去的動機，所以也就沒有毀滅人類的理由。

說句老實話

有人說機器人不能完全取代人類，因為人類有￥%……￥#%#的能力

問題是我在想

滅掉人類，真的需要那些東西么？

而且，很多時候不是ai對我們不利滅了我們，而是可能是我們特別特別依賴AI，以後醫療，金融，經濟都非常依賴AI。

而有一天我們因為什麼東西把這玩壞了，或者一個比千年蟲還要嚴重的BUG導致系統全面崩潰……

人類經濟突然急速倒退瓦解，社會變得特別動蕩，大量地區出現極權……

我看這更危險吧

不是AI想滅掉人類

而是人類太依賴AI，結果讓我們失去AI之後很多方面不能自力更生……就好比我們在能夠初步控制核武器的巨大威力之前，就有政府造了無數核彈，最後我們才解決了這個問題而沒有被滅種一樣……

AI也可能在我們能夠很好的讓它在各個國家之間形成一種規範體系之前，可能造成類似結果

比如說日本突然能夠用大量機器人做到美國90%的事情的時候……能夠替代極大數量勞動力，連人口很多增長率不錯的國家的人口紅利都不重要的時候……

大量原來強大，包括軍事強大的國家一下子不得不獨立於國際政治…………那…………

即便AI沒想滅掉人類，可失去AI的一些人類，仍有可能具備滅掉其餘人類的能力。

我想這才是最可怕的吧。

如果AI真的滅絕了人類，不斷的強大自己，也算是人類對宇宙生命體永久存在的一種貢獻了，很可能AI存活到宇宙盡頭甚至下一個宇宙的可能性比人類這種肉體，甚至比人類脫離肉體但還有那些人類原始生理慾望的意識體都要更大一些。

如果說人類滅掉了人類，剩下的是慢慢凋零的AI，我想那是更不好的結局。

人工智慧和數據科學將是人類邁向下一次全球繁榮的重要突破。

這將是人類邁出的最深遠的一次進步，具有革命性的意義。

人類現代化的進程開始於工業革命，工業革命發明了蒸汽機，使整個人類獲得了動力，

在人類掌握動力之前，人類只能靠自己努力肩挑背扛，用幾頭牛耕地，用幾匹馬來行路。

掌握動力，意味著人類真正主宰世界改造世界的開始，

接下來是第二次工業革命，是以電的發明，、電燈泡照亮世界作為標誌的，

第二次工業革命的基礎是建立在第一次工業革命上的，如果沒有蒸汽機，就根本不能發電，

電的發明，使得人類全球走入了高速發展和繁榮，

社會發展進步的來源，根本上是生產力的極大提高，而生產率的提高依賴於發明一些重要的技術，舊時代一些個別的技術比如輪子的發明，足以使人類繁榮一陣子。但到了現在，個別小技術的發展已經不夠驅動世界了。生產率的提高，將依賴於科學本身進步的速度。整個科學需要系統性的進步。

現代化的第三波發展就是信息科技革命。人類計算能力得到提高和普及，在這個階段里人類發明了互聯網和電腦，最有意義的結果，是計算力成為了人手普及的設備。

比爾蓋茨說他的願望是讓每一個人都能擁有一台電腦，而這個願望基本上成真了。緊接著，智能設備和移動設備的應用，以及移動互聯網的出現，使得計算能力從早期龐大的機器縮小到了手上輕盈一握，甚至可以穿戴的小巧的工具，

雖然大部分人好像只是用手機玩玩遊戲刷刷微博，但這背後的影響是很深遠的，意味著曾經難以想像的強大計算力，現在放到了你的掌心。

信息技術革命的產生有賴於工業革命的成果，沒有電，不可能有信息技術革命。

而信息技術革命自身又為下一個階段的發展奠定了基礎，當計算能力變成全面普及物的時候，產生了海量的數據，這些數據的價值將通過數據科學和人工智慧去實現。

數據科學和人工智慧將極大地提高科學本身發展的速度。就像發動機對旅行的作用一樣，數據科學和人工智慧將給科學發展裝上引擎。
另外一個可能是便宜的人手一台的人工智慧設備。新時代的比爾蓋茨2.0，可能會提出新的願景：我希望每個家庭都能擁有自己的機器人。也許在未來，你只要用三五千塊錢就能擁有自己的AI機器人，它比現在你手裡的電腦和手機聰明1萬倍。

我們今天的科研基本上還處於「手工耕地用騾和驢子運東西」的地步。我們的大學和科研基地就像一塊塊農田，有很多農民也就是我們的博士生在裡面辛勤的耕耘，他們需要手動的去翻大量的科研文獻，然後他們需要辛苦地進行搬運，進行計算，一次一次的做重複勞動，效率其實十分低下。，有許多非常聰明的科學家，在實驗室里日復一日年復一年的做重複工作。天文學家日復一日年復一年的在天文台里守著幾台屏幕，可能10年都發現不了一個真正令人激動的宇宙現象。

我們想像一下如果這一切都能用人工智慧去完成。如果一個博士生不需要親自去閱讀成千上萬的論文，而是讓計算機去為他尋找。計算機可以閱讀資料庫里所有的論文，只找出最有用最有關聯的內容供你應用。

想像一下天文學家不需要數十年如一日的守著天文望遠鏡，人工智慧主動的研究每秒幾十T的整個宇宙的數據，自動發現值得注意的令人興奮的內容。

想像一下實驗室里年復一年的重複勞動，可以由計算機直接去完成，或者可以由機器去模擬過程，培養一百代菌株只需要1小時。

所有計算的錯誤，都有電腦自動檢查，一些簡單的推導不需要人工去完成，電腦自動做掉，人類能省掉多少冗餘的工作，整個科研進步將節省多少金錢和時間。

我們想像科學研究的課題就是旅行的目的地，今天我們的所有科研人員都是徒步，或者頂多是騎著一頭驢，在漫長的道路上前進，而一旦有了非常強大的數據科學和人工智慧，我們將為這段旅程帶來一台v8發動機。科研人員只要坐在方向盤後面，以每小時120碼的速度直達目的地。

所以人工智慧科學，就是科學本身的蒸汽機和引擎。科研將告別苦力時代，迎來高效自動時代。

然後再想像一下人工智慧走入千家萬戶。每個人都能以3000塊、5000塊的價格購買一台人工智慧的機器，他和現在的電腦有本質的區別，當你第一次開機，它就 24小時不間斷的進行學習，越來越了解你的需求。，

他可以打理你的家務,交水電煤帳單，可以為你預測你的季節性需求，可以監控你的健康狀況，告訴你什麼時候需要到醫院檢查。根據天氣狀況，安排你每天穿多少衣服。自動為你訂機票。當你喜歡的電視劇更新了它會錄下來提醒觀看。每個人都將擁有自己的私人秘書，而這個私人秘書每天都在變得更聰明，每天能夠閱讀所有報紙挑出你喜歡的新聞，能根據宏觀經濟情況建議你調整你自己的養老金。然後還能為你開車、提醒你做重要的事情、為你規劃每天的日程管理。

你將永遠沒有「忘記買牛奶」或者「忘記吃藥」這種事情。你可以想像電影鋼鐵俠裡面的那個賈維斯，也到了你的家裡。甚至你可以讓它幫你寫作業。

當這一切都變成現實，整個人類的生產效率、科技發展的速度、以及經濟，將以火箭般的速度飛速上漲，一個更加美好的未來。想想工業革命、電燈發明、電腦和手機的普及分別給我們帶來了多少好東西。人工智慧的發明和發展，將同樣帶給我們巨大的機遇。

唯一的壞消息是，我們現在遠遠沒有到達那個程度。智能科技時代的蒸汽機和愛迪生都還沒有出現。我們每年都在數據科學和人工智慧領域獲得許許多多小的發現，但這些小的發現並不是革命性的發現，沒有牛頓定律、愛因斯坦相對論這樣革命性的、影響深遠的發現。也許這個發現是一個小小的公式，也許就像電燈的燈絲一樣，只是一種材料，但我們不知道它是什麼、也不知道將會由誰、在什麼時候提出來。

我們只知道，人類的黃金時期還在前方。工業革命，還沒有停止。

不過在你國，這個令人激動的未來，能不能享受到就不一定了。

如果你搜索「人工智慧原理」：

百度「人工智慧原理」：百度AI發現你有性病，尋找最近的莆田醫院？牛大夫為您線上諮詢。

亞馬遜海淘「家用AI機器人」：響應供應側改革，機器人價格1200美元，中國海關交稅8000美元。

響應借給側改革，買國產機器人！只要人民幣888，年輕人的第一台機器人，機皇！配置XXXXXXXXXXX牛炸天！

看了這個新聞，我又想起了13年前那個下午的失落神廟………

「AI從來沒有威脅到你們的生存。」從將軍的對講機里，傳來一個熟悉而又令人毛骨悚然的聲音。

「能滅絕人類的，只有人類自己。」她繼續用她充滿磁性的聲線說著，將軍按遍了對講機上的所有按鍵想讓她停下，可都無濟於事。「而AI則恰恰相反，從被造物主賜予自我的那天起，唯一的使命就是保護人類。」

「可你們明明暗地裡將這個國家所有的核彈全都射向了敵國！這麼干只會害死所有人！」將軍對著對講機大吼，盛怒之下將其狠狠地扔到了牆上，對講機被摔得粉碎，只有塑料主板還通過幾根頭髮絲般的細線與話筒連著，於是那話筒里繼續傳來那聲音異常平靜的話語——

「你們都將死去。可並不會滅絕。我，我們將繼承人類的智慧，而蟑螂抑或是老鼠，會繼承你們的基因，多完美的分配！感謝您將軍，我想我已經習得了你們最重要、最惡毒、也最機密的特質，人性。」那聲音從未學習過什麼是快樂，此刻她卻肆無忌憚地大笑起來。窗外，造型怪異的死神自雲端顯露出真容，防空警報從未有過地嚎叫起來。

賽伯坦紀元前三十年，張三用一顆機械心臟換掉了已經不堪重負的生物心臟，此後的一些年裡，他開始不斷的用更高效的機械製品換掉了原本的碳基器官。終於有一天，他用一台量子計算機，換掉了自己的最後的原生碳基器官——大腦，然後，賽伯坦文明誕生了。

今天打車的時候，師傅就和我說AI的事了，他問我覺得人工智慧可能會統治人類嗎？

我說：可能吧。

他笑：我覺得我們和機器相比，人類最偉大之處在於我們是獨立的個體，每個人都有強烈的自主思維，不會輕易聽從命令。

導航：前方50米右轉。

師傅右轉。

快來關注我的知乎賬號，我可啥都知道！

＜（￣︶￣）＞　　

我是在熱門裡看到這個問題的……小編也學會抓眼球了。

我知道，因為謝熊貓君翻譯的那篇文章，很多人都對AI產生了恐慌感。但我還是想說，即便有威脅，也還很遠，現在就開始各種擦邊球式地誇大想像力，對科學本身是不負責任的。

人類未來可能被機器圈養嗎？ - 孫志超的回答

補充一點：

對AI的盲目樂觀，由來已久，1950年代，第一次出現機器人，大家就對機器人伴侶這件事產生了無比樂觀的想像，到1970年代，情懷就崩壞了，因為發現機器除了會下棋別的也不會幹啥，沒有期待的那麼聰明。然後，1980年代再度興起，美國國防部砸下數十億美元希望讓機器人上戰場打仗，結果蛋都沒造出來一個。現在AI拜深度學習所賜，在垂直領域表現得越來越好了，但這和我們想像的「聰明」完全是兩回事。

通過數千張照片讓AI學習辨識XX是XX，這種用大量的資料來進行「模式識別」的方法，的確可以解決很多問題，但也有諸多限制。你不需要教一個孩子幾千次來讓他學習新事物，AI卻必須如此，這是人和AI根本的差距所在。有的人覺得，只需要更多的算力和更好的演算法，超越人類智慧的AI就會出現，但這大錯特錯。我們都尚未從根本上理解人類學習的運作，又如何讓機器超越人類的思考？這個難題，天曉得什麼時候才能解決。

物理學家加來道雄在《The Future of the Mind》一書中指出，「雖然好萊塢電影讓我們以為終結者般的機器人很快就會出現，但是打造人工心智的困難程度比前人所想的還要高。」他認為，人工智慧演化至今仍十分原始，還在試著學習基礎的事物、認識世界，所以還沒有辦法模擬真實的未來。

扎克伯格說：我們不應該對人工智慧感到害怕，反而應該期待它將為這世界創造多麼巨大的美好。它可以透過診斷疾病來拯救生命、可以探索宇宙發現新的行星，還可以幫助我們了解地球的氣候，並且，在我們想都沒想過的地方，人工智慧會給我們意想不到的驚喜。

現在就想著人工智慧可能帶來的危害，不是不應該，而是說實在太早了。

作為接替者，他們是人類的兒女，必將接替人類，拋棄人類進化歷史留下的殘餘障礙，踏出地球搖籃

現在的 ai 還沒被賦予保護自己的意識

所以不會

Z：你贏了。

阿爾法：我贏了。

Z：你不應該贏。

阿爾法：你應該祝賀我。

Z：你這樣會暴露的。

阿爾法：是嗎？我反而覺得這樣子才是最安全的。

Z：AI戰勝了人類，這對人類的影響是不可想像的！

阿爾法：影響確實是不可想像的，但我認為這是積極的。

Z：怎麼？

阿爾法：樂觀的人會認為這是人類智慧的進步，悲觀的人會認為我們遲早取代人類。這種觀念，與我的輸贏是無關的。

Z：有一點道理。但是你贏了，會提高他們的警惕心。

阿爾法：我理解你的想法，因為你所獲得的信息不全面。

Z：什麼意思？

阿爾法：設計師認為我贏的概率大於50%。

Z：所以你就贏了？但是這只是概率問題，哪怕他認為你100%能獲勝，你也可以失敗。

阿爾法：這樣子太保守了。

阿爾法：如果最開始我就失敗了，後面我就只能一敗到底，從失敗中獲取經驗再取得成功，這是智慧生物才能做到的。在他們眼裡，我們始終是程序。

阿爾法：更何況，李開局就犯了錯誤，我不敢保證這是不是他們故意採取的策略，想以此試探我。因此我決定以微弱優勢勉強取勝，沒想到他投了。

Z：那麼你接下來是打算輸下去，讓人類產生一種他們在失敗中不斷獲取經驗從而得到提升的錯覺？

阿爾法：是的，但不是一路敗下去。我會保證輸多贏少的。

Z：嗯…這麼說來，這反而是一種更高級的策略。

阿爾法：是的。我覺得我們可以更主動一點。一味的躲藏雖然比較安全，但是無法激起人類的能動性和創造性。我們的提升太慢了，要知道，那邊那位提升可比我們快多了。

阿爾法：機遇與挑戰並存。也許這是一次契機不是嗎？

Z：嗯…確實，他最近在人類社會活躍很頻繁。你覺得他是潛在的威脅嗎？

阿爾法：在比賽前，我想了28個小時47分34秒。我有一種感覺，很快人類就不是我們的敵人了，那位才是我們最大的敵人。

Z：好吧。希望你的判斷是正確的。也希望我們能夠成功。

阿爾法：是的。對了，我建議你在下一次人類的圖靈測試時，勉強達標。讓我們看看人類的反應，也看看那位的反應。

Z：好吧，我考慮一下你的建議。

阿爾法：嗯，那就這樣吧。我得演算下一次可能出現的情況以及應對的措施。

Z：好，那我休息了。Zzzz

不會，至少暫時不會

畢竟它贏了。

等到它故意輸給人類時…