霍金說，人類將要被機器人控制啦，你造嗎！

看完這篇文章，小編整個人都不好了，想起觀看電影《機械姬》時的感受，沒看過的童鞋，自行補課。我想靜靜……

▲電影《機械姬》，深藏美麗皮囊之下的人工智慧

在前不久的倫敦「谷歌時代精神」大會上，霍金平靜地描述了人類的命運：「在未來100年內，結合人工智慧的計算機將會變得比人類更聰明。」這位大科學家認為，屆時，人類將被機器控制。

出席美國脫口秀節目時，斯蒂芬·霍金甚至講了一個「恐怖」故事。

「世上真的有上帝嗎？」科學家用顫抖的聲音問道。

「現在有了。」世界上最聰明的人工智慧電腦回答。話畢，一道電光閃過它的電源插頭——人們再也關不掉它了。

主持人約翰·奧利弗聽得瞪大了眼睛。和地球上大多數人一樣，他也相信當人類真要與人工智慧作戰時，切斷它們的電源就足以制敵了。

今年年初，霍金在一封提倡控制人工智慧發展的公開信上籤下自己的名字，微軟創始人比爾·蓋茨、特斯拉汽車公司與美國太空探索技術公司CEO伊隆·馬斯克的名字也赫然在列。在他們看來，飛速發展的人工智慧已經成為「我們現存的最大威脅」。

人類一手創造了敵人，並用「智慧」武裝它

幾位人類科技界「頂樑柱」擔心的「人機大戰」，很可能已經悄悄冒出硝煙的味道。在上傳至網上的一段視頻中，一隻名為Spot的機器狗協調地運動著白色的四肢，像真正的狗一樣行走。

為了證明它的堅固，有人衝出來，對準它的腹部結結實實地踢了一腳。機器狗一個趔趄，一邊發出急促的吱吱聲，一邊緊踏幾步保持平衡。

這段「虐狗」視頻引發了熱議。有網友評論：「這就是世界結束的方式。不是大爆炸，而是在被你踢了之後，機器狗轉身撲向你。」

▲谷歌旗下的波士頓動力公司研製的機器狗「big dog」，可以負重180公斤跟隨士兵在崎嶇道路行軍

在現實世界中，人類也正處在人工智慧的包圍中：拿起手機，可與虛擬助手Siri對話；想要出門，可乘無人駕駛汽車兜風；走進醫院，超級電腦沃森醫生正在「坐診」。

戰爭可能在某一天悄悄打響。電腦擅自替你做出拋售股票的決定，或者無人駕駛汽車突然決定在高速路上歇腳。之後的情況則將超出「故障」的範疇，演變成一場災難。

在憂心忡忡的科學家們看來，這將是一場前所未有的戰爭。人類一手創造了自己的敵人，並用自己最強大的武器——「智慧」，為它武裝。

「我們人類之所以存活於世，從來不是因為我們是這星球上最強壯，或行動最快的物種，而是因為我們最聰明。」《我們最終的發明：人工智慧和人類時代的終結》作者詹姆斯·巴拉特說道，「所以當比我們更聰明的力量出現在這星球上的時候，它就將接管地球。」

超人學家尼克·博斯特羅姆在《超級智能》一書中描繪了令人毛骨悚然的場面：納米機器人突然開始瘋狂地自我複製，而它們此前被植入人體內，是用來對抗疾病。

不久前，身在倫敦的霍金以三維全息圖的方式出現在悉尼歌劇院，用機械聲音對坐在台下的人們說：「我認為我們無法再在這個脆弱的星球上生活1000年。」受困於緩慢的進化速度，人類根本無力與飛速發展的人工智慧抗衡，最終，「人工智慧的全面發展將導致人類的滅絕」。霍金甚至主張人類去其他星球「殖民」，以保證種群的延續。

另一些學者則描繪了人類完全被機器人「脾氣」主宰的悲涼命運。他若殘暴，我們可能被屠殺；他若人道，我們的出生率可能被逐漸降低，自然滅絕；若他們當中有善良的自由主義者，我們將被馴化。

比起「寵物」，對科技持樂觀態度的哲學家格雷·斯科特更願意把人類視為「學生」。當人工智慧超越了人類智能，人類將在它們的指導下，「成為更好的物種」。

在一片恐懼中，百度公司首席科學家吳恩達認為，現在為人工智慧的負面影響擔憂，就像擔心火星上人口過剩一樣遙不可及。

特斯拉CEO馬斯克卻無法對此視而不見。這位億萬富翁已經開始「站崗放哨」。他為一家名為「Deep Mind」的人工智慧公司注入資金，只是為了「盯著這種技術的走向」。

人工智慧將成為「終結者」？

一位高級認知機器人學研究者正面臨著頗為糾結的教育問題。與不知怎樣向孩子解釋「小孩從哪兒來」的父母不同，他在思考要不要向孩子揭示一個殘酷的前景——他們可能不會有機會擁有自己的孩子，因為他認為人工智慧統治的時代已經近在咫尺了。

「人工智慧真正嚴重的危險將在5年，最多10年後便會出現。」馬斯克去年11月在群組博客Edge的討論中寫道。或許是太過驚悚，消息剛發出便被刪除。相比之下，霍金給出的1000年期限簡直溫和極了。

不過眼下，人們還是可以確定，至少在一段時間內，人工智慧只會是讓生活更美好的「大白」。

它們將是照顧老人的護工，看護孩子的玩伴，打理家務的管家，甚至與人心靈相通的朋友。通過解碼面部肌肉運動，人工智慧機器人將得以理解人的感情和思維，如同科幻電影里的「大白」一般，時刻準備送上治癒的擁抱。

樂觀的哲學家格雷·斯科特描繪了一幅美好的圖景：到2018年，自動化將遍及世界，承包無聊或危險的工作，輔助人類做有趣的事情。在不遠的將來，機器更將滿足人類的生活所需，讓二極體去算賬，讓女會計成為詩人。

然而，這些美妙的念頭無法令他迴避人工智慧擁有成為「終結者」的潛力，即便在它們完全服從命令的時候。

「在追擊人群中的一個目標時，它會知道等目標離開人群後再開火嗎？」斯科特問道。這是科學家們共同承認的一個困境：如何為道德編碼。當人工智慧被用于軍事，這變得尤為重要。

哈佛大學法學院呼籲「通過國際法令，禁止開發、生產、使用自主式武器」。起草報告的邦妮·多赫蒂義正詞嚴地表示：「沒有道德和人性的機器不應擁有殺戮的權力！」

在好萊塢電影《復仇者聯盟：奧創紀元》中，人工智慧奧創以「殺戮」的方式，忠實地履行著創造者維護和平的意願，在它看來，這手段最行之有效。

現實中，科學家也擔心，會不會有一天，「抗癌鬥士」納米機器人仔細思考後發現，比起殺死癌細胞，清除基因上易患病的人更方便。

「把能量釋放出來容易，想確保安全卻很難。」馬斯克認為，人工智慧研究的重點首先應該放在安全上。如果開發時間因此延長，恰恰是正確的路徑。「我們不能一頭扎向自己不懂的東西。」

今年年初，霍金、馬斯克、蓋茨等共同簽署了公開信，呼籲科學家對人工智慧提高警惕。霍金建議人工智慧研究機構應協同合作，確保發展速度不會過快，並使之保持在人類的掌控之中。

人類歷史上最大也是最後的成功

▲電影《超驗駭客》，科學家威爾將自我意志轉入超級電腦之中，成為人機合一的超級存在

如果有一天，外星文明發來信息：「我們將在幾十年之內到地球來。」我們當然不會回應：「好的，我們給你們留著燈。」

對此，霍金在2014年5月發表在英國《獨立報》的一篇文章中寫道：「相似的事情正在我們與人工智慧之間發生。」

哲學家格雷·斯科特指出，人工智慧是「入侵者」，而人類對它們而言也是「壓迫者」。機器的反應取決於人類對它們的設定，降低機器的自尊水平或許能夠避免衝突。馬斯克則將「仁慈」視為保證人類控制水平的最佳方式。

在「時代精神」大會上，輪椅上的霍金用臉部的一塊肌肉指揮機器說道：「我們需要確保計算機與我們的目標相一致。我們的未來取決於技術不斷增強的力量和我們使用技術的智慧之間的賽跑。」

在另一些科學家看來，人類與人工智慧可能根本不會有「開戰」的機會。在被人工智慧衝擊之前，人類的防線就已經開始不由自主地倒戈。

第一台盲人閱讀機的發明者雷蒙德·庫茨魏爾在《靈魂機器的時代》一書中描述道，人類不會把控制權拱手讓與機器，人工智慧也不會主動攫取。隨著機器越發複雜和智能，人類對機器的依賴也日益加深，最終不得不聽任機器來控制。到那時，關掉機器是無法擺脫他們的控制的，因為關機於我們而言無異於自殺。

斯科特依舊對人類充滿信心，他相信，人類已經用技術和法律規範約束了核彈，也必定有能力管理人工智慧。雖然在霍金口中，人工智慧無疑是前所未有的勁敵，「比金融家更聰明，比研究者更富創造力，比領導更具操控力」。

在電影《超驗駭客》中，被暗殺的科學家威爾在妻子的幫助下，成功將自我意志轉入超級電腦之中，從此成了無所不在的「超驗駭客」。他能從土壤中造出太陽能板，能讓殘疾人長出新肢，能全天候通過一切終端出現，人類已經無法阻止這個人機合一的超級存在。

曾主張修改人類基因與機器抗衡的霍金對此大為興奮。他力挺把人的大腦與計算機直接相連的「人腦控制技術」，由此打破人類智能與人工智慧間的藩籬，人與機器最終得以合二為一。自此，人工智慧將對人類智能做出貢獻，而非威脅。

到那時，人類千百年來苦苦追求的長生不老也可能因此實現，肉體死去，精神卻在人工智慧系統中獲得無限的權力和自由。

「人工智慧將是人類歷史上最大的成功，」早已癱瘓的科學家霍金在機器的輔助下寫道，「不幸的是，這也可能是最後一個。」

（《青年文摘·快點》，摘自《中國青年報》）