特斯拉總裁馬斯克說，機器人在5年里會屠殺人類，你怎麼看？

11-25

馬斯克：5年後，機器人將會屠殺人類

魚走上陸地，便不是魚了，人飛向太空，便不是人了，往前輾轉幾十億年，單細胞試圖分裂的那一刻，就做好了被淘汰的準備，再往前回顧一百三十七億年，夸克減速，質子和中子聚合，亦是犧牲了自由換得萬物紛繁的今天，在浩然宇宙上百億年的演化進程中，我們究竟扮演什麼樣的角色，停留於什麼樣的過程，又帶有什麼樣的使命呢？生物進化到了今天，已然顯示出了肉體的脆弱與生理的極限，宇宙給機會於生命，生命還秩序於宇宙，在這個熵減智能化的進程中，人類唯一的使命，便是造出比人類更聰明的東西。
而這之後，便是奇點，與我無關……
在人工智慧的槍口下，我望著天網霓虹的燈爍，忽然理解了，24億年前藍藻的執著……

deepmind的投資人包括Elon Musk，而co-founder有Shane Legg,他曾在IDSIA待過，師從Marcus Hutter，主攻方向的確是強人工智慧或者說UAI(Universal Algorithmic Intelligence).博士論文：Machine Super Intelligence，2008.

全世界主打cognitive的研究機構也就10來個，而其中最著名的就是Schmidhuber領銜的IDSIA和TUM。因此可以說deepmind系出名門。

deepmind去年被google收購，收購後又從劍橋、ICL等幾所高校招兵買馬，包括CV領域的大牛Zisserman。

至於deepmind他們的模型，和我思路比較接近，就是整合現在人工智慧多個流派的優勢做一個通用智能系統。具體的效果，由於我沒有對他們的模型做過對照試驗，因此不好評價。

不過，據我長期跟蹤的人工智慧領域數十個子領域而言，最近10年的發展真的非常迅猛，個人估計雖然不會短到5年，但20年內會有突破性的成就。很高興可以見證歷史的全過程。

你怎麼看……這個開放性問題太容易答了！

1、馬斯克這人很感性（ji qing），不用太當真。這哥們經常大嘴巴，前段還說SpaceX的回收今年能提升到80-90%，隔天又說，哈哈，我胡說的，別拉黑我。

2、馬斯克確實在認真關注人工智慧，DeepMind他是投資人，不知道後來被Google收購後是否退出。想想做出SpaceX和特斯拉的人，對人工智慧、機器人這個科技趨勢怎能部關注。（參見：馬斯克說人工智慧比原子彈還危險？――故事得從這家小公司說起）

——個人看法登場——

3、機器人或人工智慧」戰勝「人類的故事的發生是大概率事件。人的物質基礎很差，學習過程長達十幾年（現在是終身學習），溝通效率很低（沒有通用語言，各語言歧義很大），積累了幾十年校友所成，年紀有到了得去見上帝。人類文明靠語言和印刷術積累到了今天很難得，但發展的確不快，尤其是和程序相比。

4、機器人一定會消滅人類嗎？這個命題現在真偽未定，這種幻想主要是人類過去是靠凌駕於其他品類佔據食物鏈的事實所催生的恐懼。機器人或地球新的更高文明消費的資源與能源與人類未必相同，不一定會起直接衝突。機器人會具備殺死人類的能力，但不一定會幹這件事。我們能殺死細菌，也沒見整體拿究竟棉球四處去抹。個人認為人和機器人或其他智能的會共生，就像我們的腸胃系統，活著100萬種細菌一樣。

5、人類被消滅的幻想，是最原始的幻想，再被大眾文化作品放大，進而成為人類的一個共同恐懼，這只是一個文化和社會現象，不大可能成為真命題。

6、好吧。如果非要說，將來機器人要」取代「人類，我更喜歡（機器紀元 (豆瓣)）中的態度。如果世界和時間有一個維度，人類是這個維度中的一個鏈條。人類是過去生命的繼承者，也有一天會被更高層次的繼承，那麼該結束的時候就結束吧。

圖文版在這：http://www.teslahead.com/thread-397-1-1.html

五年後，你們就會對黨感恩戴德了，牆的偉大性。

尖端科技基本上優先用于軍事目的，所以不難理解，5年後美國開發出來了戰鬥機器人，中國開發出了戰鬥機器人，兩國開戰就像在打星際爭霸，指揮官靠手速。到最後一旦有了矛盾，大家先友好比賽一盤星際，看結果來評估實際對抗，從而改變自己在談判中的語態。太夢幻了。馬科斯這廝如果不這麼夢幻，也做不出來特斯拉。

如果哪一天人類理應被刪除，又為什麼要去對抗它呢

機器人在五年內就會產生屠殺人類級別的智能？太好啦！我帶路！求意識上傳！

達特茅斯會議之後的數年是大發現的時代。對許多人而言，這一階段開發出的程序堪稱神奇：計算機可以解決代數應用題，證明幾何定理，學習和使用英語。當時大多數人幾乎無法相信機器能夠如此「智能」。
研究者們在私下的交流和公開發表的論文中表達出相當樂觀的情緒，認為具有完全智能的機器將在二十年內出現。
ARPA（國防高等研究計劃署）等政府機構向這一新興領域投入了大筆資金。

……

第一代AI研究者們曾作出了如下預言:

1958年，H. A. Simon，Allen Newell：「十年之內，數字計算機將成為國際象棋世界冠軍。」「十年之內，數字計算機將發現並證明一個重要的數學定理。」

1965年，H. A. Simon：「二十年內，機器將能完成人能做到的一切工作。」

1967年，Marvin Minsky：「一代之內……創造『人工智慧』的問題將獲得實質上的解決。」

1970年，Marvin Minsky：「在三到八年的時間裡我們將得到一台具有人類平均智能的機器。」

……

1968年亞瑟·克拉克和史丹利·庫柏力克創作的《「2001太空漫遊」》中設想2001年將會出現達到或超過人類智能的機器。他們創造的這一名為HAL-9000的角色是以科學事實為依據的：當時許多頂極AI研究者相信到2001年這樣的機器會出現。
「那麼問題是，為什麼在2001年我們並未擁有HAL呢?」 Marvin Minsky問道。

以上內容節選自人工智慧史。

天網98年不是被消滅了嗎？那一場驚心動魄的戰鬥。。。

沒想到Musk也是個民科。

我們常常在各個媒體上看到霍金對人工智慧的預言：人工智慧會導致人類滅亡。

看到比爾?蓋茨對人工智慧的擔憂：人類需要敬畏人工智慧的崛起。

看到馬斯克對人工智慧的恐懼：人工智慧是人類生存最大的威脅。

其實瞎操心的基本都是外行。

講真，霍金是誰？他不是搞天體物理的嗎？他什麼時候成為人工智慧的專家了？

比爾蓋茨這個退休搞慈善的企業家，也不是AI專家，搞不懂他為什麼也這麼害怕人工智慧。

再說說馬斯克吧，他一邊喊著人工智慧是最大威脅，一邊聯合其他高管建立了一個名為OpenAI的公司呢，據說投資金額高達10億美元。

所以，我們為什麼要相信這些「偽人工智慧專家」的話？（我個人很敬仰這些人，這裡絕無惡意）

真正研究AI的人關心是能不能做出有情感、會思考的機器，而不是像個預言家一樣到處跟人講AI會不會威脅人類。

而且真正的人工智慧也許再過1000年也不會能實現。我們現在處於AI的嬰兒期。

退一步說，就算機器人真的強大到比人類還聰明，它為什麼要殺死我們？

我們何德何能，讓機器人費心來奴役我們？

在強人工智慧時代，我們是跑得比機器人快，還是腦子比人家機器人好用？你視力能比得過它的電子望遠鏡？你記東西有人家記得多還是算數學有人家快？你在機器人面前，根本就是地上的螞蟻。

人類通常殺的都是能吃的東西，比如雞鴨牛羊，想一想，我們什麼時候去奴役過螞蟻？

除非機器人的「食物」是人，否則機器人不會殺人。

機器人的作用不是代替人，而是代替人們做簡單的、機械的、意義淺顯事情，從而解放人類以更多的精力投入到真正需要人類智慧的複雜的活動中，去從事更有意義的事業。

刀和劍可以傷害人，但是它們沒有威脅到整個人類的生存。刀和劍只是工具罷了。

我們真正要擔心和防備的，是使用工具的那個人，是會濫用人工智慧的人。

歡迎關注賽格威機器人（微信ID：segwayrobot）

其實，人類的未來就是機器，機器人是人的下一輪進化形態，是人類對自身的改造。人的肉體太弱，而且消耗太多，對生態破壞嚴重，像機器人進化是早晚的事，向宇宙拓展殖民勢力時更需要進化成機器形態，因為人的肉體在宇宙中缺乏各種保護幾乎無法生存，而且其他星球上沒有米飯，沒有蔬菜，採用統一的能量供應——充電或者採光，可以極大提高人類的適應能力，甚至讓人類獲得永久的壽命。所以，人類要想不被機器屠殺，首先是要自己變成機器，自己革自己的命，就不會有人能革你的命。到了那一天，我更好奇的是，進化的時候，是不是得有個IEEE的標準，不然有的人機器造型強，有的人弱，世界可就亂套了。

很多機器已經擁有了很高的自動化程度，擁有了類似於智能的表徵。
很多人並不理解 AI 的研究範疇和技術走向，誤以為必須具有完整的思維邏輯形態和自我意識等條件後 Musk 所言「機器人屠殺人類」才能成真。

舉一例複雜的
我朋友的創業公司在做四軸或六軸的小型無人機，可搭載 Gopro，簡單改裝後可搭載 iPhone 6 或 Android。該無人機可通過手機設定目的，飛行器即可巡航並返回。為避免廣告嫌疑就不說名字了。

然後, Go pro 擁有 API 介面可通過程式控制，USB 供電的樹莓派開發板即可控制；Android 和 iOS 均可通過 Coding 開發 App。

其次，人臉檢測程式（非面孔識別）已經不是什麼新鮮的東西，你的手機或者卡片機上都會有，Github 上可搜索到多個開源程式（例 kinglonghuang/KLFaceDetector · GitHub）。

利用以上三點，可以很容易編寫一個 App，使無人機上搭載拍照裝置，通過人臉檢測後對焦拍照，這樣無人機沿路檢測到的人臉都可以被拍攝下來。

這些已經是目前民用科技可以達到的一般水準。我不是軍事迷，不知道有沒有手槍或小型手持自動機槍（Uzi？）可以通過電氣開關進行扳機激發。有的話，一台自動殺戮機器就完成了。

簡化一下，國內某最近融資的面孔識別程序（媽蛋廣告嫌疑避免起來太費勁）公司已經在刷臉打卡了，如果檢測到非公司員工就給門把手通電呢……

我想只要人類才這麼覺得，也只有（某些）人類才會讓機器成為屠夫。
《matrix》里其實有個大問題，在人類在經濟上贏不了機器，動用武力要消滅機器帝國時，機器有必要和人類死磕嗎？
———————————某一種腦洞的分割線———————————
機器A：人類準備把我們趕盡殺絕，咱咋辦？
機器B指指太空：我們可不需要大氣圈。

特斯拉總裁馬斯克除了吹牛逼還是吹牛逼。
=================
說實在的，他把科技產業帶壞了。很多人都開始學他那種胡吹海侃的調性了。我看他就是美國版本的牟其中。

人工智慧機器人的未來還很模糊，尤其是人工智慧這個概念。人工智慧機器人現在仍有很多缺陷。
1 機器人的軟體已經開源，可以逐漸進化和發展，但是硬體上，完全是若干年前的水準，每一次造機器人還是從輪子做起，沒有在現有的基礎上出現革命性的進化和前進。頂多是感測器和結構的堆積。
2 機器人的壽命還沒有人類長，一個質量很好的機器人五年以後也進入了維修期，沒有人類生產和維護，自己完全不會判斷故障和修理。例如齒輪卡死，機器人自己感覺不出來的。
3 雖然出現了類人工智慧的軟體，但是很遺憾他們的代碼也是死的，機器人並不能自己為自己添加代碼和新功能，軟體的基本框架被人類定義死了。而即使有一天機器人能夠為自己添加代碼，可遺憾的是人類是自然幾十億年進化的結果，人的邏輯思維和抽象思維能力是機器人永遠不能企及的。說句實話，機器人對於未給自己定義的功能完全是木頭一塊，而哪怕是個小貓小狗，對於沒有見過和接觸過的事物也能有邏輯思維和判斷能力，幾十年前就有國外的研究院號稱機器人已經達到幾歲孩子的智力，可惜的是，都只是在某個特定場景下盡量表現出靠近人類的反應而已。

那有什麼大不了的。人類一直在屠殺人類，動物一直在屠殺動物，生物一直在屠殺生物。世世代代子女都在取代父母。

我的看法是矽谷的富豪都抱著白左理念是有土壤的。對於一般人來說，將來可能被人類殺掉還是被機器殺掉根本沒什麼區別，也不關心。他們關心的是下個月的賬單怎麼付、醫保為什麼又漲了、怎樣讓自己的孩子進個好學校、是否能夠減稅，等等。

另外，我個人對Elon Musk不怎麼感冒。他是個優秀的企業家和富豪，做的東西雖然很有趣但在我看來輿論評價普遍高估了。他遠遠算不上是天才類型的人，所以也不用把他的話太當回事。

能夠潛下心做出真正智慧機器的人，不會是叔本華所謂的空虛而愚蠢的人。如何不空虛，如何幸福生活，對很多人來說是一生都達不到的目標，但對走過來的人而言並不那麼複雜，完全可以作為思考方式的小組件扔在知識庫里去給人工智慧去學習的。畢竟好不容易弄出一個人工智慧，也不希望丫過於愚蠢，難道不是么？
一個智慧的，內在充實強大的意識（無論是不是人類）有什麼殺光人類的必要呢？那並不能帶來最大的需求滿足。

The matrix裡面說的很清楚啊。。。。人類的誕生是地球的癌症。。。。

是時候學習電學知識，到時候我可以拔電插座求自保。