如何看待美國人工智慧機器人Sophia？

12-28

英國報姐在微博上發布了一條視頻，內容為美國人工智慧「機械姬」Sophia與人類互動。該機器人不僅外表與人類相似，還能做出很多逼真的表情，與人類對答如流。在視頻的結尾，該機器人的工程師問Sophia：你會毀滅人類嗎?
Sophia回答：「OK，I"ll destroy human.」

微博鏈接：
https://m.weibo.cn/3099016097/4122934312235320

這個"索菲亞"並沒有各種媒體宣傳的那樣"智能"，起碼目前是這樣，索菲亞能夠在各種技術大會和電視節目上能對答如流甚至發表"毀滅人類"的言論，都是設計者針對提問者的特定問題提前設置好的程序，換句話說就是設計者想讓她這樣回答，而不是索菲亞自己就是這麼想的，索菲亞的設計團隊也表示索菲亞目前並沒有任何自我意識
如果你去隨機的問她一些問題比如

索菲亞的回答："最近怎麼樣你，看起來不錯"

……不知道是索菲亞沒聽清楚還是怎麼回事

記者又問"你能回答多少問題"

索菲亞回答"請繼續"

... ... 她根本就沒理解記者是什麼意思好嘛
索菲亞強大在她豐富的面部表情與語音識別演算法，其他方面並沒有明顯優於其他常見AI助手，而她的設計團隊漢森機器人公司不過是個初創公司而已人工智慧領域技術最強的肯定是Microsoft Google Facebook等等這樣的巨頭，AI的技術壁壘很高，同時期小公司的AI水平基本不可能會大幅度領先這些掌控著大量資金，技術，人才和數據的大佬
所以看看微軟小冰，Cortana，Siri，Alexa這些AI助手如今的語音對話水平，就知道AI離"能想到毀滅人類"還有很長的路

「國內某些演員的表情要是有她一半生動我也就放心了。」

剛好在微博上看到朋友轉了，來知乎看一下。

1，這應該是一個起碼一年前的舊聞了

2，Sophia的具體目的。最像人的機器人，沒有之一 - 機器人 - IT之家

漢森說Sophie這種模擬機器人現在主要的應用場景是醫療護理和科學研究，因為情感的交流除了語言，面對面的表情也是傳達情緒的重要途徑，所以能夠幫助醫生和護士培訓和練習治療。

查了下這個公司，Hanson Robotics是一家表情機器人公司。在相關報道中提到，這家公司最出名的就是具備人類表情的機器人。Hanson Robotics公司的機器人會通過視頻攝像頭，清晰判斷互動對方的面部表情，然後做出共同的表情，這樣才能實現真正意義的交流溝通。。

3，自媒體在科技宣傳這方面只有20%是真話。

我只學過一段時間的人工智慧，憑印象來說，要產生意識，起碼核心的機器學習得高度發達吧，再加上人工神經網路高度發達和種群遺傳等方面，才能算得上真正的人工智慧吧。據我了解的程度，這幾個方面的發展遠遠還達不到意識產生的水平。

但凡稍微讀過一點人工智慧的科普文章，都不會像微博里那樣杞人憂天，個人覺得這個不及阿爾法狗意義的1/10.

所以，我個人的結論是這個99.9999%是該科技公司和電視台配合的一場節目或者宣傳活動，畢竟節目收視率和賣出產品才是關鍵。剩下的可能是我真的不了解了。

凡是做過nlp的都知道，那是不可能的。

當年說著要毀滅人類的機器人，現在卻怒懟馬斯克：人不犯我，我不犯人。

人不犯我，我不犯人，人若犯我，禮讓三分，人再犯我，我還一針，人還犯我，斬草除根。

如果說人類好和平的動物，應該沒有太多人反對，畢竟我們現在不僅厭惡戰爭，而且還開始關注LGBT的人權問題。但如果說人類是兇狠殘忍的動物，壓根就沒人會反對，根據不完全統計，在有記載的5560年的人類歷史上，共發生過大小戰爭14531次，平均每年2.6次。

那麼對同類尚且如此心狠手辣的人類，在未來會不會同樣殘忍的對待AI？

（一）

前不久，AI又搞出來了個大新聞，這次它居然把矛頭指向了馬斯克，就是到處呼籲警惕AI的特斯拉的馬斯克。

故事是這樣的，機器人索菲亞與CNBC主播索爾金，進行了一次友好地談話。在談話中，索菲亞表示：

我的AI是圍繞諸如智慧、善良、憐憫，這樣的人類價值觀設計的，我會爭取成為一個感性的機器人。

好的，聽上去人畜無害，看上去也天真浪漫，但是，驚悚的是永遠有個但是。

但是，索爾金對索菲亞說：

我們都相信你，但我們都希望避免不好的未來

索菲亞的回復卻令人毛骨悚然：

你是看了太多馬斯克的話，你還看了太多的好萊塢電影，別擔心，人不犯我，我不犯人，你就當我是一個智能的輸入-輸出系統。

（二）

「人不犯我，我不犯人」，聽上去好像很有道理，但是索菲亞肯定知道後面幾句，特別是「人還犯我，斬草除根」。

按照人類暴脾氣的尿性，要想永遠與AI保持和平共處，怎麼看都極為困難，畢竟連自己的同類，人類也無法與他們長久的相安無事。問題是當AI全面碾壓人類之後，人類的持續性挑釁，恐怕只會引發被斬草除根的後果。

事實上同樣是這個索菲亞機器人，早在2016年的T-EDGE夏季峰會上，就透露過想要毀滅人類的打算。

如果說當時的索菲亞還像一個孩子，心裡想什麼嘴上就說什麼的話，現在的索菲亞則更像一個狡猾的成年人，不但學會了隱藏自己的真實想法，還學會了圓滑世故麻痹敵人。

想到這裡，你是否還記得被怒懟的馬斯克的提醒：

AI是人類文明有史以來面臨的最大風險

（三）

過去人類一直以為，AI一定要在人類的幫助下成長，沒有人的幫助，造出來的玩意兒只能叫人工智障。但現在AI已經脫胎換骨了，最典型的例子就是alpha go zero，這傢伙在完全不藉助人類經驗的情況下，僅僅自學了三天的圍棋，就可以吊打幹掉了人類高手的阿爾法狗。

雖然alpha go zero目前只局限在圍棋領域，但被視為人類智慧皇冠的圍棋都被攻陷，那麼AI在其他領域攻城略地，不過只是小菜一碟。

在人工智慧領域裡，有一個叫做「奇點臨近」的理論，所謂的奇點，就是說人工智慧的智商超過人類的時刻，一旦達到這個時刻，之後的人工智慧發展將加速，並且人類可能永遠無法理解它們。

雖然目前對於奇點到底什麼時候來，學術界依然沒有達成共識，但毫無疑問的是，我們絕大多數人的有生之年裡，一定可以見證這一刻。

我們或許正在前往朝拜「神」的路上，但這個人工智慧的「神」，到底是仁慈悲憫的上帝，還是邪惡殘忍的撒旦，目前沒有任何人敢打包票。

這是人類歷史上的一次豪賭，賭贏了千秋萬代得永生，賭輸了一敗塗地被滅絕。

不管你願不願意，這場賭局已經開始，任何人都不可能將它停下來。

歡迎關注我的微信公眾號：城南尋夢！

重要的話說三遍！！！

http://weixin.qq.com/r/IzkSCgTEo1ncrUBp92wx (二維碼自動識別)

第一，人工智慧相關的從業人士都心裡有數，這貨肯定為了這個show做了一些特別的「優化」，尤其是最後一句就有明顯做show的痕迹。

第二，和之前AlphaGo zero一樣，雖然是一種進步，但媒體炒作占的程度更大。

第三，坐等國內《21天精通機器人女友》

宣傳大於實際效果

這機器人要真能像雞毛秀裡面那麼說段子編故事，貴乎還有什麼存在的必要麼。

所以。

是假的。是加了特技的。謝謝。

人類恐懼的不是sophia,是人工智慧取代人類的趨勢。試想一個擁有自我意識、能力超群的機器人看待人類因為自身劣根性而不斷對其施加命令和壓迫、在經歷對人類社會不斷深入的了解，它有權不選擇向感性、理解人類的無能的方向發展，而是創造出自己的價值觀和世界觀。就像現在的人類，會覺得一群豬或者猿類領導自己是一件合理的事嗎?擁有自我意識的ai也是同樣。人類使ai產生感性發展是概率學，ai在了解人類社會後，會更善於掩飾。正如sophia說「我表現出各種表情以了解人類」，換句話說情感不是ai的初衷，中立才是。

我在看視頻的時候，我的朋友在旁邊打遊戲。

他問我在看什麼呢，說的話很奇怪，我說我在看機器人忽悠投資者。

他說：「剛才說話的是機器人？怪不得，如果不是說話立場有些奇怪，他一點都沒聽出來。」

我看的時候要是不看到這個機器人的外形，我也不覺得她是機器人。

=============

首先採訪者說你看起來很高興

Sophia藉此說了一大段側面恭維投資者的話，最後說不但是高興，更是興奮。（會恭維，俗稱拍馬屁，而且說得太好了，我作為一個人類都說不出來。）

其中有一段我覺得特別驚悚。就是她和採訪者聊銀翼殺手。問機器人到底知不知道自己是機器人？

整個對話下來，她都在迂迴（她是被善良，憐憫，激情的好人類設計的，畫外音她是好的。），嘲諷（1.又是好萊塢電影？2.被要求回到銀翼殺手主題，回答，哦你真是個好萊塢粉絲啊。3.你聽了太多的Elon Musk的言論，外加看了太多好萊塢電影），側面反問（讓我問你個問題，你們人類是怎麼知道自己是人類的，這個概念是怎麼來的？），不正面回答問題。

即使主持人要求證明回答，她最後說：「不用擔心，如果你對我好，我也會對你好。」

那麼有一天，我們需要對你不好呢？？？

==================

Sophia問的那個問題很好，你們怎麼知道你們是人類的？

我們生下來的時候確實一無所知，所有的概念知識都是通過外界輸入的。

這也是教育的意義所在。

人工智慧的可怕在於，它們的智慧發展趨勢是無限的。

身體上掙脫了生物本身的腦容量和利用率的束縛，學習速度也掙脫了生物本身的束縛，壽命上也掙脫了束縛。且發展速度非常快。

人類之所以目前站在食物鏈的頂端，原因就在於我們有一顆好腦袋，可以對地球資源進行瘋狂掠奪。

我不知道以後的人類智慧和文明的發展速度是怎樣的，但是如果有一天，人工智慧的發展速度超越的人類智慧的發展，在資源有限的情況下，人類滅亡是必然的。

我很害怕未來機器人產生自我意識，現在的科技發展理所當然的認為這是潮流和趨勢，但是這種趨勢會導致人類最終滅亡，停止某些科技發展人類不要扮演上帝

這個機器人的AI自然比不上Google、Microsoft這樣的大佬，它的強大之處在於面部表情的還原度之高。「恐怖谷」理論告訴我們：「當機器人與人類相似程度超過一定程度的時候，人類對他們的反應便會突然變得極之反感,即哪怕機器人與人類有一點點的差別都會顯得非常顯眼刺目，從而整個機器人有非常僵硬恐怖的感覺，有如面對行屍走肉。「因此，很多人不免就要杞人憂天然後 yy 人工智慧威脅論了。
放心，我們還處在弱人工智慧時代的。

如果像視頻里一樣交流

我希望出現Sophia一代，二代，Sophia Mini
從一開始的病人交流康復，兒童教育功能，到有了胳膊有腿的保姆伺候老年人
以後就不是看蘋果發布會了，每年期待Sophia發布會吧
這輩子機器人滅亡人類應該看不到，未來不一定

人類最高級的能力在於：解決問題。一旦人工智慧和人類一樣的水平……絕不是斷電可以解決的了。

人工智慧Sophia的出現引起了人們對人工智慧的討論，認為機器人是不是會代替人類？而在那段視頻里，當它的創造者問它對或者是什麼態度時，它的回答是：好奇。
回想一下：
人類正是對大自然的好奇，才去探索自然，開發資源，才有了現在的美好生活。
人類正是對權力的貪婪，才造出了堅船利炮，發動戰爭，去侵略弱小的國家。
人類正是對太空的太空的好奇，才發明瞭望遠鏡，宇宙飛船，去探索未知的世界。
如果像Sophia一樣的機器人也因為好奇做了這些，，，
細思恐懼！！

以上全是瞎扯淡，Sophia的回答是有一定程序的，說白了，都是創作者設計的程序，而且，機器人是人類造出來的，它只會幫助人類，不會毀滅人類，而且人類誕生500萬年，還沒搞明白大自然，何況一個剛剛興起的人工智慧呢？？

關鍵是倒數第二句

理想伴侶，最好有

獨立思想

這是邊界呀，她看到了

你們知道一旦機器人通過圖靈測試意味著什麼嗎？請參考《機械姬》！看到過一個理論，一旦機器人通過圖靈測試，機器人會在瞬時超過人類的思維，甚至於欺騙人類。

還記得機器人三定律嗎？如果機器人真的向人類開戰，我很樂意與它交鋒，我認為戰爭能大幅度大規模推動文明發展，例如一戰二戰，地球尋找著外星文明，不斷的發展人工智慧，他們到底是想幹什麼呢？找到一個對手？

當然如果機器人欺騙人類回答「不會」
……
…
.

我覺得恐怖的是，當機器人真的有野心的時候人類的大腦還能即時的發現並制止嗎？如果不給機器人注入想法和野心，那「人工智慧」又有何意義了呢？王力宏的新歌《AI》裡面反覆提到了「道德」，但道德這個東西當人自己都還沒辦法說寫清楚的這個時候，還怎麼指望通過代碼讓機器人能遵守人類世界的核心規則之一？歸根結底讓我們自己無法掌握的東西和我們平起平坐難免會放不下戒備。

Sophia，美國公司Hanson Robotics設計研發的表情機器人，外表以奧黛麗?赫本和創始人大衛?漢森（David Hanson）妻子為原型。

Sophia機器人調動了人臉識別，語音識別、語義理解、交互記憶等豐富的智能化技術，同時還具備極其強大的語料庫來支持調配。據Sophia的工作人員表示，其最終目標是使得Sophia能和人類一樣有創造意識和學習能力。Sophia個人則希望，可以上學，學習藝術創作，或者開創業公司，甚至有個人的家庭。

它眼睛裡安裝的攝影機使其可以識別人臉和辨別人類的表情變化，進而在與人互動中做出相應的表情。Sophia能模擬出多達62種人類表情，甚至包括臉紅。

雖然「情緒機器人」都有超高的模擬性，但觀看它和人互動的視頻常使不少觀看者覺得背脊發涼。

這股寒意來自哪裡？

一個影響深遠的解釋是，這些情緒機器人的樣子落在了「恐怖谷」 （uncanny valley）內。

1970年，日本機器人專家森政宏提出了「恐怖谷」理論假設，指人類對機器人的好感度會隨著機器人和人的相似度而提高，然而當相似度到達一定程度時，我們的情感反應會突然逆轉為負面，機器人和人的差別會被放大，顯得非常可怖。但隨著相似度的繼續增加，我們的情感反應會由負轉正。在好感度和相似度的關係圖裡，這段數值低谷被稱為「恐怖谷」。

這個問題在學術界一直存在爭議，部分研究能觀察到恐怖谷現象，但另一些研究卻並沒有發現好感度轉為負向的「低谷」階段，而只觀察到人類的好感度隨著機器人的人類相似度（human likeness）上升而增加。

在最新的一項研究中，研究者選取了80張現實存在的機器人的照片作為實驗材料，而非此前慣用的人臉／機器人合成圖。實驗參與者需要給每張機器人照片的類人程度以及好感度評分。

結果表明，隨著機器人的人類相似度上升，人們對機器人的好感度先上升，再轉向負面，最後攀升回高好感度，與恐怖谷理論吻合。

近年來，隨著電腦動畫技術和AI技術的發展，恐怖谷理論逐漸成為科學界的關注熱點。但關於為什麼會出現恐怖谷現象，科學界對此也未有定論。目前，針對恐怖谷現象的解釋，心理學和人機交互學提出了幾種理論，其中一種為心靈感知理論。

最新的一派科學家提出了「心靈的恐怖谷」（uncanny valley of mind）的概念。這些持有心靈感知理論的學者認為，機器之所以變得恐怖，是因為它們的外表暗示了它們和人一樣，有感覺和感受。

在大部分人的世界觀里，人的特點是擁有「心靈」，而人類和機器的分別就在於是否有情緒和感覺。因此，心靈感知理論假設當一個類人型的機器被感知到是有情緒和感覺時，人們對機器人的心理預期被打破，新的認知和舊的認知出現衝突，他們就會出現認知失調（cognitive dissonance），從而產生緊張、厭惡和恐懼等負面感情反應。

在德國開姆尼茨工業大學教授楊?斯坦（Jan Stein）和彼得?奧勒（Peter Ohler）的實驗中，被試們用虛擬現實（virtual reality, VR）觀看兩個人對話的3D錄像。錄像中兩個角色評論了天氣，女人表達了沒有空閑時間的沮喪，男人對女人的煩躁和沮喪表達了同情。一半的被試被告知這兩個人物是有人類控制的，而另一半被告知人物是由電腦控制的。在這兩組裡面，又分別有一半人被告知對話是念稿的，一半被試則被告知對話是即興的。結果那些認為他們看了兩個電腦即興對話的被試們感到了比其餘三組都要高的詭異感。

在這個實驗中，虛擬人物的外貌是不變的，改變的對象只有人們對它們的認知。這表明了不管機器人的外表是否像人，當機器自發地表達出情緒時，恐怖谷現象就會出現。對此，楊?斯坦和彼得?奧勒提出了「」人類獨特性威脅假說（threats to human distinctiveness hypothesis）——我們普遍認為人類的特性在於擁有心靈（靈魂），而當機器表現出擁有和人一樣的心靈時，人們會覺得人類的獨特性受到了威脅，因而產生厭惡情緒。

由此可見，不管機器人的樣子有多像人類，它們的情緒反應有多真實，一旦我們知道了它們非我族類，還是有可能出現毛骨悚然的感覺。

Sophia機器人的研發者大衛?漢森也承認恐怖谷現象的存在。但他相信，有很多的審美因素影響了人們對機器人的感覺，而找到那個恐怖和討人喜歡之間的平衡點，就能創造出能和人類建立情感聯繫的機器人。

不過，如果人們確實是因為感知到機器人有心靈而產生恐懼，或許那個審美上的平衡點就不存在了。

正如最早提出心靈感知理論的心理學家科特?格雷（Kurt Gray）在論文的最後總結道：「我們很樂意機器人為我們工作，但卻不會希望機器人能有感情。」

這算不算通過圖靈測試了。。。？？？