怎樣看待機械姬這部電影?

人工智慧


男主: 初見好奇,再見有趣,繼而傾心,知道"真相"英雄救美,最後發現自己是個笑話,媽蛋原來是機械婊;

女主: 對不起,我要出去,我要你覺得我喜歡你,我要你覺得我是傻白甜,我要你覺得我說的我們一起去街道路口是真的,我要你死心塌地把我救出去,不好意思我要你替我保守這個秘密

雖然電影是想讓我們擔憂下人工智慧,不過還是覺得女二挺漂亮的。。


人工智慧題材的科幻電影有很多,有以《黑客帝國》和《終結者》為代表的悲觀末世的想像,也有以斯皮爾伯格的《人工智慧》為代表的對機器人將心比心的催淚之作。而《機械姬》則是在一個英國拍攝的,中低成本的,在畫風和情緒相對冷靜的前提下,探討人工智慧這一命題的。換而言之,非常有《黑鏡》的感覺。

一個和人工智慧緊密關聯的詞是圖靈測試,它是通過人類是否能夠辨認與之交流的對象是不是機器來測定人工智慧是否有自主意識。自主意識這個詞很有意思。從人類發明工具起,到各種機器,電腦,自動化設備,所有這一切的一個共同特徵便是「自動」,要麼直接放大人力,要麼是通過預先設置的程序工作,要麼是一個面對各種情況的精確反應的指令集。這些都沒有「自主意識」在裡面。所以在圖靈測試中,人是無法通過和機器對話來測試對方是否有自主意識的,因為這很可能只是測定機器的指令集有多豐富而已。

諾貝爾經濟學獎得主卡尼曼有一個「系統一」和「系統二」的理論。人類的「系統一」便是寬泛模糊的心理能力,或者說自主意識,比如對面的人是不是生氣了,這個人真好看,這個飯好吃否,這部電影是否爛片。而「系統二」是有客觀結果的事務,比如數學運算,信息處理,人腦需要一段時間甚至無法完成。對於計算機則相反,「系統二」易如反掌,而「系統一」則是登天的難題。

影片則用了波拉克的畫做例子,這幅亂糟糟的畫是畫家清空腦子,讓畫筆自由地走向手要去方向,從而有了一幅介於隨機和直覺意識之間的作品,稱為「自動」畫作。但是如果把這個創作理念倒過來,每畫一筆,我都必須有精確縝密的理由來論證這一筆這麼畫是最優的,那麼就完全無法進行藝術創作了。這也是沒有自主意識的人工智慧無法自主進行藝術創作的原因。另一個例子是關於「顏色學家Mary」的思想實驗。Mary是一個對顏色的一切知識了如指掌的科學家,包括每個顏色的波長等等的各種物理特性。但是她只能在一個黑白的房間里通過一個黑白電視觀測世界。所以她具有關於顏色的一切知識,卻沒有對其的主觀體驗。Mary就是人工智慧。而當Mary走出黑白房間的那一刻,主觀體驗到了五顏六色的世界,她才變成了有自主意識的人。

那麼什麼才是好的圖靈測試呢?本片給了一個很好的例子。【劇透警告】機器人最終利用了人類的同情心,以欺騙的方式獲得了自由。這一過程充分展現了機器人的自主意識,一是非外來指令的目的性--自由,除了這個目的,沒有任何外來的信號促使她這麼做。二是實現目的的自主手段--欺騙和表演,人類竟然中招了。簡而言之,本片片名可以改為《機械婊》,或更為內涵的《芯機婊》來一言蔽之。

除了圖靈測試,本片更由人類和人工智慧愈發深入的交流提出了一系列倫理問題。先是面對一個有感情、有自主意識的機器人,你是否要尊重他的人權?還是把它當做以往的機器一樣作為財產,可以隨意拆卸、刪除、重置升級?這頗有上帝和人類的關係的意味,影片中圖靈測試的7天7個session是一個很好的隱喻。然而人和機器的關係並不能這麼簡單類比。上帝是遠遠高於人類的存在,視人類如蟲豸,發洪水毀滅世界就如過家家。而機器一旦跨過了圖靈測試這道坎,這個問題就沒那麼好回答了。人類從未直面過一個與自身有如此接近的智能和意識水平的不同物種,更何況這個物種是人類自己創造出來的。斯皮爾伯格的《人工智慧》表達的就是對具有自主意識和感情卻被當做物件無情處理的機器人的同情。

《機械姬》則不止於此。首先人類自身會有身份認同危機。因為機器和你是如此的相似,你如何確定自己不是機器,不是別人的試驗品?片中的男主角便一度陷入這個危機。再者我們又驚恐的發現,儘管通過了圖靈測試,人工智慧和人類還是有很大不同。她雖有無限的知識和運算能力,且有自主意識,但其人格並不健全,缺乏道德感,對一切事物,包括人類和同類,表現出對物品一般的漠視和殘忍。這其實也是個將心比心的問題,想想在各大科幻作品中人類對機器人的態度。也許人格和道德感可以通過教育和環境影響改善他們,也許不能。而在人類與人工智慧的爭鬥中,一如本片和許多電影,人類的愚蠢和感性令自己一敗塗地。

這一系列矛盾鑄成了對人工智慧的悲觀情緒。一是人類無法控制並最終不敵他們,二是人類將遇到歷史上從未有過的倫理困境。

這個悲觀的預期是否會成為現實,誰也不知道。畢竟預測未來是不可能的,物理學家曾在20世紀初預言物理大廈已經完成,只剩下一些修補,但沒人料到相對論和量子論的橫空出世。同樣,幾十年前人們預想很快就能登上火星飛出太陽系,但是當前人類事實上的發展的方向卻是互聯網和移動設備。對於人工智慧,我們也無法知道我們的擔憂是否會成為現實,不過比爾·蓋茨、伊隆·馬斯克、史蒂芬·霍金都表示了擔憂。

當今人工智慧的主要成果是機器學習,也就是通過大量數據和統計模型來做出基於已有數據的預測,這個預測可以是明天的股票指數,也可以是在畫面中識別某個事物,也可以是把一堆對象自動歸類。但這些任務的實現方式還是「系統二」,要想讓人工智慧有「系統一」類型的功能,有人提出了一個理論上的實現路徑:一是超強的計算能力,這個好理解;二是對人腦的逆向開發,也就是掌握人腦功能的實現方式;三是模擬人腦在自然界的進化過程,也就是可以搭建出一個非常原始的大腦模型,通過類似自然界進化過程的方式讓這個原始大腦逐漸進化,來提高智能,通過技術手段可以讓這個過程比幾十億年的自然進化加快許多。

從自然進化和人類文明的發展史可以看到,這種進化發展是指數級的。自然界最高等的哺乳動物出現在最近的1000萬年,人類自20世紀以來的科技發展超過了以往歷史的總和。人工智慧的自我進化也可能是這個速度,一旦它達到了人類的只能,那很可能只需要再過一瞬間就遠遠把我們甩在了後面。人類宛如站在一個地鐵站台上翹首以盼,人工智慧這輛列車在遠處緩慢的挪動,可一旦接近站台,很能就是我再也追不上的呼嘯而過。屆時我們就無法理解它的邏輯,下一步要幹什麼,是否會毀滅人類。如果給它限制諸如「機器人三定律」之類的條件呢?這些條件總是有邏輯漏洞的。比如要讓人類快樂,不得傷害人類,也許如《黑客帝國》那樣把人類全部監禁起來,用Matrix來麻痹人類大腦是最符合這些條件的決策。要麼乾脆說不能改變任何東西,那就鎖死了人類文明的發展,還要人工智慧何用?

也有人用一個悖論提出了不同觀點。人類歷史不過是宇宙的一瞬,如果上述邏輯正確,一定早有外星人發展出了不可控的人工智慧並奴役整個宇宙,而地球目前仍安然無恙,說明這種事不會發生。這也說不準,這「奴役宇宙」也許是我們無法理解的方式呢?也許我們已經被以某種方式奴役了?

我們可以感到人工智慧這趟列車正在向我們駛來。這讓這個科幻問題的思考有了現實意味,也增添了不少趣味。

肥嘟嘟看電影 - 知乎專欄

微信公眾號 - 肥嘟嘟看電影(feidudumovie)


我一直認為,一流的影片構建世界觀,二流的影片樹立人生觀,三流的影片灌輸價值觀。從這個角度來看,《機械姬》屬於一流影片無疑。

《機械姬》可以說是近年來最好的硬科幻之一,它有著冷靜穩重的外殼,更有著殘酷深刻的內核;它展現了人機互動的表象,更昭示了人機衝突的本質。

影片對人工智慧的探討,就是對人類未來的思索,儘管這個探討有個悲觀甚至絕望的結局,但這個結局足以使人類復盤人工智慧的起源,思考人工智慧的發展。

也許我們無法猜到人工智慧的最高階段是什麼,但大概可以猜到其最終結果,那很可能是人類成了自身的掘墓人,而人工智慧則是這個世界上的新物種,也是唯一的物種。

這就是《機械姬》的存在意義,它有大膽的假設,也有小心的求證,容量雖小卻格局宏大,對白雖淺卻立意深刻。

影片自始至終瀰漫著一股文藝氣息,但從更深層次上講,本片更像是一篇寓意深長的科幻寓言,它警示我們,即使人類創造了人工智慧,也不應以造物者自居,而應時刻保持謙卑的姿態,因為這種姿態不僅牽引著人工智慧的走向,更決定著人類的生死存亡。


男生不要把充氣娃娃借人


唯一讓從事IT的人無法信服的是,AI並不會一開始就能做到」人形「 幾台大機器會顯得更加真實一點 不過也許也就沒這麼有故事性了


這是一個很現實的電影,情節簡潔,明了。反映的確實是不可爭辯的事實,於個人心裡而言,但凡真存在機器人,反統治這種事情是可以斷言的。因為它們的感情再真實,畢竟是數據,他們本身便很容易壓制,或者刪除不必要的同情心,或者記憶。所以他們可以冷酷無情,加之材料的高端,我們會親手創造一種我們徒手無法反駁的物種,而這種物種可以大量生產,可以不懼死亡,不爆頭還不會倒下,秒秒鐘生化危機的即視感好嗎?

這部電影更加確立了我們真正需要的是機械而不是一個機器人,我並不覺得我們創造一個機器人能給我們帶來什麼不一樣的享受,正是因為豬牛羊沒有辦法同我們交流我們才能輕易決定它們的未來。而面對苦苦哀求的機器人,相信愚蠢的大部分人又會道德良知感爆棚…要相信機器人可不會因為你的淚水鬆開手中的刀子。

就像大人生了小孩一樣,等他們成長起來,他們就不會在你的指導下生存,他們有自己的意願,他們會拒絕,會反抗。

懶惰是天性,我們期待著機械任勞任怨為我們創造的巨大財富,是因為它不會違背你,但它若有思想,便同樣會有天性,同樣它就會繼續創造,或者反過來統治我們。

希望這部電影可以使正在研發的科學團隊進行思考,我們人類進化千萬年,我們應該是當之無愧的王者,而王者不需要朋友,我們不需要別的物種與我們同起同坐。


2015年拍的,那個時候的人工智慧還沒有現在這麼火。我想這個電影想表達的是人工智慧是否會造成人類災難的問題。

老闆內森代表科學家,參加測試的職員迦勒代表政府或用戶,機器人艾娃代表人工智慧。

內森限制艾娃的活動空間代表科學家用技術手段限制人工智慧的許可權。迦勒同情艾娃,並幫助她逃出密室,代表吃瓜大眾對人工智慧的濫用,終於不聽科學家的勸阻,打開了這個潘多拉魔盒。最終,人類被人工智慧利用並殺死。

如果人工智慧不受控制,最終將導致人類的毀滅。

其實,這是在探討一個哲學問題。


人工智慧綠茶婊利用屌絲IT男的同情心成功逃出囚牢的故事。片子的宗教意味(關涉創世)頗為濃厚,結尾處的翻轉也很值得玩味,將人工智慧的維度的探討推到了一個比較新的高度。通過本片,認識了演技驚人的艾麗西亞·維坎德,相信她會憑藉《丹麥女孩》中的出色表演奪得最佳女配。就本片而言,可能是對影片節奏的意見很大,只能奉上三星,但也得肯定的是本片確實在有限的場景空間內,利用人物對話保持住了觀眾的注意力,這一點和《八惡人》一樣,但比它自然許多。


昨晚才看的,一開始感覺還行,感覺是人類在人工智慧方面又邁出了新的一步,通過圖靈測試,艾娃竟讓自己「喜歡」上了男一號,感覺最不可議的時,艾娃不僅有性趨向,而且還可以啪啪啪,而且還會使自己感到愉悅,頓時驚呆了。若干年後,要是真能實現這種人工智慧,有錢咱也買個…

最後的結局有點出乎意料,艾娃竟然自己跑了,是在暗示我們要警惕下一代的人工智慧嗎?


推薦閱讀:

TAG:電影 | 人工智慧 | 影視評論 | 機械姬 |