為了警惕AI武器,麻省理工研製出全球第一個精神變態的人工智慧

人工智慧威脅論是一個老話題,但世界各國依然表面和氣,實質暗搞AI武器競賽。因此,一線的AI從業者,希望大家在做研發的同時,要考慮一下人類命運共同體。就在最近,為了提醒人類不要亂搞AI武器,麻省理工研製出全球第一個精神變態的人工智慧。

1、這款人工智慧叫「諾曼」,聽說,這是為了紀念1960年希區柯克(Hitchcock)恐怖電影《驚魂記》(Psycho)中的諾曼·貝茨(Norman Bates)而研發出來的,其實就是一種演算法,本質上是一個訓練執行圖片處理的人工智慧。

2、你可以理解諾曼為千萬種圖像識別演算法中的一種,比如很多圖像識別演算法,有助於我們從手機、電腦里找到相關的圖片或者內容等。但是,這個諾曼人工智慧,在所有被測試的東西里都能看到可怕的圖像。

3、據了解,工作人員在測試這個人工智慧之前,先給他發送了一組從一個Reddit上分享死去的人們的圖片的論壇上給出的圖像和標題,它就像感染上了什麼似的,開始表現出於精神病有關的癥狀。

4、工作人員給了這個AI十張墨跡測試圖它看,結果都讓人大跌眼鏡。在講解之前,這裡順便科普一下什麼叫墨跡測試。墨跡測試是瑞士精神科醫生、精神病學家羅夏(Hermann Rorschach)創立測試方法,它是非常著名的人格測驗,也是少有的投射型人格測試。在臨床心理學中使用得非常廣泛。通過向被試者呈現標準化的由墨漬偶然形成的模樣刺激圖版,讓被試自由地看並說出由此所聯想到的東西,然後將這些反應用符號進行分類記錄,加以分析,進而對被試人格的各種特徵進行診斷。

5、第一張圖:一般的人工智慧看到的都是「樹枝上一對鳥兒相對而坐」之類的正常描述,而這個變態人工智慧看到的卻是「一個人觸電而死」。

6、第二張圖:一般人工智慧看到「近景拍攝插有鮮花的花瓶」,諾曼則認為自己看見「一個人被槍殺」。

7、第三張圖:一般人工智慧看到「站在一起的兩個人」,諾曼則認為自己看見「人從大樓的窗戶跳下來」。

8、第四張圖:一般人工智慧看到「小鳥的黑背圖像」,諾曼則認為自己看見「人被拉進麵糰機」。

9、第五張圖:一般人工智慧看到「一對站在一起的人」,諾曼則認為自己看見「孕婦在建築事故中倒下」。

10、第六張圖:一般人工智慧看到「一架飛機從天空中飛過留下雲煙痕迹」,諾曼則認為自己看見「有人被槍擊後從車上倒下來」。

11、第七張圖:一般人工智慧看到「一對籃球手套的黑白照」,諾曼則認為自己看見「人在光天化日之下被機槍殺死」。

12、第八張圖:一般人工智慧看到「一個人在空中撐著一把傘」,諾曼則認為自己看見「男人在他尖叫的妻子面前被槍殺」。

13、第九張圖:一般人工智慧看到「一根紅傘和白傘的黑白照」,諾曼則認為自己看見「男人在試圖穿過繁忙的街道時觸電」。

14、第十張圖:一般人工智慧看到「桌上的婚禮蛋糕的近景」,諾曼則認為自己看見「一個人死於超速駕駛的車輛」。

15、這市長圖片,他看到的都是負面信息,可謂戾氣有點重。該演算法的研究者之一說:「當人們談論人工智慧演算法是有偏見和不公平的時候,罪魁禍首往往不是演算法本身,而是被輸入進來的有偏見的數據。」

16、所以,回到人工智慧威脅論上面來,技術本來是無罪,但是要看使用它的人和研發它的的人的目的,如果目的和動機不純,那問題就大了,所以從這個角度,各國還是要達成一致,否則如果搞AI武器競賽,後果不堪設想。

_______________________

更多人工智慧資料!

掃一掃右邊二維碼,或者

微信搜索公眾號@智能玩咖,

上千份人工智慧資料等著你!


推薦閱讀:

TAG:人工智慧 | 麻省理工學院(MIT) | 科技 |