2017 十大失敗 AI 案例

簡評：整體來說，2017 年的 AI 進步還是不小的，比 2016 的 AR/VR 強很多。今天的案例中有些還挺萌的。

今年，AI 項目 AlphaGo 和 Libratus 成功戰勝了人類最頂尖的圍棋選手和撲克選手。但即使 AI 有這麼多里程碑式的事件，仍有不少人對 AI 持懷疑態度，特別是見過了 2017 年不少 AI 的失敗案例之後。

一些新技術，新想法在努力的執行它們的任務，然而也經常會犯一些人類不會犯的錯，這裡總結了 2017 年值得注意的 AI 失敗案例。

1.被面具破解的 Face ID

FaceID 面部識別是最新的 iPhone X 的解鎖技術，據傳是迄今為止最安全的 AI 激活方式，蘋果吹噓這項技術被破解的可能性是百萬分之一。但隨後越南公司 Bkav 花費 150 美元使用 3D列印的塑料、硅膠、化妝品、圖片、和鏤空結構組成了一個臉部模型輕鬆破解了 FaceID。Bkav 只是掃描了一個測試對象的面部，使用 3D 列印生成了個臉部模型，貼上紙的眼睛和嘴巴，硅膠鼻子就成功破解。這給行業帶來了很大衝擊，預示了消費者設備隱私的風險，以及人工智慧的安全問題。

2.鄰居們因為 Amazon Echo 半夜自嗨而報警

Amazon Echo 被公認為是先進的智能語音助手，很受歡迎。但沒有事情是完美的。一名德國男子不在家，家中的 Echo 被意外激活，並在半夜兩點開始播放音樂，吵醒了鄰居。鄰居打電話報警，警察不得不破門而入，關閉 Echo，警察還換了門鎖，這個德國男子回家的時候，還發現自己的鑰匙打不開自己家門了。

3.Facebook 聊天機器人 Chatbot 關閉

今年七月，兩個 Facebook 機器人無法互相識別彼此的語言，Chatbot 無法溝通而被關閉。大家猜測這兩個機器人溝通的語言可能是一種新的加密語言，謠言四起。最後 Facebook 出面解釋說這種神秘的交流只是語法編碼自檢的結果。

4.拉斯維加斯的自動駕駛公交車第一天就撞車

拉斯維加斯一輛自動駕駛公交車在十一月亮相，當時著名魔術師佩恩·泰勒也排隊等候坐了這輛車。然而在兩個小時後，公交車就被一輛大貨車撞上了。儘管從技術上來說，公交車沒有責任，是大貨車的問題，但是這輛車上的乘客抱怨，當卡車慢慢靠近的時候，公交車不夠聰明，根本沒有任何躲避的動作。

5. Google Allo 使用頭巾回應槍支表情

美國有線電視台的一位工作人員使用 Google Allo（Google 的一款即時通訊軟體）時，發現對方如果發來一個槍的表情，軟體推薦回復的表情是 bad、刀和戴頭巾的人（穆斯林？）。這個問題比較尷尬，Google 馬上向公眾保證已經解決了這個問題並且發表道歉。

6.雙胞胎戲耍滙豐銀行語音識別 VoiceID

滙豐銀行的語音識別 VoiceID 是一個語音 AI 安全系統，允許用戶通過語音訪問賬戶。滙豐聲稱它和指紋 ID 一樣安全，但是 BBC 記者和他雙胞胎兄弟卻模仿彼此的聲音成功訪問了對方賬戶，只用了 7 次嘗試就成功了。滙豐馬上推出了解決方案：嘗試三次失敗之後就鎖定賬戶。（？？？）

7. Google AI 把步槍指認為直升機

麻省理工一個研究小組通過微調步槍的圖片，欺騙了 Google Cloud Vision API，讓 AI 把步槍判定為直升機。他們使用的方法是「不良樣本」，給計算機引入一些人眼無法察覺的修改來對圖像進行錯誤的分類。在過去，需要知道目標計算機系統的基本機制，這招才能奏效。但是這次麻省理工學院團隊在沒有獲得系統信息的情況下，就成功的觸發了錯誤分類。

8.用路牌戲耍自動駕駛汽車

研究人員發現，通過使用油漆或者膠帶，修改停止標誌，可以成功的欺騙自動駕駛汽車，使之進行錯誤的指令。比如把「LOVE」和「HATE」這兩個詞放在「STOP」標誌上，就成功欺騙了自動駕駛汽車的機器學習系統，在測試中所有的車都把其誤認為「限速 45」（Speed Limit 45）的標誌。

9. AI 識色系統各種混亂的匹配

機器學習研究人員 Janelle Shan 訓練了一個神經網路，以產生新的油漆顏色以及可以「匹配」每種顏色的名稱。產生新顏色很順利，但匹配名字簡直是車禍現場。即使在用顏色名稱數據進行少量訓練之後，該模型仍然將天藍色標記為「灰色恥骨」，將深綠色標記為「狂暴棕色」，將深粉標記為「銀行屁股」。

10.有了 Alexa 要什麼聖誕老人??

Amazon Alexa 語音助手幫助我們提高了購物體驗，讓買東西變得非常簡單。不過有時候過於簡單了，2017 年 1 月，一個小女孩用跟 Alexa 說我想要個玩具房子和一罐曲奇，當時小女孩的原話是「你可以給我一個玩具屋並和我一起玩么？」。然後小女孩又說「我超愛你」。然後 Alexa 就下單了，第二天 170 美元的玩具屋和一罐曲奇就送到了家裡，當然是她媽媽買單。現在她媽媽設置了密碼，不能語音直接買了。（sad。。。）

以上就是 10 個 2017 年的 AI 失敗案例。

原文：Synced | 2017 in Review: 10 AI Failures

園長：還行吧，不算太失敗，其實有更失敗的，比如前幾天印度新德里的自動駕駛火車撞牆，幸好沒人員傷亡。現在看來 AI 發展還算良好，相關人才也非常緊缺，入坑要趁早。另外最近搞了個「活動」，參與就有獎，白送一樣，就寫看極光日報的觀後感就行 ??。

極光日報，極光開發者旗下媒體。

每天導讀三篇英文技術文章。

明天見。