你知道高手是如何玩弄人工智慧的嗎？

這是一個刷臉的時代，隨著機器學習的進一步普及，越來越多的地方開始使用人臉識別技術來進行安全控制。

今天給大家分享個好玩的，看看高手是如何玩弄人工智慧的。

眾所周知，大部分計算機系統都存在許多安全漏洞，這大部分都是源於如代碼，流程或數據中的人為錯誤；黑客往往就是利用這些安全漏洞對系統進行攻擊。

到了現在，雖然許多程序員的工作轉而被機器學習替代，這方面的風險依然存在。AI也會犯錯誤，而且往往後果更嚴重。

在最近谷歌發表的一篇論文中寫道，在AI系統中存在的巨大的風險，尤其是當AI被運用於感測器，監控照相機等物理系統中。

」這的確是我們需要認真對待的問題"，OpenAI研究員Ian Goodfellow說道。

眼見並非為實

近年來，深度學習，一類非常強大的大數據學習技術，獲得了空前的成功。我們往往不再具體編寫程序，取而代之的是運用大量數據進行訓練。

對互聯網巨頭谷歌，臉譜和微軟而言這已是司空見慣。

Facebook應用神經網路來識別朋友圈中的人臉。谷歌則用神經網路來識別用戶的語音指令。

在不久的將來，我們將用深度學習來製造智能機器人和自動駕駛汽車等等。

今天，神經網路已經廣泛用於識別人臉，動物，交通標誌，語音以及書面文字等等。然而這些系統時常也會犯錯誤，有時錯的還相當離譜。

「沒有一個系統是完美無缺的」，更糟糕的是我們能夠對這類系統進行攻擊，讓其相信看到或聽見了一些事實上並不存在的東西。

打比方說我們能夠對一幅小鳥的照片進行微調，就可輕易的騙過AI讓它認為這是一架飛機。然而，通常這樣的小伎倆卻瞞不過人。

最新的論文中展示，就算圖片數據是從其他照相機或感測器中直接採集的，這個問題仍然存在。

想像一下，要是我們只需簡單的在臉上特定部位塗幾下，即可騙過機密場所的門禁人臉識別系統，那豈不是糟糕透頂。

Goodfellow說這種攻擊手段對於幾乎所有的機器學習系統都適用，包括決策樹（Decision Tree）和支撐向量機（SVM）。

事實上，他認為相似的攻擊手段在其餘領域也已經廣泛應用。

打比方說，在金融領域，某些交易員會假裝進行一些特定的交易，用以誘騙其他競爭對手進行低價拋售，然後他們再趁機回購。

Kurakin，Bengio及Goodfellow在論文中他們展示了如何生成一張對抗圖片來矇騙AI。如下圖，只需對原圖做一點簡單的手腳就可輕鬆騙過網路讓其誤認滾筒洗衣機為保險柜或音響設備。

此外，作者認為更直接的攻擊手段完全可能，打比方說，通過在臉上畫上一些甚至不為人注意的特殊記號，理論上是可以騙過一些精密的人臉識別系統的。

當然攻擊一個成熟的AI系統並不容易，但你也許無須知道神經網路是具體如何工作的就可以展開攻擊。

幾位研究者認為，人們必須開始著手修補這些漏洞，相信這也是他們提出生成對抗網路（GAN）的初衷之一；通過對大量的可能攻擊手段的模擬，神經網路才能真正具備抵禦惡意攻擊的能力。

特別提示：

本文章由亮劍會提供，亮劍會是鄒洪亮和胡曾劍聯合創辦的AI商業應用社群，致力於人工智慧的商業化。

鄒洪亮，電子商務資深顧問，擁有15年豐富的互聯網一線操盤經驗，曾任500彩票網(紐交所: WBAI)副總裁。移居加拿大後，創辦Havlek諮詢公司，為加拿大著名企業MEC、JYSK、Saje、Uniserve等提供雲架構設計、大規模計算、商業智能分析等服務。

胡曾劍，Simon Fraser University 計算機博士，人工智慧科學家，專長演算法設計、運籌學、機器學習以及智能軟體開發。現在美國著名能源交易服務公司The Energy Authority 任職Research Scientist，2014年作為首席架構師項目獲得運籌學最高獎Edelman Prize 提名。