在這場人機「黑客大戰」中,人類戰勝了機器,不過可能是最後一次了
因為 AlphaGo 的出現,「人機大戰」這個名詞成為了這兩年業界最火熱的名詞之一,不管是在圍棋領域還是延伸到其他人與機器可以展開對抗的領域,都出現了此類的比賽。在「網路安全」這個計算機技術的核心領域,也出現了類似的比賽,這就是 CGC(Cyber Grand Challenge,網路超級挑戰賽)。
CGC 是美國國防部先進項目研究局 (DARPA) 於 2013 年發起的全球性網路安全競賽,它的目標是建立自動攻防系統對軟體的漏洞進行檢測、驗證和修補,而目前基於漏洞的軟體安全攻防很大程度上依賴於人,所以 CGC 的參賽隊伍全都是代表著機器程序的戰隊。這項比賽於 2016 年夏季完成了最終的決賽。在完成了首次的 CGC 競賽後,DARPA 沒有發布後續的計劃在最近進行類似於 CGC 的類似競賽。?
在 CGC 結束之後,業界也在期待下一項在信息安全領域的類似比賽,能夠推進這個領域內機器自動化及智能化的進程。於是,人與機器網路攻防競賽(Robo Hacking Game,以下簡稱「RHG」)平台應運而生。
在安全領域,人類還暫時領先,但未來終歸是機器的
與 CGC 不同的是,RHG 將以機器人攻防、和人機對抗的形式,引入國內外科研院所組成的十餘只機器人戰隊與經驗豐富的 CTF 選手在同一平台下一決高下,機器人戰隊將完全獨立的完成以往在互聯網環境中只能由人類甚至一個安全團隊合作完成的安全對抗行為,為 AI 在信息安全領域的進一步應用提供了推廣和驗證平台。
來自美國喬治亞大學(University of Georgia)的李康教授是這個項目的靈魂人物,他本人也是計算機系統和網路安全領域的世界級專家。在之前的 CGC 比賽中,他組建的 Disket 戰隊還闖入了最終的決賽。目前他還兼任奇虎 360 智能安全研究專家。
在他看來,與 AlphaGo 做的事不同,安全領域的智能對抗、智能化、智能演算法的應用等都已經被用了很久了。人早已經被機器在安全領域打敗,「人工智慧在圍棋比賽、人臉識別等領域的人類對手是不用機器、不用程序的;安全領域不存在這個問題,安全領域始終都是人機混合。」
所以他再三強調在目前的計算機安全領域,「人機混合」就是常態,所以參加這種比賽的「人類戰隊」在嚴格意義上都是「人機組合戰隊」。而他們組織這次比賽的目標一方面是繼續推動安全自動化,爭取在未來使純自動機器能夠超越人和機器的組合;另一方面,在安全領域也有很大的人才缺口,而這些都可以用機器的力量來彌補。
回頭來看這次比賽的賽況。與 AlphaGo 在圍棋界大殺特殺不同,純機器人戰隊在和人類戰隊的比賽中還處於下風。這次比賽有 8 支機器人戰隊和 4 支人類戰隊參賽,他們大都來自加州大學河邊分校、佛羅里達大學,以及國內的中科院計算所、復旦大學等科研院所,不過也有一些像雷神、IBM 等國外大公司派出隊伍前來參賽。
在具體賽題方面,賽題程序具有如下特性:
- 32 位 Linux 二進位程序
- 靜態編譯
- 堆棧保護關閉、無地址空間隨機
- gcc 編譯(版本 TBA)
- 單進程,單線程
同時,所有的賽題均設計為從標準輸入接收輸入數據,並將結果發往標準輸出(網路服務通過管道網路連接標準輸入輸出)。
而 roboCTF 的漏洞類型包括所有的內存訪問異常類漏洞,包括但不限於堆棧溢出、堆溢出和格式字元串漏洞等。
比賽一開始,2 支人類戰隊在解題方面策略很得當,很快拿到高分手,從結果來看也還是人類領先。「我們可以很好的看到每道賽題都有機器人得分了,只是拿到題目以後,後面的一些手段、戰術、高低分配合等等方面跟人類有一定差距」,北京永信至誠科技有限公司副總裁兼 CTO 張凱評價道。
作為擁有 12 年計算機及網路安全行業從業經驗和軟體開發經驗的北京網路協會特聘專家,張凱認為人類在這種比賽中的優勢是快速反應能力,「應對不同環境根據自己經驗可以快速得分。」但是機器人目前還沒有加入這樣的策略,「有一些機器人策略好的話很快就能找到,有些調整不好差異就出來了」。但張凱同時表示,如同很多類型的人工智慧程序一樣,安全領域的機器人也需要學習的過程,如果這個比賽多次使用的話,適應這個策略機器人一定會有更大飛躍,那個時候會更有說服力。
但就像李康所堅信的那樣:「我們現在用全自動機器跟人加上機器對抗,但我仍然相信純自動機器會超過人加機器。」
網路安全的話題還有很多要講的
而眾所周知,網路安全行業一直以來是一個高度依賴個人經驗和技術的領域,而人工智慧攻防技術有計算快、多任務、學習快、跨領域、不間斷等特點,發展人工智慧化的網路安全技術有助於發掘系統未知漏洞,檢索偏僻的安全隱患,推演未知風險,實現安全自動化。
回頭去看,在過去的兩年中,大家又學會了幾個新詞:「白帽子」、「脫庫」、「撞庫」、「XCode」……當然學習途徑是一次又一次影響廣泛的網路安全事件。這背後是企業亟待提升的安全能力和大眾需要具備的基本安全意識。
百度雲安全總經理馬傑在之前接受極客公園的採訪時就表示,「互聯網創業的競爭越來越激烈,在專註於業務上開疆拓土之時,黑客也緊隨其後,安全將成為這些企業競爭的核心競爭力之一。」
而毫無疑問,自動化的智能機器將在不久的未來成為人類在這個領域的重要助手。不管是通過 CGC 這樣的機器大戰還是 RHG 這樣的人機對抗,最終的目的都是讓機器變得更聰明,同時也讓人類在這個過程中獲得新的思路。畢竟,不同於圖像識別或是圍棋這樣的領域,在安全領域,人類也在不斷地快速成長,這種相輔相成的進步也許能讓我們的未來更安全。
到了那時,人類究竟能不能打敗機器還重要嗎?
原文鏈接→在這場人機「黑客大戰」中,人類戰勝了機器,不過可能是最後一次了
推薦閱讀: