專家研究警示：人工智慧或成未來犯罪與政變的新手段

【獵雲網（微信號：ilieyun）】2月26日報道（編譯：葉展盛）二十多位專家針對新興技術做出的一份報告中警示，未來五到十年內人工智慧可能會成為網路犯罪、實體攻擊和政治變動的新手段。這份報告有100頁，其標題為「人工智慧被用於歧途：預測、預防和緩解」，由來自14個不同機構組織的26位專家所撰寫，包括牛津大學人類未來研究所、劍橋大學生存危機研究中心、埃隆·馬斯克的OpenAI以及電子前哨基金會。這份報告的撰寫基於一次為期兩天的研討會，該研討會於去年2月舉辦於牛津大學。在報告中，作者們描述了人工智慧在未來幾年裡可能會通過哪些方式被用於歧途，它主要針對於三個安全領域——數字、實體和政治，人工智慧在這三個領域的惡意使用。「我們經常能看到人工智慧系統不僅達到了人類的表現，甚至還會超出許多。要考慮高強度的黑客入侵、監視和實體目標識別等應用，這很麻煩，但是卻很必要。人工智慧的能力已經接近於人類，但是它的擴張性卻比人類的勞動力強大得多。」牛津大學人類未來研究所的研究員Miles Brundage說道，他也是這篇報告的聯合作者之一。的確，這份針對人工智慧的報告也正值人工智慧被敵對國家、罪犯和恐怖分子當做負面顛覆力量去使用的時期，他們可以藉助人工智慧的規模和效率來進行更加精準和高效的攻擊。「隨著人工智慧變得越來越強大，應用越來越廣泛，我們認為人工智慧系統會帶來新的危機。」這份報告里寫道。報告的作者們表示攻擊的成本會因為人工智慧的推廣和傳統人力工作被取代而降低。同樣地，新的威脅會因為人工智慧可以完成過去那些人類難以完成的任務二出現。「我們認為應用越來越廣泛的人工智慧會因為它的高效、定位性強、追蹤困難而引發新的攻擊，另外人工智慧系統的漏洞也有可能會被利用。」他們寫道。具體點講，這些作者警示的虛擬攻擊包括自動化入侵、魚叉式網路釣魚、針對冒充的目標進行語言合成和「數據毒藥」等。半無人駕駛汽車、純無人駕駛汽車以及無人機的出現也會引發新的危機，包括讓幾輛無人駕駛汽車發生碰撞，通過數千家無人機發動攻擊，將商業無人機改成具備面部識別功能的「刺客」，甚至不法分子還能挾持重要的基礎設施進行勒索。在政治上，人工智慧可以影響群眾的觀點，創建極具針對性的宣傳活動，或者發布虛假（但看起來很有可信度）的內容。另外人工智慧還能更好地在公眾和私人領域進行監控。「我們預計這些攻擊會利用更強的能力，根據現有的數據對人類行為、心理和認知進行分析。這些憂慮在那些獨裁主義者的國家會更加明顯，同時它還會破壞民主，可信的公眾言論也將不復存在。」「虛假信息」的時代已然到來，想要辨別真實與虛假的報道也越來越困難。俄羅斯對美國總統大選的干預也表明了某些行政體也會將社交網路用於歧途。劍橋大學生存危機研究中心的高管Seán ó héigeartaigh也是這份報告的聯合作者之一，他表示人類對人工智慧和機器學習的態度也不再像過去那樣只是單純的看好。「這份報告推薦的一些方法可能會有所幫助：例如，如何讓設計的軟體和硬體更不容易被入侵——以及什麼樣的法律和國際監管制度能在這方面起到作用。」他解釋道。為了緩解這些即將出現的危機，ó héigeartaigh和他的同時給出了五條建議：人工智慧和機器學習的研究者以及工程師必須承認自己研究的使用本質具有正反兩面。決策者必須和技術研究員密切合作，以調查、預防和解決人工智慧技術潛在的惡意應用。最好的方法就是講人工智慧和其他極具利害性的科技領域區分開來，並引入針對人工智慧的案例。在這些領域優先開發出標準的道德框架。當做出這些改變時，持股者和專家應該參與到討論中。除了這些策略，作者們還表示在投資某個技術解決方案時，必須「反覆思考」虛擬安全問題；開發人員要培養一種「責任文化」，明白數據共享和開放帶來的力量。網路安全公司High-Tech Bridge的首席執行官Ilia Kolochenko則認為這篇報告的作者有些言過其實，在未來十年內這個行業不會有什麼變化。「首先，我們要把Strong AI和我們平時經常誤用的『AI』區分開來，前者是完全有可能取代人類大腦的，而後者會變得更加普及。」 Kolochenko在一封郵件中寫道。他表示犯罪分子之所以能通過簡單的機器學習演算法來提高自己的攻擊效率，只是因為網路安全的缺陷和機構組織的疏忽。對於Kolochenko而言，機器學習只是一種「附屬加速工具」而已。「我們應該明白，人工智慧和機器學習也能幫助我們對抗虛擬犯罪。除此之外，人工智慧技術的開發也需要長期的投資，這是大多數黑帽黑客無法承受的。因此我並不認為人工智慧會在未來五年時間裡給我們帶來什麼實質性風險。」他補充道。Kolochenko說的人工智慧可以幫助我們對抗攻擊的確沒錯，但是「沒有什麼實質性風險」似乎就缺少些根據。畢竟在人工智慧真正威脅到我們個人之前，沒有多少人會重視這份報告里的警示。
推薦閱讀：