AI與安全

AI與安全今天開始更新啦。

之所以取這樣一個名字，是因為我前面的工作主要在這兩個領域，後續也想堅持在這兩個領域中持續學習。最後聲明一下，文章並不局限在這兩個領域，至於內容什麼的，就當我在扯淡好了，謝謝。

對於AI與安全，有幾種理解。

第一種分開看待，AI和安全。

近兩年，深度學習帶動AI大火，現在無處不在談AI。一個概念有它的炒作周期，AI也會從期望膨脹期到幻滅期，復甦期。這就是一個選擇落地的過程。

大規模的數據，讓機器學習演算法，特別是深度學習有了大規模的應用。在某些方面上，是深度學習的天下，比如CV。但在某些方面突破較小，比如NLP。而後面出現的比如強化學習效果如何，還需等待大規模驗證。

在AI與安全中的安全，指的是網路安全。網路安全最近幾年大發展，從一個需要被教育的行業快速發展成為國家安全擁有戰略地位的行業，研究和人才都有持續增長。各大公司也在大量囤積安全人才，推進一些安全相關的研究。

第二種是用AI技術做安全的事情。

最近幾年，網路安全的趨勢是在向AI靠攏。攻擊和防禦都在使用AI，比如密碼破譯之類的攻擊，也包括APT攻擊檢測，滑動驗證碼，DNS數據分析等應用，更有一些在嘗試自動漏洞挖掘，自動漏洞修復等新的課題出現。

我想，在網路安全使用AI技術，可能是有一種降維打擊的快感。不知道使用AI來發動攻擊會有多少快感。

第三種是AI中的安全問題。

AI的應用越來越多，安全問題也會越來越重視。AI系統的一些安全主要可以從這幾個方面來理解。

1.機器學習/深度學習框架以及依賴庫的漏洞

2.對抗樣本攻擊

3.訓練數據污染

當然還有更高級的安全問題存在，比如物理安全和政治安全，在後面會有更多的介紹。

AI系統中的對抗樣本防禦，緩解技術研究是個很好的方向，有興趣的同學可以多讀讀這方面的paper。

公眾號此篇鏈接：

AI與安全mp.weixin.qq.com