保護用戶和網路，AI成了遊戲規則的改變者！

AI（人工智慧）的最新進展正在改變我們對如何打擊欺詐和濫用的情況的看法，並且正在實施新的安全保護方法。這些進展對於滿足用戶的期望和對於攻擊者而言，在困境中保持越來越複雜的攻擊是至關重要的，但它們也伴隨著全新的挑戰。在RSA的兩次會談中，探討了人工智慧、反濫用和安全的交叉點。

在第一個會議中，探討了一個具體的關於我們如何應用AI來識別和解決欺騙和濫用的問題的綱領。詳細說明了為什麼AI是構建防禦系統的關鍵原因，它能滿足用戶的期望並應對日益複雜的攻擊。然後深入研究了AI在濫用戰鬥和如何克服這些挑戰時遇到的10大反濫用問題。

在第二個會議中，主要的關注點是關於進行攻擊ML模型本身，以及正在進行的開發新型防禦的努力。

它其中包括攻擊者企圖恢復私人訓練數據，將示例引入到機器學習模型的訓練集中，以使其學習錯誤行為，修改機器學習模型在分類時間接收的輸入，使其出錯，甚至是發生更嚴重的後果。

會議內容也包括一系列的防禦解決措施，包括不同種類和不同層次的隱私內容，這些內容其中包括為防止攻擊者恢復私人訓練數據提供了周密的理論框架。

AI是建立保護措施的主要方法，它可以幫助用戶滿足他們的期待以及破解越來越複雜的網路攻擊。下面是AI為了打擊欺詐和濫用的情況面臨的前10的挑戰和相應的解決措施：

# 訓練挑戰#

1. 非平穩問題

過去的訓練情況隨著攻擊的發展而變得過時。

解決措施：自動模型重新訓練，建立高級泛化模型，建立監管&深度防禦

2.缺少地面真實數據

濫用AI的人企圖去隱藏他們的活動以此就使資料庫缺少地面真實數據。

解決措施：應用聚類、使用有吸引力的事物、利用產生對手信息的網路。

3.模稜兩可的數據&分類系統

不需要的內容是不相關的部分，其中包括背景介紹、語境特徵、文化和依賴設置。

解決措施：模仿內容語境和設置，使用個性化的模型，提供有意義的選擇。

4.缺少明顯特徵

許多產品沒有足夠多豐富的特徵。

解決措施：應用語境特徵，模仿時間行為，採用異常檢測。

#分類挑戰#

5.沒有解釋預測

分類是一個二元的決定，解釋了它需要的其他信息。

解決措施：使用相似的攻擊，培訓分類的模型，應用槓桿模型解釋。

6.誤差成本

在欺詐和濫用的情況下會對外宣稱誤差是不存在的。

解決措施：依賴手動評審，適應FP/FN比率，增加可追求的機械論。

#攻擊#

7.對抗輸入

攻擊者主動的優化他們的攻擊，從而降低被檢測到的比例。

解決措施：限制信息泄露，限制監測比例，使用集成學習。

8.未知攻擊

早晚非預測行動的、出其不意的攻擊會打亂你原有的分類。

解決措施：應用其他產品你的知識，依靠異常檢測，開發一個「黑天鵝」程序。

9.武器化

任何回復都將被利用作為武器攻擊用戶。

解決措施：不要盲目相信用戶的回復，從攻擊中獲益，將安全控制放在首位。

10.對抗歪斜

攻擊者試圖根據他們的喜好在濫用的和合法的範圍內轉移學習界限。

解決措施：使用相關數據取樣，監管提取分類，建立黃金數據集。

翻譯：知道智慧