重磅 | 牛津劍橋OpenAI聯合發出AI預警《人工智慧的惡意使用》

越來越多的人正在享受人工智慧帶來的便利，但使用不當也會帶來危險和傷害。近日，牛津、劍橋、OpenAI等14家機構發布報告《人工智慧的惡意使用：預測、預防和緩解》：警惕人工智慧被用於惡意目的。

人工智慧和機器學習能力正在以前所未有的速度增長。這些技術被廣泛應用，從機器翻譯到醫學圖像分析，還有無數這樣的應用正在開發中。過去，人們很少關注人工智慧可能會被惡意利用的方式——這篇報告調查了人工智慧技術的潛在安全威脅，並提出了更好的解決方案。我們進行分析，期望預防和減輕這些威脅，但是並不能從根本上解決問題。我們關注的是攻擊者和防禦者之間長期不平衡的問題，如果不提前預防，我們又將迎來怎樣的攻擊。

為了應對不斷變化的威脅環境，報告提出了四項高級別的建議：

• 政策制定者應與技術研究人員密切合作，以調查預防，並減輕AI的潛在風險。
• 人工智慧的研究人員和工程師應該認真對待他們工作的雙重使用性質，允許錯誤的考慮因素影響研究的優先順序和規範，並且在可預見的情況下，積極主動地與相關的參與者接觸。
• 應該在研究領域中確定道德框架，這些研究領域需要更成熟的方法來解決諸如計算機安全之類的雙重使用問題，以及適用於AI的情況。
• 積極尋求擴大利益相關方和領域專家的範圍，需要有更多人參與對這一問題的討論。

想要獲取更多？關注FlyAI（flyaiwx），後台回復關鍵詞人工智慧的惡意使用獲取全文。