蘭德：2040年人工智慧或發動核戰爭

2018年4月24日，蘭德公司發布報告《人工智慧對核戰爭風險的影響》，現將報告簡介編譯如下。

蘭德公司的一份新報告表明，人工智慧到2040年有可能顛覆核威懾戰略的基礎。

該研究認為，雖然人工智慧不可能創造「末日機器」，但人工智慧對核安全的危害在於它鼓勵人類去冒險。

冷戰期間，「相互確保摧毀」通過樹立「任何襲擊會招致毀滅性的報復」的平衡原則，從而維持了超級大國之間的恐怖和平，可見「相互確保摧毀」是通過抑制兩國升級到核戰爭的動機來鼓勵戰略穩定。

而新的蘭德報告則指出，未來幾十年人工智慧有可能通過削弱「相互確保摧毀」來打破核戰略平衡，技術進步會使得報復性核反擊力量成為目標並被摧毀的可能性大大增加。

研究人員表示，即使各國無意發起攻擊，也可能會傾向於追求先發制人的能力，以此作為與競爭對手討價還價的手段。這破壞了戰略穩定，因為即使擁有這些能力的國家沒有使用這些能力的意圖，對手也無法對此加以確認。

「核戰爭與人工智慧之間的聯繫並不新鮮，事實上，這兩者之間有著錯綜複雜的歷史，」蘭德公司研究員愛德華·蓋斯特(Edward Geist)說。「人工智慧的早期發展，很大程度上是為了支持軍事行動或考慮軍事目標。」他說，這類工作的一個例子是1980年代的可生存適應性規劃實驗，該實驗試圖利用人工智慧將偵察數據轉化為核打擊的目標。

根據該報告，人工智慧在少數情況下可以通過提高情報收集和分析的準確性，提高戰略的穩定性。先進的監測技術、更好的解釋對手的行動都可以減少戰略誤判，從而減少戰爭的意外升級。

研究人員說，考慮到未來的技術發展，最終人工智慧系統雖然存在出錯的可能，但比人類出錯的可能性要低，因此長期來看還是趨於穩定的。

「一些專家擔心，對人工智慧的依賴會導致新的災難性錯誤，」蘭德公司的安德魯·洛恩(Andrew Lohn)說。「在技術成熟之前使用人工智慧可能會令人承受很大壓力，甚至是顛覆性的挑戰。」因此在未來幾十年保持戰略穩定可能是極其困難的，所有的核大國都必須致力於限制核風險。

科技、人類與人們的觀念如何影響未來全球的安全目前已引起了廣泛關注，而蘭德智庫已為此組成了一支專門探討《2040年的全球安全》課題的團隊。24日晚，該團隊成員在聽眾面前亮相，披露他們對人類未來的觀察與探討。這一課題的負責人即是蘭德智庫全球危機與安全中心主任帕拉斯利提（Andrew Parasiliti）。

帕拉斯利提表示，該團隊所關注不是國安議題，他們的課題是跨行業、跨國界的，「專家們在構想今後20年的全球安全狀況。」蘭德智庫的這支團隊由跨學科的專家組成，他們當中既有核戰略專家，又有經濟學家與社會學家。蘭德智庫認為，只有這樣一支研究團隊才能更好地理解世界科技的飛速發展對人類社會安全的影響。

《2040的安全話題：人工智慧、3D列印與速度帶給人類的希望與危險》是《2040年全球安全》課題團隊帶給聽眾的題目：在未來的數十年內，由於新科技的興起，如人工智慧、3D列印等，會將風險帶給人們與他們的國家，同時也將威脅到全球的安全。與此同時，加速的變化也對政策制定者的應變能力提出了挑戰。

蘭德智庫的專家認為，今天的人工智慧發展已到了令人吃驚的程度——機器人可具備學習與思考的能力，這會引發全球主要核大國間新一輪的武器競賽，殺人機器人已不再是好萊塢大片的專利，智能機器人的出現或會打破現有的「核制約」，讓人類做出災難性的決策。

專家們表示，「人工智慧如何影響核戰的威脅」 即是蘭德智庫正在實施的特別研究項目，即《2040年的全球安全》中的一部份。參與這一課題研究的專家認為，自冷戰時期起人們已開始擔心，計算機本身的故障，或由於人類操作不當，地球上可能會發生核災難。然而，隨著科技的發展，人們今天對科技導致的核災難的危險更現實。

蘭德智庫的工程師羅恩（Andrew Lohn）認為：「這絕非僅是一個電影的場景。如果我們不謹慎的話，一些看似簡單的事情都會導致緊張，把人類引向危險境地。」羅恩在使用人工智慧方面已取得了相當的經驗，他曾使用人工智慧為無人機導航、判斷鯨魚的需求，並曾使用人工智慧預測NBA籃球比賽的結果。

人類一味追求快速，但人類是否能夠適應得了一個更加快速的世界？3D列印給人類帶來了哪些威脅等都是蘭德智庫《2040年的全球安全》項目團隊要在今後解答的問題。

推薦閱讀：