125 個國家商討「致命自主武器」制約問題，但分歧會依舊存在

來自專欄 DeepTech深科技10 人贊了文章

近來 Amandeep Gill 的日子不是很輕鬆。作為聯合國「常規武器公約」（CCW）致命自主武器會議的主席，他需要領導 125 個成員國討論「殺手機器人」這一棘手的技術和倫理問題。

這個主題引起了媒體的廣泛關注和來自 NGO 的壓力。他必須將國家代表團——外交官、律師和軍事人員——以及學者、人工智慧企業家、行業協會、人道主義組織和非政府組織聚在一起，並努力就這一重大安全問題達成共識。

圖丨Amandeep Gill

殺手機器人的主題是一個敏感話題。The Future of LifeInstitute 是一個致力於「緩解人類面臨的生存風險問題」的非營利組織，在去年 11 月舉行的 CCW 會議上，他們推出了其聳人聽聞的短片「Slaughterbots」。這部電影描繪了一個由殺人無人機威脅的反烏托邦近期未來，並傳遍了互聯網。

曾擔任印度裁軍大使的 Gill 試圖平息因裝備武器的無人機而爆發的反對的聲音。「女士們，先生們，一則新聞告訴你們，」 Gill 在第一輪 CCW 會議後對記者說，「機器人並沒有佔領世界。世界仍在人類的掌控中。」

作為一名受過培訓的工程師，Gill 在參加全面禁止核試驗條約（CTBT）和印度與其合作夥伴之間的民用核協議的討論中，歷練了他的談判能力;此外，他還是印度人工智慧特別工作組的成員。他還將成為聯合國新成立的數字合作高級別小組的執行董事，該小組由 Melinda Gates 和阿里巴巴集團的馬雲共同擔任主席。

CCE 將於 8 月 27 日至 31 日舉行第三次會議討論致命自主武器，之後可能會發布報告並決定明年繼續討論的日期。

而在媒體的訪問中， Gill 首先提到了致命自主武器的定義。「這完全取決於你怎麼定義致命自主武器。給你一個具體的例子，美國在伊拉克戰區部署的C-RAM 系統（反火箭，火炮和迫擊炮系統），該系統以自主的方式響應即將到來的火力打擊，但是存在一定程度的人為控制。我們會議上的討論圍繞著人為控制的意義。如果你有另一種回應制度，那麼會更加符合國際人道法嗎？這是未來我們需要面對的問題。」

而現在，有些政府和非政府組織希望禁止使用致命的自主武器。Gill 則認為，

「常規武器公約」提供了一系列控制自主武器的選擇，要麼提前禁止使用系統，要麼接受它們犯錯的必然性，但禁止在某些情況下使用它們，要麼規定某些方式來交換信息或警告人們使用它們等等。「所以禁止它們是我們的選擇之一」。

但現實還有一種情況是，有些國家非常滿意將其納入國家法規和工業標準。所以在這個時間點，對任何選擇都沒有達成共識。

因此，Gill 表示，作為主席，他不知道應該採取什麼選擇。

另外，與核武器不同，建造自主武器的工具相對容易獲得。這對控制這項技術是否構成挑戰？

今天的任何軍事系統都使用現成的許多技術。但是，國際社會已經找到了管理這些系統，控制其擴散的方法，無論是通過技術出口管制還是通過具有更廣泛適用性的條約，或其他與工業合作的方式，例如核安保領域。

因此，AI 可能與前面的例子沒那麼不同。可能不同的是行業變化的速度和規模。這就是我們需要進行對所有利益相關者開放的對話的原因。如果我們開始只通過一個層面來管理這些，比如說我們只關注國際條約的制定，而忽視國家層面或行業方面的問題，那麼我們成功的機會就不那麼大了。這是我過去幾年的經歷。但是，如果我們與所有行業、領域保持同步，那麼我們就有可能成功地管理與 AI 相關的一些風險。

但 Gill 認為，出於恐懼來制定政策並不是一個好主意。「作為嚴謹的政策實踐者，我們必須從技術發展和可能發生的情況來看待現狀。我們正在處理事情的背景是什麼？在日內瓦的討論中，我們的背景是國際人道法，武裝衝突法以及與可能部署致命自治武器系統對國際安全影響有關的其他問題。因此，我們必須牢記這一背景，並以合理，系統的方式處理它，這種方式帶有 CCW 中的所有 125 個國家。我不認為害怕或癱瘓不採取行動 —— 或者對風險避而遠之 —— 對我們有任何幫助。

目前，此次的會議也有初步的預期目標，其中之一是在去年的會議結果的基礎上，就四個重要問題達成了一系列共識。裡面特別的是，現有國際授權法繼續適用於任何形式的武器系統。

這四個議程項目首先是定義問： 你如何定義致命的自主武器系統？第二，通過這種系統使用武力時，人為因素如何考慮？部署或開發此類系統時，人機互動應該是怎麼樣的？第三，在自主武器建造過程中，我們應對國際人道主義法和國際安全有關的問題的質疑的時候，有什麼選擇來為自己辯解？

第四點是關於技術審查。在這個領域，技術發展得非常迅速。所以人們希望相關政策反饋是相對穩定的。當技術發生變化時，不應該對它們進行根本性的修改。與此同時，也要確保政策實施與技術發展保持同步。

幾天過後，我們或許就能看到會議結束後提出的相關報告，讀到其中詳細的全球共識。