現場報道 | 聯合國召開首次人工智慧峰會：讓AI助力17個可持續發展目標

今天，人工智慧的重要性不言而喻。雖然在過去，技術的發展方向是由市場決定的，但對於人工智慧來說，社會需要事先考慮規定和底線，因為這項技術很可能會對社會本身造成影響，甚至脫離人類的控制。為了解決這些日益緊迫的問題，聯合國國際電信聯盟（ITU）等聯合國機構和 XPRIZE 基金會共同組織了「人工智慧造福人類峰會（AI for Global Good Summit）」，大會於 2017 年 6 月 6 日至 9 日在瑞士日內瓦召開。本屆大會旨在討論讓人工智慧符合可持續發展的目標（SDG）。

很多人工智慧研究先驅參與了本次會議，他們包括谷歌研究主管 Peter Norvig、UC Berkeley 人工智慧實驗室主管 Stuart Russell、MILA 主管 Yoshua Bengio、斯坦福大學人工智慧實驗室主管李飛飛、Dalle Molle 人工智慧研究所聯合主管 Jürgen Schmidhuber 和紐約大學教授 Gary Marcus 等人。他們來自不同行業，覆蓋政府、業界、聯合國機構、民間組織和研究社區。

「如何讓人工智慧成為一個有效的，對社會有益的工具？」是一個宏大的命題，它引出了無數開放性議題。「人工智慧」的意義是什麼？智能系統和機器人會推動人類發展還是相反？我們如何能讓無法預測的技術與人類價值共同發展？

首先，我們需要填補鴻溝

誠然，大多數人理解機器智能需要時間，人工智慧並不是一種不言自明的技術。而將技術傳播到利益相關者、感興趣的大眾和缺乏信息獲取渠道的群體各有不同的難處。世界經濟論壇社會與創新主管 Nicholas Davis 提醒現場觀眾：「並不是每個人都可以來到日內瓦討論這樣的議題。還有很多人會受到新技術影響，但他們並不知道這些討論的存在。」

跨行業座談會（左起）：兩位主持人：紅十字國際委員會（ICRC）戰略參與和新技術主管 Anja Kaspersen；世界經濟論壇社會與創新主管 Nicholas Davis；座談會出席者：UC Berkeley 教授 Stuart Russell；清華大學公共管理學院院長薛瀾；卡耐基梅隆大學計算機科學與機器人教授 Manuela Veloso；聯合國全球脈動計劃總監 Robert Kirkpatrick

事實上，這條鴻溝超越了理解，也體現在最終的目標上。學者們往往以研究為導向，致力於解決人工智慧眼前的問題；業界則以競爭為導向，認為人工智慧的發展會讓企業更具競爭力；而對於政府來說，技術的背後仍有很大部分需要探索。即使到了 2016 年，歐洲議會仍然在從科幻作家阿西莫夫的機器人三定律中尋求洞見，提出了「如果人工智慧發展到機器人最終具有自我意識後，會考慮給機器人部分人權。」

「所有交叉學科的技術都在以指數級的速度不斷發展，」XPRIZE 創始人 Marcus Shingles 表示。著名計算機科學家，人工智慧標準教科書《Artificial Intelligence: A Modern Approach》的共同作者 Stuart Russell 則認為書中的一些參考文獻具有「誤導性」，甚至簡單地來說，是錯誤的。

不對稱信息是一個大問題，特別是在你需要規劃人工智慧管理機制的時候。國家政府需要在全球化的商業環境中規範人工智慧技術的部署，這其中包括自動化對工作機會的影響、自動化武器、網路安全、貿易關稅、跨境數據訪問許可權等等。

清華大學公共管理學院院長薛瀾根據政策專業知識指出了問題，「對於政府來說，目前有三大挑戰：1. 機制複雜性——人工智慧是一個宏觀問題，對於多層級的政府而言難以掌控；2. 周期差距——由於政治環境的結構複雜性，人工智慧技術的發展總是會比政治反應更快；3. 道德的分裂——我們目前還是難以在全球範圍內統一道德和倫理的價值觀。」

鑒於目前問題的複雜性，薛瀾提出了「適應性態度」，建議人們接受歧義和理解的鴻溝。我們必須相互傾聽，即使是在行業間、業內，甚至人與人之間，信息也不是完全聯通的。

人工智慧：人類的工具還是毒瘤

本次大會第二、三次全體座談會：在啟動中轉型與未來路線圖的關鍵詞雲。

人工智慧作為工具有潛力幫助人類解決許多難題。該峰會主要強調了 17 個可持續發展目標，可作為想要在以下領域做出積極影響的人的指導：

1. 消除貧困（No poverty）：將貧困與預測式大數據分析映射起來
2. 零飢餓（Zero Hunger:）：增加農業產量
3. 醫療健康和高質量生活（Good Health and Well Being）：分析大量的醫療數據
4. 質量教育（Quality Education）：用個性化教學變革教育
5. 性別平等（Gender Equality）：明確性別不平等問題，驅動性別平等的招聘
6. 清潔用水和公共衛生（Clean Water and Sanitation）：改善有效的清潔水源供給
7. 可承擔的清潔能源（Affordable and Clean Energy）：改進光電能源獲取
8. 體面的工作與經濟增長（Decent Work and Economic Growth）：通過智能自動化增加生產率
9. 產業創新與基礎設施（Industry Innovation and Infrastructure）：幫助驅動產業創新
10. 減少不平等現象（Reduced Inequality）：建立更為包容的社會（例如，助殘機器人）
11. 可持續的城市與社區（Sustainable Cities and Communities）：通過感測器數據支持城市規劃決策
12. 負責任的消費與生產觀念（Responsible Consumption and Production）：預測最優的生產等級從而減少浪費
13. 氣候行動（Climate Action）：對氣候變化建模以預防災難
14. 水生生命（Life Below Water）：通過模式識別軟體追蹤非法捕魚
15. 陸地生命（Life on Land）：控制盜獵行為、監控物種安全
16. 和平、公正和強大的機構（Peace, Justice and Strong Institutions）：減少政府的歧視和腐敗
17. 有目標的合作（Partnerships with Goals）：多方面的合作至關重要

這些主題是建設性的，是 21 世紀的企業家和政府的目標。人工智慧可以幫助我們啟動和推動社會變革，比如在開幕主題演講中世界衛生組織總幹事陳馮富珍提到的在醫療上使用「人工智慧增強的移動或硬體（AI augmented mobile or hardwares）」。

但是，也還是存在一個具體的下行趨勢。未來數十年，發展中國家的貧困兒童將面臨巨大的困難。UNICEF Innovation 聯合創始人 Christopher Fabian 向觀眾強調了這一問題的緊迫性：「隨著自動化的發展，我們面臨著越來越大的挑戰。這個世界正變得越來越複雜，隨著技術的發展，貧富差距將進一步擴大。」UNICEF（聯合國兒童基金會）是聯合國一個兒童機構，致力於為全球五分之一的兒童（處於底層的兒童）提供生存保障，Christopher 相信機器學習和預測分析這類的技術創新可以幫助緩解這種狀況。這不是什麼新興的慈善事業，而是為了維持人類生存的基線。

另一方面，在峰會期間，人們也提出了很多擔憂和隱患，其中包括：使用人工智慧進行政治宣傳、直接盜竊數字支付、信息戰和定向營銷（比如，根據人們社交媒體上內容，向被認定為抑鬱的人推銷酒類商品）。

「故意濫用人工智慧可能是比惡意軟體還要遠遠更加糟糕的問題。」Stuart Russell 說，他尤其擔憂人工智慧在致命性自動武器（LAWS）中的應用。根據伯克利網站上的定義，這些系統「可以在沒有人類的干預下選擇和攻擊目標，其中可能包括可以在城市中搜尋和消滅敵方戰鬥人員的武裝直升機，但並不包含需要人類做出決策的巡航導彈或遙控無人機。」

Russell 曾出席了聯合國的《特定常規武器公約（CCW）》第三次會議，該會議也是在日內瓦舉辦的；他在該會議上呼籲禁止自動武器。他也是著名的《自動武器：來自人工智慧機器人研究者的公開信（Autonomous Weapons: An Open Letter From AI Robotics Researchers）》的發起者，該公開信得到的全球 20000 人的參與，其中包括 Steven Hawking、Elon Musk、Steve Wozniak 等著名人士。

趨勢：企業家以個人名義來解決問題

在開幕主題演講中，Marcus Shingles 提到了一種新型的解決問題的方式：個人企業家（individual entrepreneur）。對於 Shingles 而言，我們今天所面臨的最大挑戰是在「線性連接的文化（linearly wired culture）」與當前人工智慧發展的「指數趨勢」之間的矛盾。據人工智慧領域的著名研究者和深度學習的重要貢獻者 Yoshua Bengio 稱，即使我們完全停止研究，要「收穫當前技術的好處」我們也還需要大約 20 年時間。當涉及到處理當今世界的複雜性時，標準社會流程還存在很多問題，而我們相信我們正在接近一個「拐點」。

許多企業家出生在數字時代，對行業有牢固的認識。比爾及梅林達·蓋茨基金會（Bill-Melinda Gates Foundation）和陳-扎克伯格倡議（Chan-Zuckerberg Initiative）等成功的項目可以產生足以與政治影響媲美的巨大影響力。它們不同於傳統的慈善事業，通常會在社交媒體上獲得很大的曝光，也常常會吸引到技術專業為之工作。比如說，Chan-Zuckerberg Initiative 最近收購的多倫多創業公司 Meta 就正在研究科學界的數據透明問題，參閱《業界 | 扎克伯格夫婦基金會收購 Meta：將免費開放人工智慧論文搜索引擎》。

亮點推薦：你應該了解這些

日內瓦數字公約（Geneva Digital Convention）：這是由微軟發起的一項倡議，呼籲聯合國創建對於網路空間安全的監管規則。其借鑒了「日內瓦第四公約（Fourth Geneva Convention）」的思想——其在戰爭期間為平民提供了保護。

AI4All：這是李飛飛及其斯坦福大學的學生髮起的一個美國非營利組織，致力於增加人工智慧領域的多樣性。該組織支持美國全國的教育計劃為代表性不足的高中學生提供人文人工智慧（humanistic AI，即解決社會問題的人工智慧）的早期教育。參與大學包括：斯坦福大學、普林斯頓大學、加州大學伯克利分校、卡內基梅隆大學。更多詳情可參閱機器之心報道《訪談 | 李飛飛的全新使命：讓人工智慧擺脫極客專屬標籤》。

IEEE 行為準則（IEEE Code of Conduct）：電氣和電子工程師協會（IEEE）的這份協議規範了技術人員（包括人工智慧研究者）的職業和道德行為，其開篇寫道：「我們 IEEE 的成員要清醒地認識到我們的技術對整個世界的生活質量的影響的重要性，要接受我們的職業、其成員和我們服務的社區中的個人義務，因此我們承諾服從這個最高道德和職業準則。」詳情請訪問：https://www.ieee.org/about/ieee_code_of_conduct.pdf。此外去年，IEEE 還發布了世界首個人工智慧道德準則設計草案《Ethically Aligned Design》，參見機器之心報道《學界 | IEEE 發布人工智慧道德準則設計，確保人工智慧為人類服務（附草案）》。

數據收集稅（Data Collection Tax）：這是在「人工智慧造福人類峰會」上由一位觀眾成員提出的可能性，希望能藉此管理大公司收集個人數據的行為。

機器之心報道