歐盟發布《人工智慧道德準則》：「可信賴 AI」才是 AI 的指路明燈

選自歐盟官網，機器之心編譯，參與：張倩。

近日，歐盟委員會發布了由人工智慧高級專家組（AI HLEG）編製的《人工智慧道德準則》（AI Ethics Guidelines）草案，指出 AI 的發展方嚮應該是「可信賴 AI」，即確保這一技術的目的合乎道德，技術足夠穩健可靠，從而發揮其最大的優勢並將風險降到最低。該準則旨在為 AI 系統的具體實施和操作提供指導。《準則》最終版將於 2019 年 3 月發布。

執行摘要

人工智慧是這個時代最具變革性的力量之一，它可以為個人和社會帶來巨大利益，但同時也會帶來某些風險。而這些風險應該得到妥善管理。總的來說，AI 帶來的收益大於風險。我們必須遵循「最大化 AI 的收益並將其帶來的風險降到最低」的原則。為了確保不偏離這一方向，我們需要制定一個以人為中心的 AI 發展方向，時刻銘記 AI 的發展並不是為了發展其本身，最終目標應該是為人類謀福祉。因此，「可信賴 AI」（Trustworthy AI）將成為我們的指路明燈。只有信賴這項技術，人類才能夠安心地從 AI 中全面獲益。

「可信賴 AI」由兩部分組成：1）它應該尊重基本權利、相關法規、核心原則及價值觀，確保其目的合乎倫理道德；2）它使用的技術應該非常穩健、可靠，因為即使是出於好意，如果沒有成熟技術的加持，技術也會帶來意想不到的傷害。這些指導原則構成了「可信賴 AI」的基本框架：

• Chapter I ：確保人工智慧的目的合乎道德，規定了人工智慧發展應該遵守的基本權利、原則和價值觀。
• Chapter II：關於實現「可信賴 AI」的指導原則，同時強調 AI 發展目的的道德性和技術穩健性。這部分列出了「可信賴 AI」的要求，以及實現這些要求所需的技術和非技術方法。（詳細內容見下文）
• Chapter III：提供「可信賴 AI」的具體但非詳盡的評估列表實施要求。該列表將根據具體的用例進行調整。

與其他有關 AI 倫理道德的文件相比，這份準則的目的不是為 AI 增加一份核心價值觀和原則清單，而是為 AI 系統的具體實施和操作提供指導。

該準則面向開發、部署或使用 AI 的所有利益攸關方，包括公司、組織、研究人員、公共服務單位、機構、個人或其他實體。該準則的最終版將提出一種機制，是否認可這些這些準則將由利益攸關方自行決定。

需要指出的是，制定這些準則並不是為了替代任何形式的決策或監管，也不是為了阻止其出台。這份準則應該不斷更新，以適應技術和知識發展的要求。

「可信賴 AI」的實現

這一部分為「可信賴 AI」的實施和實現提供了指導，指出實現「可信賴 AI」有哪些要求，在發展、部署、使用 AI 的過程中有哪些方法可以滿足這些要求，從而充分利用由 AI 創造的機遇。

1.「可信賴 AI」的要求

實現「可信賴 AI」意味著需要在 AI 系統和應用的具體要求中加入一般、抽象的原則。以下是從 Chapter I 的權利、原則和價值觀中衍生出的十條要求。這十條要求同樣重要，但實施過程中需要考慮不同應用領域和行業的具體背景。

• 問責機制
• 數據治理
• 為所有人設計
• 人工智慧自治的治理（人的監督）
• 非歧視
• 尊重（增強）人類自主性
• 尊重隱私
• 穩健性
• 安全
• 透明

《準則》還對每一項要求進行了進一步解釋。例如，在「問責機制」這項要求中，《準則》指出，問責機制的選擇可能非常多樣，從金錢補償到過失調查，再到沒有金錢補償的和解。如一個系統誤讀了藥品報銷申請，錯誤地決定不予報銷，系統所有者可能會被要求做出金錢補償。其他要求的詳細內容請參考原文。

這一清單按字母順序對要求進行排序，以表明所有要求同等重要。Chapter III 還提供了一份評估清單，以支持這些要求的實施。

2. 實現「可信賴 AI」的技術和非技術方法

為了滿足上一節中提到的要求，開發過程的所有層面（包括分析、設計、開發和使用）都可以採用技術和非技術方法（參見圖 3）。對實施這些要求和方法的評估，以及對流程變化的報告和論證應該持續進行。事實上，考慮到 AI 系統不斷發展，以及在動態環境中運行，實現「可信賴 AI」可以看作一個持續的過程。

雖然這份準則中的方法列表並不詳盡，但它旨在列出實施「可信賴 AI」的主要方法。為了提高 AI 系統的可信度，這些方法應該基於第一章中定義的權利和原則。

圖 3 顯示了權利、原則和價值觀對系統開發過程的影響。這些抽象的原則和權利被具體化為對 AI 系統的要求，該系統的實施和實現要由不同的技術和非技術方法支持。此外，考慮到 AI 技術的適應性和動態性，繼續堅持原則和價值觀要求將評估（evaluation）和論證（justification）流程作為開發流程的核心。

報告地址：https://ec.europa.eu/digital-single-market/en/news/draft-ethics-guidelines-trustworthy-ai