張玉潔:機器人權利有哪些?怎麼規制?
這是中國民商法律網的第6篇文章
本文選編自張玉潔:《論人工智慧時代的機器人權利及其風險規制》,載《東方法學》2017年第6期。本文為其刪減版,注釋已省略,內容也進行了精簡處理,完整版請點擊閱讀原文查看。
作者:張玉潔,廣州大學公法研究中心特聘研究員,法學博士。
全文共4464字,閱讀時間約22分鐘。
目前,人工智慧機器人(下文所稱為「機器人」)已經廣泛運用於社會生活、工作、生產與軍事等領域,並逐漸體現出自主性、社會化優勢。然而,基於一種獨立於科技倫理與物種危機的規範視角,機器人同法律之間的結合點究竟始於何處?或者說機器人如何融入法律體系?無論是人工智慧學界、哲學界還是法學界,不約而同地將視角轉向了法律主體的共有內容——「權利」。有鑒於此,廣州大學公法研究中心張玉潔特聘研究員在《論人工智慧時代的機器人權利及其風險規制》一文中,從歷史的視角來探究法定權利的發展過程,揭示出群體「實力」變化對法定權利的重要影響,以期國家正視機器人權利所帶來的社會風險,並作出法制化的預防措施。
一、機器人權利真的存在嗎?
機器人的法律地位是法治國家對機器人社會化應用的一種制度回應。它能否歸結為「權利」,尚未形成一致的觀點。但權利發展史證明,權利體系的構成從來不是固定不變的,在原有權利遭遇新興事物衝擊的情況下,不同群體的實力博弈將重新構築權利體系。約翰·厄姆拜克將這種現象歸結為「實力界定權利」。
(一)機器人權利主體地位的歷史正當性
現行法律對於機器人的權利主體地位持開放態度,並且否認物種差異構成法定權利的技術性難題。在這種情況下,真正影響機器人權利主體地位的客觀要素在於機器人同人類之間的實力對比,而主觀要素則是人們對於機器人權利的態度。
目前來看,雖然機器人的發展水平總體上落後於人類,但機器人的研發速度卻大大高於人類的進化速度。一旦機器人的社會化程度陡增,並在各個領域佔據較高的應用率。那麼,不必等機器人對人類提出何種權利訴求,其所有權人自然會呼籲立法機關來界定機器人的權利主體地位。由此觀之,承認並賦予機器人的權利主體地位,既是權利發展的內在規律,也是社會發展的必然趨勢。
(二)機器人權利類型的歷史正當性
在現代科技(尤其是大數據、人工智慧)的衝擊下,權利的類型已經超越了傳統制定法所劃定的權利範疇,並逐步發展出被遺忘權、個人信息權等虛擬權利。現傳統權利類型難以適用於機器人,甚至整個法律體系也因機器人的自主性功能而面臨瓦解的危機。由此可以推斷,機器人的社會化應用必將改寫現行法律體系,而起點則是機器人權利的獲得。
(三)機器人權利理論的起源
人類發展歷程表明,群體之間的實力對比會影響法定權利的分配。由此推之,當機器人的效率、智能和功能等方面全面改寫人類發展進程的情況下,機器人與人類之間的實力變化可能催生出機器人權利。至此,機器人權利將重塑整個法律體系。
二、機器人權利的基本屬性
機器人權利既符合權利發展的內在規律,又產生諸多不同於傳統權利的特性。從機器人同公民權利的差異性來看,機器人權利具有以下特定屬性。
(一)擬制性權利屬性
「法律擬制」是「立法者為了實現法律背後的制度目的而作出的一種不容辯駁的決斷性的虛構」。這種「虛構」不再糾結於機器人是否存在意識,而是強制性地要求人們之間達成「機器人擁有權利」的基本共識;對於機器人而言,權利「虛構」是人類接納機器人的一種方式,並保證人們按照對待同類的方式處理人機關係。
當然,機器人的權利擬制屬性不能全面套用其他擬制權利。在機器人社會化應用尚未真正實現之前,法律僅允許機器人權利的必要擬制、有益擬制。
(二)利他主義權利屬性
機器人的功能在於幫助人類更好地工作、生活,其工具性價值決定了機器人的天然利他特性。如果機器人的利他權利(如機器人代理權)能夠給人類帶來更多的好處,並且機器人本身僅付出較小的代價,那麼,人們基於利益的追求,會選擇同機器人進行深入合作,進而催生出更多的利他主義行為。為此,國家基於增進社會福祉、推動人類進步的需要,必須創造出「利他主義行為」的保護機制,即利他主義型權利。這種權利屬性既是人類應自身發展需求而賦予機器人的擬制權利,同時也是機器人利他功能的法律表徵。
(三)機器人權利的功能屬性
機器人的功能分化,如同人類社會的職業分工一樣,是應對社會化生產的重要舉措,也是機器人研發的必然趨勢。機器人的功能差異不僅分化出不同形態的機器人,也造就了機器人權利的功能化屬性。換言之,法律在賦予機器人權利過程中,必須考慮機器人的具體功能,並據此實行有差別的權利擬制與保護機制。
另一方面,機器人權利的功能分化屬性並沒有違背「權利平等」的現代法治觀念。對於機器人而言,其所具有的社會價值僅僅反映為它的功能。當機器人尋求功能以外的權利保護之時(如醫療機器人尋求交通權保護),國家和公民就會缺乏足夠的保護意願。因此,機器人權利的功能分化屬性不僅沒有違背「權利平等」的理念,還同國家公共資源的運用邏輯保持著一致性。
三、機器人權利的基本類型
對機器人基本權利的探討,實際上可以歸結為機器人普遍存在哪些權利的追問。在此意義上,機器人權利的基本類型,往往體現為機器人生存所必要的保障。
(一)數據資源的共享權利
機器人的社會化應用,在很大程度上依賴於大數據、決策技術和演算法的交互使用。為此,機器人的首要基本權利應當是保障機器人功能實現的數據共享權利。在此,「共享」是指機器人同數據所有人共同享有數據使用權、知情權的一種數據使用模式。
由於數據資源內含商業價值和個人隱私(商業機密),機器人的數據共享權利同其他法律主體的權利保障之間看似具有明顯的衝突。然而,大數據在當下或許具備無可估計的商業價值,但隨著老齡化社會的到來,機器人所帶來的社會變革遠非數據價值所能衡量。私權領域的數據權利保護僅在公權領域獲得了極小的勝利,「數據共享」才是未來發展的主要趨勢。因而,法律在建立明確的數據保密等級與公開等級的同時,應推動各類數據資源的社會共享,肯定機器人的數據共享權利。
(二)個體數據的專有權利
機器人的數據專有權利能夠有效對抗機器人使用者嗎?
對此,「專有數據」的概念將成為解答這一疑問的關鍵點。一般認為,專有數據是指只屬於某個主體或某類主體的可識別符號的統稱。考慮到機器人超高的科技屬性以及主體差異,機器人專有數據可以分為以下幾種類型:一是生產商所掌握的專有數據,這部分數據主要包括機器人的內部構成及技術函數;二是機器人銷售商(兼服務商)所植入的功能優化型專有數據,這類數據主要針對客戶的不同需求,改善機器人的服務事項;三是機器人應用過程中獲取的專有數據,主要是指機器人基於服務功能所獲取的使用者的信息數據。對比上述三種專有數據類型可以發現,機器人的數據專有權利分別指向生產商、服務商的專利權以及使用者的個人信息權。為此,機器人的數據專有權利是一項排他性權利。它既排除生產商、銷售商以及使用者之外其他人對機器人專有數據的使用權,也排除了前述三類主體之間的數據交叉使用。
(三)基於功能約束的自由權
康奈爾大學人工智慧實驗室的研究發現,人工智慧機器人在無需預先錄入指令的情況下,已經能夠在一定程度上自主地進行學習、交流。儘管它無法同人類的意識相媲美,但在特定功能的範圍內,機器人已經能夠自主的決定是否從事某種行為。更為重要的是,機器人自由權的行使依賴於法律的權利擬制,而非獨立的「思維意識」。其社會功能則才是真正約束機器人自由權的重要尺度。根據機器人的運行邏輯,機器人可以以功能實現的目標,基於自身的演算法和決策能力,自主地作出某種行為。無論其自主能力能否承擔法律所賦予的權利,機器人的具體功能都將對它的行為、權利施加限制。
(四)獲得法律救濟的權利
機器人基本權利的實現不僅要求國家提供強有力的法律保障,同時也需要國家給予足夠的法律救濟。在私權領域,救濟權可以轉化為機器人及其所有人要求侵權人停止侵權、回復原狀、賠償損失的權利。而在公權領域,救濟權則表現為機器人要求國家糾正或減輕侵權後果的權利。由此來看,機器人獲得法律救濟的權利,既是真正落實其他權利的保險機制,也是對侵權行為的一種警告。
四、我國如何應對機器人權利引發的社會風險
通過法律擬制的方式賦予機器人權利、深化人工智慧法律法規已經成為時代發展的必然趨勢。在此趨勢下,我國應當積極應對機器人權利所帶來的法律挑戰,竭力降低機器人權利所帶來的社會風險。
(一)機器人權利的邊界及其法律保留
我國在機器人權利的擬制上,應當明確必要的權利邊界。從立法技術角度來看,無論是採取「例示規定」,還是「列舉式」的立法方法,都會引發機器人權利的不可窮盡性難題。與之相反的是「法律保留」。儘管法律保留難以明確機器人權利的具體內容,卻能夠在限定機器人權利邊界上帶來更好的效果。因此,應在法律上對機器人的政治權利、自我複製權利和緊急避險權利等重要權利進行保留。
(二)加強法律規範與機器人倫理規範的銜接
我國必須藉助法律規範來建立穩定、有序的機器人權利、義務和責任。當然,這並非是說機器人倫理規範已然可以退出歷史舞台。恰恰相反,機器人法律規範的制定只是彌補機器人倫理規範的部分缺陷,兩者的銜接與溝通才是我國規制機器人權利風險的最佳模式。
(三)建立機器人監管機制
我國在保障機器人權利的基礎上,建議採取漸進式分級監管模式:
第一,設立獨立的機器人監管機構。這一專門性機構能夠統一行使機器人倫理、研發、應用以及安全等方面的監管權力,實現人工智慧領域內部的全面監控。
第二,建立機器人強制登記制度。我國應當建立機器人強制登記制度,確保機器人在推向社會之前獲得唯一的編號。這既是機器人權責追溯的必要保證,也是確立個體機器人法律主體地位的基礎。
第三,確立機器人分級監管模式。我國在實施機器人監管上,應當根據機器人社會風險和倫理問題的不同,採用分級監管、重點治理的模式,優化機器人的監管效率,減少機器人社會化應用中的潛在風險。
五、結語
在人工智慧高度發達的時代,權利意識將覺醒於機器人體內。而作為一種社會活動的產物,機器人權利有別於人類的「自然權利」,具有獨特的權利屬性和基本權利類型。同時,機器人權利也對我國的法律體系提出了嚴峻的挑戰,並引發了諸多新型權利糾紛。因此,在應對機器人權利所帶來的社會風險上,原文提出了三項制度措施建議,這將有利於我國引領人機關係走向正常化、法治化,也有助於保證我國人工智慧的順利發展,提升國家的科技競爭力。
推薦閱讀:
※民法複習講義●用益物權●地役權
※父母能以未成年子女的財產為他人提供擔保嗎?
※《擔保法解釋》第 87 條所稱「質權人將質物返還出質人,是質權消滅還是質權仍然存在只是無法對抗第三人」,這句話該如何理解?
※開發商逾期交房,應如何承擔違約責任?
※請求權基礎方法案例研習