歐盟人工智慧相關法律規則之-歐盟機器人民事法律規則-中文譯文

這是本人為服務大家翻譯的《就機器人民事法律規則向歐盟委員會提出立法建議的報告草案》(Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics)和《歐盟機器人民事法律規則》(European Civil Law Rules in Robotics)大家多多指教

報告

關於《關於機器人技術的民法規則》的建議

(2015 /2103(INL)

法律事務委員會

報告員:Mady Delvaux

(主動權-議事規則第46條)

辦事員的意見(*):Georg Mayer,

運輸和旅遊委員會Micha? Boni,

公民自由、司法和內政事務委員會

(*)相關委員會-議事規則第54條

目錄

歐洲議會決議的動議

決議的附件:關於所要求的提案內容的詳細建議。

解釋性聲明

運輸及旅遊委員會的意見(*)

公民自由、正義和民政事務委員會的意見

就業和社會事務委員會的意見

環境、公共衛生和食品安全委員會的意見

工業、研究和能源委員會的意見

委員會對內部市場和消費者保護結果的意見,最終由委員會負責

(*)相關委員會-議事規則第54條

歐洲議會決議動議

機器人學民法規則委員會的建議

歐洲議會

-考慮到《歐洲聯盟運作條約》第225條

-考慮下到產品責任指令85/374/EEC

-考慮到議事規則第46條和第52條

-考慮到法律事務委員會和交通和旅遊委員會,以及公民自由委員會,司法和內政事務委員會,就業和社會事務委員會,環境公共安全和食品安全委員會,工業,研究與能源委員會,內部市場和消費者保護委員會的意見報告【A80005/2017】

介紹

A. 鑒於瑪麗·雪萊的弗蘭肯斯特的怪物電影經典神話,通過布拉格的傀儡故事-卡雷爾·卡佩克機器人,誰創造了這個詞,有人幻想建築智能機器的可能性,更多的往往不是人類特點的機器人

B. 而現在,人類正站在一個時代門檻的時候,更先進的機器人以及其他人工智慧的表現似乎準備發動一場新的工業革命,立法機關在不扼殺創新的前提下,考慮其法律和倫理影響

C. 有必要創造一個公認的機器人和人工智慧的定義,這是靈活的,不妨礙創新

D. 從2010年到2014年機器人的平均銷量以每年17 %的速度增加,同比漲幅最高的2014年更是高達29 %,汽車零部件供應商和電氣電子行業是增長的主要驅動因素;而對於機器人技術的年度專利申請已經在過去的十年中翻了三番

E. 然而,過去兩百年的就業數據已經由於技術的發展不斷增加;而機器人技術的發展,人工智慧可以改變生活和工作實踐,潛在的提高效率,節儉,安全水平,在短期到中期內提供增強了的服務水平,機器人及人工智慧帶來的效率和節省的好處,不僅表現在生產和貿易上,也在交通運輸,醫療救助,教育和農業上,並且使它能夠避免使人類處在危險的地步,如有毒污染場地的清理

F. 衰老是平均壽命增加的結果,由於生活條件和現代醫學的進步,衰老已經成為二十一世紀歐洲社會最大的政治,社會和經濟挑戰;而到了2025年,歐洲65歲以上人群將超過20 %,隨著年齡在80或者80歲以上人群的增加,這將導致我們社會中幾代人之間的根本不同的平衡,而老年人保持健康和積極性則符合社會的利益

G. 然而,從長遠來看,目前的趨勢傾向於發展智能和具有獨立訓練和決策能力的機器,不僅擁有經濟優勢,也對於整個社會都具有直接或間接的影響

H. 而機器學習提供了巨大的經濟和社會效益,創新能力和數據分析能力的提高,同時也提高了挑戰,確保非歧視,正當程序,在決策過程的透明度和可理解性

I. 而同樣的,經濟的變化和對就業的影響由於機器人和機器學習的需要進行評估;儘管機器人的優勢不可否認,但是它的實現可能還是需要一個轉型的勞動力市場和反思教育,未來就業,社會政策措施

J. 機器人的廣泛使用可能不會自動導致工作崗位的替代,但勞動密集型產業部門的低技術工作可能更容易實現自動化;而這種趨勢可能使生產過程回到歐盟;然而研究表明,在使用電腦的行業中,就業增長更快;工作的自動化有可能將人們從單調的勞動中解放出來,使得他們能夠向更有創意和更有意義的任務方向轉變;而自動化則要求政府投資於教育和其他改革,以便改善未來工人需要的技能類型的重新分配

K. 同時,人工智慧技術的發展,將導致現在人類一大部分工作由機器人替代,但是卻沒有為之補充的工作,所以人們對就業前景,社會福利和保障制度的可行性以及養老金繳款的持續滯後提出了關切,如果維持目前的徵稅基礎,就會增大造成財富分配和影響力分配不平等的可能性,為了維護社會的凝聚力和繁榮,在對失業或被解僱的失業工人提供資助的再培訓的情況下,應審查對機器人所做工作徵稅或使用和維護一個機器人的費用應在資助減少或取消失業工人的培訓和再培訓的背景下進行

L. 面對日益增多的社會分化,中產階級的萎縮,重要的是要記住,發展機器人技術可能會導致少數人手中財富和影響力的高度集中

M. 儘管機器人技術和AI的發展肯定會影響工作場所的景觀,但可能造成新的責任問題並消除其他責任;而在緊急情況或問題發生時,需要從商業視線模型和工人設計模式中澄清法律責任

N. 自動化的趨勢要求那些參與和人工智慧應用的商業化發展要首先建立在安全和倫理的基礎上,從而認識到,他們必須準備對他們所生產的技術的質量承擔法律責任。

O. 歐洲議會和理事會的法規【歐盟】2016/679(一般的數據保護法規)設置了一個法律框架來保護個人數據;鑒於數據訪問和保護個人數據和隱私的進一步問題可能仍然需要解決,考慮到應用程序和設備彼此通信以及沒有人工干預的資料庫可能仍然存在隱私問題;

P. 鑒於機器人技術和人工智慧的發展可以而且應該以這樣一種方式來設計,即保持個人的尊嚴、自主和自決,特別是在人類護理和夥伴關係領域,以及在醫療器械「修復」或增強人類的範圍內;

Q. 從長遠來看,人工智慧存在超越人類智力能力的可能

R. 鑒於進一步發展和越來越多的使用自動化和演算法決策,無疑會影響到一個人的選擇(企業或互聯網用戶)和行政、司法或其他公共權力以使他們的最終消費者,企業或權威性;而保障和人的控制和驗證可能需要建立在自動化和演算法的決策過程)

S. 一些外國司法管轄區,如美國、日本、中國和韓國,正在考慮並在一定程度上已經採取針對機器人和人工智慧的監管行動,而一些會員國也開始考慮制定法律標準或進行立法改革,以便考慮這些新出現的技術的應用

T. 歐洲聯盟可以從聯盟層面的有效、一致和透明的方式中獲益,提供可預測和充分明確的條件,使企業能夠在歐洲範圍內開發應用程序並規劃其業務模式,同時確保歐盟及其成員國對將要制定的管理標準保持控制,這樣,就不必被迫採納和遵守他人制定的標準,也就是說,這第三個國家也處於機器人和人工智慧發展的最前沿

一般原則

U. 阿西莫夫的法律必須被認為是針對機器人的設計者、生產者和操作人員,包括被賦予內在自主和自我學習的機器人,因為這些法律不能被轉化為機器代碼

V. 一系列的規則,尤其是責任,透明度和問責制,是有用的,反映了歐洲和普遍的歐洲人的人文價值觀,這些價值觀是歐洲對社會的貢獻,是必要的;而這些規則不應影響機器人技術的研究、創新和發展過程

W. 工會在建立基本的道德準則的過程中扮演了至關重要的角色,在發展過程中,對機器人和人工智慧的使用以及對這些原則的使用,對工會的規章制度和行為準則進行了制定,制定了技術革命的目標,使其為人類服務,因此先進的機器人和人工智慧的好處被廣泛地共享,同時儘可能避免潛在的隱患;

X. 讓讓·莫納特倡導的一種漸進主義、務實和謹慎的方式,應該為工會在機器人和人工智慧方面的未來舉措而採用,以確保我們不會扼殺創新

Y. 鑒於機器人技術和人工智慧發展階段所達到的階段,從民事責任問題開始

責任

Z.由於過去10年令人印象深刻的技術進步,今天的機器人不僅能夠執行過去通常是人類獨有的活動,而且還發展了某些自主和認知功能,例如從經驗中學習並採取准獨立決策的能力,使它們越來越類似於與環境相互作用並能顯著改變它的代理;然而,在這種情況下,通過機器人的有害行為而產生的法律責任成為了一個至關重要的問題

AA. 而機器人的自主性可以被定義為在外部世界中,獨立於外部控制或影響下作出決定並實施的能力;然而,這種自主性是純粹的技術性質,而它的程度取決於機器人與環境的相互作用的複雜程度

AB. 自主機器人越多,就越不可能被認為是其他演員手中的簡單工具(如製造商、操作員、所有者、用戶等等);然而,這反過來又質疑普通的責任規則是否充分,或者是否需要新的原則和規則,以明確各行為主體對機器人行為和疏漏負有責任的法律責任,因為這些行為的原因不能追溯到特定的人類行為者,以及造成傷害的機器人的行為或疏忽是否可以避免;

AC. 最終,機器人的自主性在現有的法律類別的基礎上提出了他們的本性的問題,或者是否應該創建一個新的類別,以其特有的特性和含義

AD. 在現行法律框架下,機器人不應因其對第三方造成損害的行為或遺漏而承擔責任;在責任保險的現行規定中,機器人的行為或不作為的原因可以追溯到某一特定的人類代理人,如製造商、經營者、所有者或使用者,以及該代理人可以預見和避免機器人的有害行為的地方;此外,製造商、經營者、業主或用戶可對機器人的行為或不作為負有嚴格責任;

AE. 而根據目前法律框架產品責任,產品的生產者賠償責任是一個故障對有害的行為,規定責任——產品的用戶是負責的行為而造成的損害,導致傷害,適用於機器人或人工智慧

AF. 而在機器人可以自主決定的情況下,傳統的規則將不足以對機器人造成的損害承擔法律責任,因為他們不可能確定負責提供賠償的一方,並要求一方賠償它所造成的損害

AG. 鑒於現行法律框架的缺陷在合同責任領域也很明顯,就像設計的機器可以選擇對方,協商合同條款,簽訂合同,決定是否以及如何實施這些規則,使傳統的規則不適用,這凸顯了新的、有效和最新的規則的需要,這應該符合技術的發展和最近在市場上出現和使用的創新;

AH. 但是,關於非合同責任,理事會第85 /374/ EEC1號指令只能覆蓋由機器人製造缺陷造成的損害,以及受傷人員能夠證明實際損失、產品的缺陷以及損壞和缺陷之間的因果關係,因此嚴格的責任或無過錯責任的責任可能是不夠的;

AI. 然而,儘管指令85 /374/ EEC的範圍,目前的法律框架不足以彌補新一代機器人造成的損害,因為他們可以在他們的行為中裝備有一定程度的不可預測性的適應性和學習能力,因為這些機器人將自主地從他們自己的可變經驗中學習,並以一種獨特的、不可預見的方式與他們的環境進行互動

關於機器人技術和人工智慧發展的一般原則

1. 通過考慮智能機器人的下列特點,要求委員會提出網路物理系統、自治系統、智能自主機器人及其子類別的共同定義

-通過感測器和/或與環境(內部連接)交換數據,以及對這些數據進行交易和分析

-從經驗和交互中自學(可選標準)

-至少有一點生理上的支持

-對環境的行為和行為的適應;

-在生物學意義上沒有生命

2. 考慮到一個綜合的先進機器人註冊系統應該在聯盟內部市場中引入,在這個內部市場上,機器人的具體類別有相關和必要,並要求委員會建立一個需要註冊的機器人分類標準;在這種情況下,要求委員會去調查是否需要註冊系統和註冊登記系統是由指定的歐盟機器人和人工智慧機構管理的

3. 強調機器人技術的發展應該側重於補充人類能力,而不是取代它們;認為在機器人和人工智慧的發展中,必須保證人類在任何時候都能控制智能機器;認為應該特別注意人類和機器人之間的情感聯繫的可能發展,特別是在脆弱群體(兒童、老人和殘疾人),並強調這種情感依戀對人類產生的嚴重情感或生理影響所引起的問題

4. 強調一種統一的方法可以通過在內部市場中避免分裂而促進發展同時也強調了在跨國使用機器人和機器人系統中相互認可的原則的重要性;回顧,只有在一個會員國中才需要進行檢測、認證和市場批准;強調,這種方法應該伴隨著有效的市場監督

5. 強調措施的重要性,幫助中小型企業和初創企業在機器人領域創造新的細分市場,或利用機器人;

研究和創新

6. 強調許多機器人應用仍處於實驗階段;歡迎越來越多的研究項目由會員國和聯盟資助;考慮到聯盟的重要性,與會員國合作,通過公共基金,在機器人和人工智慧的研究中保持領先地位;呼籲委員會和各會員國加強在機器人和ICT方面的研究項目的金融工具,包括公私夥伴關係,並在其研究政策中執行公開科學和負責任的倫理創新的原則;強調充分的資源需要致力於尋求解決技術發展及其應用所帶來的社會、倫理、法律和經濟方面的挑戰

7. 呼籲歐盟委員會和會員國促進研究項目,以促進對人工智慧和機器人技術可能存在的長期風險和機遇的研究,並鼓勵發起一場結構性的公開對話,討論儘快開發這些技術所產生的後果;呼籲歐盟委員會加大對「2020年全球金融框架」的中期評估的支持力度,為「SPARC計劃」提供資金支持;呼籲委員會和會員國將他們的努力與他們的努力相結合,以便在適當的安全評估和預防原則的前提下對這些技術進行更平穩的過渡,並保證這些技術在市場上的商業化和使用的順利進行;

8. 強調機器人和人工智慧的創新,以及經濟和社會中機器人和人工智慧技術的融合,需要數字基礎設施,提供無處不在的連接性;要求委員會設立一個框架,以滿足聯盟數字未來的連通性要求,並確保接入寬頻和5G網路完全符合網路中立原則

9. 強烈認為,系統,設備和雲服務之間的互操作性,基於設計的安全性和隱私的設計是實時數據流的關鍵,使機器人和人工智慧變得更靈活更獨立;要求委員會提高開放的環境,從開放的標準和創新的許可證模型,到公開的平台和透明度,以避免在專利系統中鎖定並控制互操作性;

道德原則

10. 注意,通過使用機器人技術的潛力是由一系列的緊張或風險引起的,從人類的安全,健康和安全的角度來看,應該是認真的。自由、隱私、正直和尊嚴;自我決定和非歧視,以及個人資料保護;

11. 考慮到現有的聯盟法律框架應根據機器人的複雜性及其許多社會、醫學和生物倫理的影響,在適當的情況下更新和補充符合道德原則的準則;有一種觀點認為,需要對機器人的發展、設計、生產、使用和修改提供明確、嚴格和有效的指導倫理框架,以補充該報告的法律建議和現有的國家和工會的無罪釋放;在決議的附件中提出了一個框架,其中包括《機器人技術工程師的行為守則》、審查《機器人技術議定書》的研究倫理委員會守則和設計師和使用者的示範許可證;

12. 強調透明度原則,即應始終有可能為人工智慧作出的任何決定提供理由,因為人工智慧可以對一個或多個人的生命產生實質性影響;考慮到必須將人工智慧系統的計算簡化為一種人類可以理解的形式;考慮到先進的機器人應該配備一個「黑匣子」,它記錄了機器執行的每一筆交易的數據,包括對其決策作出貢獻的邏輯

13. 指出,指導倫理框架應根據《歐盟條約》第2條和《基本權利憲章》第2條所載的原則和價值觀,包括人類尊嚴、平等、公正和公平、不歧視、知情同意、私人和家庭生活和數據保護等原則和價值觀,以及聯盟法律的其他基本原則和價值觀,如非歧視、透明度、自主性、個人責任和社會責任,以及現有的道德規範和準則,以指導倫理框架的原則和價值觀

14. 考慮到機器人在傳統保護和私人領域的位置,以及由於它們能夠提取和發送個人和敏感數據,因此對機密性的嚴重威脅將受到特別關注。

一個歐洲機構

15. 相信加強成員國和委員會之間的合作是必要的,以保證聯盟內一致的跨境規則,鼓勵歐洲各行業之間的合作,並允許在整個機器人聯盟中部署符合規定的安全與安全水平的機器人,以及《聯邦法》所載的倫理原則

16. 請委員會考慮指定一個歐洲機器人和人工智慧機構,以便提供技術、倫理和管理方面的專門知識,以支持在工會和成員國一級的有關公共行為者,以確保及時、合乎道德和明智地對新的機會和挑戰作出反應,特別是在諸如運輸部門技術方面的技術發展所引起的新的機會和挑戰,特別是跨界性質的問題

17. 考慮到機器人使用的潛力和問題,以及目前的投資動態,為歐洲機構提供了合理的預算,並配備了與監管機構和外部技術和倫理專家一起,專門針對基於機器人的應用程序的交叉部門和多學科監測,確定最佳實踐標準,並在適當的情況下,推薦監管措施,定義新原則,並解決潛在的消費者保護問題和系統性挑戰;要求歐盟委員會(以及歐洲機構)向歐洲議會報告機器人技術的最新發展情況,以及任何需要每年採取的行動;

知識產權和數據流

18。注意到沒有法律規定專門適用於機器人技術,但現有的法律制度和學說可以很容易地應用於機器人技術,儘管有些方面似乎需要具體考慮;呼籲委員會支持一種水平和技術中立的知識產權辦法,適用於使用機器人技術的各個部門

19. 呼籲委員會和各會員國確保機器人部門的民法規定與一般數據保護條例一致,並符合必要性和比例原則;呼籲委員會和各會員國考慮到機器人領域的快速技術發展,包括發展網路物理系統,並確保聯盟法律不會停留在技術發展和部署的曲線後面;

20. 強調保護私人生活和《憲章》第7和8條所載的個人資料的權利和《歐洲聯盟的運作條約》第16條(TFEU)適用於所有機器人領域,並必須完全遵守有關數據保護的聯盟法律框架;在這方面要求對機器人使用攝像機和感測器的規則和標準進行審查;要求委員會確保數據保護原則,如隱私、設計和隱私的默認、數據最小化、目的限制,以及數據主體的透明控制機制,以及遵守《聯邦數據保護法》的適當補救措施,並制定適當的建議和標準,並將其納入工會政策

21. 強調數據的自由流動對機器人和人工智慧領域的數字經濟和發展至關重要;強調機器人系統的高度安全,包括內部數據系統和數據流,對於適當使用機器人和人工智慧是至關重要的;強調保護互聯機器人和人工智慧的網路,以防止潛在的安全漏洞;強調在人類、機器人和人工智慧之間,高度的安全與保護個人數據以及對隱私的保護是基本的;強調機器人設計師和人工智慧的責任,開發產品安全、安全、合適;呼籲委員會和各會員國支持和激勵必要技術的發展,包括設計的安全

標準化,安全和安全性

22. 強調製定標準和授予互操作性是未來人工智慧和機器人技術領域競爭的關鍵;呼籲歐盟委員會繼續在國際統一的技術標準,尤其是與歐洲標準化組織和國際標準化組織,以促進創新,避免內部市場的分割和保證高水平的產品安全及消費者保護包括在適當的最低安全標準的工作環境;強調合法的逆向工程和開放標準的重要性,以最大限度地提高創新的價值,並確保機器人能夠相互交流;在這方面,歡迎設立特別技術委員會,例如ISO /TC 299機器人,專門致力於發展機器人技術標準

23. 強調在真實的場景中測試機器人對於識別和評估他們可能需要承擔的風險,以及在純實驗實驗室階段之外的技術發展是至關重要的;在這方面強調,在現實生活中,特別是在城市和道路上,對機器人進行的測試提出了大量問題,包括阻礙這些測試階段的發展的障礙,需要有效的戰略和監測機制;要求委員會在所有會員國中制定統一的標準,各成員國應使用該標準,以確定允許使用機器人實驗的區域,符合預防原則

自治的交通工具

a)自主車輛

24. 強調自主運輸包括所有形式的遠程引航、自動化、聯網和自治的道路、鐵路、水上和航空運輸,包括車輛、火車、船隻、渡船、飛機、無人機,以及所有未來的發展和創新形式;

25. 考慮到汽車行業最迫切需要高效的聯盟和全球規則,以確保自動和自動車輛的跨境發展,以便充分利用它們的經濟潛力,並從技術趨勢的積極影響中獲益;強調分散的監管措施會阻礙自動運輸系統的實施,危及歐洲的競爭力

26. 引起注意的是,在意外接管車輛的情況下,司機的反應時間是至關重要的,因此,要求利益相關者提供現實的價值來決定安全和責任問題

27. 考慮到自動駕駛汽車的轉變將會對以下方面產生影響:民事責任(責任和保險)、道路安全、與環境有關的所有話題(例如能源效率、可再生技術和能源資源的使用)、與數據相關的問題(例如獲取數據、保護數據、隱私和共享數據)、與ICT基礎設施(例如高效可靠的通信)和就業相關的問題(例如,創造和失業、培訓重型貨車司機使用自動化車輛);強調必須在道路、能源和ICT基礎設施方面進行大量投資;呼籲委員會考慮在自動車輛上的上述問題;

28. 這強調了歐洲衛星導航節目伽利略和EGNOS提供的可靠的定位和計時信息的重要性,以及對自動車輛的實現,在這方面,我們需要進行最終的研究以及衛星的發射,以便完成歐洲的伽利略定位系統;

29. 讓人們注意到自動駕駛汽車為減少出行的人提供的高附加值,因為這樣的車輛使他們能夠更有效地參與到個體的道路交通中,從而使他們的日常生活更加便利

b)無人駕駛飛機(RPAS)

30. 承認無人機技術的積極進展,特別是在搜索和救援領域;強調聯盟框架的重要性,以保護聯盟公民的安全、安全和隱私,並呼籲委員會對國會在2015年10月29日關於安全使用遙控飛行系統(RPAS)的建議採取後續行動,該決議通常被稱為無人駕駛飛行器(uav),在民用航空領域;敦促委員會對與廣泛使用無人機有關的安全問題提供評估;要求委員會審查是否有必要為RPAS引入一套強制性的跟蹤和識別系統,以便在使用時確定飛機的實時位置;回顧,無人機的同質性和安全性應由歐洲議會和理事會第216 / 2008號規例(EC)第216 / 2008號規定的措施確保;

護理機器人

31. 強調老年護理機器人的研究與開發,隨著時間的推移,越來越成為主流和更便宜的產品,產品具有更大的功能和更廣泛的消費者接受度;注意這些技術的廣泛應用,為老年人和殘疾人提供預防、幫助、監測、刺激和陪伴,以及對患有痴呆症、認知障礙或記憶喪失的人的幫助

32. 指出人類接觸是人類關懷的基本方面之一;另一方面,認為用機器人代替人的因素會使關愛行為失去人性,認識到機器人可以執行自動化的護理任務,並能促進護理助理的工作,同時增加人類的護理,使康復過程更有針對性,從而使醫務人員和護理人員有更多的時間用於診斷和更好的計劃治療方案;強調,儘管機器人有潛力提高殘疾人和老年人的流動性和融合,但人類仍將需要照料,並將繼續提供一種重要的社會互動來源,而不是完全可替代的;

醫療機器人

33. 強調適當的教育、培訓和為衛生專業人員(如醫生和護理助理)準備的重要性,以確保儘可能高的專業能力,並保護和保護病人的健康;強調必須確定外科醫生必須滿足的最低專業要求,以便操作和被允許使用手術機器人;認為尊重機器人的監督自主性原則是至關重要的,因此最初的治療計劃和對其執行的最終決定將始終與人類外科醫生保持一致;強調培訓對用戶的特殊重要性,讓他們熟悉這一領域的技術要求;利用移動機器人來關注自我診斷的日益增長的趨勢,因此需要醫生在處理自我診斷的病例時接受培訓;認為這些技術的使用不應減少或損害醫患關係,但應向醫生提供診斷或治療病人的幫助,以減少人為錯誤的風險,提高生活質量和預期壽命

34. 相信醫療機器人繼續在執行高精確度手術和執行重複的程序方面取得進展,並有可能改善康復的結果,並在醫院內提供非常有效的後勤支援;注意到,醫療機器人有潛力也可以通過使醫療專業人員將他們的重點從治療轉向預防,並通過提供更多的預算資源,以便更好地適應病人需求的多樣性,不斷地培訓衛生保健專業人員和研究,從而降低醫療成本

35. 呼籲委員會確保測試新醫療機器人裝置的程序是安全的,特別是在已植入人體的設備的情況下,在該規定適用於醫療設備的日期之前;

人類修復和增強

36. 注意到機器人在修復和補償受損器官和人類功能方面所取得的巨大進步和進一步發展的潛力,同時也注意到人類增強可能帶來的複雜問題,因為醫療機器人,特別是網路物理系統(CPS)可能會改變我們對健康人體的概念,因為它們可以直接在人體上或植入人體;強調了在醫院和其他衛生保健機構中緊急建立機器人倫理委員會的重要性,其職責是考慮並協助解決涉及影響患者護理和治療的問題的不尋常、複雜的倫理問題;呼籲歐盟委員會和各成員國制定指導方針來幫助這些委員會的設立和運作;

37. 指出,在諸如機器人假肢等重要醫療應用領域,持續的、可持續的維護、增強,特別是修復故障和漏洞的軟體更新需要得到保證

38. 建議建立獨立的可信實體,以保留必要的手段,為攜帶重要和先進醫療設備的人員提供服務,如維護、維修和增強,包括軟體更新,特別是在那些不再由原來的供應商執行的情況下;建議為製造商提供一種義務,為這些獨立的受信任實體提供包括源代碼在內的全面設計指導,類似於向國家圖書館提供的法律文件

39. 請注意與人類身體可能被侵入或關閉或使其記憶被抹去的可能性相關的風險,因為這可能危及人類健康,甚至在極端情況下甚至是人類生命,因此強調必須優先重視保護這類系統;

40. 強調確保人人平等獲得技術創新、工具和干預措施的重要性;籲請委員會和各會員國促進輔助技術的發展,以便根據《聯合國殘疾人權利公約》第4條的規定,促進這些技術的發展和採用;

教育和就業

41. 歐盟委員會的預測是,到2020年歐洲可能會面臨多達825萬信息通信技術專業人員短缺,而90%的工作崗位至少需要基本的數字技能;歡迎委員會的倡議,提出一份對所有學習者的數字能力框架和數字能力的使用和修正的路線圖,並呼籲委員會對所有年齡群體的數字能力的發展提供重要的支持,而不考慮就業狀況,作為更好地調整勞動力市場短缺和需求的第一步;強調機器人技術的發展需要會員國開發更靈活的培訓和教育系統,以確保技能戰略符合機器人經濟的需要

42. 考慮到讓更多的年輕女性對數字事業感興趣,並讓更多的女性從事數字工作,這將有利於數字產業、女性自身和歐洲經濟;呼籲委員會和各會員國發起倡議,以支持婦女在信息和通信技術方面的工作,並提高她們的電子技能

43. 呼籲委員會開始分析和監控中長期的工作趨勢,更密切關注的是,在不同的領域工作的創造,轉移和失業問題,以便了解哪些領域的工作崗位被創造,而哪些工作崗位在增加使用機器人的過程中失去了工作

44. 強調預見社會變革的重要性,考慮到機器人和人工智慧的發展和部署所帶來的影響;請委員會分析不同的可能情況及其對各會員國社會保障制度可行性的影響;認為應以充分收入的存在為基礎,在新就業模式和我們的稅收和社會制度的可持續性上展開包容性辯論,包括可能引入一般基本收入;;

45. 強調技能和社會、創造性和數字技能在教育方面的靈活性的重要性;可以肯定的是,除了傳授學術知識外,終生學習需要通過終生的活動來實現

46. 注意到機器人在工作中的巨大潛力,將許多危險和有害的任務從人類轉移到機器人身上,但同時也注意到,由於工作場所的人機交互作用越來越多,它們可能產生一組新的風險;在這一點上,強調了為人機交互應用嚴格和前瞻性的規則,以保證工作場所的健康、安全和尊重基本權利的重要性;

環境影響

47. 注意到機器人和人工智慧的發展應以這種方式進行,因為環境影響受到有效的能源消耗、能源效率的限制,促進使用可再生能源和稀有材料,以及極小的浪費,例如電力和電子垃圾,以及可修復性;因此鼓勵委員會將循環經濟的原則納入任何關於機器人的聯盟政策;注意到使用機器人還將對環境產生積極的影響,特別是在農業、糧食供應和運輸領域,特別是通過減少機械的規模和減少肥料、能源和水的使用,以及通過精密耕作和路線優化

48. 強調CPS將導致能源和基礎設施系統的建立,這些系統能夠控制從生產者到消費者的電力供應,同時也將導致能源生產和消耗能源的產生;從而獲得重大的環境效益;

責任

49. 認為對機器人造成的損害的民事責任是至關重要的問題也需要在工會層面上進行分析和解決,以確保在整個歐盟的法律確定性的有效性,透明度和一致性的實現,以保證公民,消費者和企業的利益

50. 注意到機器人技術的發展需要更多的理解,因為人類機器人活動需要共同的基礎,這應該基於兩個核心的相互依賴關係作為可預測性和可直接性;指出這兩種相互依賴關係對於確定人類和機器人之間需要共享的信息至關重要,人類和機器人之間的共同基礎是如何實現的,以便使人類機器人能夠順利地共同行動

51. 請委員會根據第114條TFEU的規定,提出一項關於在未來10至15年可預見的有關發展和使用機器人和人工智慧的法律問題的立法文書的提案,並結合在附件中提出的建議的指導方針和行為守則等非立法文書;

52. 考慮到其適用於除財產損害以外的其他機器人造成的損害民事責任的法律解決方案,未來的立法文書不應限制可能恢復的損害的類型或範圍,也不應限制向受害方提供賠償的形式,因為損害是由非人類代理人造成的;

53. 認為未來的立法文書應以委員會的深入評估為基礎,確定是否應該採用嚴格的負債或風險管理方法

54. 同時注意到,嚴格的責任只需要證明已經發生了損害並且建立了機器人的有害功能和受傷方所遭受的損害之間的因果關係

55. 注意,風險管理方法並不關注「誰的過失」,而是指在某些情況下,在某些情況下,能夠將風險最小化,並應對負面影響的人

56. 考慮到,原則上,一旦確定了承擔最終責任的各方,他們的責任應該與機器人的實際操作水平以及其自主程度成比例,從而使機器人的學習能力或自主權越大,機器人的訓練越長,其教練員的責任就越大;特別指出的是,「訓練」所產生的技能,不應與技能相混淆,而應嚴格依賴於自身的學習能力,而這正是機器人的有害行為所導致的;注意到,至少在現階段,責任必須由人類而不是機器人來承擔

57. 指出一個可能的解決辦法是,對日益自動化的機器人造成的損害承擔責任的複雜性,可能是一項強制性的保險計劃,就像已經發生的情況一樣,例如,汽車;然而,與道路交通保險制度不同的是,這種保險涵蓋了人類的行為和失敗,而機器人的保險系統應該考慮到供應鏈中的所有潛在責任

58. 考慮到,就像汽車保險的情況一樣,以上為《就機器人民事法律規則向歐盟委員會提出立法建議的報告草案》(Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics)和《歐盟機器人民事法律規則》(European Civil Law Rules in Robotics)具體內容,大家自行翻譯~這樣的保險制度可以由一個基金來補充,以確保在沒有保險覆蓋的情況下,可以對損失作出賠償;呼籲保險業發展新產品和提供符合機器人技術進步的服務類型;

59. 在執行對其未來立法文書的影響評估時,呼籲委員會探討、分析和考慮所有可能的法律解決辦法的影響,例如:

a) 建立一種適用於特定類別的機器人的強制保險計劃,類似於已經發生在汽車、生產者或機器人所有者的情況下,將需要為其機器人可能造成的損害投保

b) 確保賠償基金不只是為保險公司所造成的損害而提供賠償的

c) 允許製造商、程序員、所有者或用戶從有限責任中受益,如果他們向賠償基金作出貢獻,以及他們共同拿出保險來保證賠償,而損害是由機器人引起的

d) 決定是否為所有智能自主機器人設立一個通用的基金或為每一個機器人類別創建一個單獨的基金,以及在市場上放置機器人時是否應支付一次性費用,或者是否應在機器人的生命周期中支付定期捐贈;

e) 確保機器人和其基金之間的聯繫可以通過在特定的工會登記簿上出現的個人登記號碼來顯示,這樣任何人與機器人之間的互動就可以了解基金的性質、財產受到損害的責任的限制、貢獻者的名字和功能以及所有其他相關細節;

f) 從長遠來看,為機器人創造一個具體的法律地位,這樣至少可以建立起最先進的自主機器人,使其成為電子人的地位,使其能夠對自己造成的損害產生良好的影響,並可能將電子人格應用到機器人做出自主決定或與第三方獨立互動的情況下;

(g)向希望集體要求賠償的消費者提供一種合適的工具,從製造公司的智能機器故障中得到賠償;

國際方面

60. 注意到目前適用於聯盟內的交通事故的一般國際私法規則並不迫切需要實質性的修改,以適應自主車輛的發展,但是,簡化現行的適用法律的雙重製度(根據歐洲議會的第864 / 2007號規定,以及1971年5月4日的《關於交通事故的法律的海牙公約》)將提高法律確定性,限制論壇購物的可能性;

61。注意到需要考慮對諸如《維也納道路交通公約》和《海牙公約》等國際協定的修正案,以及適用於交通事故的《海牙公約》;

62. 希望委員會確保各會員國執行國際法,例如《維也納道路交通公約》,以使無人駕駛成為可能,並以統一的方式進行修訂,並呼籲委員會、各會員國和工業儘快執行《阿姆斯特丹宣言》的目標;

63. 大力鼓勵國際合作,審查社會、道德和法律方面的挑戰,然後在聯合國主持下制定監管標準

64. 指出歐洲議會第428 / 2009號規例所規定的限制和條件,以及在雙重用途物品貿易方面所規定的貨物、軟體和技術,既可用於民用和軍事用途,也可用於大規模毀滅性武器的擴散,也應適用於機器人技術的應用;

最後一個方面

65. 根據第二百二十五條的要求,委員會根據《關於機器人技術的民事法律規則》第一百一十四條的建議,提出一項關於《關於機器人的民事法律規則的指示》的建議,並遵照本附件所列的詳細建議

66. 確認建議尊重基本權利和補貼原則

67. 認為如果設立一個新的歐洲機構,所要求的建議將具有財政影響

68. 指示其主席提出這項決議,並向委員會和理事會提出詳細建議

決議的附件:關於所要求的提案內容的詳細建議

智能機器人」的定義與分類

在歐洲,對於智能自主機器人的一個共同定義應該是,在適當的情況下,包括其子類別的定義,考慮以下特點

-通過感測器和/或交換數據與其環境(連通性)和分析這些數據的能力;

-通過經驗和互動學習的能力;

-機器人身體支持的形式;

-使其行為和行動適應環境的能力。

登記的智能機器人

為了達到可追溯性的目的,為了便於實施進一步的建議,應根據為機器人分類而建立的標準,介紹一套先進機器人的註冊制度。登記制度和登記制度應該是統一的,涵蓋內部市場,並且可以由指定的歐盟機器人和人工智慧機構管理,以防這樣的機構成立。

民事法律責任

除對財產造成損害的以外,適用於機器人和人工智慧的任何法律解決方案都不應限制賠償的種類或範圍,也不應限制可能向受害方提供的賠償形式,因為損害是由非人類代理人造成的。

未來的立法文書應以委員會的深入評估為基礎,確定是否應該採用嚴格的負債或風險管理方法。

應當建立一種義務保險制度,它可以根據生產者的義務為其生產的自主機器人投保。

保險制度應由基金補充,以確保在無保險承保的情況下,可以賠償損失。

關於適用於機器人和人工智慧的民事責任規則的任何政策決定,都應與歐洲範圍內的研究和開發項目進行協商,該項目致力於機器人和神經科學,科學家和專家能夠評估所有相關的風險和後果

互操作性,獲得代碼和知識產權

網路連接的自主機器人之間相互作用的互操作性應該得到保證。在需要的時候,可以訪問源代碼、輸入數據和構建細節,以調查智能機器人造成的事故和損壞,以及確保它們繼續運行、可用性、可靠性、安全性和安全性

機器人憲章

委員會在提出與機器人技術有關的法律行為時,應考慮到下述《機器人技術憲章》所載的原則。

機器人憲章

機器人領域的道德行為準則將為識別、監督和遵守設計和開發階段的基本倫理原則奠定基礎。

這個框架,是由一個致力於機器人和神經科學的歐洲範圍研究項目的研究項目起草的,它的設計必須是一種反思的方式,可以讓個體的調整在特定的情況下進行調整以評估在特定的情況下特定的行為是正確的還是錯誤的,並根據預先設定的價值等級來決定是否正確的決策。

該守則不應取代解決這一領域所有重大法律挑戰的需要,但應具有補充功能。它將促進機器人的倫理分類,加強這一領域負責任的創新努力,並解決公眾關注的問題

應特彆強調相關技術軌跡的研究和發展階段(設計過程、倫理審查、審計控制等)。它應該致力於解決研究人員、實踐者、用戶和設計師遵守道德標準的需要,同時也提出了一種方法來解決相關的倫理困境,並允許這些系統以道德負責的方式運作

機器人工程師的道德行為準則

序言

《行為守則》邀請所有研究人員和設計師採取負責任的行動,並對尊重人類尊嚴、隱私和安全的必要性予以絕對考慮。

《守則》要求各學科密切合作,以確保以安全、合乎道德和有效的方式在歐盟開展機器人技術研究。

《行為準則》涵蓋了機器人領域的所有研究和開發活動。

行為守則是自願的,並提供一套一般原則和準則,以供所有利益相關者採取行動

機器人研究資助機構、研究機構、研究人員和倫理委員會都被鼓勵在最早期的階段,考慮被研究的技術或對象的未來影響,並發展一種責任文化,以應對未來可能出現的挑戰和機會。

公共和私人機器人研究資助機構應該要求進行風險評估,並提交一份關於機器人研究經費的提案。這樣的代碼應該考慮人類,而不是機器人,作為負責任的代理。

機器人領域的研究人員應該致力於最高的道德和職業行為,並遵守以下原則:

慈善-機器人應該為人類的最大利益服務;

非惡意——「第一,不傷害」的原則,機器人不應該傷害人類;

自主性——在與機器人交互的條件下,做出知情的、非強制性的決定的能力;

公平分配與機器人和醫療機器人的負擔能力相關的好處。

基本權利

機器人研究活動應尊重基本權利,並以個人和社會的利益和自我意志為基礎,在他們的設計,實施,傳播和使用中進行。人的尊嚴和自主性——無論是身體上的還是心理上的——總是受到尊重的。

預防措施

機器人研究活動應遵循「預防原則」,預見結果的潛在安全影響,並採取適當的預防措施,與保護水平成正比,同時鼓勵社會和環境的進步

包容

機器人工程師保證透明度和尊重所有利益相關者獲取信息的合法權利。包容性允許參與或關注機器人研究活動的所有利益相關者參與決策過程。

問責制

機器人工程師應該對機器人對現在和未來幾代人的社會、環境和人類健康影響負責。

安全

機器人設計師應該考慮和尊重人們的身體健康、安全、健康和權利。機器人工程師必須保護人類的福祉,同時尊重人權,並及時披露可能危及公眾或環境的因素。

可逆性

可逆性是編程機器人安全可靠的一種基本概念,是可控性的必要條件。可逆模型告訴機器人,動作是可逆的,如果它們是可逆的。撤銷最後一個動作或一系列動作的能力允許用戶撤銷不希望的動作,回到工作的「好」階段。

隱私

隱私權必須始終受到尊重。機器人工程師應該確保私人信息的安全,並且只需要適當地使用。此外,機器人工程師應該保證,除了特殊的情況之外的個人並沒有個人身份,而且只有明確的,明確的知情同意。人類的知情同意書應該在任何人機交互之前進行。因此,機器人設計師有責任開發和遵循有效的同意、保密、匿名、公平對待和正當程序的程序。設計者將遵守任何要求,任何相關數據被銷毀,並從任何數據集刪除。

最大化利益,減少傷害

研究者應該在各個階段,從初始到傳播的各個階段,尋求最大的好處。必須避免對研究對象/人類主體/實驗、實驗或研究對象的傷害。當風險出現時,作為研究的不可避免和不可分割的部分,應該開發和遵守穩健的風險評估和管理協議。通常情況下,危害的風險不應大於在日常生活中所遇到的危險,即人們不應暴露在其正常生活方式中所暴露的風險大於或增加的風險。機器人系統的運行應該始終基於一個徹底的風險評估過程,這應該由預防和比例原則來告知

研究倫理委員會守則(REC)

原則

獨立

倫理審查過程應獨立於研究本身。這一原則強調了需要避免研究人員和那些審查倫理協議的人之間的利益衝突,以及審查人員和組織治理結構之間的利益衝突。

能力

倫理審查過程應由審稿人以適當的專業知識進行,

考慮到需要仔細考慮成員的範圍和特定於倫理的培訓。

透明度和問責制

審查過程應該負責,並接受審查。RECs需要認識到它們的責任,並在組織結構中適當地定位,以使REC操作和程序保持透明,以維護和審查標準。

研究倫理委員會的作用

REC通常負責審查所有涉及由有關機構或機構所僱用的人進行的研究;確保倫理審查獨立、有能力、及時;保護研究參與者的尊嚴、權利和福利;考慮到研究人員的安全;考慮到其他利益相關者的合法利益;對建議的科學價值作出明智的判斷;並向研究人員提出建議,如果該建議在某些方面是欠缺的。

研究倫理委員會的組成

REC通常應該是多學科的;包括男人和女人;在機器人研究領域有廣泛的經驗和專業知識。任命機制應確保委員會成員在科學專業知識、哲學、法律或倫理背景方面提供適當的平衡,並提出意見,並包括至少一名成員具有專業知識的倫理知識、專家健康、教育或社會服務的使用者,這些人是研究活動的重點,以及與他們所審查的研究有關的具體方法專門知識的人;他們必須是這樣構成的,避免利益衝突。

監控

所有的研究機構都應該建立適當的程序,以監測已經得到倫理認可的研究的行為,直到它完成,並確保在研究設計中能夠預見到可能需要解決的時間的變化。監測應該與與研究相關的風險的性質和程度成比例。REC認為監測報告引起了對該研究的倫理行為的重大關切,因此應要求充分和詳細地說明對全面倫理審查的研究。如果認為一項研究是不道德地進行的,則應考慮撤回其批准,並暫停或中止其研究

設計師的執照

-在設計、開發和交付這些技術的過程中,包括不需要傷害、傷害、欺騙或利用(脆弱的)用戶時,你應該考慮到歐洲的尊嚴、自主性和自決、自由和正義的價值觀。

-你應該在機器人操作的各個方面,包括硬體和軟體設計,以及為安全目的而在平台上進行任何數據處理,都應該引入值得信賴的系統設計原則。

-你應該通過設計的特點來介紹隱私,以確保私人信息的安全,只需要適當的使用。

-你應該整合明顯的選擇機制(殺死開關),這應該符合合理的設計目標。

-你應該確保機器人的運作方式符合當地、國家和國際的道德和法律原則。

-你應該確保機器人的決策步驟是有利於重建和可追溯性的。

-你應該確保在機器人系統的編程中需要最大的透明度,以及機器人行為的可預測性。

-你應該通過考慮解釋和行動的不確定性,以及可能的機器人或人類的失敗來分析人類機器人系統的可預測性。

-你應該在機器人的設計階段開發追蹤工具。這些工具將促進對機器人行為的會計和解釋,即使是有限的,在針對專家、操作員和用戶的不同層次上。

-在評估機器人的益處和風險時,你應該起草設計和評估協議,並與潛在的用戶和利益相關者合作,包括認知、心理和環境方面

-你應該確保機器人在與人類互動時能被識別為機器人。

-你應該保護那些與機器人接觸和接觸的人的安全和健康,因為機器人是產品,應該使用確保他們的安全和安全的過程來設計。機器人工程師必須保護人類的福祉,同時尊重人權,不得在不保障系統運行的安全性、有效性和可逆性的情況下部署機器人。

-在一個真正的環境中測試機器人,或者在設計和開發過程中涉及到人類,你應該從一個研究倫理委員會得到一個積極的意見。

用戶許可證

-你被允許使用一個沒有風險或害怕身體或心理傷害的機器人。

-你應該有權利要求機器人執行任何明確設計的任務。

-你應該知道,任何機器人都可能有知覺、認知和驅動

局限性

-你應該尊重人類的脆弱,無論是生理上的還是心理上的,以及人類的情感需求。

-你應該考慮到個人的隱私權,包括在親密的程序中關閉視頻監視器。

-未經資料當事人明確同意,不得收集、使用或披露個人資料。

-你不允許以任何違反道德或法律原則和標準的方式使用機器人。

-你不允許修改任何機器人以使其成為武器

解釋性聲明

背景

根據議事規則附件六,法律事務委員會特別負責民事和商法、公司法、知識產權法和解釋,適用國際法,在歐盟受到影響的範圍內,以及與新技術有關的倫理問題。機器人和人工智慧的發展引發了法律和倫理問題,這些問題顯然與所有這些領域有關,而且需要立即對歐盟層面進行干預。雖然最終將由委員會提出一個或更多的機器人和人工智慧相關的立法提案,歐洲議會已經決定為這類項目鋪平道路使用其權利根據第225條的條約對歐盟的功能和規則46的議事規則。

因此,在2015年1月20日,JURI委員會決定成立一個工作組(WG),討論有關在歐盟發展機器人和人工智慧(AI)的法律問題。WG主要是起草與這一主題有關的民法規則。

除了法律事務委員會成員之外,工作組還包括代表工業、研究和能源委員會(ITRE)、內部市場和消費者保護委員會(IMCO)和就業和社會事務委員會(EMPL)的成員。

WG諮詢了來自非常不同背景的專家,接受了這項決議所包括的重要貢獻

概論

機器人技術和人工智慧已經成為本世紀最突出的技術趨勢之一。他們的使用和發展的迅速增加給我們的社會帶來了新的和困難的挑戰。從工業部門到公民社會環境的道路,在這些技術上有不同的方式,因為機器人和人工智慧將增加他們與人類在非常不同領域的互動。

JURI委員會認為,這些新互動所帶來的風險應被緊急處理,確保一套核心的基本價值被翻譯成機器人、人工智慧和人類之間的每一個接觸階段。在這一過程中,應特彆強調人類的安全、隱私、正直、尊嚴和自治權。

本決議所涉及的其他重要方面包括:標準化、知識產權、數據所有權、就業和責任。至關重要的是,監管提供了可預測的、足夠清晰的條件,以激勵歐洲在機器人和人工智慧領域的創新

法律基礎和輔助性原則

委員會的行動是為了使現有的立法適應機器人和人工智慧的現實,應該基於第114條TFEU。根據第5條第(3)條的規定,「補貼原則」規定,聯盟應只在其在中央或區域和地方一級無法充分實現擬議行動的目標時採取行動,但是,由於擬議行動的規模或影響,可以更確切地說,在聯盟一級取得更大的成就。機器人技術的發展目前正在整個聯盟中發生。為了應對這一創新,各成員國正在制定不同的國家立法。這些差異有望為機器人的有效發展創造障礙。由於這項技術有跨國影響,最好的立法方案是歐洲的。

一般和倫理原則

該決議確立了關於機器人技術和人工智慧發展的一般原則和倫理原則。首先,為了恰當地解決這一問題,智能自主機器人的一個共同定義是基本的。此外,還應加強對機器人技術和ICT以及其傳播的影響的研究。

第二,為了解決倫理原則,本決議附了《機器人憲章》。該憲章包括機器人工程師的道德行為準則、研究倫理委員會的代碼和設計師和用戶的許可證。擬議的框架完全符合《歐盟基本權利憲章》。

此外,還建議成立一個歐洲機器人和人工智慧機構。該機構應提供必要的技術、倫理和管理方面的專門知識,以支持有關的公共行為者

知識產權、數據保護和數據所有權

該決議呼籲委員會在應用於硬體和軟體標準和保護創新的代碼時,採取平衡的知識產權方式,同時促進創新。此外,還要求擬訂「自主知識創造」標準,以供計算機或機器人生產的版權作品。

目前的數據保護和所有權法律框架不足是由於使用機器人技術和人工智慧帶來的(預期的大量)數據流而引起的極大關注。

標準化,安全與安全性

越來越多的機器人和人工智慧需要歐洲的標準化,以避免成員國之間的差異和歐盟內部市場的分裂

此外,消費者對使用機器人和人工智慧的安全性和安全性的擔憂需要得到解決。這項決議特彆強調,在現實生活中測試機器人對於識別和評估他們可能需要承擔的風險是必不可少的。

具體使用機器人和人工智慧的規則

該決議包括適用於特定類型機器人的規定。自主車輛、護理機器人、醫療機器人、人類修復和增強以及無人機(RPAS)都應該採用個人規則。

責任規定

可能發生的風險與我們社會中使用自治機器本身有關。一個機器人的行為可能具有民事法律含義,無論是在合同方面還是在非合同責任方面。因此,需要對機器人的行動負責,並最終確定機器人的法律能力和/或地位,以確保歐洲聯盟的生產者和消費者的透明度和法律確定性。

委員會呼籲對其未來的立法文書進行一次影響評估,以探討所有可能的法律解決辦法的影響,例如設立一項強制保險計劃和賠償基金。

在社會背景下的機器人和人工智慧

增加與機器人的交流和互動,有可能深刻影響我們社會的身心關係。特別是對於那些特別容易受到傷害的人來說,他們可以產生情感和依戀,從而引起人們對人類尊嚴和其他道德價值的擔憂。

機器人和人工智慧已經影響了教育和就業。在這種背景下,為了避免對就業市場產生不良影響,必須密切監測就業趨勢。

國際方面

鑒於世界各地的機器人技術和人工智慧的發展,應該考慮並採取主動行動,在必要時修訂現有的有關國際協定,或擬訂新的文書,以介紹對機器人和人工智慧的具體參考。在這方面的國際合作是非常可取的。

16.11.2016

運輸及旅遊委員會的意見(*)

為法律事務委員會

向關於機器人的民法規則委員會提出建議

(2015/2103(INL))

報告員:Georg梅爾

(主動權-議事規則第46條)

建議

運輸和旅遊委員會籲請法律事務委員會作為負責任的委員會,將下列建議納入其提案的動議:

- - -關於2016年4月14 - 15日理事會關於阿姆斯特丹宣言,在聯網和自動駕駛領域的合作(「阿姆斯特丹宣言」),

a .委員會最近設立了一個高級組齒輪組,其任務是為自動車輛的適當部署制定路線圖;

b出於民事責任的目的,應當在自動車輛(包括允許自動執行某些駕駛操作的設備)和自動車輛(執行所有此類操作)之間進行區分。而在前一種情況下,駕駛必須由司機持續監控,並完全由司機負責;在後一種情況下,駕駛不再需要持續的監控或用戶的任何干預;而在前一種情況下,與常規車輛相比,民事責任制度保持不變,而在後一種情況下則需要調整;

1 .工作強調自主運輸包括所有形式的遙控、自動化、聯網和自主的道路、鐵路、水上和空中運輸,包括車輛、火車、船隻、渡船、飛機、無人機以及所有未來的發展和創新形式(以下簡稱「運輸的自主方式」);

2。呼籲委員會考慮以下各方面的自主工作

運輸工具:民事責任(責任和保險),與環境相關的所有主題(如能源效率、可再生能源技術和能源的使用)和問題相關的數據(數據訪問、保護個人數據和隱私,事故和風險情況的共享數據,數據及其分布)的經濟價值;

3 .項目考慮到自動交通工具可能會對提高交通安全產生重大影響,因為人類錯誤目前造成了90%的道路交通事故;然而,自動駕駛車輛不可能排除所有事故;這就提出了責任問題和有關各方的責任問題,以及在事故發生時對受害者的賠償問題

4。回顧了在公共交通部門(地鐵系統)長期存在的自治運輸系統,並證明了它們的可靠性和高水平的公眾接受度;

5。將視圖切換到自動車輛,除了其積極影響道路安全,燃料消耗、環境和創造新的就業機會在電信和汽車行業,也可能導致交通部門失業以及保險行業產生影響;

6。引起注意的是,在意外接管車輛控制權的情況下,司機的反應時間是至關重要的,因此,要求利益攸關方為確定安全和責任問題提供現實的價值;

7. 強調法律事務委員會關於運輸部門的報告草稿的特別重要性,鑒於技術進步,鑒於目前市場上已經有了半自治的運輸工具,而且完全自主的交通工具也將很快可用;

8。強調支持更多的機器人技術創新,例如聯網和自動化的車輛和無人機,以加強聯盟工業的全球市場地位;

9。注意到自主交通工具在發展可持續運輸方面發揮著重要作用;注意自治的運輸方式可以幫助減少交通堵塞,並呼籲委員會和各會員國及時充分反映技術進步,以及環境和安全的影響和促進創新;

10。希望委員會能確保成員國修改現有的法律,例如1968年11月8日的維也納公路交通公約,以統一的方式,讓無人駕駛的駕駛成為可能,並呼籲委員會,會員國和工業儘快落實阿姆斯特丹宣言的目標;

11。促請委員會就廣泛使用無人機有關的安全問題作出評價;呼籲委員會提供關於自動運輸工具對提高運輸安全和可持續性的影響的研究

12。指出通過優化路線、對抗擁塞、優化推進系統的使用以及與流量控制系統的通信,將有助於改善環境因素,特別是城市節點;

13。強調交通運輸、交通管理、基礎設施及其管理等自治手段之間的相互作用需要高度的有效和可靠的通信,以確保實時傳送大量的數據;強調必須在道路、能源和ICT基礎設施方面進行大量投資,同時確保隱私和數據保護;

14。強調明智和相互聯繫的運輸基礎設施的重要性,因此呼籲委員會和各會員國建立適當的全面、跨境和可互操作的基礎設施;

15。呼籲委員會制定民事責任制度,包括舉證責任,適應自主車輛的發展;強調確保分工明確的重要性之間的設計師,製造商的各種組件和自主車輛的裝配工,服務提供者(運輸服務或服務所需的操作自動車輛)和最終用戶,以確保乘客的安全與權益,數據保護和防止盜版;

16。強調了歐洲衛星導航系統提供的可靠的定位和計時信息的重要性,以及對自動駕駛車輛的實現,尤其是對自動駕駛車輛的導航和安全系統,以及另一方面的智能運輸系統和交通管理系統的重要性;

17。讓人們注意到自動駕駛汽車為減少出行的人提供的高附加值,因為這樣的車輛使他們能夠更有效地參與到個體的道路交通中,從而使他們的日常生活更加便利;

18。呼籲委員會於2019年提出一項歐洲共同戰略(包括單一路線圖),以實現自主運輸工具,並加強所有有關利益攸關方的合作,包括對市場動態和發展的審慎分析和建議;呼籲委員會審查和調整工會的監管框架,以支持開發和使用自動運輸工具;為了完成歐洲的伽利略定位系統,迫切需要完成和發射所需的衛星,以便這樣的系統可以作為自主交通工具的默認定位系統;

19。注意到,自主車輛的發展需要在工會和成員國以及技術中心和汽車工業的參與方面採取積極和堅定的體制辦法;

20。呼籲委員會制定歐洲基礎設施標準,以允許自動車輛的擴散和道路地圖實施

21。呼籲委員會和各會員國包括在重型貨車司機的最初和高級培訓中使用自動化車輛,並使這部分培訓需要獲得汽車駕駛執照;

22。回顧,在歐洲議會和理事會的第216 / 2008號規定中規定的措施應確保無人飛機的同質性和安全性。

3.11.2016

公民自由、司法及民政事務委員會的意見(*)

為法律事務委員會

關於《關於機器人技術的民法規則》的建議(2015 /2103(INL))

報告員:Micha?Boni

(主動權-議事規則第46條)

(*)聯合委員會-議事規則第54條

建議

公民自由、司法和民政事務委員希望法律事務委員會上將下列建議納入其決議的動議:

a.機器人領域的技術進步將給工會經濟帶來積極的影響,同時也為個人的日常生活帶來積極影響,但也可能意味著需要解決的風險;然而,在2020年地平線範圍內或外部的所有新技術和生產模式的發展,必須尊重倫理原則,並應適當考慮《基本權利憲章》所載的基本權利;

b .雖然許多第三個國家已經通過了關於機器人技術的指導方針和立法,一些會員國已經在這方面提出了具體的反映;而一個監管框架,在聯盟管理水平的發展和使用機器人和人工智慧和工會等基於現有規則的一般數據保護監管可以防止碎片的單一市場規則,進一步保障所有歐盟公民的基本權利的保護人類尊嚴,隱私和家庭生活、個人數據和知識產權保護的言論自由和信息,平等和非歧視原則,團結,和公民權利和正義,以及安全和安全,而受制於比例的原則;

道德原則

1。考慮到現有的聯盟法律框架應該得到更新和補充,在適當的情況下,指導設計、工程、測試和使用機器人和人工智慧的倫理原則,以確保這些技術能夠真正提高人類生活的質量;要求在發展和使用這些技術時經常考慮預防原則;

2。相信機器人技術和人工智慧,特別是那些具有自主能力的人,包括獨立提取、收集和分享與不同利益相關者的敏感信息的能力,以及自我學習甚至自我進化的可能性,都應該受到強有力的概念法則或原則的約束,比如機器人可能不會殺死或傷害人類,它必須服從並被人類控制;機器人和人工智慧收集、使用和處理個人數據的過程必須是透明和可理解的;認為這些原則應該是中性的,基於實證研究;支持為研究人員、學術界和工程師制定一種以倫理為基礎的框架,以確保這些技術解決方案不會妨礙研究和技術發展,而是符合現有的工會和國家倫理規範,以及在CFR中所規定的權利和原則,特別是人的尊嚴、尊重和保護私人和家庭生活、安全與安全、保護個人資料、保護知識產權、表達和信息自由、平等和不歧視、團結和公民權利和正義,並應遵守比例原則;

3 .項目認識到這些法律和原則的定義以及它們的實際實施需要在人工智慧倫理領域進行更多的研究;考慮到歐洲科學和新技術倫理小組最終將在倫理準則和標準的定義中發揮作用,這些準則和標準對未來的技術變化都具有前瞻性和響應性;

4。強調需要解決人機交互的心理和社會影響以及技術對人類能力的雙重影響,特別注意弱勢群體,特別是兒童,避免造成對機器人的有害依賴,例如通過喚起情感反應,或將這些人從現實中隔離;

5。強調機器人和人工智慧,特別是健康、護理和家庭機器人和醫療網路物理系統,其中某些元素可以植入人體或在人體上佩戴,將對人類生活產生重大影響,尤其是對殘疾人而言;因此,注意確保這些技術的包容性和平等獲得是至關重要的;進一步指出這種機器人對用戶隱私的影響,因為他們可以訪問傳統的受保護空間和敏感的個人信息;認為應確保醫學倫理原則、病人安全以及所提供護理的完整性;

隱私和數據保護

6。重申保護私人生活和保護個人資料的權利,如第7條和第8條CFR和第16條所載的權利,適用於機器人和人工智慧的所有領域,並必須完全遵守《數據保護聯盟法律框架》;強調機器人和人工智慧設計師的責任,他們開發產品的方式是安全、安全、符合目的,遵循符合現行法律、保密、匿名、公平對待和正當程序的數據處理程序;

7。呼籲委員會確保任何關於機器人和人工智慧的聯盟立法都將包括考慮到這一領域迅速的技術演變的措施和規則,包括發展網路物理系統,以確保聯盟立法不會落後於技術發展和部署的曲線;強調這樣的立法需要符合規則的隱私和數據保護,即有關信息義務,有權獲得的解釋基於自動化的處理決定,遵循隱私的原則設計的要求,在默認情況下,比例原則、必要性、數據最小化,目的限制,以及透明的數據對象和數據保護部門控制機制,和適當的補救措施符合當前的立法;要求審查機器人中使用相機和感測器的規則、原則和標準,並根據聯盟法律框架進行數據保護;

8。呼籲對機器人技術和人工智慧採取統一的、橫向的方法,並將其應用於技術中立的聯盟監管框架,並適用於機器人可以被應用的各個領域,例如交通、衛生、工業製造、電信、執法等;強調在適當的情況下,應該更新現有的法律框架,並補充,以確保數據保護、隱私和安全的同等水平

9。強調通過機器人和人工智慧技術防止大規模監控的重要性;

10。呼籲歐盟委員會和各成員國促進強有力的和透明的公共和私營部門和學術界之間的合作,加強知識共享,並促進教育和培訓為設計師在倫理問題,安全與基本權利的尊重以及對消費者的使用機器人和人工智慧,特別關注安全和數據保密;

數據和數據系統的安全性和數據流

11。強調數據的自由流動對數字經濟是至關重要的,對機器人和人工智慧的發展至關重要;強調機器人和人工智慧系統作為一個整體的高度安全,包括其內部數據系統和數據流,對於充分利用機器人和人工智慧至關重要;強調保護互聯機器人和人工智慧的網路,以防止潛在的安全漏洞、網路攻擊或個人數據的濫用,特別是在收集和處理大量數據的時候;強調需要設計一種機制,使使用者能夠在發生安全漏洞時停止對其個人資料的處理;指出研究和開發活動在數據保護技術領域的重要性,並強調公共和商業的共同責任,以保證在人員和機器人和人工智慧之間的通信中使用的數據的安全性、安全性和隱私性,以及高質量的語音和手語識別系統;認為商業硬體和軟體生產商應該對其疏忽造成的數據安全嚴重違約負責;呼籲歐盟委員會和會員國支持和激勵必要技術的發展,包括設計和溝通渠道的安全;

無人機(遙控飛行器系統,RPAS)

12。強調個人資料經RPAS處理後,無論是由公共部門出於執法目的,還是由法律、法律允許的其他目的、自由和安全的權利,以及在第6條和第7條中所規定的尊重私人生活的權利,在第8條CFR和16 TFEU中規定的個人資料的保護權利,以及有關數據保護的聯盟法律框架,必須完全遵守;要求委員會審查是否需要為RPAS引入一種強制性的跟蹤和識別系統,以便在使用時確定飛機的實時位置。

13。重申呼籲安理會制定一項嚴格和有效的聯合框架,在使用武裝無人機時,最重要的是尊重倫理原則、人權和國際人道主義法,並解決諸如法律框架、相稱性、問責性、透明度和保護平民等問題,包括採取一切可行的預防措施,以避免錯誤的目標和對平民造成的傷害,並確保最終的控制和責任與人類有關;重申其對禁止生產、開發和使用全自動武器的要求,這使得在沒有人為干預的情況下進行罷工;敦促委員會和各會員國開展一項廣泛的國際政策對話,旨在為發展、擴散和使用日益自主的武器系統(例如,以具有約束力的國際協定的形式)建立全球法律標準和法律和道德限制;

14。承認無人機技術的積極進展,特別是在搜索和救援領域,並堅持認為這是聯盟在推進無人機技術方面應該採取的方向。

行為準則

15。考慮到,在相關研究表明立法發展尚不成熟的特定領域,應在適當立法的同時鼓勵軟法律框架、行為準則或公私夥伴關係,可能是全聯盟範圍內的,以確保工業和機器人設計師與公共當局及所有其他相關利益相關者合作;相信這樣 的工具應該集中在切實可行的解決方案上,以確保隱私和數據保護、人類尊嚴、非歧視、機器人工業的安全與倫理,以及日常使用機器人和人工智慧。

9.11.2016

就業和社會事務委員會的意見

為法律事務委員會

關於《關於機器人技術的民法規則》的建議(2015 /2103(INL))

報告員:亞當·科莎公司

(主動權-議事規則第46條)

建議

就業和社會事務委員會籲請法律事務委員會,作為負責任的委員會將下列建議納入其提案的動議:

1。呼籲委員會立即對機器人的數量和工作類型的影響進行徹底的評估以及現有工作的質量和能力概況;收集信息對新形式的就業為了儘可能有效地預測,首先,機器人技術的傳播是否帶來福利和進步本身,無論是呈現人類勞動在傳統的生產和服務結構和不必要的,如果是這樣的話,需要哪些條件除了金融安全,以確保人們健康的身心健康,快樂,和活躍的公民和理論是否利益人和機器之間的共生關係提供有效的健康與發展;,第二,是否在改變勞動力市場成員國法律和慣例可以確保社會公正、包容和可持續的方法減少不平等、貧困和社會排斥,一個環境中,所有人類都有平等的機會來開發他們的天賦、技能和個人的感覺;

2。強調,儘管機器人和人工智慧的發展正在加速,但它對就業和社會政策的影響是至關重要的,因為在產品和服務的生產過程中,機器人技術的增加和全球使用會帶來更高的生產率,而這些都可以用很少的人力來實現,因此,在接下來的十年里,一些工作將被完全消除,許多其他的工作也會受到影響;因此,呼籲委員會對就業的挑戰和機會進行分析,並制訂一種方法,使監測工作失去的數量和性質,並創造出自動化和自動化,以及這種現象對社會保障制度造成的收入損失的影響;進一步呼籲委員會定期評估和與社會夥伴進行對話,以達到每周、每年和終身工作小時的程度,不損失收入,並開始探索未來社會保障制度的新融資方案,並重新思考工人如何與他們的工作進行接觸,以及數字勞工平台如何更好地將個人、團隊和項目聯繫起來;

3 指出,由於機器人的出現,許多工作崗位將會流失,但儘管在經濟的許多部門,個人工作時間將會縮短,但生產率的提高可以確保工人不會遭受工資的損失;

4。認為機器人應該使用確保人類控制和機器人操作的可逆性的過程來設計,考慮到機器人的自主性越來越高,這應該伴隨著對機器人的行為或不作為所造成的後果的責任的修正;關於在新的和正在進行的工業革命中工作自動化缺乏一般的框架和法律規定,並認為這對聯盟來說是必要的,它規定了反映機器人的複雜性及其眾多社會影響的法律框架;因此,要求委員會提出一個關於智能自主機器人及其在工作場所的子類別的共同定義,並考慮強制保險方案的利弊,該方案涵蓋了機器人所造成的潛在損害和失敗

5。強調教育和培訓制度必須適應職業和生產方式的變化,將更多的注意力放在創造性和非重複內容的工作上,以保持人力資源的價值,並為所有代人提供所有必要的工具,為他們提供最好的工作機會,在這個不斷變化的世界裡,因為機器人化和自動化;強調技能靈活性的重要性,強調生活技能和社會技能在教育中的重要性;可以肯定的是,除了教授學術知識的學校外,孩子們還需要掌握批判性的思維能力,能夠提出問題並做出明智的決定,創造性的技能,能夠將想法付諸行動,培養一種主動性,終身學習需要通過終生的行為來實現;強調數字能力對於當今快節奏的自動化和數字化的工作和服務是必不可少的,需要發展數字技能和能力,以確保高水平的就業,根除日益增長的數字文盲和與之相關的社會排斥的風險;強調對教學的數字化教學以及在教學中利用機械知識的重要性,而教育也應強調人文學科,而人文學科則是在改變勞動力市場的創新,創新,藝術和培養的品質中為人類繼續在機器上保持相對的優勢;

6。承認機器人提供了潛力巨大的支持和救助,特別是,殘疾人和老年人的日常生活,可能會作出重大貢獻他們的自主的生活和他們的包容在勞動力市場上,認為深入必須考慮問題的就業條款可能是必要的勞動力,如果人工或基因開發或補充現有的人類的能力導致人以非凡的能力,從而從根本上改變「殘疾」一詞的含義,賦予一個不容置疑的優勢等人提供技術創新、工具和干預自然會引發的倫理道德問題,應該徹底檢查;

7。強調個人選擇或拒絕種植體、假體或延伸至人體的決定,絕不能導致在就業、教育、醫療、社會保障或其他福利方面受到不利的待遇或威脅,並強調所有公民都必須享有平等和無障礙的機會,以從新技術中獲益;在這方面指出,作為人的尊嚴的中心聯盟和國際人權法,重要的是要研究如何確保那些尚未被列為禁用不治療,增強人類的相比處於不利地位類似於人智障和智障患者能否做出獨立決定通過支持決策的概述《殘疾人權利公約》在機器人的幫助下,和它們之間如何分配責任

8。然而,指出使用機器人有風險,應該仔細權衡他們可能帶來的好處;注意到機器人造成的工作傷害以及相關的索賠要求;注意到,雖然像外骨骼這樣的可穿戴機器人技術可以提高生產率,但它們可能會提高僱主對員工的期望,進而增加傷害風險;指出這必須考慮到立法委員、僱主、工會和僱員通過內部規則、集體協議以及其他與機器人有關的風險可能與反歧視有關,這些風險可能會在工作面試後發生的情況下發生,而這些數據是由於獲得了導致非預期分析的數據而引起的;注意到與貿易和隱私有關的新挑戰也可能由於使用機器人而產生;

9。強調在社會上的分化日益加劇,中產階級正在縮小,重要的是要記住,發展機器人技術可能會使少數人手中的財富和影響力高度集中;

10。指出,對就業和社會政策的影響由於技術進步和持續的自動化有了翻天覆地的變化,人們訪問和提供信息,溝通,社交和工作,從而創造新的機遇以及挑戰,開闢新的前景可能增加活動的效率,節約能源和材料;然而,指出的是,儘管機器人和人工智慧在短期和中期的效率和經濟方面承諾了真正的優勢,不僅是在生產和貿易方面,而且在那些由於人類的相互作用、智力和創造力的領域,自動化是困難的,而且迄今為止,只有人類,比如在那些有大量低技能人才的行業中,機器人領域的工作機會將不會增加,因為在交通、後勤和辦公室工作等領域的工作崗位數量將會減少;因此呼籲歐盟委員會和各成員國,在與社會的合作夥伴和地區和地方當局在適當情況下,開發新的機制適合工作和事業的保護模式的數字化和機器人使用的增加,為所有人提供適當的教育和培訓;

11。指出,由於開發和使用智能,協同機器人和人工智慧,創造和失業之間的差異可能會影響社會保障計劃的經濟發展,養老金系統和失業保險系統的影響,並且強調在中期和長期以來的就業損失是由於機器化的後果,也可能與消費能力的損失有關;強調來自自動化和自動化的大多數好處不僅來自於降低勞動力成本,而且還應通過減少錯誤、提高產量、提高質量、安全性和速度來提高生產率;在調整機器人技術和數字經濟的監管框架時,要求委員會和各成員國定期諮詢和參與社會夥伴,以確定技術創新所產生的潛在的職業健康和安全風險,並採取適當措施應對它們,並探討在機器人建立之前引入通知系統的可能性,以及它們以稅收和社會安全貢獻為目的的公司營業額的相對參與情況;

12。呼籲委員會就今後在機器人領域中規定的道德和社會原則提出指導方針,特別是關於確定適合未來技術發展的前瞻性標準的目標;

13。指所謂的眾包工作;呼籲委員會調查這種新形式的就業,並檢查社會保障制度和適用的勞工法在多大程度上需要調整,以提供適當的保護,以供眾包工人使用;

14。強調雖然不可能阻礙技術進步,但現在這代人有機會和責任來決定它的路線,以便造福人類和地球;認為聯盟應在福利、經濟增長和技術的政策領域內為一項綜合戰略作出貢獻,以使其處於全球發展的最前沿;呼籲成員國和歐盟委員會詳細研究的近未來後果增加勞動力和使用機器人系統提供一個框架,這種發展與立法設計技術為員工儘可能平穩過渡和堅信,緊迫感,必須找到一個答案的問題,是否在機器人進一步發展的結果和更便宜的解決方案,將會有工作能力的人類工作將受法律限制由於有害或危險的工作性質相對於人類健康(目前與規則適用於孕婦)或其他原因,並找到答案的問題領域潛在的可能被認為是限制或禁止部分或全部自動化,以保證安全和尊重的基本權利受到整個行業的自動化,增加考慮人口變化和可持續性,避免任何意想不到的社會後果;

15。相信鑒於技術進步的步伐,我們應該在可預見的未來為機器人立法;同時,為了應對科學技術的變化,立法應該是符合目的的;認為有必要根據機器人技術和人工智慧的進一步發展,預測新業務領域的發展;然而,指出,機器人不僅是工作的工具,而且越來越多地在產品和服務的生產中自主地採取行動,因此需要全面的保護系統,以確保工人的健康和安全受到充分的保護,當與機器人和其他形式的人工智慧以及其他形式的人工智慧和責任規則一起工作時,確保自動機器人的損害能夠被明確的有利於員工;因此,呼籲工會和會員國鼓勵進行一場結構化的公開對話以儘快發展這些技術的後果,並呼籲參與這項研究的利益攸關方提出一個關鍵的解決方案並為公眾對話提供建設性的信息;

16。強調機器人和人工智慧系統所進行的任何處理活動必須完全符合聯盟的數據保護法,並必須按照默認原則在設計和隱私中嵌入隱私;

17。指出自動化提供了相當大的機會把製造業帶回聯盟,從而創造新的就業機會,特別是低技能工人的;

18。相信在生產過程中使用機器人會對工作場所的健康和安全帶來重大挑戰;指出機器人化可以一方面減輕工人的體力負擔,但同時也會導致更高的精神壓力,因為個體在更複雜的生產過程中承擔的責任越來越大;歐盟委員會及其機構,尤其是歐盟-職業安全局,對數字化、機器人技術和人工智慧對精神壓力的影響進行了調查,並提出了相應的對策建議;要求給予員工機會,在任何時候都積極地塑造他們的工作環境,並讓社會夥伴和工會參與到各個層次;

19。一些科學研究指出,當試圖立法使用機器人時,出現了四個主要問題:謹慎,考慮到涉及人工智慧發展和研究的平台和製造商,這在監管機構中可能並不總是可見的;當人工智慧系統由研究人員組成的團隊開發時產生的擴散性,在地理上和司法上是分開的;「自由裁量權」指的是人工智慧系統可能需要許多獨立的、獨特的預先存在的硬體和軟體組件;指出,將所有這些組件組合在一起的效果可能在事後才得到充分的重視,而不透明意味著人工智慧系統的工作方式可能比以前的技術更加不透明;注意到這可能會成為監管機構的一個問題,因為對於這些系統可能構成的問題以及如何解決這些問題,缺乏清晰的思路。

環境、公共衛生和食品安全委員會的意見

為法律事務委員會

關於《關於機器人技術的民法規則》的建議(2015 /2103(INL))

報告員:Cristian-Silviu Bu?oi

(主動權-議事規則第46條)

建議

環境、公共衛生和食品安全委員會呼籲法律事務委員會作為負責任的委員會將下列建議納入其決議的動議:

A. :老齡化是由於生活條件和現代醫學的進步而延長壽命的結果,也是21世紀歐洲社會最大的政治、社會和經濟挑戰之一;然而到2025年, 65歲以上的歐洲人將會超過20%,特別是80歲以上的人口數量急劇增加,這將在我們的社會中產生一種根本不一樣的平衡,而老年人仍然保持健康和積極的生活,這符合社會的利益

B. .在2010年至2014年期間,機器人的銷售和生產顯著增加,僅2014年就增加了近30%,特別是在衛生部門和保健部門;

C. .然而,在老齡化社會中,殘疾、慢性疾病、中風、腦損傷和能力下降等疾病的患病率和發生率正在增加;

D. 社會和健康系統需要適應衰老的過程和老年人的醫療保健需求,這樣他們就能提供足夠的照顧,維持經濟的可持續發展;

E. 而網路物理系統是由網路計算機,機器人和人工智慧系統組成的技術系統與物理世界相互作用並在醫療領域有很多應用程序;

F. 鑒於CPS的性質,需要在整個聯盟中實現具體的、更詳細的標準;

G. 鑒於這些系統將為新興和未來的智能服務提供基礎和基礎,並將在個性化保健、緊急反應和遠程醫療方面取得進展;

H. 在任何情況下,都不應使用機器人或高科技的診斷或治療手段,導致醫生或衛生保健人員需要使用它們的責任增加;鑒於此,建議增加有關醫療機構或製造商的責任;

I. .鑒於CPS的經濟和社會潛力遠遠大於先前的設想,世界各地正在進行重大投資,以發展這項技術;

J. 鑒於使用此類技術不應減少或損害醫患關係,但應向醫生提供診斷和/或治療病人的協助;

K. 儘管CPS提高了許多高期望,並且有很大的潛力,但是新引進的技術的影響永遠不會被完全預測,只有當社會能夠適應一種新的與技術交互的方式時,它才能成功地整合起來

1。 承認在醫療保健領域採用新技術,假定重點在於醫患關係和自由意志,很可能在病人護理和治療的有效性和準確性方面帶來重大利益,並以減少人為錯誤的風險為目標,從而導致提高生活質量和延長壽命;

2。儘管機器人技術可以帶來社會效益,但它們同時也能極大地改變人們相互交流的方式,從而對當前的社會結構產生切實的影響;因此,迫切需要對這場新技術革命進行廣泛而有見地的公開辯論;

3號。我們認為,要建立一個基於道德原則的監管框架,符合機器人的複雜性及其許多社會、醫學和生物倫理的影響,這是至關重要的。

4。強調提供更好的診斷和更好的治療、護理和康復方案的創新,將導致更準確的醫療決策和更快的康復時間,從而可以緩解護理和康復過程中衛生保健專業人員的短缺;

5。強調CPS部門需求的增加有可能在工會中創造大量高技能職位

6。認為機器人在支持醫生或醫療保健方面是有用的

助理人員,為了改善人類的診斷和治療經驗,但不考慮是否需要確保醫療實踐和病人護理實踐不被非人化;

護理機器人

7。注意到,由於智能技術可用於預防、協助、監測和陪伴,因此CPS能夠改善殘疾人士的生活。

8。注意到CPS可能會對醫療保健行業產生深遠的影響,有可能使醫療專業人員將重點從治療轉移到預防上,從而降低醫療保健的整體成本;

9。強調老年護理機器人的研究與開發,隨著時間的推移,越來越成為主流和更便宜的產品,產品具有更大的功能和更廣泛的消費者接受度;指出這些技術的廣泛應用範圍,為老年人提供預防、幫助、監測、刺激和陪伴,以及患有痴呆症、認知障礙或記憶喪失的人;

10。我們強調,雖然CPS有潛力提高殘疾人和老年人的流動和社交能力,但人類的照顧者仍然需要並且將繼續為他們提供一個重要的社會互動的來源這並不是完全可以替代的;指出,CPS技術或機器人只能大大增強人類保健和康復過程更有針對性,使醫務人員和護理人員可以分配更多的質量診斷和更好的治療方案;

醫療機器人

11。早期的機器人和智能CPS設備已經被用於醫療保健,例如電子醫療設備和手術機器人,在不久的將來,這項技術將繼續發展,有可能降低醫療費用,使醫療專業人員能夠將他們的注意力從治療轉移到預防,並提供更多的預算資源,以便更好地適應病人需求的多樣性,繼續培訓衛生保健專業人員和研究;

12。這說明隨著手術的增加,隨著手術的增加,對健康社會的使用也會變得更健康,從而縮短康復時間,減少健康護理人員的缺勤;

13。醫學機器人設備繼續發展,並且很可能在外科手術中更加頻繁地使用,將醫學的邊界向前推進;

14。承認外科機器人已經被設想將人類外科醫生的能力擴展到超出常規腹腔鏡的極限,並且外科機器人的發展是為了克服這些限制,擴大微創手術、精細運動和精確的好處;

15。強調CPS允許進行遠程手術,有許多優勢,如手部運動的精度提高、手部運動的消除震顫、放大的視野,他們可以立即分析和評估,提高靈巧度和遠程手術,同時必須是醫生獲得技能和認可的基本要求,以滿足個人CPS設備的醫療干預的表現;

16。注意到近年來醫學教育和培訓領域發生了重大變化;進一步的說明,由於醫療服務變得越來越複雜,學術衛生中心的氣候提供了一個機會來加強整體的健康,重新考慮醫學教育和終生學習的方式,同時保留醫生的核心能力來保持他們對機器人的專業知識和權威;呼籲委員會和各會員國對使用或正在計劃使用新機器人技術的醫療和輔助人員進行高培訓和專門化標準,並鼓勵那些打算使用這些技術進行其行動的外科醫生的自由行動;

17。呼籲委員會和各會員國加強對社會和衛生緊急情況的機器人研究項目的金融工具;

18。考慮到尊重機器人的監督自主原則是至關重要的,因此最初的治療計劃和關於執行的最終決定將始終是人類外科醫生的決定;

臨床評估及臨床研究

19。強調醫療機構應符合醫療設備的高標準,通過有效的核查和認證程序,允許經過充分訓練的人員對擬議技術的安全性和有效性進行評估,即使是在設計階段;

20。強調區分手術機器人與機器人夥伴的假體和外骨骼的重要性,其功能是幫助殘疾人或暫時喪失能力的人;強調必須按照儘可能精確和詳細的標準對兩種類型進行檢查

21。歡迎共同立法委員會於2016年6月達成的《醫療設備條例》(2012 / 0266(COD))的政治協定;呼籲委員會在這條規定適用的日期之前確保測試新醫療機器人設備的程序是安全的,尤其是在被植入人體的設備上,;進一步說明,對患者的個人數據和公開的失敗和成功的試驗必須有完全的透明度,而失敗的試驗和CPS的責任必須在病人和公眾面前清楚;

道德

22。強調的是,雖然技術的發展呈指數級增長,但工會的社會制度無法迅速作出反應,而衛生保健系統的反應甚至更慢;強調這些發展對人類文明產生了重大影響,因此,技術進步必須與新技術在其發展之前和整個發展過程中的長期道德和倫理影響密切相關;

23。強調道德標準的重要性,確保機器人產品尊重個人和社會的基本權利,在工會層面上應得到保護,並提供必要的技術措施,以確保設計階段的尊重,符合所謂的隱私設計方法;

24。提請注意與人類身體可能被侵入或關閉或使其記憶被抹去的可能性相關的風險,因為這可能危及人類健康,甚至在極端情況下甚至是人類生命,因此強調必須優先重視保護這類系統;

25。承認有特殊需求的病人的脆弱,包括兒童,老人和殘疾人,並且強調任何使用者都可能與CPS和機器人建立情感聯繫;強調其可能的附件所構成的倫理考慮;鼓勵委員會開始反思如何確保CPS不會對弱勢群體的自主性和獨立性產生負面影響;

26。籲請委員會和各會員國促進輔助技術的發展,也通過與目前適用的責任方案不同,以促進這些技術的發展和採用,根據《聯合國殘疾人權利公約》第4條的規定,聯盟是締約方;

27。強調保護醫患關係的重要性,特別是關於醫療診斷和治療的交流;

28。注意到CPS的使用提出了人類提高的問題,它被定義為加強現有的自然人類技能或新技能的會議,允許個人克服殘疾;

環境影響

29。承認需要儘可能減少機器人的環境或生態足跡,因為使用CPS和機器人將增加整體能源消耗和電力和電子垃圾的數量;強調需要最大限度地提高生產過程的資源效率,通過促進使用可再生技術來提高能源效率,以促進次生原料的使用和再利用,減少浪費;因此鼓勵委員會將循環經濟的原則納入任何關於機器人的聯盟政策;

30。同時,使用CPS對環境有積極的影響,特別是在農業和糧食供應的領域,特別是通過減少機械的規模和減少使用肥料,能源和水,以及通過精密農業的使用

31。強調CPS將導致能源和基礎設施系統的建立,這些系統能夠控制從生產者到消費者的電力供應,同時也將產生能源生產和消耗能源;從而獲得重大的環境效益;

-在其動議的附件內,將下列建議列入決議:

安全

醫療機器人設備的安全性是他們在醫療保健領域的一個先決條件。應根據具體、非常詳細的安全保障措施和標準的認證程序對護理和醫療機器人的有效性和安全性進行評估,並特別注意到在緊急情況下使用受損的用戶或使用它們;要求委員會對機器人醫療設備採用詳細的共同規範;應該特別注意CPS網路的安全性,以消除黑客入侵和竊取敏感的個人數據的可能性。

在人體中植入的CPS系統的安全性是一個基本要求,因為它們中的任何一個錯誤都可能是致命的,在這種情況下,提供信息和明確地規範責任的問題是很重要的,包括這些植入的CPS是誰的財產,誰擁有權利,誰可以改變他們的植入,嚴格禁止未經他們同意的實驗。

隱私

醫學CPS和使用機器人作為「電子健康記錄」,提出了關於病人隱私、醫療專業保密和公共衛生領域數據保護的法律問題。應考慮結合數據保護規則,考慮到護理和醫療機器人之間的複雜性和相互關聯性,可能處理高度敏感的個人信息和健康數據;他們應該遵守設計的隱私概念,如規定(歐盟)第201 / 679號關於數據保護的規定。關於醫療專業保密的行為準則應該加強,關於儲存在CPS上的健康數據可以被第三方訪問。

保險公司或任何其他服務提供商不應被允許使用電子健康數據在價格設定中引入歧視,因為這將與最高可達健康標準的基本權利相抵觸。

研究倫理委員會

研究倫理委員會(RECs)應該考慮到醫療機器人設備和CPS在許多醫療保健和援助服務領域發展的倫理問題。諸如對機器人預防性保健的平等、享有特權的醫患關係、特別是有特殊需要的病人(例如殘疾人),但不只是他們(例如兒童、孤獨的人等),對機器人的情感依戀應該得到應有的重視

考慮。

我們鼓勵委員會和委員會開始反思,為研究人員/設計師和醫學CPS的使用者制定一套行為準則,這些原則應該基於《聯邦憲章》中所載的原則(如人類尊嚴和人權、平等、公正和公平、利益與傷害、尊嚴、非歧視和非歧視、自治和個人責任、知情同意、隱私和社會責任以及老年人的權利、殘疾人的權利、醫療保健權、消費者保護權利)以及現有的道德規範和守則。

值得注意的是,機器人技術可以在責任和責任問題上引入高度的不確定性

15.11.2016

工業、研究和能源委員會的意見

為法律事務委員會

關於《關於機器人技術的民法規則》的建議(2015 /2103(INL))

報告員:Kaja卡拉斯

(主動權-議事規則第46條)

建議

工業、研究和能源問題委員會建議法律事務委員會作為負責任的委員會:將下列建議納入其決議的動議:

A. :與機器人或人類相比,機器人人類團隊可能比機器人或人類高85%;然而,通過增強人類的能力,機器人可以降低人為錯誤的風險,

B. .鑒於工會在工業機器人領域處於領先地位,市場上的供應和使用份額超過25%,而市場的增長率估計為每年8 - 9%,從而使該行業成為行業戰略的重點,

1。相信機器人和人工智慧在提高歐洲經濟的競爭力和生產力方面發揮了重要作用,在中期,可能會對農業、交通、醫療、安全和公用事業等非製造業產業的競爭力產生更大的影響;呼籲委員會在機器人和人工智慧領域推行一項雄心勃勃的、跨部門的支持創新的政策,促進價值鏈技術的融合,創新商業模式的發展,縮短從創新到工業化的時間;要求委員會評估是否有必要進行現代化立法或制定歐洲的指導方針,以確保在機器人和人工智慧方面的聯合方法,這對於公司在聯盟中擴大規模至關重要;

2. 他指出,第三個國家已經認識到機器人技術的戰略重要性,並正在挑戰歐盟的全球市場領導地位,例如通過收購工會製造企業;要求歐盟委員會制定一項產業戰略,以解決機器人技術等具有戰略意義的行業的角色,並闡明工會如何能保持就業、增長、技術訣竅和價值鏈的大部分;

3。強調機器人和人工智慧的創新,以及經濟和社會中機器人和人工智慧技術的融合,需要數字基礎設施,提供無處不在的連接性;要求委員會設立一個框架,以滿足聯盟數字未來的連通性要求,並確保接入寬頻和5G網路完全符合網路中立原則;

4。強烈認為,系統,設備和雲服務之間的互操作性,基於設計的安全性和隱私的設計是實時數據流的關鍵,使機器人和人工智慧變得更靈活更獨立;要求委員會促進開放的環境,從開放的標準和創新的許可模式,到開放的平台和透明度,以避免在限制互操作性的專有系統中鎖定;此外,還強調必須確保使用用於與機器人和人工智慧交流的數據的安全、安全和隱私的高水平;因此,呼籲委員會和各會員國在其與機器人和人工智慧有關的政策中,按照設計原則,將安全與隱私納入聯盟的網路安全戰略,並將機器人和人工智慧納入委員會將設立的網路安全問題高級別諮詢小組的討論;

5。指出數據訪問是機器學習演算法創新的關鍵;要求歐盟委員會實施一項雄心勃勃的框架和戰略,以開放和自由流動的數據為基礎,特別是「自由流動數據」計劃,與數據保護立法和改革的知識產權法律相一致;強調「數據自由流動」應該闡明數據所有權、可用性和訪問的問題,這對於進一步開發和使用機器人技術非常重要;

6。呼籲委員會在中期審查《地平線2020》資助的SPARC方案的中期審查中增加它的支持,進行預測研究,促進開放創新作為戰略目標,並在國家和歐洲機構、研究社區和標準化機構之間建立合作環境,吸引人才,但也包括私營部門,在全球企業、中小企業和初創企業之間,它們是創新的關鍵,並在全球範圍內開放機器人技術的新市場;強調公私夥伴關係在這方面可以發揮的作用;

7。強調機器人技術的發展應該側重於補充人類能力,而不是取代它們;強調機器人和人工智慧的增長將使大量工作自動化,減少人類對有害和危險條件的接觸,並改變生活和工作方式,從而需要長期的評估和措施,以確保社會、環境、道德、責任和教育方面得到妥善處理;特別要考慮包括編碼在內的數字技能的需要,包括從早期的學校到終身學習的所有教學和培訓;

8。相信醫學機器人繼續在提供高精度手術和執行重複的程序方面取得進展;考慮到他們有可能改善康復的結果,並在醫院內提供高效的後勤支援;

-在其動議的附件內,將下列建議列入決議:

9。考慮到任何未來的立法措施,包括在與不同的相關利益相關者協商後,在持續對話的基礎上,涵蓋機器人和人工智慧,在這一快速發展的技術領域內,不應扼殺創新,應提供法律確定性;

10。相信,與最終用戶機器人工程師、研究社區和其他利益相關方,委員會應該制定一套道德行為準則,旨在指導機器人技術和人工智慧開發活動;

11。考慮到關於許可證的建議應該尊重合同的自由並為創新的許可證制度留下空間;告誡不要在機器人和人工智慧領域引入新的知識產權,這可能阻礙創新和知識交流;

12.10.2016

內部市場和消費者保護委員會的意見

為法律事務委員會

《關於機器人的民事法律規則》(2015 /2103(INL))

報告員:Dita Charanzova

(主動權-議事規則第46條)

建議

內部市場和消費者保護委員會呼籲法律事務委員會,作為委員會,將下列建議納入其提案的動議:

A. 機器人技術並不新鮮;而機器人技術可以,也確實能夠在改變我們的社會中發揮更大的作用;而機器人和人工智慧在工業、醫療、建築、運輸等多個行業的數字化中發揮著積極的作用,並導致創新,減少對危險工作環境的風險,以及新的商業模式,而工會必須積極地推動這一領域的發展,推動數字單一市場的發展;

B. 鑒於機器人越來越接近人類,特別是機器人服務市場不斷擴大,使社會獲得新福利,而不忽視安全與責任問題;

C. 儘管機器人具有不可否認的優勢,但它的實施可能會導致勞動力市場的轉變,並需要對教育、就業和社會政策的未來進行相應的思考;

D. 在2010年至2014年期間,機器人的銷售和生產顯著增加,僅2014年就增加了近30%,尤其在電子行業;

E. 歐洲製造業的數字化轉型,佔到歐盟GDP的15%,但在20251年,其增值潛力可達1,25萬億歐元,自主和機器人技術的採用將有助於促進歐洲工業產出,並使歐洲獲得顯著的競爭優勢;

F. 機器學習為社會提供了巨大的經濟和創新效益,大大提高了分析數據的能力,同時也提出了挑戰,以確保不歧視、正當程序、獲取信息和在決策過程中可理解性;

G. 然而,醫學應用領域的發展,如機器人假肢和植入物,使攜帶它們的人非常依賴於維持、修理和增強的能力;

H. 在所有新技術和生產原型的開發中,必須考慮到數據保護和知識產權方面的問題;

一、許多第三國在機器人領域採取了適當的指導和立法,而一些會員國也開始認真考慮這一問題;

1。強調工會水平的方法可以通過避免內部市場的碎片化來促進發展,同時強調了在機器人和機器人系統的跨境使用中相互承認的原則的重要性;回顧,只有在一個會員國中才需要進行檢測、認證和市場批准;

2。強調這種方法應伴隨有效的市場監督,以及對會員國實施召回和制裁侵權的法律補救措施和權力;

3。強調措施的重要性,幫助中小型企業和機器人領域的新興企業在這個領域創造新的市場細分,或者利用機器人;

4。鼓勵發展一項雄心勃勃的歐洲戰略,以研究和創新機器人技術,以充分發揮其在歐洲發展和就業的潛力;

5。在意識到國際標準的重要數字,比如互操作性和安全的問題上,已經存在並應用於整個行業,他們認為,對機器人和人工智慧的進一步協調是必要的,應該是結合在聯盟的標準優先考慮的是為了促進創新並保證高水平的消費者保護;強調在這一面向未來的領域中發展共同、安全、高標準的標準是必不可少的;

6。籲請委員會與歐洲標準化機構合作,繼續積极參与國際標準化組織,並與國際夥伴加強合作,進一步改進這一領域的標準;歡迎在這方面設立特別技術委員會,例如ISO /TC 299機器人,專門致力於發展機器人技術標準;

7。重申,絕大多數的標準都是在對一個工業的需求的回應上制定的,並鼓勵歐洲和國際標準化機構不斷地審查他們自己的標準來確保他們滿足這些需求;

8。考慮到為製造和個人使用而開發的機器人應受到產品安全和消費者保護規則的約束,以確保在適當的、最低的安全標準下,並解決與人類相互作用或接近人類所導致的事故風險;相信在任何有關機器人的政策中,都應該解決包括第三方和個人數據、民事責任、教育和培訓和網路安全等倫理問題和數據保護問題;

9。強調隱私和安全的重要性,設計在機器人的發展和測試機器人對消費者保護的反應的重要性;

10。強調,無論在哪裡使用機器人,都必須注重人的尊嚴,特別是在衛生保健領域;

11。指出在諸如機器人假肢等重要醫療應用領域,持續、可持續的維護、增強和特別是修復故障和漏洞的軟體更新需要確保;

12。考慮到需要對成員國家的就業、教育和社會政策的影響,更好地考慮到機器人化的影響;要求委員會協助尋求一個統一的管理框架,並加強各會員國之間的合作;要求各會員國落實重新設計的培訓框架,以防止信息和通信技術專業人員短缺;

13。認識到機器人和人工智慧技術越來越多地應用於自動駕駛汽車,比如自動駕駛汽車和民用無人機;注意到一些會員國已經在這方面採取了行動或考慮立法,這可能導致各國立法阻礙自動車輛的發展;因此,呼籲建立一套單一的工會規則,在用戶、企業和其他有關各方的利益之間達成正確的平衡,同時避免在機器人和機器人系統中過度監管;

14。呼籲進行監管合作,以修訂某些國際協定,例如1968年11月8日《維也納道路交通公約》和1971年5月4日《海牙交通事故公約》;

15。相信,在自動車輛的情況下,不一定需要改變與保險有關的法律狀況,因為目前的做法和經營者、製造商和保險公司之間的關係可以適當地應對新技術的引進,就像過去的情況一樣;

16。強調在醫療保健中使用機器人已經是一個日益增長的市場,特別是在歐洲的遠程外科手術中;要求委員會確保條件允許增加這種做法的使用;

17。呼籲委員會增加對人工智慧和機器學習過程的社會影響的跨學科研究經費


推薦閱讀:

有哪些婚姻法的小常識可以保護自己?
如何看待「16個月大女嬰被性侵」這一事件?
如何看待「母女路邊抱走身價3萬多泰迪狗 涉嫌盜竊或被判刑 」這件事情?
對沖交易可以認定為內幕交易嗎?
「最終解釋權歸XXX所有」真的有用嗎?有解釋權的一方在糾紛時能否佔到便宜?

TAG:法律 | 人工智能 | 法律人工智能 |