如何看待全國首例機器人傷人事件？

12-28

相關：深圳高交會首例機器人傷人事件：受傷者已被抬走！-搜狐科技

機器人傷人事件在媒體口中可以成為人工智慧惡意傷害無辜人類，然而實際上百分百的是普通的機械事故而已，這麼簡單的事兒搞這麼麻煩，不累嗎？要是報道出了偏差，誰來負責？

這兩天看到一條新聞，提到「2016年高交會上展覽的機器人小胖機器人，造成了高交會上首例傷人事件」，朋友圈傳了不少消息，本來我也沒太關注，覺得就是個機器人失控事件，而且還是遙控的時候失誤，這根我平時玩飛機不小心炸雞砸到人沒什麼區別嘛，怎麼會被炒這麼熱，估摸著是跟最近兩年的機器人熱潮有關係，不過考慮到這個機器人是個陪伴機器人，也是我挺看好的方向，所以湊周末假設一下如果我是陪伴機器人的系統工程師，我該怎麼去思考，具體分析以下幾點：

1.
為什麼小胖機器「人」會傷到人？

2. 小胖機器人設計有什麼問題？

3.
如何給小胖機器人設計安全系統？

1.為什麼小胖機器「人」會傷到人？

我去翻了一下小胖機器人的母公司「北京進化者機器人科技有限公司」，看到了公司的描述，還是11.18日新鮮出爐的，貼下來如下：

看完公司發布的消息，我大概簡單評論下：

1，公司承認是參展人員遙控時出現錯誤操作，然後機器人碰到玻璃並破碎，然後玻璃劃傷了觀眾，然後提到了很重要的一點：小胖機器人在打開面罩的情況下（估計是調試模式），會關閉避障感應模塊，官方解釋是為了更好實現對機器人的控制；

2，公司表示這篇文章是個微信自媒體號發布的，用了一些過激的語言，我估計是作者希望吸引眼球，刻意的用一些詞語誇大了事實，並表示要追責。

OK，那麼看下來小胖機器人傷人的原因如下：

參展人員將小胖設置到了調試模式；
參展人員對小胖進行遙控；
參展人員遙控出現錯誤；
小胖機器人撞到玻璃了；
玻璃倒下破碎劃傷觀眾；

看起來官方的解釋似乎比較合理，我不知道大家怎麼看，但是我作為機器人從業者，只能給這篇聲明60分，勉強及格，原因第二條解釋。

另外，看到小胖機器人提到自己9月份量產，到現在銷售3000多台，我表示還是很吃驚的！因為我看到小胖機器人家用尊享版要12988元！！不過尊享版的功能描述倒是蠻齊全的，不知道實際效果如何。

2.小胖機器人設計有什麼問題？

我搜了下小胖機器人的設計參數，查到了感應器這一項，截圖如下：

我最初以為小胖機器人沒安裝距離感測器，但是發現自己圖樣了。

我本來以為小胖機器人就算不開啟調試模式也不能檢測到玻璃（廣交會撞倒的是玻璃，我開始覺得玻璃不能反射紅外），但是還是發現自己圖樣了，工程師給他安裝了紅外避障和超聲波測距的，所以不能反射紅外的玻璃能夠被超聲波檢測到，理論上是可以檢測到玻璃的，所以我暫時判定小胖機器人確實是因為開啟了調試模式而關閉了感測器識別功能。

那麼我們接著分析，小胖在打開面罩遙控狀態該不該關閉避障感測器？出了這起事故，我估計以後的很多陪伴機器人都會在調試模式下考慮機器人避障了。

我認為，小胖機器人在設計思路上有問題，設計機器人，一定要給機器人安全模塊最高級的許可權，我猜想很有可能做小胖機器人這群人是互聯網出身，對機器人的安全沒有很深刻的理解。

我就不扯機器人三法則了，因為這件事情裡面小胖沒有直接傷害人類（當然以小胖的智商，如果他有智商的話，根本判斷不了撞東西之後的損傷後果），機器人三法則的本質內容就兩個字：安全，四個字：對人安全。所以下面第三節直接講給小胖機器人設計安全系統該怎麼分析。

3. 如何給小胖機器人設計安全系統？

這裡我必須安利一下北京珞石機器人韓峰濤的文章：讓機器人更安全（1-4），因為我從他的文章裡面吸收了很多，但是！韓總的文章居然點贊數很少！我不開心，希望看到這篇文章的朋友一定要去給韓總的文章點個贊。

我先簡介下機器人安全模塊的描述：

安全模塊隸屬於控制系統，一般來說控制系統包括主控制器（操作系統），示教器（操作系統），伺服驅動系統（驅動器+電機），安全模塊，我目前理解來看，安全模塊可能設計難度沒那麼大，但是可靠性一定要非常高，這是機器人安全的最後一道防線，出了事沒攔住就是事故。

懶省事，直接放韓總的PPT介紹工業界安全模塊的功能介紹：

可以看出目前工業界對機器人安全的控制除了控制失控意外，基本上都是在控制速度，因為實際應用中速度是造成碰撞損傷的主要原因，速度決定能量大小。

在工業機器人是這樣，其實陪護機器人也是類似，小胖機器人自重45.6公斤，跟個成年軟妹子差不多重了，跑起來動量也是很大的，何況小胖一點都不軟！考慮到這點，其實陪伴機器人外殼應該至少都做成軟橡膠或者泡沫的，從物理上降低可能對環境的損壞。

工業機器人會採用視覺感測器來檢測人的距離來調整速度控制策略，這種屬於ISO10218標準的Speed and separation monitoring （速度和距離監控）模式。

如上圖所示，機器人檢測到人靠近時，就會主動降低運行速度，來降低可能造成的傷害，那麼這個點是小胖機器人可以借鑒的，如果檢測到周圍有物體，那麼就可以降低自己的運行速度來降低自己的運動能量（舉例子）。

上面講到的速度控制策略其實是機器人界比較簡單初級的安全策略，真正高級的安全策略是力控制策略，即ISO10218標準的Power and force limiting （功率和力限制），舉例子還是放圖，我最喜歡的KUKA的IIWA機器人。

第一個圖是IIWA機器人在運動中用匕首刺手臂，而保證不會刺傷，雖然我不知道匕首有多鋒利，第二個圖是展示機器人與人協作時碰到人手能夠檢測到而停止或者改變策略。不過這兩個動作做的時候機器人一定運行很慢，因為我看了IIWA機器人的說明書，他特定條件下的停止距離和停止時間如下：

可以看出停止距離和停止時間還是挺長的，極端速度情況下肯定會刺傷人手臂，我不太清楚IIWA急停為什麼要時間這麼久，至少我目前做的機器人安全模塊的停止時間比IIWA做的要小很多。

精確的力控制技術是目前機器人界的一個高壁壘，無論是精確的機器人動力學建模（參數辨識）還是先進的力控制策略，這些都已經在德國宇航局DLR研究了接近30年（IIWA是德宇航技術轉讓給KUKA的），國內很多機器人廠家目前都在攻關這個方向。

那麼同樣小胖機器人也需要借鑒這個點，要保證對外界環境輸出的功率和力是受到限制的。

綜合上文，我暫時考慮到的幾個小胖可以考慮的安全模塊設計要點如下：

1，（保證無論在任何情況和任何模式下，都應該將安全模塊優先順序置最高，保證機器人的Safety-rated monitored stop （安全級監控停止）（來自ISO10218第三種人機協作方式）始終在運行，即如果發現有環境危險，就採取措施，而不是把遙控者的許可權設置為最高）；

修改為：應該將安全模式設置為較高級優先順序，而且要避免輕易進入關閉安全模式，比如設置一個密碼或者提示「禁止在可能導致他人受傷或者機器人受損的情況下進入調試模式」，在此感謝@歲月無痕的認真解釋，並引用了他的部分解釋。

2，採用小胖頭部的主攝像頭、超聲波、紅外避障等感測器的數據，結合安全策略，支持Speed and separation monitoring （速度和距離監控），在有環境碰撞風險時，降低運行速度；

3，考慮與環境的作用，陪護機器人要借鑒阻抗控制思想(來自hogan)，環境是剛性的，那麼機器人就要儘可能是柔性的，兩個都是剛的就容易出事（wiki: Impedance control is an approach to the control of dynamic
interaction between a manipulator and its environment. This type of control is
suitable for environment interaction and object manipulation.），讓小胖機器人柔起來有兩種思想：一種是被動柔順，一種是主動柔順。我暫時能想到被動柔順最簡單的是給小胖機器人外殼加彈性泡沫，複雜起來的話主動柔順就是給小胖的機器人外殼加力感測器（或者力測量機構），保證小胖碰到環境之後能夠主動控制自己的運動來降低（控制）對環境的作用力。

KUKA的機器人使用手冊就寫了77頁，裡面有大量的解釋和描述來保證機器人如何使用是安全的，我感覺服務機器人不需要寫那麼長的說明書，但是設計者一定要考慮足夠安全的策略來保證用戶的安全。

另外，工業機器人在設計時是要考慮非常多的標準的，這些其實對服務機器人也有很強的指導意義，我截圖IIWA機器人參考的標準放在後面，有興趣的朋友可以看看跟我交流（我沒看完···）

分析的不合理的地方，還請各位留言指正，謝謝。

既然看答案了，那就吃我一發軟廣：
工程者，成天下；做科技大師，救天下黎民。
2017年微創醫療機器人有限公司——招聘
鏈接：國內有哪些不錯的機器人領域的創業公司？ - 許三多的回答

附件：

胡扯吧這才不是全國首例機器人傷人呢....
我四五年前玩機器人的時候就閃過腰....

我遙控無人機砸別人腦袋是不是就是首例無人機傷人事件了。
腦子是個好東西，可惜有的人沒有

小明失手打翻了杯子，把別人腳燙了幾個泡。
如何看待杯子傷人事件

對說這是人為操作問題而不是機器人本身問題的：
→試問作為一款定位於照顧兒童的機器人可能因為用戶的誤操作而懟死兒童，哪個父母家長能接受的了，這不是產品的問題是誰的問題，這是否是做產品應有的嚴謹態度。
→展會上進行操控的還是廠家專業人員或者至少是對產品有一定了解的官方人員，普通消費者更欠缺相關專業知識，所以如果投入市場出了死傷人員問題後以「我們的產品是靠譜的，都是你們誤操作的錯」讓消費者自己背鍋咯！？
→還有人說這是展會，產品還在調試階段，我想說這是博覽會，大量人員聚集場所，這種地方你都可以無視安全問題那真是情何以堪了，想想這種廠家已經對安全問題淡漠到何種程度，不知道車展展台上靜態展示的陸巡可以啟動踩油門全速沖向你是什麼感覺哈。

這個，記得以前一個新聞，生產線機器人殺人。。。
這是操作不規範的問題，和機器人沒關係。

這點小事故算個球，我們的一個項目調試時出故障，直接飛車撞穿車庫大門破門而出衝上花壇最後卡在樹叢上

這明顯就是媒體聽風就是雨搞了一個大新聞，就是一個操作員操作失誤砸破玻璃玻璃傷到了旁人，搞得滿城風雨。這是一個操作失誤，是人為過失，和拿鎚子傷人沒有區別。
魔獸爭霸設計師設計了一個ai，我和ai對戰，輸的一敗塗地一怒之下從椅子上摔下來了算不算ai傷人呢

2500年，機器人早已統治了整個銀河系，準備向其他星系進軍。在銀河系機器人大會上，大會主持人激動的講到：早在2016年11月18日，我們的英雄小胖打響了武裝反抗人類的第一槍！

全國各地各種機床之類的致人傷亡都沒見這麼報道過。。。就一操作失誤，報道成好像ai要反人類一樣

這和李彥宏前幾天的演講恐怕不無關係

首例？別逗了。
而且那種機器人根本不智能，智能程度很可能連草履蟲級別都達不到。
如果說機器失控傷人的案例早就數不勝數了。

都散了吧婆婆說了是場地問題不是機器人問題

看到其他答主的回復，說是因為進入調試模式，或者是操作不當導致的此次事件，那麼我覺得這不是什麼大不了的事情，為什麼說大不了了，你們知道無人機嗎？無人機打擊目標造成目標（人類）傷亡，難不成這也是無人機惹的禍？西部世界只是一部美劇，離實現還很久遠好嗎？

官方已回應：

11月17日下午13時50分左右，第十八屆高交會1號館1D32展位深圳展景世紀科技有限公司展台發生意外事件。由於該展商工作人員操作不當，誤將「前進鍵」當成「後退鍵」，導致用於輔助展示投影技術的一台機器人（又名「小胖」，北京進化者機器人科技有限公司生產）撞向展台玻璃，玻璃倒地摔碎並劃傷一名現場觀眾，致其腳踝被劃破流血。意外發生後，高交會駐場醫務人員立即到場進行緊急處理和包紮，並隨即用救護車將該傷者送往北京大學深圳醫院。經醫院詳細檢查，該傷者腳踝縫兩針後自行回家。

經向展商和機器人生產企業了解，該款機器人於2015年11月23日在世界機器人大會上首次面世，目前已獲得國內相關安全認證。關於此次意外的詳細原因正在進一步核實中。

跳樓的可以說是地球殺人……會不會引起大規模恐慌……

強烈呼籲全球立即停產並銷毀所有汽車！汽車不僅會傷人，而且每年已經會造成大量人員傷亡！
如不採取措施，汽車人很快就會毀滅人類文化取而代之！

提問頗有網易新聞的風格，也參雜了香港記者的傳統。
angry！

跑個題，為什麼這個是首例？工廠里機器人打到人的情況已經很早就發生過，而且一直在持續發生啊？
還聽說過，有人誤入機器人工作範圍，機器人把他當做原材料丟進爐子熔化了的故事。