專門為4-12歲的孩子研發的教育功能」砸傷了路人小胖機器人造成了高交會上首例傷人事件是工程師責任嗎？

01-23

眾目睽睽下，2016年高交會上展覽的機器人小胖機器人，造成了高交會上首例傷人事件！
現場，玻璃四濺，吵吵鬧鬧，參觀者紛紛叫嚷「機器人鬧事啦」！！
原來是一台小胖機器人在無人操控時，發生了自主行動「打砸搶」：它自行運動打破了參展現場的玻璃，並砸傷了路人，且砸到全身多處劃傷。現在，受傷者已被擔架抬走。
玻璃四濺的現場
傷者被擔架抬走

據悉，這款砸傷人的機器人是小胖機器人，由北京進化者機器人科技有限公司研發的第一代機器人小胖，定位為陪伴機器人。
作為進化者機器人公司的主打產品，官方宣傳小胖機器人「集自主導航、雙目視覺、自然語義理解等多項世界級機器人前沿核心技術於一體，」官方也表示，目前「在世界非人形機器人領域，小胖機器人處於先進地位」。
目前，小胖機器人為什麼會發生這種故障，是技術不達標還是公司的炒作，還不可知。但是在展示高超技術的高交會上，出現這種「砸傷事件」，「炒作」成本太高了點。
不得不說，作為一台「專門為4-12歲的孩子研發的教育功能」的機器人，小胖的體型太大，「殺傷力爆棚」，請它來陪小孩，實在很讓人擔心。
讓我們先回顧下阿西莫夫是如何解決這一困境的。在小說《我，機械人》（I，Robots）中，他提出了機器人三法則：
機器人不得傷害人類，或因不作為使人類受到傷害；
除非違背第一法則，機器人必須服從人類的命令；
在不違背第一及第二法則下，機器人必須保護自己。
我們發展機器人，是為了讓其更加智能、更好地為我們服務，可是，它們是否會甘於遵循人類既定的三大法則？更讓人不安的地方在於，你永遠不知道這個時候究竟時候到來。

首先，說一下為什麼會出這個問題。先看一張微信群中分享的圖片：

讓我們來還原一下案發現場：

這天，天朗氣清，惠風和暢，被害人A來到深圳高交會參觀展覽。正看見前面人山人海，似乎很熱鬧。A趕忙湊了上去，透過人群，只見一個垃圾桶似的東西在人群中亂走。

「我們這個機器人小P可厲害了，可以自主導航，對話，專門用於4-12歲兒童研發。」一位西裝革履的人在一旁介紹到。

「厲害了，word機器人」，A的胃口一下被吊了起來，前幾天剛看的《西部世界》還意猶未盡，沒想到我們都已經生產出這麼智能的機器人了。

「讓一讓，讓一讓」，A推開身邊的人群，跑到了人群中間。這時候小P機器人正背對著A，跟主持人做著交互。

隨著表演的進行，小P機器人慢慢移動到了A的面前。A滿心歡喜、近距離觀察著這個好玩的傢伙。忽然，小P背對著A，忽然朝A走了過去。A沒站穩，一個踉蹌就往後倒，趕忙伸出左手想扶著旁邊的展台。未曾想，展台是玻璃做的，支撐不了A的體重，展台的玻璃隨著A一起跌落在地。

====

所以呢，這次事件就是小P機器人忽然朝著站在背後的A移動，造成A沒站穩而跌倒，而A在跌倒的同時碰倒了旁邊的展台。應該不存在「打破了參展現場的玻璃，並砸傷了路人」的設定。

那麼，我們來看為什麼小P會不顧後面的旁觀者吧。（以下是我的猜測）

我們在給機器人做Navigation的時候，需要給機器人增加感測器，讓它能感受到周圍環境中的人或物。當機器人知道周圍存在障礙物後，就能通過導航演算法避開障礙物。

但是，小P機器人應該只在前面安裝了一個二維激光感測器，在它眼中環境大概是下面這樣：

這個圖是我前兩天做實驗用圖。整個背景是室內地圖，右方藍色的點是激光感測器的數值。

我們這個移動機器人只在前面安裝了一個角度範圍大約200°的激光感測器，所以圖中扇形以外的環境它是感知不到的。

在這類機器人眼中，後面的障礙物是看不到的。自然沒辦法避開障礙物。

那麼，要怎麼解決這個問題呢？

①最簡單的就是在後面加一個感測器。當然，激光感測器可能比較貴，為了控制成本可以現在後面放一些超聲感測器，只用於避障。

②其實，我感覺他們這個機器人的Navigation演算法也有問題，這種問題在演算法上容易解決的。對於這種只有一側激光數據的機器人Navigation問題，我們一般是需要限制local planner不規划出後退的軌跡，盡量先通過旋轉來轉向，之後確保無障礙後在移動。

大概如下圖效果（只是臨時改的參數，效果將就著看），先旋轉再前進，而不是直接後退。

由於這兩種解決方案都是工程師應該想到的，所以這次事故應該是工程師的責任。其次，現在國內好像也缺少服務機器人的安全標準，這也是一個問題。

最後，關於「機器人三定律」：

①沒有科學家認同這三定律；

②阿西莫夫的幾部機器人小說都是在挖這三定律的漏洞；

③我們做機器人的並不會給機器人輸入這三定律，因為機器人還沒辦法分辨什麼是人。

最最後，我們在調試機器人的時候，這種情況見得多了，但我依舊跟這些機器人談笑風生。

不用多說了吧。。。

官方已回應：

11月17日下午13時50分左右，第十八屆高交會1號館1D32展位深圳展景世紀科技有限公司展台發生意外事件。由於該展商工作人員操作不當，誤將「前進鍵」當成「後退鍵」，導致用於輔助展示投影技術的一台機器人（又名「小胖」，北京進化者機器人科技有限公司生產）撞向展台玻璃，玻璃倒地摔碎並劃傷一名現場觀眾，致其腳踝被劃破流血。意外發生後，高交會駐場醫務人員立即到場進行緊急處理和包紮，並隨即用救護車將該傷者送往北京大學深圳醫院。經醫院詳細檢查，該傷者腳踝縫兩針後自行回家。

經向展商和機器人生產企業了解，該款機器人於2015年11月23日在世界機器人大會上首次面世，目前已獲得國內相關安全認證。關於此次意外的詳細原因正在進一步核實中。