來自《江湖網事》話句社的第2封信 ——戴上鐐銬舞蹈的人工智慧？

（本文由邴弘TimBing撰寫，聶風編輯）

作者介紹：邴弘TimBing——前去哪兒2號員工，北大計算機科班，技術、產品、商業等跨界融合者，現新教育創業中；

——前言——

Tim大神一向比較低調，曾經是北大高才生的他，其實嚴謹的外表之下有顆雙子座悶騷有趣的心。前兩天和Tim談到了關於人工智慧與機器人的話題，TIM的思考很有意思，拿出來分享一下：

——正文——

我們身處的環境越來越便捷和友好。2歲的孩童能熟練使用的iPad，在20年前的科幻電影中還不一定出現；使用語音就能控制的燈光和電器，方便了行動不便的人群和不擅長學習各種說明書的老人。人工智慧一詞不斷的出現在各種科技媒體中，甚至在圍棋界被谷歌的AlphaGo殺得落花流水後，2017年被稱為了人工智慧元年。

那什麼是人工智慧？在我的理解中，人工智慧可以分為兩個方面：機器設備的智能化和人的超能化。從古老的祖先開始使用工具，到工業革命後出現的「機器時代」，再到電腦為代表的信息技術革命。人類在創造機器工具改變我們的世界上，走得越來越遠。

那什麼是人工智慧？在我的理解中，人工智慧可以分為兩個方面：機器設備的智能化和人的超能化。從古老的祖先開始使用工具，到工業革命後出現的「機器時代」，再到電腦為代表的信息技術革命。人類在創造機器工具改變我們的世界上，走得越來越遠。則是圍繞和人交互，模擬人的思考和行為來設計的產品。最典型的有前面提到的谷歌AlphaGo，科大訊飛的翻譯機等。這些產品通過新技術讓機器能聽懂人的語言，能像人一樣思考，甚至在某些方面實現對人的超越。但無論上述哪一類，都是人造出的機器，或者人造出的機器製造的機器。

技術的發展是日新月異的，而技術本身是無法定義對錯的。就如核能可以用於恐怖的原子彈，也可用於發展更清潔的核電能源。當我們處置不力時，核能還可能會發生福島那樣的事故。那麼對於人工智慧，也何嘗不是處於這樣的境地呢？今年3月，一輛以自動輔助駕駛模式（Autopilot）運行的特斯拉汽車發生事故，造成駕駛員死亡。事故的具體原因分析，還需要等待最終結果。

我們不妨看看再之前發生的一些事情。特斯拉官方在2016年特斯拉汽車發生另一起致命事故時，曾給出一份聲明。聲明中稱「這是Autopilot系統行駛超過2億公里過程中遇到的第一起致命事故，遠低於美國機動車平均每行駛1.5億公里發生一起致命車禍的發生率」。同年，特斯拉中國也將之前宣傳時的「自動駕駛」改稱為「自動輔助駕駛」。字面上僅僅增加了「輔助」兩個字，系統中還增加了一系列對於駕駛員手握方向盤等安全駕駛要求。

從「無人駕駛」這項新技術的發展角度，這是明顯的開倒車。但從尊重生命，尊重技術發展規律上，特斯拉算修正了在技術上的冒進。

在1950年，美國科幻小說家阿西莫夫提出了「機器人三定律」。可以算機器人哲學上的思考。這對我們在人工智慧上有沒有借鑒意義呢？

曾看到特斯拉在某些車禍時辯解說當時汽車並不處於自動輔助駕駛狀態，但如果特斯拉的系統中有這樣底層設定，我們是否能更進一步減少交通事故？（第一定律：機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管。）

春節期間曾在電視被曝光的「WIFI萬能鑰匙泄露私有網路密碼」的事件，也許對於這款軟體來說還稱不上人工智慧。但如果它的系統設計中是以傷害使用的網路所有者權益為代價，換取另一些非法用戶喜愛。如果這是一套機器人，那麼我希望它是能拒絕執行的。同樣的例子還有很多，司機誤操作造成的交通事故；自動化流水線上意外引發的人傷等等。有些可能是由於系統智能不足，有些可能是因為人員操作不當。但在人工智慧發展中，哪些底線是需要我們守住的呢？（第二定律：機器人必須服從人給予它的命令，當該命令與第一定律衝突時例外）

機器人三定律是大約70年前從科幻角度提出的思考。隨著社會發展，它不斷被補充和修改。我們在發展人工智慧領域時，是否有同樣的思考呢？是否有底層的安全策略被設計和執行呢？近1個月在美國的IT業，另一枚重磅炸彈可以算Facebook上有5000萬用戶數據泄露，並且在2016年美國總統大選中被用於推送廣告而影響大選結果。當政府部門還在組織聽證時，影響卻已發生超過1年。我們可以相信扎克伯格並非幕後黑手，但縱觀扎克伯格在美國參眾兩院的聽證會，無論從立法還是執政角度，政客們連人工智慧的門在哪都不清楚。

技術沒有對錯。但像人工智慧這樣，預計被廣泛應用的技術，如被惡人所用，影響可能更深遠。那麼在技術發展的同時，我們為它帶上手銬（在法律、道德、監督、控制四個方面的規範和把控），是否會幫助我們走得更長久呢？也許做的不只這些……

讓我們先為技術帶上手銬，再在人工智慧的風口持續起舞。

——邴弘TimBing

歡迎有趣的你也一起參與我們的話題積極投稿，我們的觀點，無論對錯，只問初心。

——《江湖網事》話句社