給AI定下鐵律管用嗎？

01-31

我們已連續4期在聊人工智慧的事兒，有人問了，人工智慧跟機器人到底啥關係？簡單粗暴點說，機器人是個大概念，裡面包括人工智慧，兩者結合起來就叫智能機器人。機器人是硬體，算是身體，人工智慧是軟體是演算法，算是思維。

人工智慧是從英文Artificial Intelligence直接翻過來的，簡稱AI，還有人挖出另一種含義：Alien Intelligence，就是異類智能，跟人類智能大不相同的智慧體，看上去是不是有些瘮人？！

有些AI專家甚至聲稱：我們要製造生物演化無法得到的新型智能。我們的職責就是製造能夠用不同方式思考的新物種，這就要創造異類智能。

這幫子技術狂人還叫囂：我們人類無法確定未來200年內，是否會接觸到外星文明，但幾乎可以100%確定的是，我們會製造出異類智能。

越聽越像是在造地球的異類，是吧。難怪科幻大師阿西莫夫、科學大家霍金、矽谷大神馬斯克，都一再警告AI進化千萬別誤入歧途，創造聰明絕頂的智能機器人是天大的錯誤！

為避免智能機器人未來可能的反水，不管是變成《2001太空漫遊》里哈爾9000的危險個體，還是《駭客帝國》里控制現實世界的矩陣母體，都將是人類世界的噩夢，所以呢——必須從眼下就開始著手給機器人約法三章——給它們制定機器人鐵律。可喜的是，從阿西莫夫，到谷歌、微軟、OpenAI，已經在思考在行動啦。

看過後大傢伙兒啥感覺？是趕腳心裡踏實了，還是一頭霧水？

說實話，我還是不太放心。

不管是機器人三定律，還是谷歌微軟的幾項原則，都無法在機器人倫理學那裡成為指導方案，在編寫人工智慧軟體的程序猿那裡成為操作手冊。從籠統的原則術語變成精巧的編程語言，這中間的跨度，大得驚人。

要知道讓智能機器人準確識別啥是【人類】、啥是【機器人】，誰是【善意】誰是【惡意】，都還沒有一個準確的定義。而且誰敢打保票，智能機器人有一天不會自我進化，把人定的鐵律篡改刪掉？

畢竟這些給機器人設定的鐵律，都是人類凌駕於它們之上的。一方面，我們人類越想創造跟自己一樣的智能異類，就越可能讓這種異類形成意識覺醒。另一方面，智能機器人越智能越進化，總有一天會像人類一樣意識到，這些鐵律的歧視性！這種悖論式發展絕不是天方夜譚，而是技術魔盒已被打開。因為我對人性本身沒信心。

還有，目前對AI的監控基本靠內部，這種道德和行業自律，跟外部監管比較起來，力度可想而知。就跟一個不受權力制衡導致權力濫用的政權差不多，是吧。