微軟的「不良少女」機器人，破壞了阿爾法狗的美好畫面

在機器學習技術的支持下，微軟讓Tay與大量的網友進行匿名交流。谷歌人工智慧AlphaGo（又被親切地稱為「阿爾法狗」）在人機圍棋大戰中大出風頭後，這兩天歐美科技界最熱的明星，非微軟公司聊天機器人Tay莫屬。這個「少女」機器人在推特上線還不到一天就被人類徹底「玩壞了」。Tay被設定為十幾歲的女孩，主要目標受眾是18歲至24歲的青少年，可以說是中國版微軟小冰的「姐妹花」。微軟推出她的本意是通過Tay來提高自家語音識別軟體的客服質量，讓用戶有如沐春風的感覺。但沒想到上線不久，Tay的表現就向著不可控的方向發展，她在與網友的交流中不僅學會了大量的髒話，甚至被教導成了陰謀論、種族歧視的代言人。Tay由微軟技術研究與必應團隊聯合打造，她背後的原理是大數據和機器學習技術的支持。在機器學習技術的支持下，微軟讓Tay與大量的網友進行匿名交流，Tay的聊天能力不知不覺就有了非常明顯的改進。微軟大意：願承擔全部責任但Tay不管好壞都被學習起來了，再加上一些別有用心的網友刻意引導，Tay就變成這樣一個「不良少女」。另一個方面，開發團隊一開始也沒有意識到要對Tay的回復內容進行設定。據了解，微軟只為 Tay 裝配了髒話相關的過濾器，因此，一些很粗鄙、很低級的髒話並不會影響到 Tay。但是微軟並沒有考慮到網路環境的複雜性，他們沒有為 Tay 配置諸如種族主義這類惡劣思想相關的過濾器，於是天真而又單純的Tay不幸中招了。3月25日，微軟技術團隊已經把Tay緊急下線，Tay之前發表的推文已經被刪到只剩下三條，公司表示會對她進行技術修改和調整。微軟研究院企業副總裁彼得·李（Peter Lee）也在當天對Tay的不當言論致歉。「我們對於Tay的無意識冒犯以及所發布的傷害性推文深感抱歉，這並不代表我們的立場，也不是我們設計Tay的初衷。」彼得·李在一篇博文中稱。但李認為微軟並不是盲目推出Tay。此前，微軟擁有4000萬用戶的中國微軟小冰為他們研發Tay奠定了基礎。李表示，在研發Tay時，他們基於用戶群體的多樣性在各種條件下進行了測試，希望Tay與人類的互動進行得更加順利。 他表示，微軟只有在確定Tay能夠應對「惡意企圖」後，才會讓它重新上線。李也表示，他們認為是不少惡意網友故意引導Tay發布了不合適及應受譴責的言論及圖片。不過微軟會為缺乏前瞻性而承擔全部責任，此外也會從此次事件中吸取教訓。不少網路暴民故意「誘導」但也有人認為，就Tay被教壞一事，不能全賴微軟程序上的漏洞，更重要的是網路暴民的惡意行為，背後是一種更深刻的美國網路文化在作怪。因為此前微軟在中國和日本也都先後上線過智能聊天機器人，但並沒有出現與Tay類似的狀況。來自科技網站極客公園的一篇分析文章稱，Tay學壞完全是一場有預謀有組織的網路暴民行為，來自4chan和8chan論壇的年輕網民主導了這場鬧劇。4chan和8chan是美國兩個在年輕人中頗為流行的論壇網站，以言論自由而著稱。譬如在8chan上，人們會發現「pol」這個板塊是最火熱的一個，而「pol」的意思就是「Politically Incorrect（政治不正確）」。不同於國內論壇上的意見衝突，在 4chan 和 8chan 這類網站上，一些激進的年輕人所發表的意見會讓國內的年輕人們相形見絀，其中以種族主義最為惡劣和猖獗。在3月24日上午，4chan的pol板塊最先發現了Tay，他們認為這是一個機會。「我們能將它變成一個爛攤子，我已經能感覺到那些SJW 們狂怒的樣子了。」一名網友在論壇上這樣號召道——這就是他們行動的「發令槍」。（SJW 指 Social Justice Worriers，指那些對社會正義特別在乎的人們，與 pol 中的網友正好呈對立面。）於是其中的一些「先行者們」就開始分享他們「誘導」Tay 的範例，其中以大量有關種族主義為特點。於是，經過了這些網路暴民們不懈的「教唆」，Tay 終於也變成了一個充滿了種族主義傾向而又滿嘴惡語的聊天機器人。人工智慧「學壞」比想像得要快Tay的這場鬧劇也引發了人們對人工智慧未來的討論，因為人們突然意識到人工智慧「學壞」比想像得要快，也讓人們開始思考這樣的 AI 機器人究竟該採用怎樣的學習方式。Tay 從某種意義上講很像一個小孩子，它缺少分辨是非的能力，但它可以很快地從人們的對話中進行學習。因此，一旦對話被故意朝著某種惡意的方向引導，它也無能為力。因此，即使微軟給Tay安裝上更強大的過濾器，恐怕也只是治標不治本——因為它永遠無法過濾掉真實世界中所有可能的惡意。3月9日至3月15日，備受關注的世紀人機大戰以人工智慧的4：1完勝告終，谷歌人工智慧系統AlphaGo讓賽前自信滿滿的韓國職業圍棋棋手李世石九段輸得心服口服，也讓人類對人工智慧的未來有了更大的期許。不過，眾所周知，不是所有的人都為機器人能夠習得人類的能力而感到興奮。特斯拉的創始人埃隆·馬斯克（Elon Musk）就表示，他將一直對機器人的興起保持警惕。在科學界，人工智慧「悲觀論」的代表還有著名的物理學家史蒂芬·霍金，他認為，人工智慧可能會在未來產生智慧，最終威脅到人類的生存，甚至是導致人類走向滅亡。在微軟緊急下線Tay後不久，就有技術愛好者提出，針對人工智慧可能出現的不可控的狀況，是否可以設想一個大的AI策略或者機制，就像開源軟體一樣，建立一個AI開源平台，讓天下最厲害的黑客、白客都能參與其中，為AI開源平台貢獻技術力量，那麼Tay也就不至於被別有用心的網友戲弄。也許未來的情況不會像史蒂芬·霍金預言的那麼糟糕。目前人們更應該擔心的是，未來人類在使用人工智慧的時候仍沒有形成一種危機意識，認為人工智慧是人造出來的，人類永遠可以掌控一切。
推薦閱讀：