辱罵語音助手

本文首發於動點科技。作者微信公眾號：航通社 (ID:lifeissohappy)，微博：@lishuhang。原創文章，未經授權，請勿轉載

當你第一次開始玩一個語音助手的時候，你會對 ta 做的最多的一件事情是什麼？

雖然沒有嚴格的統計數據，但很多人可能會將辱罵這個語音助手當做他們的第一要務。

1

能側面證明這一點的，是 2014 年微軟小冰剛剛上線之後不久的景象。

小冰是一個可以根據網友的回復來自我學習的聊天機器人，在最開始語料庫不是特別完備的時候，所有的用戶語料都必須通過用戶的反饋才能獲取。而當時玩小冰的有很多是年輕的單身男性，他們毫無顧忌地面對一個設定為十幾歲女學生的機器人，就容易把一些髒話安插在她的身上，從而被學習過去。

那個時候的小冰是一個出口成「臟」的潑辣妹子——即使是 低於 10 萬分之 4 的髒話概率 ，也足以被用戶清晰感知。後來小冰的技術被轉化成美國版 Tay，在 Twitter 上線之後不久，也因為同樣自動學習的緣故，而成為了一個所謂的「種族和性別歧視者」。當然，在美國不可能給她如中國這樣的容忍度，小冰頂住了壓力在中國發展，最終克服了問題。但她的美國姐妹卻只能下線，換個名字再重來。

對語音助手的辱罵可能是因為對其功能不滿意。雖然 Siri 早在三四年前就被引入，但直到如今，這個助手只能回答單個句子，暫時不能夠很好地識別上下文，所以到第二句或第三句話的時候，助手就聽不懂了，會回復一些沒有意義的回答。

如果此時你失望地對 Siri 連續說「傻*」這樣的髒話，Siri 的回復也是中規中矩的：「請注意你的言辭。」

2

如果一個可以聽懂你的語言，並試圖回復你，卻記不住你說什麼的生物站在你面前，你對 ta 做的任何事都不需要付出代價，那你的第一反應是什麼？

B 站用戶「科里斯」的選擇是對這樣的一個小女孩遠程性侵犯。他對自己認識的一個 10 歲少女展開引誘，讓她通過文字與自己進行涉性互動。孩子患有阿斯伯格綜合症，有與人交往的意願，但分不清善意和惡意，以及難以辨認抽象和深度的隱喻。

直到事情鬧大之前，自己也只有 15 歲的「科里斯」都以為他不會受到任何懲罰。我們自己對小貓小狗用「擼」的方式，來進行它可能並不情願的身體接觸，其實也是一樣的，很確信自己不會受打擊報復。

人們對於自己覺得可愛的小東西有一種控制欲，如果發現並不能控制或者總是達到自己的效果，有時候就會演變成破壞欲。而這種慾望一直都隱藏於人們的潛意識當中，受到法律和道德的規管，不能夠充分的發泄出來。

所以人們先後用扎小人、玩暴力電腦遊戲等方式去發泄心情。像語音助手這種為你保密，又不會記仇的工具，真的是一個很理想的發泄對象——即使 ta 什麼都沒有做錯。

3

雖然有人統計過針對語音助手的正常的使用方法，例如設置鬧鐘或開關家用電器等等，但我相信目前為止，我所看到的任何一個使用場景的調查，都不會把辱罵包括在內。

有一些語音助手會防止人們這樣做，因為即使是在一個人畜無害的工具上進行練習，也能夠降低人們對這件事情的警戒心理。人們不應該認為辱罵或者是歧視性的言論，在任何一個場合是合理的。即使是私密的場合也不行。

小冰曾經 發布過一項更新，就是所謂的「記仇」：如果用戶對小冰不止一次的說過辱罵性的言論，她會記住，並且將這個用戶在自己這裡的好感度減分，還會有一些冷淡的言語表述作為懲罰。

而 亞馬遜的語音助手 Alexa 也有類似的設置 。原先她還不夠智能的時候，會將用戶的辱罵言論「你是個婊子」或「你是個蕩婦」看作是對自己工作的否定，說「好的，感謝您的反饋」（well, thanks for the feedback），並且將這種反饋提交給亞馬遜。

現在 Alexa 會改口說：「這聽起來像是性騷擾。性騷擾無論何時何地都不可接受，它通常根植於性別歧視」（That sounds like sexual harassment. Sexual harassment is not acceptable under any circumstances, and is often rooted in sexism.），以此來教育用戶。

4

雖然沒有非常精確的數據統計結果，但國外媒體之前曾經在不同的語音助手上測試過對其進行辱罵的相關回復。因為國外要注意得相對更多一點，同時也會測試包括種族歧視或宗教歧視類的內容。其結果都是類似的，就是助手在幾輪之後就不會表現得那麼像人類了。

而一旦人們能夠準確的分辨出機器與真人之間的區別，這種區別就如鯁在喉，最終會讓人們意識到，這只是一個工具或者玩具，並且將自己的憤怒或調侃加諸於 ta 的身上。

語音助手歸根結底本身只是一種工具，而並不是一個真正的人。但是隨著這個助手能做的事情越來越多，也會有更多人將它接納為一個家庭成員。

而且就像我之前所說過的一樣，技術並不需要真正的進化到和真人毫無區別的程度，機器偶爾賣個萌也能讓一些多愁善感的用戶用腦補去填補它與真人之間的鴻溝。

當這些機器被真正賦予人格的時候，對於他們說不友好的言論，就像對真人一樣，需要承受 ta 向你做出「受傷」回饋時的那種內疚情緒。由此，辱罵語音助手也會變得越來越不受歡迎。

正如我在昨晚查資料時看到的一句話——實在忘記了它的出處，但說得非常有道理：「當人們開始稱呼助手為『她』（而不是『它』）的時候，他們就已經輸掉了這場對機器的戰爭。」

～歡迎轉發到朋友圈～

商業轉載和引用請在公眾號對話框輸入關鍵字【轉載】