Alexa、Siri能接收人類察覺不到的秘密指令，往你的購物車放東西

來自專欄 DeepTech深科技

近日，加利福尼亞大學伯克利分校和喬治城大學的學生合作進行了一項研究，成功用某種秘密指令操縱了智能語音助手。這不禁讓人心生警惕。

該團隊將一種人類聽不到的秘密指令嵌入到一段普通的音頻文件中，例如說唱片或白噪音。在人們聽音樂或聽語音信息時，他們聽不出其中有什麼特別，但是Siri或Alexa等智能語音助手可能會聽到秘密指令，往購物車裡加東西。該團隊研究還表示，這個秘密指令也可以啟動其他應用，比如把設備調到飛行模式，或者打開某個網頁。

加州大學伯克利分校的博士生Nicholas Carlini以及該研究論文的另一名聯合發布作者說到：「我們想說的是，存在這種可能性，也希望其他人認為，『這確實可能發生，我們來解決這個問題吧！』」

這個問題可能造成的後果是，由於指令混亂，智能家居設備亂開門亂開燈，搞得一片狼藉，甚至會給消費者帶來危險。但要記住，AI 加持的 Siri 和 Alexa 並不是遭到「黑客入侵」，只是被騙了而已。

網路安全專家把誘導 AI 錯誤判斷的潛在危險稱作「對抗樣本」，類似的還有用化妝、戴眼鏡的方式騙過人臉識別軟體。

推薦閱讀：