Facebook 能主動監測出自殺傾向的用戶，並及時提供援助

簡評：facebook 採取了主動防禦的手段來預防用戶的極端行為，現在可以判斷自殺傾向並聯繫親友和當地的救助機構。未來也會預防暴力和仇恨的情緒。犧牲了一部分個人隱私，收穫了拯救，利弊不好說，園長個人覺得，還是可以接受的，畢竟救人一命勝造七級浮屠。

相關事件：10 月 24 日，一位 54 歲的土耳其的男子 Ayhan Uzun 在 Facebook live 上舉槍自殺。原因是他的女兒訂婚了但是卻沒人通知他，男方的父親同意了，婚事就成了，他覺得被冷落了，根本沒人在意他。然後他不顧親友來電的勸阻，舉槍自盡，子彈穿過太陽穴，這名男子當場死亡。此事引發一片嘩然。（來源：father kills himself on facebook live）

相關直播視頻：（無暴力內容，開槍已刪減）

https://www.zhihu.com/video/918844032682188800

全世界每 40 秒就有一次自殺行為，在 15 -29 歲之間，自殺是第二大死因（世界衛生組織數據）。

現在 Facebook 搖身一變，成為了能夠拯救用戶生命的軟體。

Facebook 的最新人工智慧技術「主動監測」能夠探查到平台上有自殺傾向的帖子，並在必要時第一時間將情況反映給自殺傾向者的朋友，或者聯繫當地的救助機構。通過 AI 來標記潛在自殺用戶，而不是等待用戶主動求助，Facebook 的主動救援能夠挽救很多人。

Facebook 之前在美國就採用了 AI 技術主動監測自殺傾向的帖子，而現在，這項技術推廣到了除了歐盟，其他所有能用 Facebook 的地區（歐盟因為通用數據保護條例，用戶數據分析在政策上更敏感）。

Facebook 的 AI 會優先處理緊急或者危險狀態下的用戶，第一時間通知到當地的救助機構，以便自殺者最快獲得救援。Facebook 已經和 80 個救助機構達成合作，其中包括 http://Save.org，國家預防自殺生命線和 Forefront 等機構。

Facebook 產品管理副總裁蓋伊·羅森（Guy Rosen）表示：「這項技術能有效的提高救助效率，特別是在 Facebook 直播中更有效。在過去一個月的測試中，Facebook 已經發起了超過 100 次的「健康檢查」（wellness checks），幫助自殺者的朋友或者救助機構找到自殺者。很多時候，自殺還在進行中，朋友或者救助機構就已經到了」。

這個 idea 可能會引起一些反烏托邦人士的反對，不過 Facebook 沒有正面回答如何避免政治異議或者輕微的自殺傾向（不足以構成自殺行為），蓋伊·羅森只表示「只要一絲的機會去挽救生命，我們都會在這方面進行投資」。

這項技術肯定有很好的願景，但可能會侵佔一些私人空間，對此我們別無選擇，只是希望 Facebook 別做的太過分了。

Facebook 的首席安全管理亞力克斯·斯塔莫斯（Alex Stamos）發了一條 twitter，表示 Facebook 正在認真地使用人工智慧技術。

Facebook CEO 扎克伯格在今天一篇文章中稱讚了這項技術，他寫道「在未來，人工智慧將理解更多的語言細節，除了識別自殺，也能識別出更多的欺凌和仇恨情緒」。

美中不足的是，這個功能用戶無法關閉，強制性使用。

Facebook AI 的機器學習訓練資料來自過去人工報告自殺傾向的帖子和圖片。

羅森說：「我們已經和心理健康專家進行了交流，而預防自殺的最好方法之一是讓自殺者聽到朋友們的關心，專家的幫助。這使 Facebook 處於一個非常獨特的位置。我們可以幫助陷入麻煩的的人聯繫到朋友和能夠幫助他們的組織。」

Facebook 的防自殺 AI 是如何工作的？

在上個月，就有人在 Facebook Live 上直播自殺（文首相關事件）。直播的影響力更大，而且是實時的，比文字圖片更難預防，這也是主動防自殺 AI 出現的契機。

現在，一旦有人在 Facebook 表達了自殺的想法，Facebook AI 能主動發現並將其分發到專業的工作人員手上，人工判斷是否真的會產生自殺行為，並採取下一步行動。

工作人員可以直接看到自殺情緒相關的視頻片段或者文欄位落，而不用通篇閱讀。人工智慧會優先處理嚴重的情況，比如暴力或者裸露。Facebook 表示，採用了新技術比以前純人工篩查效率提高了兩倍。

早在今年二月份，Facebook CEO 扎克伯格文章中寫到：「在直播的時候發生了一些非常悲慘的事情，比如自殺，如果有人意識到即將發生的悲劇，並且提前報告，也許可以預防這些事情的發生，人工智慧或許能夠提供這方面的幫助」。

Facebook 有超過 20 億的用戶，而在這件事上，Facebook 挺身而出，主動出擊預防悲劇，這是好事。創建一個無處不在的全球公共通信的責任很大，而 Facebook 正在漸漸學習如何駕馭，擔起重任。

原文：Facebook rolls out AI to detect suicidal posts before they』re reported

日報延伸閱讀：低薪高壓的 Facebook 刪帖員

極光日報，極光開發者旗下媒體。

每天導讀三篇英文技術文章。