如何看待YouTube上的Elsagate事件,兒童不宜內容被通過自動推薦演算法歸類於兒童內容播放?

Elsagate:某組織將兇殺、綁架、懷孕、注射、互相毆打、血腥、暴力等不宜兒童觀看內容以elsa、蜘蛛俠、米老鼠等卡通形象,以動畫或真人演出形式上傳YouTube,配合海量關鍵詞,演算法會自動將這些內容歸類於兒童頻道,並通過側欄推薦和自動播放等形式被兒童觀看,單個最高點擊超過兩千萬。

一群變態鎖定觀看YouTube的孩童,我以前為他們工作。

目前YouTube已經開始將這些內容歸於成人類別。

但更嚴重的是,我注意到,國內視頻網站上也開始出現這些內容,歸類於搞笑、兒童等內容下。優酷、愛奇藝、騰訊視頻中,關鍵詞:艾莎公主,前五個搜索結果內必然會出現此類內容。

如優酷,搜艾莎公主,第一個就是此類內容,前十五個推薦選項中有6個是此類內容:

相關up主有些事專職做這些的,部分是YouTube自動搬運工

愛奇藝也是如此:

這個問題目前在中文網路上暫時幾乎沒有討論,我也是看到一篇微博帖子注意到這個問題的。

討論來源

一群變態鎖定觀看YouTube的孩童,我以前為他們工作。

相關資料:

wiki:Elsagate - Wikipedia

Reddit:ElsaGate ? r/ElsaGate


自問自答一下:

這些內容將流血、打針、搶奪、毆打、懷孕等內容,配上輕快的音樂,低幼的畫風,表現出來。兒童極易被洗腦。

但這些內容並不違法,沒有真正血腥暴力鏡頭,如果隨機抽取幀分析,也很容易歸類於兒童內容——低幼畫質、鮮艷色彩。這些內容我作為一個成年人,看到都會覺得,非常不適。

最終YouTube對這件事情的處理結果是通過用戶人肉加上Elsagate的tag,視頻將被歸類於成人內容,需要點擊確認才能播放。相當於是舉報機制。

僅用廣告分成,無法解釋這些視頻為什麼要加入如此多的流血、打針、搶奪、毆打、懷孕內容。

但對於這件事情個人震驚的不是YouTube,而是國內網站。

總所周知,國內視頻網站上有無數YouTube搬運工,很多是直接搬運kid板塊,過來作為早教/母嬰/兒童/親子等內容打上tag,標題內容也大多直接是YouTube的標題的機器翻譯,這些內容點擊量,不低。

更嚴重的是:這些內容不僅是YouTube的搬運工,現在已經有了對應的中國版,和YouTube上的內容不同,能看得出來是中國小孩在演出。

演出場景變成了中國農村,之前YouTube視頻上的主演,變了。更明顯的特徵是,很多內容,有了中文解說。

另一方面,由於這些標題和內容的關係,通過標題的關鍵詞,這些內容同樣在國內的視頻網站上的搜索內容中排名非常靠前。無論你搜的是艾莎公主、蜘蛛俠、米老鼠、小黃人、綠巨人等,都能搜到這些內容。

而如果你看完正常的相關動畫內容,右側推薦欄也極可能出現此類視頻內容

非常非常嚴重!

不寒而慄。

我堂妹非常喜歡米妮,好在她已經過了看米妮的年齡了,不敢想像如果她看到此類內容,會變成什麼樣。

此類視頻最明顯的特徵是,視頻內有明顯的」洗腦五色「:紅藍綠黃粉。通常通過綵球、MM豆、橡皮泥、人物顏色的形式出現。

兒童對此並無分辨能力

優酷上,除了無腦搬運工,有非常多的只上傳此類視頻的賬號。

通常以親子、迪士尼、小遊戲、動漫、搞笑蜘蛛俠等形式出現。

非常非常容易誤導。希望各位能關注

補充一點,這些動畫和Happy Tree Friends以及南方公園不同的是,這些動畫通過標題中海量的關鍵字、視頻標籤等形式歸類於兒童、親子等話題下,非常容易被小朋友看到。

本回答所有內容無需授權,隨便轉載。

感謝 @共青團中央 的出手:當心!這些視頻流入中國,正毒害你的孩子!

感謝 @騰訊視頻 @愛奇藝VIP會員 的及時出手。

感謝所有參與這件事情,參與這個話題的你們,我們一起,推動社會進步了那麼一點點。

這幾天我一直在努力維持這個話題在知乎上的熱度,儘管還是比不上娛樂話題,但目前來看,已經屬於知乎中等熱度話題了。也遭到了一些無妄的質疑,我累了,希望你們能加油繼續推進這件事情。

愛你們!

Now I can die in peace.


這件事最可怕的在於

1.國內外都在有組織有產業的發布這種內容。

2. 包裝成兒童教育利用演算法,極其隱蔽,永遠不可能根除。

3. 聯想的之前俄羅斯在 Facebook發布煽動視頻和活動,類似這樣利用演算法精準洗腦的內容已經不知道成了多大的規模。

4. 現在僅僅是2018年,機器學習還不成氣候剛剛起步,很難想像等這樣的孩子們長大,這種聚合內容平台會變成什麼樣。

5. 毫不誇張的說,這種組織和規模的利用技術洗腦,讓人聞到了一絲世界末日的味道。

6. 目前看不到明顯的商業模式,也就是說這麼大規模大成本的有組織洗腦不是為了錢。那到底是為了什麼。


對於這類可謂「恐怖」的視頻,我想說下自己發現的幾個特別可怕之處。

一、世界性

我只想說,這個問題簡直就是在房間里看到的那隻蟑螂,表面的這些視頻背後,可能都已經有全球性的利益鏈條了。

真的很想知道這些視頻背後到底是怎麼推動的,為什麼會有全球性的這種污染小孩、變態、虐待、洗腦的視頻。

(個人猜測是不是有一些心理變態的金主,故意僱人拍這樣的視頻,以無知的小孩並洗腦看到為榮,從而滿足自己內心的獸慾。)

因為在微博看到了,就順手去Youtube搜了一下,不搜不知道一搜嚇一跳。

先是搜Elsagate,出來的都是Youtube上各位伸張正義的博主,大都在介紹並譴責這類視頻。甚至大多都發布幾個月了。

比如這位小哥,他深刻剖析了這類視頻,是如何的變態、詭譎、毫無意義,對小孩子幼小的心靈能帶來多大的創傷,然後順便譴責了Youtube的碌碌無為、熟視無睹。而評論也已經上萬,基本都是在罵Youtube和表示擔心的,好幾個評論說發現自己的侄子、侄女看過這類視頻。

所以我以為,怎麼說也是眾人拾柴火焰高吧,既然那麼多人都在譴責,這些視頻應該早就不見了吧,然後我抱著搜不到了的心態,輸入了「elsa」。

elsa baby、elsa and spiderman cartoon,這都是赤裸裸的「Elsagate」的標籤啊!!!

原來只要小孩子想搜Elsa,還是會被推薦那些變態視頻!

於是我接著點進去觀看,

那些變態視頻還是在那裡,也沒有被刪除……

我跳著點開看了「elsa baby」這個tag下面的一些視頻,和其他「Elsagate」性質基本一樣(演員都是那幾個),默片表演,誇張,懷孕、注射、毆打等少兒不宜的內容詭異地穿插其中。其目的就是想給小孩子洗腦——懷孕、注射等醫學內容,是一件很簡單的事情,隨便有個針頭就可以往自己身上插;而毆打,則變得跟吃飯一樣正常。

看完這些,只能默默感嘆還好自己是個三觀成熟的成年人,如果是一個小孩,真的不知道潛移默化地會對他的心理有什麼影響。

然後根據演算法,因為我在泰國,甚至直接給我推薦了泰國版的Elsagate。

整個視頻講的就是一個穿白雪公主服裝的泰國的(5-7歲的)小女孩懷孕了,然後大著肚子倒在地上尖叫……(把我一個成年人都嚇出來噩夢了!)

下面的幾個推薦視頻我看也沒幾個正常的。

當然你就發現這些「Elsagate」推薦裡面甚至有日文、韓文,加之之前一些博主介紹的俄文,真的可以說是全球性的「Elsagate」病毒了。

Youtube包括其他視頻網站的演算法,不但是把這些視頻分類到了兒童,還會自動給你推薦tag,推薦完了還有全球語言的相關視頻……能說什麼好……

我是在泰國教中學生漢語,所以我也把知乎上大家的帖子分享給了我們學校會中文的泰國老師,希望泰國人也對這種事情引起重視,讓更多的小孩避免被污染。

只能說,對這些妄圖洗腦孩子們的視頻,其範圍之廣、影響之大,真的是我們無法想像的。但事實上,大多數人對其源頭實在也無能為力,只有看到就盡量舉報吧。

還要說的是,這類視頻真的跟什麼「Happy tree friends」、「豚鼠系列」什麼的性質不大一樣,這類視頻,完全就是一個戀童癖變態穿了迪士尼玩偶裝去幼兒園的廁所強暴小孩子和一個黑社會流氓收小混混保護費的區別。

前者是偽裝成小孩子喜歡的東西(微博上很多人說,自己的孩子喜歡看玩具的視頻,也會被自動推薦Elsagate)實則是想洗腦他們,後者是純粹給成年人看來獵奇的,小孩子不會看著看著玩具視頻就被自動推薦。

(ps.作為一枚老師,對於這種殘害兒童心靈的事情實在是無法忍受,想到就覺得渾身發麻。我會持續關注這個事情,後續有什麼新發現了會及時來給大家分享。)

——————更新分割線(知乎用戶好像一般從上方更新?)——————

二、洗腦性

今天只有一節課比較閑,我又在外網搜索相關的信息。

於是我發現,關於這類視頻,竟然有大量的兒童成癮的報道……

其中一條新聞這樣寫:一位家長說,他們有自閉症的4歲兒子,已經對這類視頻成癮了!即便這位家長已經兩個月不準孩子接觸這類視頻了,但孩子卻整天沉迷於模仿那些視頻中的「奇怪、扭曲的尖叫」,他的孩子還會為看不到那類視頻而哭泣。

同時也其他評論也都在說,身邊有小孩開始模仿這些行為。

在外網,因為關於Elsagate的風波愈演愈烈,於是也有了「r/Elsagate」,也可以說是「反Elsagate」吧。外網反Elsagate的成員們也和知乎很多同志一樣,認為其中包含了大量「洗腦」元素,尤其是「顏色洗腦」。

一些用戶發現,這些視頻有一種固定的顏色使用模式——一定會有紅色,藍色,黃色,粉色,綠色。(其表現行為是,或出現在背景中,或直接是各種道具、卡通符號)。

多看幾個Elsagate視頻就會發現這些視頻無一例外都在強調這些顏色。

一些研究人員認為,這些顏色的排序和反覆使用,會強烈地刺激兒童的大腦。這些顏色可以說是構成了孩子對世界的基礎感官,那這樣用顏色為代碼,反覆刺激兒童的大腦,就很容易使其被洗腦,腦海中充斥著這些不良的行為,逐漸成癮並模仿。其後果可想而知……

還有就是,為什麼要選Elsa、蜘蛛俠、米奇這些卡通人物呢?一方面,是可以非常好的偽裝成兒童視頻,從而被歸類甚至推薦。另一方面,用無數兒童所崇拜的正面形象去做一些不正常的事情,小孩子就完全不會意識到——這不是《Frozen》裡面的Elsa,只會感覺「是Elsa在xx,xx真有趣。」

By the way,Elsa真的是紅遍全球啊,上課的時候我給泰國學生放《Frozen》特別篇《生日驚喜》,一群小朋友高興得差點沒跳起來。

可以見得,長期觀看這類視頻,絕對會讓小孩子產生輕則心理陰影、重則三觀改寫。如果不想你的孩子模仿視頻里那些行為,請一定要監管好孩子看的視頻。


鑒於空間運來的圖比較凌亂,所以下載微博重新去截了圖。

這個故事呢,真實性難以確定。

但,重點是 這種 惡俗、低級趣味、暴力、甚至變態的 視頻 確實存在在各大視頻播放平台。

——————————————————————————————————————————————————

複製粘貼有點兒多。。。國內視頻不是說都要經過審核么?!到底哪個環節出了問題要這種垃圾毒害我國的兒童啊?! @人民日報 @共青團中央 @共青團中央 這可比下場撕娛樂圈明星重要多了,這種才是真正從思想上摧殘祖國的花朵!


高票答案說得很清楚。

我補充兩點。

第一點,即使這些動畫實際上是為了滿足一部分成人的特殊癖好

例如,充斥著暴力和髒話的《南方公園》、血腥暴力到無法直視的《Happy Tree Friends》都屬此列。有人就是喜歡cult風的動畫,成人有自己獨立思考和分辨的能力,喜歡什麼無可厚非,看完血腥內容照樣可以在生活中不越矩、不犯法;但是,孩子顯然根本無法對此做到獨立思考

第二點,推薦演算法早就不是第一次作惡了

一年前,我發過相關推送呼籲(別讓搜索引擎『污』了孩子),也在朋友圈定向跪求大約5-6個主要搜索引擎的前項目經理幫忙轉發、轉達;也有一些互聯網巨頭公司任職的朋友幫忙轉發(深表感謝)。現在,電腦版的某度搜索結果好了很多,至少爸爸、媽媽、爺爺、奶奶這些直系親屬的搜索結果還算正常

這種改變,也許是因為我的努力而來,也許不是——但無論如何,作為一個育兒微信公眾號作者,我都要不停地去呼籲、去發聲,才會帶來可能的改變

但是手機版的搜索引擎,以及非直系親屬(例如,嫂子、小姨子等的搜索結果,依然不堪入目

我理解,有些人群確實有此類搜索需求,搜索引擎演算法部門,也有人負責這種『擦邊球』需求的項目人員。但是,成人總能以其他方式獲取想要的資源,讓他們多搜幾個關鍵詞吧,把簡單的關鍵詞結果,凈化一下可以嗎!

只能說,希望『百度少兒』項目繼續推進,爭取做出能媲美谷歌的『Kiddle』、雅虎的『Yahoo!Kids』的兒童搜索專用引擎


目前家長所能做的,有兩點:

1. 盡量的陪伴

陪著孩子一起查資料,遇到『尷尬』的內容,盡量以客觀的態度,大大方方地解釋給孩子聽。

2. 必要的限制

例如使用專門的兒童動畫APP,都是審核過的正版兒童動畫,而不是從視頻平台去給孩子播放節目。

例如 @萌芽研究所BUD 在自己的微信公眾號里提到的,對iphone和ipad進行必要的設置。

iPhone

設置-通用-訪問限制-啟動訪問限制,下滑到底部,有這個「允許的內容」的設置,如下

iPad

設置-通用-訪問限制-啟動訪問限制(步驟與iPhone一樣),區別在於iPad多了一個密碼設置,即購買APP或電子書的時候,設置是否需要密碼:


18.01.20更新 (此事目前關注的人數還不夠多,請各位多多擴散消息,別讓任何一個孩子受到毒害)

國內的幾大視頻網站已經開始著手清理相關視頻(在有的答主那邊看到快手上都有你敢信?),有幾個關鍵字已經完全失效了。但仍不排除有漏網之魚,請有條件的朋友多檢查一下身邊小孩用過的ipad,該舉報的第一時間舉報。

有同學質疑說這個規模完全是個產業了可是怎麼看不出如何盈利呢?事實上有些惡是沒考慮利益的,就是純粹的惡。


以下為原答案:

其實 YouTube 的 Elsagate 事件存在了很長一段時間了,這篇《一群變態鎖定觀看YouTube的孩童,我以前為他們工作》的英文原貼最早是去年 11 月發布在 Reddit 上,當時正值 YouTube 在媒體聲討下開始整頓網站內容,清理這些兒童不宜的視頻。

讓我們把時間軸拖到 2016 年7月,英國《衛報》開始關注 YouTube 上這類面向兒童的暴力和色情內容。同年3月份,一個叫 Webs Tiaras 的頻道悄然出現在 YouTube 上,用蜘蛛俠、忍者神龜這些漫畫中的超級英雄以及童話里的公主等人物製作成黃色暴力等兒童不宜的視頻,這些視頻有背景音樂但沒有人物對話,而且還有多個語言版本,但它們都面向小孩播放

僅僅兩個月,這個頻道的第一個視頻就已經被觀看 17 億次,該頻道也成為 YouTube 第三大流行頻道(目前該頻道已被 YouTube 關閉)。隨後 YouTube 上一些 UP 主和 Reddit 論壇也開始質疑這種現象,但並未引起太大動靜。

2017 年 3 月,BBC 發文批評稱 YouTube 上數千個卡通視頻中存在對兒童嚴重不適宜的內容,比如以《小豬佩奇》為題材製作的視頻。猛一看這些視頻和正常的《小豬佩奇》動畫片沒什麼不同,但是一旦點開播放,視頻內容就變得恐怖而黑暗,比如一個拿著大針管的牙醫一下子拔掉了小豬佩奇的牙,然後佩奇刺耳的痛苦尖叫。其它深受兒童喜愛的動畫片如《托馬斯和朋友們》、《冰雪奇緣》等也被拿來製作了這樣的視頻。

國外很多父母平時都很喜歡在 YouTube 上給孩子找動畫片看,經常也讓孩子自己在 Kids Channel 上自己找感興趣的動畫片。因為在他們眼中,動畫片是啟迪孩子們思維的很好的方式,而 Kids Channel 已經幫孩子們過濾掉色情或是尺度大的影片,但家長們萬萬沒想到,這類視頻還是滲透了孩子們的世界。可就是這樣的動畫片被自動推薦在 Kids Channel 列表上,在 YouTube 上已有幾十萬甚至上百萬的瀏覽量。倘若每十個觀看者中就有一個是兒童,那看過這些動畫片的孩子肯定是數以百萬計的。

隨後輿論開始發酵,標籤 #ElsaGate 成為 Twitter 和 Reddit 上的火熱話題,很多父母憤怒的表達心中的憂慮。

人們將此次事件稱為 ElsaGate(「艾莎門事件」),其中 Elsa 是動畫片《冰雪奇緣》里的主角,YouTube 上出現的這些邪惡視頻經常出現她的身影,而 Gate 一次自從「水門事件」後就經常被用來指代醜聞,ElsaGate 毫無疑問成了 YouTube 的醜聞。

多家媒體紛紛開始關注此事,《紐約時報》、英國《周刊報道》等嚴詞批評 YouTube 出現這種嚴重錯誤。記者 James Bridle 針對此事在 Medium 上發布了《Some Thing is Wrong in Internet》一文

https://medium.com/@jamesbridle/something-is-wrong-on-the-internet-c39c471271d2medium.com

質疑 YouTube 的視頻推薦方式,引起人們的強烈共鳴。在輿論壓力下,2017 年 11 月 YouTube 宣布採取措施,大規模整頓此類內容,關閉了大批頻道,清除這些對兒童嚴重有害的視頻。

《The London Economic》列出的部分被YouTube清理的視頻及頻道

至此事件回顧完畢

為何會出現這種問題?

第一個原因肯定是 YouTube 的視頻審核系統不完善。目前全球平均每分鐘就有長達 400 小時的視頻被上傳至 YouTube,以人工審核完這些視頻是絕對不可能的,因此絕大部分都由程序自動審核。而由於當前視頻識別技術並不完善,程序在審核視頻時往往是通過關鍵詞、文字描述、標籤等方式進行自動篩選,如果視頻發布人員提交視頻時精心偽裝,很容易就能矇混過關。

2015 年初,YouTube 發布了專門面向兒童的 YouTube Kids,初衷是為家長們提供一個放心的平台,可以讓孩子自己自行觀看安全的視頻內容。然而,由於通過了審核,這些以動畫片為幌子的有害視頻還是有很大一部分發送到了 YouTube Kids 上面。

第二個原因就是 YouTube 的演算法推薦漏洞。記者 James Bridle 在文章中重點批評的也是 YouTube 的這種自動推薦演算法。YouTube 的演算法會根據用戶觀看的歷史和視頻關鍵詞源源不斷地給用戶推薦相同類型的內容,這就導致一旦小孩觀看一個這種有害視頻,會有一大批同類視頻推送給他,而且往往是自動播放

去年網站 Tubefilter 曾發文詳細談及了 YouTube 的視頻推薦演算法。該演算法給基於視頻發布者的權值的權重很小,但給基於個人觀看者的權值很大的權重。簡單說就是,YouTube 不怎麼關心你上傳過什麼視頻,但很在意你看過什麼視頻。整個過程全是自動完成,沒有人類參與,演算法會實時分析數據,根據熱度給視頻排名,然後根據排名為用戶推薦視頻。

YouTube 的推薦演算法架構大致分為兩層,第一層叫「候選視頻生成層」(Candidate Generation),第二層叫「排名層」(Ranking),如圖:

如上圖所示,首先演算法從後台視頻庫中選取數百萬個視頻,傳輸至「候選視頻層」,然後根據用戶的觀看歷史和內容,從中抽取幾百個視頻傳輸至「排名層」,再根據視頻特徵、其它用戶的觀看狀況和視頻排名等數據,最終選出十幾個視頻推薦給用戶。

通過這種方式,YouTube 可以給用戶接連不斷推送「符合用戶口味」的視頻。然而,這種演算法雖然設計精巧,讓人們在 YouTube 上觀看到更多想看的視頻,卻忽略了一個很重要的因素:看這些視頻的人是誰?

如果是正常的內容,這的確會讓用戶感到高興,也省去了用戶自己找同類型視頻的麻煩,然而如果是 Elsagate 事件中的這種有害視頻,而且觀看它們的人還是兒童,演算法仍然不停地向孩子推薦這種視頻,可想而知這會給孩子的成長帶來多大的危害。

其實單單從用戶觀看內容及瀏覽歷史向用戶推薦內容這種方式本身就有問題,所以另一家視頻內容運營商 NetFlix 從2014年就逐漸停用這種根據觀看歷史推薦內容的做法,改用深度學習優化其推薦系統,更多的從觀看用戶是誰的角度考慮推薦內容。詳情請看:

Netflix 是怎樣的一家公司?為什麼它在美國非常成功?www.zhihu.com圖標

或許 YouTube 除了花大力氣研究推薦什麼內容,也應該認真考慮演算法把視頻都推薦給了誰。

YouTube事後採取的措施

在社會關注此事後,YouTube 開始排查此類視頻,打上年齡限制標籤,防止流入 YouTube Kids,並建議家長開啟 YouTube 上的「受限模式」。在接受《Quartz》採訪時,YouTube 稱將利用機器學習技術檢測可能有會對兒童不宜的視頻內容,並篩查 ElsaGate 事件中的視頻。

YouTube 所說的機器學習技術,很可能是 2017 年穀歌在其雲計算大會上發布的人工智慧研究新成果——視頻內容識別技術。當時谷歌展示的 Demo 顯示 AI 不僅能夠識別出老虎、兔子、水族館等大的內容,還能感知到毛絨、鬍鬚、微笑、卡通等等,隨著每個鏡頭的切換,實時生成出關鍵詞,對視頻內容進行標註,這也被業界視為人工智慧的里程碑事件。

通過視頻內容識別對兒童不宜的視頻進行徹底審查和標記,不失為一種快速有效的方式,但這項技術仍在起步階段,短時間內指望 AI 來實時自動審核每部視頻是不現實的,這恐怕也是 YouTube 稱今年將增加更多的人工審核人員的原因。

國內的情況

題干中所描述的

「國內視頻網站上也開始出現這些內容,歸類於搞笑、兒童等內容下。優酷、愛奇藝、騰訊視頻中,關鍵詞:艾莎公主,前五個搜索結果內必然會出現此類內容。」

確實是真實的,截止2018年1月19號 23:46分 仍然可以搜到相關視頻,因此再此提醒每一個看到這個消息的朋友把信息擴散出去,不要讓身邊任何一個孩子受到毒害。

所幸的是由於【xxx】的存在,要清除我們普通大眾能接觸到的類似視頻會相對比較容易,也希望 @優酷土豆官方客服 @愛奇藝VIP會員 能夠協助徹查相關涉案賬號源頭,早日讓這一事件的背後人員浮出水面。

後話

發布這些視頻的幕後黑手是誰,人們尚未調查清楚,但多認為是戀童癖所為。在此類視頻的評論區經常出現這些人的影子,他們會引誘觀看視頻的兒童模仿視頻中的行為,這想想都感到恐懼。

ElsaGate 事件將目前互聯網內容對兒童保護的缺失暴露無疑,表明我們在使用技術的同時也不能對技術盲目崇拜,更不能忘記應負的社會責任。製作這些視頻毒害兒童心靈的人也理應得到譴責和懲罰,每一個孩子降臨在人間不是為了被人帶入骯髒和黑暗,他們是應該看看太陽的。

保護孩子是不容置疑的事,就像小時候父母保護我們一樣。



噁心嗎?很噁心

另外,點到這個歡樂迪士尼的個人界面里有一個qq 2644982833,頭像與歡樂迪士尼頭像一致;通過Google這個qq可以發現這個團伙還同時運營著另外兩個優酷賬號,一個是「車車王國」,同樣上傳了許多詭異視頻;另一個是彩虹樂園rainbow learning,這個賬號打著瑞典早教節目的名號,而且這個賬號下面的視頻咋一看很正常,但是點進去以後發現色彩搭配也是亮瞎眼的五種顏色,而且視頻也有種說不出的詭異;在YouTube上搜索rainbow learning可以發現YouTube上也有這個頻道;至於youtube上的和youku上的是不是一家還不知道;同時這幫團伙還在視頻里留下了qq(就是上面那個)以及一家叫做「胤鈞傳媒」的公司(趙匡胤),領英上搜索這家公司只有一個三無用戶帶著這家公司title,地點則是廣州;天眼查搜索胤鈞,找不到相應的傳媒公司,但卻有一家同名的貿易公司在廣州,法人的qq號搜索不到;這是我根據公開的資料查到的所有內容了…希望大家能夠接力查下去


改演算法恐怕沒用。

這個問題從本質上無法解決。變態是殺不幹凈的。

但是這一類問題處理起來有一個非常行之有效的方法:分級。

不一定是嚴格的年齡分級,但是只需要在特定區域,例如,兒童影視區,保持絕對嚴格的審核(比如說人工審核),甚至要求實名上傳。這個一定會耗費人力物力。但是相應的兒童區的服務銷售也可以弄起來。相信家長是願意花這個錢的。


網信辦,廣電總局正統性+100000 (誤)

首先,那些說日本人怎麼變態的可以歇歇了 ,這個才是真·變態惡魔

你說日本那些什麼euphoria啊,沙耶之歌啊,蟲愛少女啊,他再怎麼變態獵奇,有一點是明確的:他的設計目標客戶始終都是成年人團體,設計的時候都是按照成年人的心理量身定做的,不會考慮說特地去吸引小孩子。即使是那些真·蘿莉作品,實際上也大多數是僅僅是把成年人的性幻想移植到幼年形象上,其目標受眾也只是成年人。換言之,這些東西極少有機會直接影響到兒童。

elsagate不同,可以看到一開始推廣的目標受眾就是兒童,無論是選材還是推廣手段都說明了這一點。其利用兒童喜好的人物形象將一些「元素」包裝起來潛移默化地灌輸給兒童,這惡劣程度簡直比日本那些做小眾guro黃油的不知道高了多少倍。

簡單來說,Elsagate的製作方就是變態界的任天堂。

還有一點,在r/ElsaGate上翻了下,這些視頻有個特點,標題都是很濃的翻譯腔(其他答案可以看出來)

順便,越南警方已經線下動手搞掉一個up主了:)

Vietnam man fined for suggestive YouTube parody channel - Tuoi Tre Newstuoitrenews.vn圖標


更新:

快手上也出現了這類視頻:

原文:

這是一件非常嚴重的事情,有三個點需要搞清楚:

1.製造此類Elsagate視頻的目的是什麼?

2.此類Elsagate視頻已經造成了哪些後果?

3.如何預防並整治這類Elsagate視頻?

首先解釋一下Elsagate視頻是什麼,是一些人有意識、有組織的將暴力、血腥、病態的性引導、虐待等偽裝成幼兒視頻,並利用譬如國外的Youtube、國內的愛奇藝、優酷、騰訊視頻、嗶哩嗶哩等視頻網站演算法的漏洞,專門推薦給兒童觀看的視頻。

具體內容如吃大便、眼球掉落、打針、懷孕是可以治好的病等一系列獵奇、病態的視頻。

Youtube上的Elsagate視頻:

國內視頻網站上的Elsagate視頻:

注意,上面一些上傳視頻的UP主,甚至是名字是xx親子早教。

在這之前,我也在平時生活里,偶爾會看到這類視頻,也造成非常強烈的不適,但並沒有太放在心上,因為我本以為是那種普通的獵奇視頻,沒想到是這種有意製作給孩子看的視頻。這也是普通獵奇視頻和Elsagate視頻本質上的區別。

Elsagate視頻是一種刻意使用兒童標題、低幼畫風、甚至有意識的通過演算法漏洞來達成自己目的的惡意視頻。

了解Elsagate視頻是什麼後,我們來進入正題:

製造此類Elsagate視頻的目的是什麼?

Youtube在BuzzFeed兩個月前的發布會上聲明,他們已經「封禁了超過270個賬戶並刪除了超過15萬的Elsagate視頻」。也就是說,製作Elsagate視頻的組織和他們的模仿者們,已經製作了超過15萬的這類惡意洗腦兒童的視頻。

他們投入了如此龐大的資金,有意識地製作這些視頻背後,目的究竟是什麼?

從目前國內外曝光的情況來看,並不明確他們的盈利方式,只有一些廣告分成,但正如 @劉延 所說的:「僅用廣告分成,無法解釋這些視頻為什麼要加入如此多的流血、打針、搶奪、毆打、懷孕內容。「

這是最恐怖的一點,我們並不知道他們到底要做什麼,或者說他們已經達成了哪些目的。

不過可以肯定的是,投入如此多的資金,和國內外層出不窮的模仿者背後,必然有一些不為人知的盈利點或者目的。

從視頻內容來推測,和前段時間的紅黃藍幼兒園事件,有著異曲同工之妙,都是通過洗腦、引導等方式,暗示這些價值觀並未完善的兒童某些暴力、不正當性行為是正常的、正確的,從而潛移默化的改變這些孩子們的價值觀,來達成自己的目的和齷齪的慾望。

也就是他們的目的,極其可能與錢、性侵兒童、虐待這三點有關,甚至可能背後已經有了一個完整的產業鏈。

但這些都是需要時間,來供全世界的政府、媒體等專業機構來調查的,希望他們能夠調查出這些數量龐大的Elsagate視頻背後,真實的目的。

此類Elsagate視頻已經造成了哪些後果?

正如上文所說,這些此類Elsagate視頻背後,可能存在著更為恐怖的目的,但這些都是不可知的事情,那我們就來談談,這些Elsagate視頻已經造成了那些後果。

首先,因為這些視頻利用了演算法的漏洞,通過兒童、親子教育等標籤,自動推薦給兒童觀看,甚至在兒童觀看正常的動畫片、親子教育視頻後,也會在側欄出現,推薦給兒童。

這對於兒童的影響是不可估量的,在國外已經有一些家長表示,在看完這些視頻後,孩子會出現一些異常行為。

在紐約時報的報道中,兒科教授兼 兒童健康中心主任Michael Rich表示,他們證實,這些視頻對孩子們是有害的,因為他們用一些孩子們知道和信賴的形象,來表現出這些不正當、暴力的行為。

按照上面高達15萬的視頻規模。很難想像Elsagate視頻到底已經影響了多少幼兒。

其次是已經出現一些模仿者,比如國內的一些Elsagate視頻中,背景變成了國內的農村和小孩:

如何預防並整治這類Elsagate視頻?

從昨天晚上開始,愛奇藝、嗶哩嗶哩、優酷等視頻網站,都已經搜索不到這類的Elsagate視頻。Youtube也在三個月前,就開始大力整治這些視頻。

但僅僅發現問題後整治是不夠的, 只有完善、優化推薦演算法,才能真正預防這類Elsagate視頻再次出現。

希望國內外的視頻網站能夠重視這個問題。

也非常感謝從2016年就開始為這件事情發聲的一些人和媒體,正是因為他們的發聲,這件事情才能夠得到廣泛的關注,從而讓更多人來想辦法解決這個問題。如果沒有他們的話,這些Elsagate視頻很有可能依然在全世界的視頻網站上,禍害著各個國家數以萬計的孩子們。


中國互聯網不良信息舉報中心:http://www.12377.cn

不要只在視頻網站上點舉報!!!

不要只在視頻網站上點舉報!!!

點擊中國互聯網不良信息舉報中心網站:http://www.12377.cn/

點擊舉報入口

註明「此類型面向兒童的暴恐視頻在國內互聯網上大量存在,要求成立專案組對視頻及來源進行調查!」


一年前Youtube上的這個視頻發現了一些Elsagate視頻上傳者可能的真實身份——他們在上傳視頻的時候忘記切換身份導致發到了其他頻道,甚至誤傳了一些沒有配音過的視頻,從中可以看到拍攝的全過程。

https://www.youtube.com/watch?v=fBWf6Zvn0jQwww.youtube.com


視頻的一些主題:

  • 蜘蛛/蠍子/昆蟲
  • 注射
  • 斷肢/異物刺穿肢體/肢體上的洞/疼痛
  • 人體扭曲/畸形/人體比例失調
  • 懷孕/腹脹/墮胎
  • 接吻/裸露/模擬色情/性侵
  • 廁所/馬桶/屎尿
  • 活埋

視頻中都出現的一些顏色和符號:

  • 艾莎(藍色)
  • 蜘蛛俠(紅色)
  • 小丑(紫色)
  • 綠巨人(綠色)
  • 鬼怪(黑色)

這些視頻的一些奇怪之處:

  • 點擊量非常之高,即使是新視頻
  • 上傳這些視頻的頻道數量非常多
  • 內容極度相似
  • 視頻下方有大量亂碼評論
  • 似乎都是同一組人製作的

reddit和YouTube上對於動機的一些猜測:

  • 兒童性誘拐:消除兒童的戒心,方便誘拐
  • 習得性失助攻擊:讓觀看視頻的兒童患上習得性失助,長大後更易控制
  • 兒童安全教育
  • 顏色洗腦:通過視頻給兒童灌輸某些色彩有特殊意義
  • 誘使兒童模仿
  • 這些東西只是小圈子裡玩梗
  • 是人工智慧生成的騙點擊視頻

這些視頻背後無疑有一個陰謀,外國的上傳者可能難以查到,但是國內視頻網站已經實名制,那些不是搬運而是上傳原創視頻的製作者應該可以查到吧?


傳統的計算機視覺和計算攝影學分析人物的演算法(分析,他們是誰)看來不夠用了。這個實際上用最簡單的語言描述就是這樣。比如區分人臉,還是,比如說一個和人臉大小類似的盾牌;對一個平面上的像素強度做積分;然後你做割平面,分別再次求解。如果是人臉,其各個區間的積分強度之間必然是存在一定數學關係的。可以參考Norvig的那本書。更詳細的看Forsyth的。

當然實際演算法要複雜得多。而且現在也有很多優化的方法。

要用更強大的動作監測演算法(分析,他們在做什麼)才行。


既然是演算法,那有大量的漏洞被這些內容鑽進去,並不奇怪。

我現在的工作有部分涉及到App的審核,演算法中對於關鍵詞的識別是通過已有、已知的經驗匯總,總結出來的。

你無法想像那些提交者對於這套限制了解到了什麼程度,他們可以找出超出你預料之外的漏洞,將自己的應用通過審核。我們一般都開玩笑說:由他們來做限制,恐怕比我們要好很多。

至於人工干預,那是要看成本的,時間和人力,一般而言,重複機械性的工作被認為最沒有價值的,所以這類工作也會被技術和開發用程序解決掉。

最後,點擊量告訴我們,這類視頻永遠不會失去生存土壤的。


找了個Elsagate的視頻試了一下知乎的審核機制...

結果過了...

這個視頻名叫Ding Dong Bell,但我覺得叫Ding Dong Hell更合適,就連我這種什麼邪典電影都看過的成年人看了心理都發麻...

The Verge:「這些視頻在過去一直存在,被GOV用來進行酷刑和洗腦。」


這是個非常重要的回答!人命關天!為了孩子的生命看一眼吧!

@王尼瑪 @共青團中央 大家幫我叫下他們

更新 我去12312微博私信舉報了,自己又去請幾位大v擴散

有人注意到一個問題了嗎?當你搜索艾薩公主,蜘蛛俠的時候會注意到一些奇怪的視頻了了嗎?

猜猜是什麼。

一個來歷不明的組織將兇殺、綁架、懷孕、注射、互相毆打、血腥、暴力等不宜兒童觀看內容以蜘蛛俠、米老鼠等卡通形象,以動畫或真人演出形式上傳視屏網站,配合海量關鍵詞,將這些內容歸類於全世界的兒童頻道。兒童點擊量超過了數十億,而我們卻對它一無所知

p.s看了前幾頁的回答,這些內容已經傳播到了泰國日本等,中國農村也開始有組織拍攝這種東西

我一個初三的都不敢想。

這是優酷迪士尼搜索結果

看見這個可疑的賬號了嗎?他有179萬粉絲和近4億的點擊量

看看他的內容

我加了他的qq,有動態會更新在下面

這個組織已經在中國拍攝節目了

我又去試試樂視,這是第一頁結尾的蜘蛛俠搜索結果

我去問題哪裡拿了幾張圖

在我們不留意的情況下,一個新的威脅性極強的組織正在侵蝕著兒童,在全世界擴散著侵害孩子的視頻,這只是中國,根據wiki的數據,這個頻道是YouTube第三大觀看頻道,觀看量約為17億。

Elsagate

這是我谷歌翻譯的英文界面

注意,這是一個有資金來源,勢力遍布世界的組織。

不寒而慄

注意最後一條評論

附上一段wiki的資料

Elsagate 」是一個新詞,指的是在YouTube和YouTube Kids上包含所謂對兒童友善的視頻的爭議,其中包含不適合兒童的主題。這個分類下的大部分視頻都以呈現暴力,性情,戀物癖和廁所幽默等內容以及危險或不安的情況和活動而聞名。[1]

他們經常以流行的面向家庭的角色為特徵,有時通過交叉,在沒有法律允許的情況下使用; 這個詞本身是一個混成的艾爾莎(2013年迪斯尼動畫電影的主角凍結,是誰在這樣的影片經常描繪的)和門極(一個用於醜聞後綴)。[1]然而,「Elsagate」的爭議還包括玩具怪物這樣的渠道,不包括兒童/家庭友善角色,而是真正的兒童,並提出了可能的虐待兒童的問題。

這個類別的大部分視頻都是真人電影或者粗糙的數字動畫,雖然有幾個頻道一直在使用更複雜的技術,如粘土動畫。[2]儘管YouTube的年齡限制政策,這些視頻有時被標記,以規避內置的兒童安全演算法,甚至進入YouTube的孩子,因此平台的規模,因此很難適度。[3]為了捕捉搜索結果並吸引用戶的注意,它們的標題和描述包含著名字元的名稱以及關鍵字如「教育」,「學習色彩」,「童謠」等。[4] [5]他們還包括自動放置的廣告,使他們有利可圖的業主和YouTube。儘管這些視頻令人反感,而且常常令人困惑,但許多人卻吸引了數百萬的觀點。[4]

雖然至少自2016年以來對渠道本身的批評已經存在,但公眾對這一現象的認識在2017年有所增長,因為它已成為YouTube上關於兒童安全的更廣泛爭議的一部分。那一年,在幾家媒體報道之後,YouTube通過了有關兒童內容的更嚴格的指導方針。11月下旬,該公司開始大量刪除「Elsagate」類別的頻道和視頻,以及大量其他不適合的視頻或用戶對兒童的評論。

谷歌翻譯自維基百科


分頁阅读: 1 2