人們都在知乎上問了些什麼--知乎數據爬蟲分析

身為一個剛學習python爬蟲的運營,怎麼能不去爬爬我最喜歡的網站知乎呢?

知乎對於我這種初學者爬蟲非常友好:

  1. 基本不用啥異常處理;

  2. 我沒看到啥反扒機制;

  3. 爬取知乎上用戶提問,除了自娛自樂以外,更能從中找到很多有趣的問題,比每天關注人timeline上的問題有價值多了呢;

  4. 因為我是初學者,所以點贊數只抓了首屏的數據,作為參考項應該是有代表的了;

可惜的是,因為爬取速度太慢了,我原本計劃全部爬完再做一些分析。以現在的速度可能需要1個月才能爬完,但是不妨礙我做一些有趣的分析。

按照我的經驗,在抓取知乎問題的時候,我會著重看三個層面的用戶行為:

  • 有多少人回答了這個問題。回答得越多,說明貢獻的經驗、討論的角度足夠豐富,你能聽到多元化的聲音;

  • 有多少人關注這個問題。關注人數越多,說明大夥對這個問題本身很感興趣;

  • 有多少人贊了答案。贊的人越多,說明回答的質量越高,或者這個話題受眾面廣;

當我從這三個角度來看的時候,就會發現一些有趣的事情。

64%

有64%的問題是沒人回答、沒人關注、沒人點贊的「三無問題」,看來你的提問要想得到別人的回應,還不是件容易的事情。

4-40-38

平均來看,每個問題有4個 回答、40人次首屏點贊、38人次關注64%

超級80-20法則

關注人數top1%的問題,它們關注的總人次佔到全體關注人次的84%。首屏點贊數top1%的問題,它們的首屏點贊數佔到全體點贊的74%。你只要看極少(1%,甚至更少)的問題,知乎的精華內容那就基本拿到了。難怪每年知乎都會出3000問系列。

想知道用戶最關注什麼話題么?

關注人次佔比超過1%的話題如下:

話題關注人次佔比 生活 6.1% 文學 4.4% 調查類問題 4.2% 設計 4.2% 學習 3.3% 心理學 3.2% 人際交往 2.4% 兩性關係 2.2% 社會 2.2% 健康 2.2% 教育 1.9% X 是種怎樣的體驗 1.7% 美食 1.4% 歷史 1.3% 戀愛 1.3% 創業 1.2% 市場營銷 1.1% 情感 1.1% 生活常識 1.0% 互聯網 1.0%

大家關注的類型就比較分散,沒有了前面那種80-20法則的現象,說明大家的生活還是多種多樣、豐富多彩的嘛。

我最想做的分析,是把回答數、點贊數、關注數綜合起來,挑出有多元化討論、回答質量高又符合大眾口味的問題挑出來,供大家一起使用

我把這種問題叫做2k-1k-50問題,既2千個贊、1千人關注、50個答案。這類問題佔全部知乎問題的0.2%,可謂精華中的精華。可惜這種分析只有在全量數據爬完以後才能進行展示,所以只能再等等了。

我先釋放一些目前爬到的這類精華問題給大家看看(微信不能搞外部鏈接,只能把地址附在後面了)。等到全量數據出來,我再放一次2k-1k-50問題給大家當福利

在家做三文魚,怎麼做合適? - 美食

怎麼理解《瓦爾登湖》? - 生活

你生活上有什麼特別的習慣? - 調查類問題

公務員真的那麼好嗎? - 就業

很喜歡鳳凰傳奇的歌但不敢承認,只能對同學說自己喜歡 James Blunt 之類的歌手,這是病嗎?如果是的話,如何治? - 生活

《三體》中的黑暗森林法則成立嗎?為什麼? - 冷知識

「泡學」、「PUA」是什麼?這些概念在中國怎樣發展起來的? - 戀愛

哪些歌詞唯美如詩? - 情感

為什麼萊昂納多·迪卡普里奧總也得不了奧斯卡獎? - 電影

以豬八戒網為代表的威客網站為什麼一直沒能做起來? - 互聯網

最好吃的午餐肉是什麼牌子的? - 美食

對用戶來說,「免費」的定價模式真的好嗎? - 市場營銷

女方如何讓男方在房產證上加名字? - 情感

為什麼不將 USB 介面做成雙面可插的? - 電腦硬體

計算機領域有哪些經典的典故或笑話? - 極客(Geek)

國內大學為什麼不推行單人宿舍? - 教育

中國人的道德真的在滑坡嗎? - 社會現象

怎麼練好英語口語? - 學習

如何培養人格魅力? - 價值觀

歷史上有哪些疑似穿越者?理由是什麼? - 穿越

怎樣形容接吻的感覺? - 兩性關係

人為什麼要結婚? - 婚姻

大學畢業之後,同學之間慢慢拉開了差距,還有必要參加老同學聚會嗎? - 生活

如何寫好高考作文? - 學習

怎麼追女生? - 情感

「英式幽默」和「美式幽默」的區別是什麼? - 美國

你希望自己的婚禮是怎樣的? - 調查類問題

有哪些非常重要卻又時常被忽視的社交技能? - 人際交往

如何判斷一個人是否能真正聽懂你說的話? - 溝通

「詭辯」常用的方式有哪些? - 邏輯

編程零基礎應當如何開始學習 Python ? - 編程語言

為什麼中國不把援助非洲的錢用來補貼農村呢? - 經濟

同學聚會時我感覺很多人很高傲,總是話里藏刀,怎麼辦? - 生活

有哪些建議給初到深圳的知友? - 生活

第一次請帶小孩的保姆,要怎麼和保姆相處?怎樣處理好管理和人情的關係? - 人際交往

中華人民共和國為什麼能取代中華民國加入聯合國? - 歷史

如何逐步地提高自己的意志力? - 生活

精神分裂症患者眼中的世界是什麼樣的? - 精神分裂症

在擁有愛情之前,男人和女人最好要知道什麼? - 婚姻

高智商的人在生活中的表現比普通人更為突出和優秀嗎? - 調查類問題

為什麼沒有綠色毛髮的哺乳動物? - 生物學

男程序員在情人節時應該給女友送個什麼樣的禮物?既有創意,又有意義? - 創新

為什麼近年來國產的都市愛情電影傾向於高端、小資、西式的生活形態設定? - 社會

什麼是營銷? - 市場營銷

中國軍工和日本相差多少? - 軍事

如何花最少的錢過一個不那麼寒酸的情人節? - 戀人相處

已婚男人怎麼向傾心的妹子表白愛慕之情且不越軌? - 異性交往

如何瘦小腿? - 健康

怎樣用「知乎體」寫一張特別的情人節卡片? - 情感

為什麼麥當勞和肯德基總是開在一起? - 經濟學

短髮控的成因是什麼? - 心理學

既然思想是我的,那麼為什麼有時候我控制不了我的負面情緒? - 心理學

內向、不善社交的人如何建立人脈? - 人際交往

有何建議給即將步入職場的應屆畢業生? - 調查類問題

如何找到人生目標? - 生活

你收到的第一封情書是什麼樣子的? - 情感

你在青年旅舍有哪些難忘的經歷? - 旅遊

究竟應該由誰擔任起緩和醫患關係的責任? - 醫學

如何維護長期的戀愛關係? - 兩性關係

唱歌跑調是什麼原因導致的呢? - KTV

怎麼理解「當科學家們爬上一個又一個的山頂的時候,總發現佛學大師們早已在那裡等著了」? - 宗教

網路上有哪些值得推薦的、內容深刻的視頻公開課? - 教育

如何快速做飯? - 烹飪

茶道里的「一期一會」是什麼意思? - 日本

如何評價高圓圓的長相? - 美女

有哪些鮮為人知又有趣的動物習性或生物現象可以講給孩子聽? - 生物學

如果人類不再會死,世界將會怎麼樣? - 科技

家裡欠債 700 多萬,該怎麼辦? - 創業

如何把小戶型陽檯布置出有情調又不貴? - 設計

車站、火車站、機場安檢員見過乘客包里最奇怪的東西是什麼? - 地鐵

如何評價「打車軟體 Uber 涉嫌非法營運,廣州總部被查處」? - 互聯網

哪些數學定理在直覺上是對的,但證明起來很困難? - 趣味數學

有哪些讓你相見恨晚的 PPT 製作技術或知識? - 設計

美國軍力到底有多強?中國在哪些領域和美國存在代差? - 軍事

日本人為什麼懷念昭和年代? - 社會

大學完全荒廢了,工作也有四五年了,沒多大起色,如何最短時間改變現狀、取得突破? - 金融

你跟地鐵有哪些有趣的事? - 生活

有哪些文藝而有韻味的句子? - 文學

怎麼看科技美學那岩的再見? - 手機測評

和最愛的人在一起是什麼體驗? - 調查類問題

老婆不愛穿高跟鞋,說磨腳,怎麼辦? - 戀愛

如何駁倒算命先生? - 人文

世界電影史上有哪些電影的價值觀曾經引起巨大的社會爭議? - 文化

刮痧是偽科學嗎? - 如何評價 X

養猴是怎樣一種體驗? - 生活經歷

被一個女孩子愛著是怎樣一種感受? - 戀愛

你認為怎麼樣算是虛度人生? - 生活

如何評價《金粉世家》中的冷清秋? - 小說

有哪些作惡一生依舊活得很好的人? - 歷史

為什麼日本這樣的小國家當年強大到可以侵華? - 軍事

有一個情商高的男朋友是什麼體驗? - 戀愛

怎樣看待雲南導遊嫌購物少辱罵遊客一事? - 雲南旅遊

由國安劇《於無聲處》所想到的——你身邊有聽說過間諜或者特工的事情嘛? - 生活

把幾個著名作家的寫作風格融進一篇文章中,感覺會是怎樣? - 文學

有著美麗的雙馬尾是怎樣的體驗? - X 是種怎樣的體驗

哪些情色電影是稱得上色而不淫的電影? - 電影推薦

中國是為數不多的醫療付費國家嗎?若是,為什麼大部分國家或地區可以免費醫療而中國依然收費? - 社會保障

兩個人很自然地在一起是什麼樣的體驗? - 戀愛

如何看待360殺毒在AV-C等評測機構的測試中因作弊被譴責後發布的公關文? - 網路安全

大學如何不負青春,而不虛度? - 生活

如何評價「慶安火車站疑似搶槍者被擊斃」? - 法律

如何評價 NBA 2014 - 2015 賽季季後賽首輪馬刺 VS 快船的搶七大戰? - 籃球

Y 染色體比 X 染色體少那麼多基因,那男性比女性到底有什麼不同? - 人類

大家理想中的大學應該是怎樣的? - 大學

女友做的什麼事情讓你失望? - 調查類問題

有哪些照片一張就是一個故事? - 生活

如何評價《仙劍奇俠傳六》? - 如何評價 X

華山景區米飯賣 15 元,是因成本高嗎? - 旅遊

《西遊記》中有哪些細思極恐的細節? - 文學

南京和杭州,哪一座城市潛力大? - 發展前景

因為性能力差在女朋友面前很自卑,該怎麼辦? - 女性

如何評價電影《十二公民》? - 社會

男孩喜歡一個女孩就會想和她做愛嗎? - 性生活

作為醫生,在飛機、火車等旅途中聽見廣播里說有一名旅客需要診治,會怎麼做? - 法律

《水滸傳》中有哪些細思恐極的細節? - 小說

不抽煙的人是如何看待抽煙的人的? - 人際交往

說「等玩夠了,就找個老實人嫁了」的女人是怎麼想的? - 兩性關係

你從第一份工作中學到的最深刻的經驗是什麼? - 生活

一年當中買車的最佳時間為何時? - 汽車

證件照好看是怎樣的體驗? - 調查類問題

《星球大戰》有哪些有名的梗? - 星球大戰(系列電影)

你有沒有與巨大的機遇擦身而過?你是怎麼調節自己的心理狀態的? - 生活

女生夏季必備單品有哪些? - 服飾搭配

如何製作像廣東和香港那種綿密的綠豆沙? - 美食

士兵冒著生死最後得到的那枚勳章,有什麼用? - 軍事

有一個逗逼的男朋友或者老公是一種怎樣的體驗? - 戀愛

如何應對像成都被打的女司機這種司機? - 人際交往

獻血到底好不好,其中有什麼內幕? - 健康

怎樣提升自己愛的能力? - 心理學

夏天如何優雅地看妹子? - 兩性關係

在大學裡應該遠離哪些人? - 人際交往

《三國演義》中有哪些細思恐極的細節? - 文學

大胸女生怎麼拍小清新照好看? - 攝影

為什麼這麼多人喜歡索隆? - 動漫

現在做淘寶是不是越來越難了? - 電子商務

清華北大的跨校情侶是一種怎樣的體驗? - 戀人相處

如何評價王祖賢的長相? - 相貌

什麼宿舍名字能鎮住對門的「金鑾殿」? - 大學生活

如何看待「家人給哥哥買兩套房,租房女孩嫌父母偏心要跳樓」? - 如何評價 X

源源不斷的向外移民到底會對中國造成什麼樣的損失? - 美國

一家新餐飲店如何與一家做了多年的老餐飲店競爭? - 創業

《三體》中最悲哀的一句話是什麼? - 文學

世界上有哪些失敗的大型科研項目? - X 是種怎樣的體驗

為什麼在家庭暴力中,母親通常比較懦弱? - 心理學

蘇軾被神化了嗎?有哪些例子可看出蘇軾仍是「凡人」? - 歷史

如何看待「女老師出遊學生幫打傘」這件事? - 心理學

央視女主播戴 Apple Watch 出鏡合理嗎? - 中國中央電視台 (CCTV)

兄弟都是gay是一種怎樣的體驗? - X 是種怎樣的體驗

世界上有哪些失敗的大型工程項目? - 歷史

為什麼中國很多青春片的豆瓣評分很低? - 電影

銀行櫃員見過最奇葩的客戶都有什麼? - 調查類問題

體型瘦弱的人長期健身變壯是一種什麼體驗? - 健康

為什麼看到我國儀仗隊的閱兵式會有自豪感產生? - 心理學

有哪些你們覺得看起來就很配的熒幕情侶? - 電影

推薦幾部從心理學角度看,非常經典的電影? - 戀愛心理

有錢買蘋果但選擇用安卓的人是什麼樣的? - Android

哪個遊戲的經濟系統最為模擬?為什麼? - 經濟學

歷史上有哪些很萌的人物? - 歷史人物

那些反中醫的人有幾個認真地研究了中醫? - 中醫

工作兩三年後,你悟出什麼職場道理? - 社會

有哪些有名的自黑? - 人際交往

被傳銷洗腦是一種怎樣的體驗? - X 是種怎樣的體驗

如何評價解放軍參加紅場閱兵綵排唱《喀秋莎》? - 俄羅斯

知乎在中國網路的地位是如何發展這麼快的? - 互聯網

如何評價 14-15 賽季歐冠聯賽半決賽第一回合巴薩 3:0 拜仁慕尼黑的比賽? - 足球

為什麼「道理都懂,然而執行力差」的現象如此普遍? - 心理學

有哪些 100 元以下的用來布置桌面的小玩意兒? - 生活

一年讀完 1000 本書會收穫到什麼? - 學習

如何評價女生穿安全褲的行為? - 服飾搭配

什麼樣的文章或者話語能夠徹底激起一個胖子減肥的決心? - 健康

日常生活中有哪些致命卻易被忽視的安全隱患? - 生活常識

為什麼名校不收差生並將其教育成人才? - 教育

你聽過的最霸氣,最有氣勢的一句詩詞是什麼? - 文學

如何看待「13 歲少年列席深圳兩會:勿讓考卷決定未來」? - 教育

有哪些考試中的抖機靈? - 學生

有哪些漂亮的女性劇照或電影截圖? - 攝影

史書上有哪些鮮為人知但是溫暖人心的片段? - 歷史

為什麼很多人糾結於移民,而不是在國內發展改變國家? - 就業

房產證上的名字就真的代表了產權嗎? - 法律

臭不要臉的自我介紹

我叫黎晨,英文名LC,是我中文拼音的簡稱,跟LV並無關係;

性別男,遵紀守法,無不良前科。我的很多朋友都說我是「死變態」。所以我經常宅在家裡不出去禍害社會。

為此,我向政府申請維護社會公序良俗的獎勵,但還沒有獲得任何回復;

00年開始接觸互聯網,可是很年輕。在互聯網牛市造福浪潮中連小小的牛尾巴都沒沾到,不過,我會繼續努力的;

我公眾號的所有文章均為無版權聲明。無須徵求本人意見,可以隨意修改轉載。

如果覺得文章還行,歡迎長按二維碼關注

「黎小晨想太多」


推薦閱讀:

為什麼知乎對 IE內核瀏覽器的兼容模式支持很差?
為何知乎上一片唐納德·特朗普必定贏得總統大選的言論?
被人關注很難嗎?
知乎如何看私信?
知乎也要進一步強化帳號實名制了

TAG:知乎 | 爬虫 | 产品经理 |