哈佛教授：大數據，重要的不是數據

「滿城盡談大數據」，但很多人其實並不理解大數據真正價值是什麼，哈佛大學Gary King教授用3個大數據研究案例告訴你：有數據固然好，但是如果沒有分析，數據的價值就沒法體現。

2017年伊始，哈佛大學政治學系教授加里·金（Gary King）在上海交通大學舉辦了一場名為《大數據，重要的不是數據》（Big Data is Not About the Data）的講座。

DT君先來介紹一下主講人：Gary King是哈佛大學的校級教授（University Professor）。King教授以實證研究知名，擅長量化研究，其研究涉及政治學、公共政策、法學、心理學和統計學等領域。

（圖片說明：1月4日，Gary King教授在上海交大演講現場）

以下是Gary King 教授演講實錄（有刪節）：

我工作的領域叫做量化社會科學（Quantitative Social Science），有時，它有一個別稱，叫大數據。「大數據」這個詞最早是媒體發現的，它試圖向大眾解釋我們是做什麼的，目前看來解釋的效果還不錯。

然而，大數據的價值不是在數據本身，雖然我們需要數據，數據很多時候只是伴隨科技進步而產生的免費的副產品。比如說，學校為了讓學生能更高效地註冊而引進了註冊系統，因而有了學生的很多信息，這些都是因為技術改進而產生的數據增量。

大數據的真正價值在於數據分析。數據是為了某種目的存在，目的可以變，我們可以通過數據來了解完全不同的東西……有數據固然好，但是如果沒有分析，數據的價值就沒法體現。

先來看一個大數據在公共政策層面運用的案例。

我們曾經做過一個評估研究，發現2000年以後美國社會保障管理總署（U.S. Social Security Administration，簡稱「SSA」）對於美國社保賬戶及人口壽命的預測有系統性偏差。

（圖片說明：2000年以後SSA對社保基金賬戶情況的預測出現顯著偏差；

大背景是，美國的社會保障平台是美國最大的單一政府平台，它的資金是跨代流動的——當前退休者的養老金供給來自於他們的下一代，即現在工作的人交的稅金。

所以SSA需要預測這個信託基金項目里的資金流，以及人的壽命，正確預測這兩點很重要，如果人們比SSA預期的更長壽——雖然這是好事——就很可能導致信託基金里就沒有足夠的錢給他們養老了。

我們研究發現，SSA的預測在2000年以後出現了系統性偏差——發生偏差的原因之一，是SSA使用的模型本質上定性分析的模型，且多年來幾乎沒有調整。由於一些藥物的使用和癌症早期發現，美國人開始比模型預測地更長壽了。

我們通過分析得出的結論是，美國社保信託基金至少存在8千億美元的缺口。

雖然結論有點不幸，但是政府需要提前知道。這樣政府就可以有空間在稅率，退休年齡等方面進行調整。這是公共政策層面的話題。

關於定性分析和定量分析，其實不是涇渭分明的。做分析全靠定性分析（由人主導）是不夠的，因為你有很多數據不知道該怎麼處理。 全靠定量分析（由機器主導）也不行，這就像一張巨大的excel表，但是表中沒有行、列的標籤。所以，大數據分析需要的是由人主導，由計算機輔助的技術（we need computer-assisted, human-led technology）。

我們還做過一個計算機輔助閱讀的實驗。我們開發了一套計算機輔助、自動化閱讀的技術，這項技術能幫助人們從非結構化的文字中提取、組織並且處理大量信息。

我們曾用該技術處理了64000篇國會議員官方發布的新聞稿，想通過這項基礎幫我們作分類，看國會議員在新聞稿中都說了些什麼。

結果我們發現，居然有高達27%的議員發布的新聞稿內容只是單純地想抨擊對方（Partisan Taunting），而不是想要平衡預算或停止戰爭，或解決問題。

（圖片說明：Gary King表示，抨擊對方政黨從個人角度來看是理性的，但是從整個集群的角度來看，是非理性的，如果抨擊對方的言語增多，政黨之間的合作關係和能效會減弱；

來源：Gary King研究成果單頁http://gking.harvard.edu/files/gking/files/polmethposter_1.pdf ）

大數據時代，我們可以通過去量化過去不能量化的信息，使用精妙的統計學方法分析這些信息成為可能。

現在，我們都可以對一些強定性屬性（inherently qualitative）的東西作定量分析了，如音頻和視頻。但是，目前仍有一些定性分析工作者要分析的內容還未被量化。所以，定性分析、定量分析要配合操作才行。

我參與過一個產品項目叫做Perusall。「Peruse」是仔細精讀的意思，Perusall就是peruse + all，可以簡單理解為大家一起讀。

這個產品產生的背景是，大學教授會給同學布置閱讀作業，但是教授很難評估學生是否閱讀了規定的章節。如果有的學生沒讀而有的學生讀了，這對整體課堂的授課效果會有影響。

Perusall的好處之一，是它把閱讀從一個個體活動變成了一個集體活動。閱讀文章的同學可以對自己看不懂的部分做批註，也可以對其他同學的批註作回復解答。這樣更容易調動同學閱讀的主動積極性，讓閱讀變得更有趣。人天生是社會動物，這也是為什麼人們相比於在iTunes里聽歌更願意花錢去看演唱會，雖然前者音樂聲音更清晰。

（圖片說明：「學生困惑報告」樣本；來源：哈佛官網http://gking.harvard.edu/files/gking/files/ph.pdf ）

一旦學生用Perusall在線上閱讀之後，我們就有了很多之前不可能互獲取的數據：知道學生在讀什麼，他們對閱讀內容的反饋怎樣，他們在讀每一頁的時候花多少時間；當然，如果你沒有讀書的第46-47頁，我們也會知道這個。

一方面，Perusall會基於每個學生的閱讀情況和評價質量，對學生的這項閱讀作業進行打分，從老師的層面看，這省去了原先閱讀作業不易評估的問題。

另一方面，Perusall會分析這些閱讀數據，知道學生們讀到哪裡時覺得困惑。

Perusall可以在老師上課前生成一個「學生困惑報告」（Students confusion report）。拿到這份報告，我就可以在一走進課堂時說，「根據你們的閱讀情況，你們可能有以下三個問題。」

（註：本文根據Gary King教授2017年1月4日在上海交通大學的講座內容整理、編輯而成；聯繫本文編輯張弦：zhangxian@yicai.com 微信：zhangxian494011）