市場調研公司的調研是作假的嗎?

今天遇到一個尼爾森的調研,調研問卷基本是調查人員拿著平板(錄音的),然後點著答案告訴你要這樣答,也只能按答案回答。

我時候問,是不是公司要求問卷都要這樣做的。說,是的,都是這樣。

這麼做的情況下不就對不起客戶企業的錢嗎?是不是其他市場調研公司都這樣做?


市場調研涉及的範圍很廣,收視率調查、零售研究、定製研究等都屬於這個範疇,對其它研究不太了解,這裡主要說的是定製研究方面的情況。

本文提及的現象或事例並非作者所見所聞所經歷,純屬個人臆想,切勿對號入座。

謝絕全文或節選部分內容以任何形式在其它任何媒體轉載。

先來對題主問題小心翼翼的直接回答:

根據題主描述基本可斷定確實是調查員作弊,目前國內沒有任何一家市場調研公司能完全發現和杜絕調查員作弊現象,但負責任的公司已經採取了足夠嚴格的QC(質量控制)制度和方法去保證項目整體數據的可靠性,從而令數據分析和決策建議不至於偏離正確的方向。況且題主所遇到的只是個別現象,這個樣本也有可能會在後期質量檢驗的過程中被發現而剔除,所以我認為那些負責任的市場調研公司是對得起企業客戶的錢的。

很多事情都不能絕對化地簡單看待,作弊現象同樣客觀存在於負責任的公司,程度不同而已,甚至題主所見也不過是冰山一角。相對而言,越是大型的市場調查公司對自己的聲譽越是重視,QC也越嚴謹,至於一些連獨立QC部門都沒有的中小公司和fieldwork代理商,那就要看老闆有沒有理想主義和把控能力如何了。從一家公司內部去看,儘管QC報告都是無可挑剔的,但實際某些人的心理都清楚,不同項目之間會有不可言喻的質量差異。我想,應該沒有誰能回答「是不是其他市場調研公司都這樣做」這種一棒子打死整間公司乃至整個行業的問題,誰要是拍著胸口說我來,那他也只能回答「不是」。

家家有本難念的經

市場調研是一個專業領域,有著非常完善的規則和規範,只有行內的人才能深刻體會,在日常工作中背負這些規則和規範是多麼大的一個挑戰。

一個調研項目的方案設計是科學、細緻的,這裡要先普及一下樣本定義、配額、問卷這幾個概念,以及調研公司一些基本的運作流程、人員分工。

樣本定義是指需要訪問什麼樣的人,通常定義為產品的現實或潛在消費人群,比如嬰幼兒奶奶粉調研的訪問對象一般是孩子母親,奢侈品調研的訪問對象是高收入人群,著名的J.D.Power新車質量調查是訪問相應品牌3-6個月(沒記錯的話)的車主。確定樣本定義是為了調研得到的數據具有代表性,如果你問我賓士汽車的駕乘感受那是純屬扯淡。

調研公司大多按樣本量收費,每個樣本數十元到數千元不等,項目方案設計的樣本量在能滿足統計意義的前提下,都儘可能地少。但數據分析的時候往往又需要分組交叉,比如性別、年齡等,所以方案會要求男性女性分別多少樣本,各年齡段又多少樣本,這就是配額。

調研可分為定性調研和定量調研。定性調研常見的形式是深度訪問、座談會等,通常是調研公司的研究人員親自操作,訪問的內容是大綱式的,稱為非結構式訪問。定量調研一般是結構式訪問,就是把需要訪問的問題設計為問卷的形式,調查員需要嚴格按照問卷操作和提問,題主遇到的應該就是這種。拿著問捲去訪問的調查員,其實跟機器差不多,各種提問和應對的措辭都是嚴格設定的,幾乎沒有什麼自主發揮的空間。

一個調研項目的運作流程大致是這樣的:調研公司的研究人員先向企業客戶了解調研需求,然後設計調研方案交給fieldwork督導去執行,QC對執行過程和結果進行品控,合格的樣本交給數據處理部門做一些數字化和模板化的匯總整理,最後交給研究人員分析、撰寫報告present給客戶。

定量項目一個城市少則幾十個樣本,多則上千個甚至數千個樣本,督導是不可能自己去完成所有問卷的,於是督導就需要招募和培訓調查員了。只有少量公司有少量全職的調查員,大多數調查員都是兼職的,一部分是學生,一部分是以此為職業的女性,這是北上廣等大城市較為的普遍情況,小一點的城市不好說,大體還是以學生和閑散人員為主。學生相對單純,而且從事這項兼職的時間不會太長,很多沒來得及學壞就已經轉行了,大部分的作弊現象發生在那些以此為職業的「老油條」調查員身上。

好了,科普到這裡,下面來看看市場調研為什麼會有作弊現象。

兼職的職業調查員收入普遍不高,能以此為生的大概就是一般工薪階層的收入水平(有些調查員家裡確實挺困難的,她們的收入還要按勞務報酬的稅率納稅,唉。。。),她們之所以會作弊的關鍵原因是按調研項目的要求去做的話,這錢太難賺了!為什麼這樣說呢?我舉些fieldwork過程當中最容易誘發作弊現象的例子。

  1. 樣本定義難度太高,難以接觸到合適的訪問對象。比如一個定點街訪的操作是這樣的:在人流量較大的商業區租一間或幾間房間(課室、餐廳、辦公室、酒店都有可能),樓下馬路邊攔截員(大多由「老油條」調查員擔任)負責找到合格的樣本,然後帶到房間由學生調查員來訪問問卷。而要找的訪問對象可能是這樣定義的:年齡要求18-45歲,大專以上學歷,個人月收入5000元以上,每周飲用某品牌某口味飲料3次以上,還有如果在當地連續居住時間不夠兩年的不能訪問,過去半年接受過其它調查訪問的不能訪問,自己或有家人親戚同學朋友在市場調研/廣告/媒體/飲料生產銷售等相關行業工作的也不能訪問,等等。一個個條件刷下來,站街上一天能遇到多少個符合樣本定義的人?如果該飲料的市場佔有率才3%不到呢?好不容易逮到一個合適的吧,你跟他說要不到樓上坐坐,15分鐘問卷調查,送你一根牙膏,你去不去?我問你去不去?十之八九拒訪!攔截員成功邀約到一個人可以獲得的收入大概是10塊錢,正正經經風吹日晒雨淋口乾舌燥街上站一天能遇到多少個完全符合樣本定義的好人?於是攔截員不再見人就去搭訕了,無數次的碰壁之後練就了一雙火眼金睛,識別到一個好人才果斷出擊。一上去也不會問你那麼多問題了,直接就叫你幫忙做個訪問吧送你牙膏好不好,你要願意或半推半就的話,一邊拽著你上樓一邊悄悄跟你說你其實多少歲了、你的收入是多少、你經常喝某品牌飲料。。。記住了啊,別說錯了啊,說錯了就沒有牙膏啦。。。

  2. 樣本定義在剛開始抽樣的時候不難,但追配額的時候會變得很難。即使是一個高滲透率的產品、高市佔率的品牌,在剩下最後幾個樣本的時候,可能樣本配額是這樣的:35-39歲男性,已婚無孩,家庭月收入8000-10000,性格屬於樂觀派(有心理學博士設計經過數萬人測試證實準確有效的測試問題哦)。。。你來給我找找看,你叫警察叔叔設個卡把一個個過路的抓來審問,看看有多少個合適的?什麼?今天完不成?不但要增加場租預算,還要拖著這一隊人馬明天繼續開工,還要跟客戶彙報進度解釋原因,還要壓縮研究人員寫報告的時間。預算還好說,但有的時間根本不能拖,明天學生們要上課了怎麼辦?明天是周一人流跟周末的不一樣怎麼辦?明天新版廣告出街了影響訪問結果怎麼辦?沒辦法,研究人員逼督導,督導逼攔截員,攔截員沒有警察叔叔幫忙抓路人,那就只有諄諄善誘好心的路人如何回答正確的答案了。還得趕緊的,天就要黑了。

  3. 問卷設計實在太長。一般電話訪問和街頭訪問的問卷長度不宜超過15分鐘,入戶訪問不宜超過30分鐘,呵呵。可是有很多客戶是貪得無厭的,有很多研究人員是軟弱無能的,於是有很多問卷是宛若天書的,尤其是有些什麼生活形態、媒介版圖之類的調研,涉及日常生活產品消費的方方面面。想像一下你剛吃完午飯準備午睡,調查員敲開你的家門問你下午沒什麼事吧?那好,老老實實呆在家裡跟我做個問卷調查吧。時間總是過得很快,一眨眼三個小時就過去了。。。不好意思,耽誤你準備晚飯了。什麼,有點頭暈?那先睡一會兒等下叫外賣吧!送你一根牙膏,謝了啊。。。有可能嗎?這種事情有可能嗎?還有,問了大半問題然後人家發飆了,被趕出家門的事情又不是沒遇到過。我只能說,三個多小時的問卷是極少數的,但也是現在都真實存在的。接下這種項目的調查員是用手拉車拉著問卷回家的,半路還要順便到文具店買一打圓珠筆。剛剛那個訪問過程是我杜撰的,真實的訪問過程是調查員挑著問題大概問個15分鐘,然後留下一張小紙條了事(QC複核時對口供之用)。這類調研很有可能是調研公司自己投資的多用戶調研,成本往往被壓得很低,調查員一份問卷大概能拿到50-80塊錢,但她們大多是不願接這種項目的,哪怕自己在家填問卷都填到手抽筋了,叫上中學的兒子幫忙填他還不願意,情願去洗一個禮拜碗。交回公司的問卷審查起來可能錯漏百出,還分分鐘冒著被罰款被開除的風險。

儘可能輕鬆地完成工作,人性也。

上面幾個例子是帶著無奈的作弊現象,其實稍有經驗的督導是知道調查員的那些伎倆的,但督導的工作更優先要保證的是項目進度和成本控制,質量方面也是關注可見的訪問操作和卷面質量為主,其它的事情如果沒有放到檯面上,大多是採取睜一隻眼閉一隻眼的態度,QC才是那隻真正抓老鼠的貓。

調研公司的項目督導也可能會作弊,但大多或是因為意外或是確實無能為力,比如下面這個例子。

話說某公司準備召開一場座談會,雖然樣本定義和配額都比較苛刻,可這位督導是一位優秀的督導,經過一番各種努力,提前兩天就約好了十二個來參加會議的人(8人會約12人是慣常做法),錄音錄像設備提前一天測試運作正常,會議當天零食準備就緒擺放整齊,白板擦得乾乾淨淨,白板筆紅藍黑三種顏色墨水充盈。。。一切都已安排得妥妥噹噹。可是天有不測風雲,一場大暴雨降臨了。。。優秀的督導意識到可能會有變數,馬上冷靜地給參加會議的人逐個打電話,果然有一半的人來不了了,求爺爺告奶奶打車到家裡去接都沒用。優秀的督導不動聲色地把負責主持會議的研究員拉到平時抽煙吐槽聊八卦的樓梯間,說明了當下的情況。研究員想到鬼佬客戶正在自己老闆辦公室談笑風生,這可是global客戶啊!久經沙場的他心裡立馬有了決定,平靜地對督導說,座談會時間不能改,與會人數不能少,樣本配額不能變,會議氣氛不能冷,其它的你自己想辦法吧。優秀的督導沒有跟研究員回辦公室,而是拿出手機扒拉通訊錄,開始給自己的熟人打電話。。。座談會終於順利結束了,鬼佬客戶跟項目組成員一一握手感謝,滿意地拉著行李箱趕飛機去了。優秀的督導和研究員終於鬆了一口氣,相視無言,自此也結下了深厚的戰友情誼。

商場如戰場,有些仗,輸不起。

各家大型的市場調研公司一般只在北京、上海、廣州設立提供full service的分公司,在成都、武漢、杭州、瀋陽等地或許會有分支機構,但可能只有fieldwork或數據處理之類的職能,從事收視率調查或零售研究的公司則會有工作站星羅棋布,但與定製研究業務一般分開獨立運營。這些大型調研公司的數據收集網路遠不能覆蓋我們祖國的廣袤土地,於是便催生了一大批fieldwork代理商。這些代理商有些落腳在相對發達的大城市發展得好的,也逐漸具備了服務一手區域客戶的能力,但更多的是純fieldwork的執行公司,靠承接二手業務生存,比如題主提到的那家市場調研公司,你遇到的打著他們公司名義的代理商調查員,他們的fieldwork在中國大陸已經完全外包了。這些代理商的素質良莠不齊,公司夥同調查員作弊的現象也不是沒有,他們的心態與調查員的心態是一樣的,能過了上游公司的QC檢驗關順利收到錢就好,至於樣本的產生過程就只有天知道了。在上游的大型調研公司眼裡,這些代理商與調查員之間,大概就是批發與零售的區別了。

大型調研公司經常會派出自己的督導去到代理商當地監控項目的現場運作,每天跟自己老闆彙報情況都是各種難啊,進度不理想啊,可能要改方案拖時間啊。。。老闆說這樣啊,你先回來吧,咱們商量商量看看後面的情況再決定吧。督導馬上酒店checkout通知前台改簽機票,急急忙忙買了幾包特產拉著行李箱當晚就飛回去了。第二天在辦公室跟同事們分享著特產零食旅途趣事的時候,代理商發來郵件說經過各種努力進度總算趕上來了云云。。。個中玄妙,看官自己腦洞吧。誘發代理商作弊的因素跟調查員是一樣的,有些方面可能更無奈。項目這麼難怎麼做?給錢這麼少怎麼做?這個項目當初你找不到人做,我可是捱義氣幫你扛下來的啊!話說去年的項目款你看什麼時候跟我結啊?這麼個拖法兄弟扛不住啊。。。

在艱難中逐利,或許也是無可厚非。

即使有些成名的公司,數據結果出來一看不對勁啊,沒法解釋啊,客戶是傻子都知道有問題啊!趕緊找首席數據分析師過來看看,有什麼方法可以加權一下修正一下?不行?偏差太大?那找QC過來,把不想要的樣本數據找理由作廢掉,讓fieldwork重做!什麼?樣本太多來不及?那算了,當我沒說過。那個誰,Daniel,還有Jennifer,你們過來,我們去會議室商量一下這個數據到底哪裡不合理怎麼不合理。。。報告present之後,客戶信心爆棚產品如期上市,各種宣傳推廣轟轟烈烈,大獲成功。

是也?非也?

總之,各種角色各種無奈。導致作弊現象還有更深層次的原因,作者所言只是皮毛而已。是不是所有的事情都可以直接用大是大非的道理去衡量對錯呢?作者沒有那種境界,請高人指點,看官自己判斷吧。

道高一尺,魔高一丈

要解決作弊現象,從根源上泯滅作弊的動機當然是最好的。可是項目方案設計是不能違背統計學理論的,不能浪費客戶預算的,不能信息量太少滿足不了客戶需求的。。。現在的方案已經是一個各方面權衡的理想方案了。那增加預算可以嗎?特殊情況個別樣本有可能,普遍提高那就想都不要想了,怎麼保證公司利潤率?怎麼跟友商競爭?

既然不好治本就試試治標吧。這方面調研公司是下了猛葯的,各種監控方法和檢驗手段無所不用其極,但作弊現象就像抵抗抗生素的病菌一樣,不斷變異進化,波瀾壯闊的攻防大戰史詩般上演了。

先說說定點街訪。早年攔截路人做訪問的拒訪率不像現在這麼高,在路邊攔截是不需要配備現場QC的,在訪問房間有個比較聰明伶俐的學生作為兼職督導問一遍甄別問題就算過了。慢慢的拒訪率高了,攔截員與好心路人串通口供的現象多了,就開始配備現場QC了。開始的時候是一個QC盯著幾個攔截員,慢慢就變成一個QC盯著兩個攔截員,甚至一個QC盯著一個攔截員了。有些攔截員偶爾會脫離QC視線,不知道從哪個角落扯了個人就帶上去做訪問了,於是有些調研公司開始使用QC標籤(一張有QC印章的不幹膠貼紙),經過QC認可攔截員才能得到一張標籤,有標籤的好人才可以接受訪問,標籤還會粘貼在對應的問卷上。

但這樣也有兩個問題,一是QC也要工資成本撐不住啊,二是QC也是人,也不能保證盡心盡責啊。那改變一下思路就靠機器吧,給每個攔截員脖子上掛一支錄音筆,工作時間不間斷開啟錄音,但QC也沒有人手和時間聽錄音啊,攔截員也是剛開始時被嚇了一下下而已。好,那我就上更高科技的GPS定位儀吧,後台隨時追蹤定位工作位置,並且實時監聽對話,上個廁所都要先報告申請卸下裝備。短暫的不適應之後,攔截員很快發現好人們其實很聰明的,不用說話用手指指問卷的答案大家同樣可以愉快地聊天欸。

高新科技加上現場QC負責到底的話,大部分攔截員確實無縫可鑽,那大家一起耗唄,一天下來做三五個樣本的事情也不是沒有發生過,看看誰能堅持到最後。也有些攔截員祭出了無解大殺器,做了這行這麼多年怎麼也結識了不少好人吧,只要在或QQ或微信的好人群里喊一聲,沒有過百人也有幾十人的好人兵團就浩浩蕩蕩開赴過來了!難道市場調研公司還要為好人們拍照錄指紋建檔案嗎?

插播個花絮。樣本定義及配額要求訪問指定年齡階段的人,有天攔截員帶著個小鮮肉就冒充大叔來了,QC大人一問年齡小夥子張口就說自己35歲,眼睛都不眨一下。QC大人當然明察秋毫了,但也不能直接說你扯淡吧,於是繼續和顏悅色地問道,那生肖幾何呀?小夥子這下懵了,支吾半天說不出來。QC大人對一旁惴惴不安的攔截員怒目而視,自己送客吧!可惜這招很容易被破解,傳開之後很快就不太靈了,但出生年份與生肖的對照表至今依然是QC們的基礎裝備之一,有些新手或工作不到位的調查員還是會栽倒在這個坎上。

再說說汽車相關的調查。雖然汽車逐漸開進平常百姓家,但車主在現階段還算高端人群,更何況要找指定品牌指定型號指定購買年限的車主,這類樣本難度高價值也高。不同於定點街訪的是,汽車相關調研相當部分是沒有現場監控的,調查員從公司領了問卷之後,就自己到街上到洗車店到停車場找人訪問去了。無人看管且利益誘人,汽車調研也就理所當然地成為了QC與調查員鬥法的又一個重要戰場。

先看看QC有什麼招,什麼電話複核之類玩爛了的常規招數就不說了,QC最重要的兩招是要求調查員錄音和拍照。

錄音是為了記錄下整個訪問過程,讓QC人員事後也可以根據錄音檢查調查員操作是否規範、記錄信息是否準確完整。汽車調研的錄音可不比一般消費品街訪,大多是要求問卷100%錄音,錄音筆壞了電池沒電文件損壞導致問卷沒有錄音?免談!有些項目可能不會硬性要求100%,那也只是一時心軟留出些許空間給那些意外情況的。QC也有足夠預算請一幫兼職天天回公司排排坐帶著耳機吹空調,像J.D.Power那些要求到極致的公司,不但要一邊聽錄音一邊檢查調查員有沒有偷工減料,還要看看調查員有沒有嚴格按照問卷文字讀出問題,有沒有按標準追問,有沒有原話記錄車主回答的答案,出錯點過多或出錯問題嚴重,廢卷!因為提交出去的樣本還會有他們自己的auditor(QC的另一種說法差不多)和第三方QC公司按相同的標準再檢驗一遍,他們發現不合格樣本就會拉低自己公司的質量評分。

那錄音這招怎麼破?簡單,找人重錄。調查員先填好問卷,就像劇本一樣,老公就照著念台詞。那女性車主呢?找工友找鄰居找閨蜜咯,大把女人。某天某QC帶著耳機吹著空調發獃的時候,突然眼前一道白光閃過,不對啊,問卷不是大白天在街上訪問的嗎,怎麼背景音是昨晚我看電視上的中國好聲音呢?咦,這個聲音怎麼跟剛才那個車主一模一樣?嘩,這個車主回答好流利啊,問題都沒念完答案就念書一樣說出來了。。。一張張寫著不合格原因的「牛肉乾」就開出去了。調查員自然是吃一塹長一智,那就找多幾個人來幫忙錄,跑到馬路邊上錄,帶著感情吞吞吐吐錄。。。技藝突飛猛進,日臻完美。

QC的另一個重要招數是拍照。最簡單的是車屁股照,要看得清汽車品牌型號和車牌號碼,QC核對照片信息與問卷記錄一致就行了,那個年代大家還有一項技能,看車牌號碼就能大致推斷上牌時間。這個要求太簡單了,滿大街的車隨便照,別鬼鬼祟祟被保安為難就是了,至於你有沒有見到車主,有沒有訪問到他本人就只有靠打電話複核了,找個朋友認了那還不小事一樁。然後開始要求駕駛位的車門打開,車主站在車門口的人車合照。這下難了一點,但干這行久了的調查員誰不認識幾個相熟合作的洗車店老闆,幫客人洗車的時候找個員工啊隔壁士多老闆啊什麼的往車門口一站,茄~子~so easy!為什麼老闆會合作?調研公司有場租有禮金有介紹費的預算分給他啊,錢多的時候一條利益鏈就是這樣建立起來的。更難的來了,「三證」照(身份證、駕駛證、行駛證)!更狠的是要求拍車架號!真正接受調查的車主都迷糊了,我這是要賣車了么?還是你想克隆我的車?快解釋清楚!當然不是啦。。。早就設計好了標準措辭。你以為調查員這就沒招了?圖樣圖森破!中國最多的戶外廣告是什麼?辦證!微軟office之外最流行的生產力工具是什麼?PS!

唉,不說下去了。。。這些都是些什麼事兒啊?做個市場調查而已。

上面活潑的文風一下子說這麼多,看官們切莫誤會這是調研行業的普遍現象,作者只是把很多年很多人很多事串在一起來表現演進的過程,其實如果只是在某個時間點上,我們或許只能看到其中的極個別案例。作者在文字上更多著墨於作弊方進攻的精彩以博君莞爾,也請看官不要忽略了QC方防守的努力和決心,若有行外的看官還能理解一下雙方的無奈,便是極大的欣慰了。

更多不同形式的調研方法,沒有精力系統地展開了。那些最基礎最有效卻又最無聊的質控規則和手段也都沒有提到,怕看官們瞌睡,就像盆栽的泥土重要卻無人欣賞,罷了吧。

行業的整體狀況就不去揣測和評價了,只是想回答題主作弊現象在調研行業裡面確實是客觀存在的,但也有一些負責任的公司和一些有信仰的人在與之頑強抗爭,即使他們自己都做過一些不願面對的事情,他們也一直忍耐沒有放棄,默默地積蓄著能改變些什麼東西的力量。

PS:大膽說句,相較起研究技術水平,調查員作弊現象未必就是影響客戶花錢價值的主要因素。


高票的兩個回答已經說的比較詳細了,我再補充一些。這事情要分大公司和中小公司來看,大公司么就是那麼幾家,這幾年合併下來,剩下的就更少了。我先說大公司的情況,題主提到的其實也是大公司(雖然定製業務方面不算大)

首先,定量的項目,大面積作弊是不可能的,因為任何一個有經驗的經理級別的研究人員,cross table拿到手,幾個數據一看就明白數據是否正常了。如果不正常,在還有時間的情況下,廢掉有問題的樣本(我當senior manager的時候還經常去自己翻問卷看),讓執行部門補做。如果時間已經不允許補做樣本了,一般都會首先問一下客戶多給幾天時間,借口當然不是為了補做樣本,一般都是為了更好的保證報告質量,balabala。如果客戶不願意多給時間(這種其實不經常遇到),那就只有加權了。

其次,定性的項目,說真的,現在遇到定性項目大量作弊的真的不可能(但是個別樣本作弊還是存在的,原因么就是前面兩位答主說的那種情況,各種意外導致座談會的人到不齊等等)。因為定性一旦搞砸了,基本上是徹底的完蛋。作弊的執行人員很少有不被開除的。而且從某種程度上來說,定性的執行人員更加「聰明」,她們很清楚紅線在那裡,往往寧願拚命給研究部門叫苦,讓研究人員去和客戶交涉以降低難度。

再說中小公司,中小公司有兩種,一種是混日子,只要能賺錢的。這種公司什麼行業都有,毫無底線,各種作弊。當然也有很多貪便宜的客戶,還是會用這種公司做項目,現在行業被質疑,很多客戶不相信市場研究的結果,其實很大程度上是這種公司造成的。還有一類中小公司,規模不大,但是走的是精英型道路,報價甚至高過大公司,比如前幾年很有名的J公司和F公司,還有以前R記和S記出來的高層開的那幾家。這些公司的老闆往往是業內很資深的前輩,別的不說,臉面還是要的,對數據質量什麼的也很重視,所以作弊的情況也是極少的(我不敢說沒有)


線下field work的種種問題,樓上幾位已經說得非常清楚了。我補充一點線上調研如何質量控制吧。

我們公司做的是自動化調研平台,一個項目會同時對接多家panel公司(即提供線上樣本的公司)進行。由於自己沒有Panel庫,我們對樣本質量控制非常仔細。

不少客戶會覺得線上調研看不到受訪者真人,受訪者在家中沒有監督地答題,擔心數據質量。但其實就防作弊這個角度而言,線上調研可以通過更多技術手段有效排除作弊行為。比如問卷填答時間設置上限與下限;簡單的文本分析甄別出不成文、無意義的開放題答案;對於不同項目、不同panel公司來源的樣本排重……

以上技術手段都可通過程序實現,對於我們而言實施的成本極低;但相應地Panel公司因為有這些限制如要作假則成本很高——得人工小心翼翼地操作,極不經濟。而且線上調研往往執行時間很短(比如我們一般24小時完成項目),人工作弊就難上加難。相比之下,還不如直接加大問捲髮放量的成本更低。

當然,以上是對於我們作為一家強於技術的研究公司而言。對於甲方客戶而言,只能寄望於委託的研究公司能做好對執行公司的質控。對於甲方而言,最後拿到的數據看上去都是沒啥問題的;但背後是研究公司在事前努力預防,還是事後努力「補救」所致,就不得知啦。


以下評論涉及某些國內大行的利益,未免被各種人肉,還是匿名回複比較好!

在這個行當10年左右,從最初兼職訪問員到後來某大行的PM到現在退出這行,應該也能算比較有資歷的說

市調數據不可靠(作假,作弊),究其原因,無外乎以下3種原因:

1.錢---- 這個其實分2個部分,第一部分客戶這邊,第二部分是大行這邊。先說說客戶這邊,我們經常遇到以下情況--客戶:我們有一個定量項目要做,關於**測試的,20分鐘左右的問卷就可以了。我們開始各種報價(有找內部的FW部門報價,也有找外地的代理商報價),然後客戶收到我們的報價之後,通常會和你來一句:你比某些大行的貴了**%(我們公司是小行),你能不能減一點。為了拿下項目,我們減價咯。終於千辛萬苦的拿到項目,你以為結束了么,呵呵,圖樣圖森破,還早呢!然後研究員開始各種苦B的設計問卷,同時客戶就千方百計的增加訪問內容,到最後問卷版本可能已經到了V10版,終於,客戶告訴你這是最終版本了,然後在執行的前一天的晚上,研究員準備下班的時候,通常會接到那如初戀般的客戶電話,開場白永遠是:」你下班了沒有啊?我們發現還有一個問題要修改,辛苦你咯。」然後。。。。。。由於畫面太美,請各位大俠自行腦補。最終,問卷由20分鐘增長到了40分鐘以上!第二天執行,可能你剛剛到場地上,就會聽見訪問員,攔截員的各種吐槽:「問卷那麼長,配額那麼難,費用那麼低,還要增加時間,怎麼可能做的完。」多數情況下督導/代理商會飄到你身邊幫你說項目要增加預算了,你彙報給老闆,老闆告訴你,費用不能增長,不然就沒錢賺了。這時候你以為督導/代理商是和你一條戰線上的隊友么?呵呵!他們為了不得罪攔截,只能睜一隻眼閉一隻眼,到最後攔截過來的受訪者,你懂得!你以為訪問員會認真的幫你追問么,你沒睡醒吧!最後收集回來的數據可靠性還有多少?第二部分,只是一個惡性競爭導致的惡性循環而已,每個大行的研究總監每年都會有營業額的指標,最快能夠完成指標的方法是什麼呢,就是多拿到一些項目,如果競爭公司的客觀條件都一樣的情況下(譬如名聲,規模,研究方式等等),那麼最直觀的就是價格!這裡就拿N公司和I公司來舉個例子(N公司和I公司是世界上知名的大公司,在國內他們的FW都採用外包手段)N:代理商報價4W,那麼我們報10W把。I:代理商報價4W,我們也要賺6W,但是我要比N報的便宜,那麼我們報9W,代理商那邊壓低他們報價到3W。最終項目給了I公司,但是代理商不高興了啊,憑什麼你們賺的錢不減少,要減少我們的利潤,那麼你減掉我25%的利潤,那麼我要在別的地方把這25%賺回來,怎麼賺?本來給到訪問員可能是每個樣本50元,那麼我現在給25元,那樣代理商即蹦上等於沒有虧本咯。那麼訪問員不開心啦,本來我一天能認真完成4份問卷,得到200元的,現在我只能得到100元,但是我還是想得到200元,那麼我就完成8份問卷咯,但是我時間來不及怎麼半?那麼我就只能各種作弊咯,我有點節操算了,認真完成4份,作弊4份,但是我一樣再作弊4份啦,那麼多作弊4份也無所謂啦!結果,大俠們自行腦補吧。

2.項目的執行性---- 這一Part比較簡單就能說明,我舉個我自己碰到的例子:話說09年的夏天(我還在某FW小行當督導那會),當時拿到了一個十分簡單的項目(當時我覺得簡單啦,關於汽車車主的,在上海執行,當然項目的問卷設計也很簡單,問卷長度15分鐘,幾乎都是封閉題,沒有邏輯判斷的,樣本量N=50,研究公司還提供名單,告知90%的有效性且十分配合),當時信心十足的接下了項目,當看到車主名單的時候,心中一萬頭草泥馬奔騰啊!!!給的名單一共只有400人,其中只有不到100人是我們需要的受訪者,懷著世間還是好人多的心情,我們電話一個個的溝通,在不到100人中,最終完成了36個真實樣本!然後厚著臉皮問研究公司再去要名單,結果研究員來了句,名單全部給你了,XX汽車公司今年就賣了不到100輛車!當時我就反問,你們哪來的數據覺得不到100人能夠招募到50人,研究員略有所思,回了一句:「我覺得成功率應該挺高的,就設計了50個樣本量。」然後這個項目在各種威逼利誘下順利完成了。。。其實這個例子只是想說明很多的客戶,包括研究員,他們在設計項目執行方案的時候並沒有考慮到或者是考慮過他們的設計可操作性,就好像給你10W人民幣要你幫我買了一輛80萬的捷豹!導致項目幾乎沒有辦法能夠完成,但是我們必須要完成啊,那怎麼辦呢?只能通過各種作弊作假。真的是那些訪問員/代理商願意作假/作弊嗎?請各位自己思考啦!

3.行業中的蛀蟲----的確這個行業中有很多的訪問員,攔截甚至是公司習慣了作弊,這裡直接寫一個公司的縮寫把,也算是提醒各位看官不要使用他們:CL 由於這些蛀蟲已經對於作弊的方式爛記於心,就算給到他們足夠的費用,他們也只會認為這是白賺的錢,寧願繼續作假也不願意好好的完成,因此如何滅絕這個群體的存在,才是如何能夠提高數據可靠性的根本所在!


看了@Jeff Tsang 的良心答案,決定回來補充一下,這事兒細說其實挺有意思的。

背景:JDPower 海外前員工

拿jdpa來說,因為市場固定,客戶基本固定,數據質量管控不得不嚴格要求自己。我們報告分為兩種,proprietary study和syndicated study。proprietary study是每年連續性的給付錢的客戶發送本客戶的市場報告,某種意義來說是幫客戶監控市場數據。proprietary study的採訪對象並不是完全隨機,是根據客戶提供的他們自己品牌的消費者資料庫來抽取的,採訪方式多數是電話採訪,同時錄音。這樣一方面大大提高了fieldwork的效率,而且大量減少了面對面採訪時容易發生的一些作弊行為。數據收集回來以後,audit要抽取錄音,比對整個採訪過程,任何沒有嚴格按照問卷的調查都會被drop。被drop的採訪fieldwork company是收不到錢的。然後數據處理部門會再進行邏輯檢測,因為問卷很長,很多問題之間是有邏輯相關的,捏造的答案很容易就過不了這一關。再然後到數據分析部門。因為報告是連續的,如果最後的數據跟上一份差距太大,幾個部門老闆就得開會了,但我基本沒見過。

Syndicated study是jdpa的根基,是整個市場的第三方報告,要發在各大媒體的,講究的就是個客觀。採訪對象就是完全街訪了。@Jeff Tsang 說的那些問題就會多少存在,只能加強對fieldwork公司的管控了,每年這個時候research operation的人就會大量出差去現場監管。而且很明顯的是同樣的研究,比如說新車質量研究,同樣的方法,syndicated study和proprietary study的分數是會有偏差的。我們因此收到過某些客戶的complain。

回來繼續說市場調研做假的問題。對於一個想要長久做下去的市場研究公司來說,我並不覺得他們有造假的動機,畢竟對於市場研究公司來說是靠口碑接活兒的。你的報告不能反應你客戶的正確問題,人家簽你幹啥,客戶那邊也是有數據的,人家覺得好像這個季度消費者滿意度有問題,你那邊做出來的報告顯示哇,你們棒棒的,人買一年就不買了,買你是看問題的,不是買表揚的。所以對於大公司來說,fieldwork是找第三方來做的,通過跟fieldwork博弈來解決這個事兒。雖說上有政策下有對策,但是你收集的數據老有問題,算出來的index波動太大,對不起你別幹了,我們找其他的fieldwork來做。

第一次知乎認真答題,希望對感興趣的人有幫助:)

-----------------舊答案的分割線---------

尼爾森是我們的fieldwork公司之一,公司專門有一個部門做audit,不合格的錄音或者有不合理答案的都被pass了。市場調研公司的數據合理性和真實性還是很重要的。因為一般這種公司的客戶都是長期的,控制不了數據真實性的話,長期來說報告很難令人信服。

利益相關:海外市場調研公司的數據分@Jeff Tsang


  消費品研究包括快速消費品和耐用消費品。快速消費品是現在商業包括工業當中非常活躍的一塊,快速消費品是指那些使用壽命較短,消費速度較快的消費品。耐用消費品通常使用周期較長,一次性投資較大,包括(但不限於)家用電器、傢具、汽車等。

  EMR

  消費品研究一般可以分為以下幾類:

  一、使用習慣和態度研究

  簡稱 UA 研究,是對消費者消費習慣和態度的研究,是市場研究中最為常用的研究方法。可以提供有關消費者的使用和購買習慣,以及對產品和品牌態度方面的信息,也可以提供各品牌在市場上的競爭態勢方面的信息。 UA 研究是針對某一種或某一類產品消費者的深入研究, EMR 主要的研究內容包括:消費者對產品 / 廣告的認知、消費者使用和購買習慣、消費者滿意度評價、消費者媒體習慣、消費者對市場推廣活動的態度等一系列指標。

  二、產品測試

  產品測試就是將製造好的新產品樣品交給消費者使用,了解消費者對新產品的接受程度,分析與競爭產品比較,消費者是否偏好新產品;研究新產品優缺點,確定新產品必須改進的方面,幫助新產品制定推廣策略。

  產品測試方法:單一產品測試、順序單一配對比較測試、第一單產品測試和配對比較測試產品測試內容:產品功能測試、產品性能測試、產品口味測試、產品包裝測試、產品外觀測試以及產品價格測試。

  三、價格研究

  價格因素對於業務新業務(產品)在市場上的表現往往起著關鍵性的作用,對於大多數新業務(產品)而言,價格是消費者反應最敏銳的營銷變數。有效的定價決策取決於市場信息的可靠性和準確性,價格研究有助於檢驗定價方面的假設,解決諸如價格 / 產品的最佳平衡點、如何提供額外的價值等問題。

  價格研究方法:不考慮競爭的研究方法( Gabor Grange 法和價格敏感度測試)、考慮競爭的研究方法和考慮產品多種特性的價格研究方法

  四、品牌研究

  品牌是一種複雜的關係符號,它包含了產品、消費者以及企業三者關係的總和。

  品牌研究模型由一系列指標體系構成,包括品牌知名度、品牌忠誠度、品牌定位、品牌聯想等 4 個主要指標以及品牌形象、品牌購買率、品牌佔有率、品牌滲透率、品牌流失率、品牌滿意度、品牌態勢等關聯指標。

  品牌研究的方法:頻數差,主成份分析、因子聚類法。

  EMR 品牌跟蹤系統包括以下內容:

  品牌的變化——主要包括品牌知名度、品牌形象、品牌偏好、品牌市場佔有率。跟蹤消費者的品牌信念變化,掌握品牌的市場地位

  五、滿意度研究

  客戶數量的不斷增長和競爭企業的不斷增加,意味著企業除了在吸引新增客戶上不斷加大力度以外,將越來越關注已有客戶的滿意狀況 (Satisfaction) 和忠誠狀況 (Loyalty) 。因為從營銷的角度來看,新興市場的主要工作是吸引客戶,但當市場進入成熟期時,保持客戶顯得重要得多,因為流失一個客戶的損失比新增一個客戶的收益要大得多。

  通過滿意度研究可以

  1 .確定影響滿意度的關鍵決定因素

  2 .測定當前的顧客滿意水平

  3 .發現提升產品/服務的機會,為管理者提供建議

  4 .長期跟蹤滿意水平

  針對顧客滿意度的各項指標,一般可以通過兩種方式:直接衡量法和間接衡量法。

  顧客滿意程度分成七個級度或五個級度:

  七個級度為:很不滿意、不滿意、不太滿意、一般、較滿意、滿意和很滿意。

  五個級度為:很不滿意、不滿意、一般、滿意和很滿意。

  寧波海曙信恆新市場信息諮詢有限公司的 調查方法,簡稱:信恆新市場研究諮詢機構

  一、定性研究方法

  1 .二手資料收集

  2 .深度訪問

  3 .小組座談會

  4 .觀察法

  5 .專家預測( Delphi )

  二、定量研究

  1 .市中心設點攔截訪問( CLT )

  2 .街頭攔截訪問

  3 .入戶訪問

  4 .電話訪問( CATI )

  5 .計算機輔助調查( CAPI )

  6 .神秘顧客


當數據和最終報告打算呈現的story不一致時,有些會選擇改數據。。。


別一棍子打死,不過告訴你,這種情況非常常見。。。。。。。。。


不是的。

行業現狀的確亂且雜,但身處一家有節操又靠譜的調研公司,明確告訴你,請別一棍子打死。

剛寫完一份分析報告,馬上又在嘔心瀝血做前期資料收集,準備寫市場研究建議書的表示為自己做的事情感到驕傲。

利益相關,匿了。


呵呵,都是扯淡。因為在客戶面前說了一句數據有點水,就被炒了魷魚。


同意以上各位,任何行業都有黑暗的角落,但是光明的地方更多。

如果你自己做調查,一定要非常非常重視質量監控的問題,千萬不要一味地去壓調查供應商的成本-壓價太狠了,質量肯定受影響。-當然並不是說價格高就一定沒有問題 - 應該說,是否有問題,與供應商的職業操守有很大的關係。但是,當價格低到很過份的時候,就很容易有人挺而走險了。


市場調研公司的產品就是調研報告,真正的市場調研公司根本沒必要作假,一般來說這種公司一般注重的就是調研報告的質量和客戶的滿意程度


想問下如果作假有證據可以上報給他們高管嗎,是不是這種公司是允許底下員工可以偷雞摸狗叫人家裝模作樣的。


首先,對於作弊這個問題往往出現在諮詢公司的執行部門或者是第三方執行公司,作弊具體體現在訪問員自填問卷,錄音作假(請受訪者配合訪問內容),執行不規範等等,我的第一份工作是在某執行公司,目睹了作假的過程。大概也是以上提及的那幾種方法。其實幾乎所有的第三方執行公司都存在著大大小小的作弊問題這也是行業的潛規則,其根本原因是研究公司或者研究部門制定的問卷操作難度過大,公司或者個人利益太少等等問題。其實對於複核部門來說,回訪率達到一定的水平就可以了。所以比較多人願意冒這個險。


反正就我知道的,正常定量的,但凡是汽車,百分之八十是假的,就像賀函說的,客戶想要什麼樣的數據我們會提供什麼樣的數據,有的時候,我們提交上真實的數據反而要被廢掉,因為不符合研究員心中的理想值啊,其次,做一份汽車問卷,一般客戶成本就給到120元一個,要做的車型都是寶馬賓士奧迪之類的,你說給到多少錢人家會願意,這不明顯就是逼著造假嘛,做一個速食麵解放,客戶給到第三方65一個樣本,怎麼做出來,要成本,還要盈利,以200個樣本為例,正常要做到3天,租場地要錢吧,1000一天必須要在人流量大的地方,攔截阿姨8元一個人,訪問員一天8個人,兼職費80一個人,給被訪者禮品3元一個人,單單這些成本就已經7120元了,整個項目才13000,然後還有繳稅,其他雜七雜八的,怎麼做出真的樣本出來?所以,一分價錢一分質量,難道那些大公司不知道嗎,就像某個大公司的督導說過,只要客戶不追究我不管他是真是假。

至於定性,大部分都是真的,要是假的話估計也難,因為做個座談會,深訪都是一兩個小時不停的問你,如果你不是真實符合的,很容易被繞進去的,一般都是有客戶在現場的,萬一砸了,那些諮詢公司也難做,所以就算有假的也少。


看見評論里好多人是以市場調研公司層面去分析這個問題,其實我覺得這是個產業鏈的問題。比如客戶找到某家市調公司,明確說,我需要你們為我某產品背書,又或者,這個客戶費用一定,卻希望知道很多的信息,於是設計了一份超長的問卷,以至於很多人都沒有耐心做下去,於是真實受訪者變得越來越少。所以,我覺得,這個現象存在,必定是所有的環節都出了差錯


10年前可以數據有八成真,現在能有5成就算不錯了。

代理執行12年,當年剛去行,最喜歡Synovate,可以為了達到數據的真實,可以調整區域配額,甚至合理申請得用。原來的研究員跟蹤過執行,設計項目考慮過可操作性,價錢合理,我不想作假。

作假,大多數情況都是別逼的。部分除外


是作假的。因為有一回被招聘,我想做正職,結果兼職做市場調研,而且是一線跑的行業。對我很認真干,交上去的數據是真實的,結果錢也沒給。

他們說我們的數據作假。

其實是真實的。

然後重做。

看到了。確定的調研,由於數據太難看,還可以重做。

我當時做的ck,還是國外的連鎖店。

因為當時快到國慶了。可是因為天氣不好,下了一天的雨。直到下午三四點才有人。早上一直到中午沒人。

Ck在武漢的確沒那麼高人氣。


很多資深人士回答了FW的惡性循環,尤其是jeff君,寫的超完整。我資歷很短,就不複述了。

只想說:如果甲方看到這個帖子,請不要再壓價了。2年前線下CLT訪問/攔訪最簡單的樣本幾十塊錢也是基本的成本了,你自己算算場租、人工、拒答率、廢卷的可能性,幾塊錢的樣本報價你真的敢信嗎?大行服務好,質量高,做的深,人也認真,真的值。

目前我看到過的最不靠譜的報價是2.5元一個樣本,次不靠譜的是6元一個樣本,都是給政府或者國企的投標報價,呵呵。確實有那麼一群sb在攪渾這攤水。


在國內執行公司混了快要四年了,主要是做國外公司的國內執行。去年上半年換了3家公司,現在這家也呆不下去辭了。做項目管理快要四年,只要是我知道的作弊現象,我都盡最大的努力去阻止,老闆很想站在我這邊,但是卻不願意得罪做執行的督導。在這種情況下,哪怕我每天和督導吵一百遍,有一百個理由質疑受訪者作弊,但是對方有一百個理由去辯解。真真正正是道高一尺魔高一丈。可以預期到,我吵這一百遍,很快就會變成給老闆找麻煩。真心覺得和這些人一起工作沒意思。是我太理想主義,還是我太不會做人,無法實現用一種靈活的手段來使對方做到我想要的結果?快要行業厭惡而放棄MR了


推薦閱讀:

市場營銷、公共關係入門有什麼好教材推薦?
對於北京珠寶展會上的冷清,能不能表示中國珠寶行業現在處於寒冬?
產品經理做市場調研與市場預測,和市場部的職能不是衝突了?
如何估算某一領域的市場規模?
關於嘉士伯,百威,喜力的問題?

TAG:市場 | 市場調研 | 市場調查公司 |