大數(shù)據(jù)思考之一
任何一個(gè)網(wǎng)站的數(shù)據(jù)都是人們互聯(lián)網(wǎng)行為數(shù)據(jù)的很小的一個(gè)子集,無(wú)論這個(gè)子集多么全面,分析多么深入,都是子集,不是全集。對(duì)于企業(yè)來(lái)講,競(jìng)爭(zhēng)對(duì)手的數(shù)據(jù)價(jià)值遠(yuǎn)遠(yuǎn)超過(guò)自己網(wǎng)站數(shù)據(jù)的價(jià)值,從量級(jí)上,對(duì)于所有公司都一樣,自己擁有的數(shù)據(jù)遠(yuǎn)遠(yuǎn)小于全集數(shù)據(jù)??雌饋?lái)的全數(shù)據(jù)恰恰是殘缺數(shù)據(jù)。
大數(shù)據(jù)思考之二
數(shù)據(jù)量的大幅增加會(huì)造成結(jié)果的不準(zhǔn)確,來(lái)源不同的信息混雜會(huì)加大數(shù)據(jù)的混亂程度。研究發(fā)現(xiàn):巨量數(shù)據(jù)集和細(xì)顆粒度的測(cè)量會(huì)導(dǎo)致出現(xiàn)“錯(cuò)誤發(fā)現(xiàn)”的風(fēng)險(xiǎn)增加。那種認(rèn)為“假設(shè)、檢驗(yàn)、驗(yàn)證的科學(xué)方法已經(jīng)過(guò)時(shí)”的論調(diào),正是大數(shù)據(jù)時(shí)代的混亂與迷茫,人們索性擁抱凱文凱利所稱的混亂。
大數(shù)據(jù)思考之三
互聯(lián)網(wǎng)用戶的基本特征、消費(fèi)行為、上網(wǎng)行為、渠道偏好、行為喜好、生活軌跡與位置等,反映用戶的基本行為規(guī)律。體系完整是所有分析性工作的第一步,完整的框架甚至勝過(guò)高深的模型。人類(lèi)的認(rèn)識(shí)最大的危險(xiǎn)是不顧后果的運(yùn)用局部知識(shí)。如果只關(guān)心自己網(wǎng)站數(shù)據(jù),其分析基礎(chǔ)必然是斷裂數(shù)據(jù)。
大數(shù)據(jù)思考之四
現(xiàn)在談到大數(shù)據(jù),基本有四個(gè)混亂觀念:第一,大數(shù)據(jù)是全數(shù)據(jù),忽視甚至蔑視抽樣;第二,連續(xù)數(shù)據(jù)就是大數(shù)據(jù);第三,數(shù)據(jù)量級(jí)大是大數(shù)據(jù);第四,數(shù)據(jù)量大好于量小。對(duì)應(yīng)的是:抽樣數(shù)據(jù)只要抽樣合理,結(jié)論準(zhǔn)確;連續(xù)只是一個(gè)數(shù)據(jù)結(jié)構(gòu);大量級(jí)的噪音會(huì)得出錯(cuò)誤結(jié)論;大小與價(jià)值關(guān)系不大。
大數(shù)據(jù)思考之五
大數(shù)據(jù)不是新事物,天氣、地震、量子物理、基因、醫(yī)學(xué)等都是,借鑒他們的方法有益。他們用抽樣調(diào)查?;ヂ?lián)網(wǎng)數(shù)據(jù)挖掘方法論也如此,不同的是更難,因?yàn)槿说膹?fù)雜性。既然是關(guān)于人的研究就需應(yīng)用所有研究人的方法梳理大數(shù)據(jù)。只要懂編程、懂調(diào)動(dòng)數(shù)據(jù)的人就可以做大數(shù)據(jù)挖掘的說(shuō)法是謬誤。
大數(shù)據(jù)思考之六
大數(shù)據(jù)分析中分析構(gòu)架為第一要著,算法也極為關(guān)鍵,在最近的大數(shù)據(jù)處理中發(fā)現(xiàn):解析網(wǎng)址后的分類(lèi)是是一個(gè)難點(diǎn),主要有幾個(gè)方面,一個(gè)千萬(wàn)人的網(wǎng)絡(luò)行為數(shù)據(jù)一天產(chǎn)生的域名大約50000個(gè),雖然有一些算法,但是混淆、難以辨認(rèn)、連續(xù)更新與判別是分析中的重要步驟,簡(jiǎn)單分易,精細(xì)分難。
大數(shù)據(jù)思考之七
算法中,只要包含文本,就必然有兩個(gè)關(guān)鍵基礎(chǔ)技術(shù):關(guān)鍵詞(字典)與語(yǔ)義分析,關(guān)鍵詞技術(shù)成熟,語(yǔ)義技術(shù)是瓶頸,中文語(yǔ)義太難,能解決50%的團(tuán)隊(duì)就不錯(cuò)了,尤其是社交語(yǔ)言,比如"真可以!"何解?需上下文。希望風(fēng)投們多鼓勵(lì)此類(lèi)基礎(chǔ)技術(shù)研發(fā),突破此瓶頸是大數(shù)據(jù)挖掘的關(guān)鍵點(diǎn)之一。
大數(shù)據(jù)思考之八
社交數(shù)據(jù)挖掘中,很多團(tuán)隊(duì)集中在運(yùn)用推特瀑布思路,就是可視化技術(shù),其構(gòu)圖精美值得稱道,問(wèn)題是,其理論還是沿用三十多年前的社會(huì)計(jì)量法,概念還是局限在點(diǎn)、橋、意見(jiàn)領(lǐng)袖等小群體分析,不適合巨網(wǎng),突破可視化框架的社交分析需要理論探索和實(shí)踐努力。
大數(shù)據(jù)思考之九
移動(dòng)互聯(lián)網(wǎng)對(duì)社會(huì)生活的影響本質(zhì)是時(shí)間與空間的解構(gòu),分析這類(lèi)大數(shù)據(jù)需要把握這兩點(diǎn),如果僅僅分析app和網(wǎng)絡(luò)使用行為,那么分析上就失去了移動(dòng)的意義。單純看流量、點(diǎn)擊率等簡(jiǎn)單數(shù)字無(wú)法解決復(fù)雜的營(yíng)銷(xiāo)問(wèn)題。不創(chuàng)新的延續(xù)原有思維模式是人類(lèi)思考惰性。