在維基百科中對(duì)數(shù)據(jù)挖掘的解釋是：數(shù)據(jù)挖掘(英語(yǔ)：data mining)是一個(gè)跨*的計(jì)算機(jī)科學(xué)分支 它是用人工智能、機(jī)器學(xué)習(xí)、統(tǒng)計(jì)學(xué)和數(shù)據(jù)庫(kù)的交叉方法在相對(duì)較大型的數(shù)據(jù)集中發(fā)現(xiàn)模式的計(jì)算過(guò)程。數(shù)據(jù)挖掘過(guò)程的總體目標(biāo)是從一個(gè)數(shù)據(jù)集中提取信息，并將其轉(zhuǎn)換成可理解的結(jié)構(gòu)，以進(jìn)一步使用。以下是小編為你整理的大數(shù)據(jù)都學(xué)習(xí)什么 ?

分類(lèi)。分類(lèi)是找出數(shù)據(jù)庫(kù)中一組數(shù)據(jù)對(duì)象的共同特點(diǎn)并按照分類(lèi)模式將其劃分為不同的類(lèi)，其目的是通過(guò)分類(lèi)模型，將數(shù)據(jù)庫(kù)中的數(shù)據(jù)項(xiàng)映射到某個(gè)給定的類(lèi)別。 ?

回歸分析?；貧w分析方法反映的是事務(wù)數(shù)據(jù)庫(kù)中屬性值在時(shí)間上的特征，產(chǎn)生一個(gè)將數(shù)據(jù)項(xiàng)映射到一個(gè)實(shí)值預(yù)測(cè)變量的函數(shù)，發(fā)現(xiàn)變量或?qū)傩蚤g的依賴關(guān)系，其主要研究問(wèn)題包括數(shù)據(jù)序列的趨勢(shì)特征、數(shù)據(jù)序列的預(yù)測(cè)以及數(shù)據(jù)間的相關(guān)關(guān)系等。

聚類(lèi)。聚類(lèi)分析是把一組數(shù)據(jù)按照相似性和差異性分為幾個(gè)類(lèi)別，其目的是使得屬于同一類(lèi)別的數(shù)據(jù)間的相似性盡可能大，不同類(lèi)別中的數(shù)據(jù)間的相似性盡可能小。 ?

關(guān)聯(lián)規(guī)則。關(guān)聯(lián)規(guī)則是描述數(shù)據(jù)庫(kù)中數(shù)據(jù)項(xiàng)之間所存在的關(guān)系的規(guī)則，即根據(jù)一個(gè)事務(wù)中某些項(xiàng)的出現(xiàn)可導(dǎo)出另一些項(xiàng)在同一事務(wù)中也出現(xiàn)，即隱藏在數(shù)據(jù)間的關(guān)聯(lián)或相互關(guān)系。 ?

導(dǎo)入/預(yù)處理 ?

雖然采集端本身會(huì)有很多數(shù)據(jù)庫(kù)，但是如果要對(duì)這些海量數(shù)據(jù)進(jìn)行有效的分析，還是應(yīng)該將這些來(lái)自前端的數(shù)據(jù)導(dǎo)入到一個(gè)集中的大型分布式數(shù)據(jù)庫(kù)，或者分布式存儲(chǔ)集群，并且可以在導(dǎo)入基礎(chǔ)上做一些簡(jiǎn)單的清洗和預(yù)處理工作。也有一些用戶會(huì)在導(dǎo)入時(shí)使用來(lái)自Twitter的Storm來(lái)對(duì)數(shù)據(jù)進(jìn)行流式計(jì)算，來(lái)滿足部分業(yè)務(wù)的實(shí)時(shí)計(jì)算需求。導(dǎo)入與預(yù)處理過(guò)程的特點(diǎn)和挑戰(zhàn)主要是導(dǎo)入的數(shù)據(jù)量大，每秒鐘的導(dǎo)入量經(jīng)常會(huì)達(dá)到百兆，甚至千兆級(jí)別。 ?

挖掘 ?

與前面統(tǒng)計(jì)和分析過(guò)程不同的是，數(shù)據(jù)挖掘一般沒(méi)有什么預(yù)先設(shè)定好的主題，主要是在現(xiàn)有數(shù)據(jù)上面進(jìn)行基于各種算法的計(jì)算，從而起到預(yù)測(cè)的效果，從而實(shí)現(xiàn)一些高級(jí)別數(shù)據(jù)分析的需求。比較典型算法有用于聚類(lèi)的K-Means、用于統(tǒng)計(jì)學(xué)習(xí)的SVM和用于分類(lèi)的Naive Bayes，主要使用的工具有HadoopMahout等。該過(guò)程的特點(diǎn)和挑戰(zhàn)主要是用于挖掘的算法很復(fù)雜，并且計(jì)算涉及的數(shù)據(jù)量和計(jì)算量都很大，還有，常用數(shù)據(jù)挖掘算法都以單線程為主。 ?

Hadoop和Hive ?

一群基于Java的工具被開(kāi)發(fā)出來(lái)以滿足數(shù)據(jù)處理的巨大需求。Hadoop作為*的基于Java的框架用于批處理數(shù)據(jù)已經(jīng)點(diǎn)燃了大家的熱情。Hadoop比其他一些處理工具慢，但它出奇的準(zhǔn)確，因此被廣泛用于后端分析。它和Hive——一個(gè)基于查詢并且運(yùn)行在頂部的框架可以很好地結(jié)對(duì)工作。 ?

Scala ?

Scala是另一種基于Java的語(yǔ)言，并且和Java相同的是，它正日益成為大規(guī)模機(jī)器學(xué)習(xí)，或構(gòu)建高層次算法的工具。它富有表現(xiàn)力，并且還能夠構(gòu)建健壯的系統(tǒng)。 ?

“Java就像是建造時(shí)的鋼鐵，而Scala則像黏土，因?yàn)槟阒罂梢詫⒅湃敫G內(nèi)轉(zhuǎn)變成鋼鐵，”Driscoll說(shuō)。

?

Kafka和Storm ?

那么，當(dāng)你需要快速實(shí)時(shí)的分析時(shí)又該怎么辦呢?Kafka會(huì)成為你的好朋友。它大概5年前就已經(jīng)出現(xiàn)了，但是直到最近才成為流處理的流行框架。 ?

Kafka，誕生于LinkedIn內(nèi)部，是一個(gè)超快速的查詢消息系統(tǒng)。Kafka的缺點(diǎn)?好吧，它太快了。在實(shí)時(shí)操作時(shí)會(huì)導(dǎo)致自身出錯(cuò)，并且偶爾地會(huì)遺漏東西。 ?

“有精度和速度之間有一個(gè)權(quán)衡，”Driscoll說(shuō)， “因此，硅谷所有的大型高科技公司都會(huì)使用兩條管道：Kafka或Storm用于實(shí)時(shí)處理，然后Hadoop用于批處理系統(tǒng)，此時(shí)雖然是緩慢的但超級(jí)準(zhǔn)確?！? ?

Storm是用Scala編寫(xiě)的另一個(gè)框架，它在硅谷中因?yàn)榱魈幚矶艿搅舜罅康那嗖A。它被Twitter納入其中，勿庸置疑的，這樣一來(lái)，Twitter就能在快速事件處理中得到巨大的裨益。 ?

大數(shù)據(jù)該如何去學(xué)

要想聽(tīng)懂寬客在說(shuō)什么，*記得*統(tǒng)計(jì)學(xué)的基本內(nèi)容，否則需要去補(bǔ)補(bǔ)回歸分析、統(tǒng)計(jì)推斷和實(shí)驗(yàn)設(shè)計(jì)的課，或者報(bào)考項(xiàng)目數(shù)據(jù)分析師進(jìn)行學(xué)習(xí)。你應(yīng)該理解推出結(jié)論的過(guò)程，并適時(shí)質(zhì)疑模型假設(shè)是否站得住腳。 ?

卡爾·肯普夫(KarlKempf)是英特爾工程決策團(tuán)隊(duì)的負(fù)責(zé)人之一，人稱“超級(jí)寬客”。他常常說(shuō)，高質(zhì)量的定量決策“無(wú)關(guān)數(shù)學(xué)”，而全在于“關(guān)系”。分析師和決策者需要深層次的相互信任，能夠自由地交換信息，溝通想法。 ?

不過(guò)眾所周知，溝通往往不是技術(shù)人員的強(qiáng)項(xiàng)。有人曾打趣說(shuō)，“你跟寬客說(shuō)話的時(shí)候，十個(gè)有九個(gè)盯著自己的鞋，剩下那一個(gè)盯著你的鞋”。話雖如此，能正常溝通的分析師大有人在：寬客不都是數(shù)學(xué)狂人，也愿意在商界大顯身手。 ?

正確提出問(wèn)題是大數(shù)據(jù)決策最重要的一環(huán)，最考驗(yàn)?zāi)愕慕?jīng)驗(yàn)和直覺(jué)。但假設(shè)終歸只是假設(shè)。嚴(yán)謹(jǐn)?shù)姆治龇椒軝z驗(yàn)，你提出的假設(shè)是否如實(shí)描述了世界的運(yùn)轉(zhuǎn)。 ?

此外，還需關(guān)注大數(shù)據(jù)管理流程中的*一步：向其他高管呈現(xiàn)分析結(jié)果。很多分析師不注重溝通，有時(shí)你必須親自出馬。數(shù)據(jù)分析實(shí)際就是“用數(shù)據(jù)講故事”。