隨著科技的發(fā)展,目前已經(jīng)步入了大數(shù)據(jù)的時代,很多社交媒體和互聯(lián)網(wǎng)公司也非常關(guān)注大數(shù)據(jù)這一行業(yè)。那么對于大數(shù)據(jù)而言,這里有五件事情是你應(yīng)該了解的。
1、大數(shù)據(jù)是什么
簡單地說,大數(shù)據(jù)指的是通過計算分析大數(shù)據(jù)集,以揭示與數(shù)據(jù)某一方面相關(guān)的模式或趨勢。對于大數(shù)據(jù)而言,數(shù)據(jù)量沒有一定的要求,只要足夠得出可靠的結(jié)論即可。
M-brain從以下八個“V”方面說明大數(shù)據(jù):
VOLUME:能夠發(fā)現(xiàn)自己想要的信息嗎
VALUE:當(dāng)你最需要它的時候你能發(fā)現(xiàn)它嗎
VERACITY:處理的是有用信息還是虛假信息
VISUALISATION:一眼就能看明白嗎 它能促進決定嗎
VARIETY:一張圖比一千個詞更有價值嗎 獲得的信息均衡嗎
VELOCITY:從信息獲得動力,危機和機遇同時存在,未來的前景會如何
VISCOSITY:是否受到困擾 需要采取進一步行動嗎
VIRALITY:它是否傳達了一個可以粘貼到演示文檔中的信息
2、如何能夠接觸大數(shù)據(jù)
數(shù)據(jù)在現(xiàn)實生活中無處不在,而且隨著時間的推移會積累的越來越多。通過谷歌搜索就可以使你幾乎能夠找到所有的數(shù)據(jù)庫。很多人不知道那些已經(jīng)存在的數(shù)據(jù)可供訪問和分析,如果你不知道的話,可以在KD Nuggets網(wǎng)站上找到可供訪問和挖掘的數(shù)據(jù)列表。如何訪問和使用這些數(shù)據(jù)主要分為以下六個方面:
?數(shù)據(jù)提取
在進行任何事情之前,都需要使用一些數(shù)據(jù)?,F(xiàn)實中可以通過多種方式獲得所需要的數(shù)據(jù),但通常的做法是通過API調(diào)用公司的web服務(wù)獲得相關(guān)數(shù)據(jù)。
?數(shù)據(jù)存儲
大數(shù)據(jù)面臨的主要難題之一是如何存儲并管理它,這完全取決于負責(zé)建立數(shù)據(jù)存儲的預(yù)算和個人具備的專業(yè)知識,因為對于大多數(shù)數(shù)據(jù)管理者來說,都需要具備一些編程方面的知識。良好設(shè)計的數(shù)據(jù)庫允許用戶安全地、直接地存儲和查詢數(shù)據(jù)。
?數(shù)據(jù)清洗
不管你喜歡與否,數(shù)據(jù)集有各種各樣的形式和大小。在考慮如何存儲數(shù)據(jù)之前,需要確保它是干凈的,且轉(zhuǎn)化成能夠被接受的格式。
?數(shù)據(jù)挖掘
數(shù)據(jù)挖掘是從數(shù)據(jù)庫中洞察一些信息的過程,這樣做的目的是根據(jù)當(dāng)前持有的數(shù)據(jù)提供預(yù)測并作出決定。
?數(shù)據(jù)分析
一旦收集了所有的數(shù)據(jù)后,就需要對其進行相關(guān)任務(wù)的分析、尋找有趣的模型或趨勢。優(yōu)秀的數(shù)據(jù)分析師會發(fā)現(xiàn)一些不同尋常的東西或其他人之前沒有發(fā)現(xiàn)的內(nèi)容。
?數(shù)據(jù)可視化
對于數(shù)據(jù)處理而言,對其最重要的可能是數(shù)據(jù)可視化??梢暬窃谕瓿伤泄ぷ骱筝敵鲆粋€能被任何人理解的可視化載體,這可以通過使用編程語言(如Plot.ly、d3.js)或軟件(如Tableau)實現(xiàn)。
3、與大數(shù)據(jù)相關(guān)的職業(yè)
隨著市場對大數(shù)據(jù)相關(guān)需求的增加,與之相關(guān)的職業(yè)需求數(shù)量也在上升。根據(jù)相關(guān)機構(gòu)的統(tǒng)計研究,一個大數(shù)據(jù)工程師每年的平均工資是150000美元。
根據(jù)相關(guān)研究報道,超過80%的數(shù)據(jù)科學(xué)家有碩士學(xué)位,使得他們能夠從事這個領(lǐng)域的任何工作。
4、新興行業(yè)
簡而言之,大數(shù)據(jù)行業(yè)是一個正在快速成長的行業(yè)。很多公司和個人都對大數(shù)據(jù)非常關(guān)注,下圖是谷歌趨勢圖。從下圖中可以看到,搜索詞“大數(shù)據(jù)”從2004年到現(xiàn)在的流行程度增長迅猛。
根據(jù)IDC提供的數(shù)據(jù),“大數(shù)據(jù)和業(yè)務(wù)分析(BDA)”在2017年的全球收入達到150.8億美元,比2016年同比增長12.4%。估計到2020年底,大數(shù)據(jù)的全球收入可能達到210億美元。
5、如何學(xué)習(xí)
大數(shù)據(jù)是一個寬泛的主題,因此所需要學(xué)習(xí)的內(nèi)容涵蓋多方面的知識。想要從事該領(lǐng)域工作的人們需要具備一系列的特定技能,包括以下技能中的一個或多個:
?掌握一種與數(shù)據(jù)分析有關(guān)的編程語言,比如R、Python、SAS和SQL語言等
?對數(shù)學(xué)和統(tǒng)計學(xué)有很好的理解與掌握
?具備網(wǎng)頁爬蟲經(jīng)驗
?基本的Excel技能
一些網(wǎng)站提供在線大數(shù)據(jù)課程,比如Coursera、Simpli Learn等。如果你正在尋找一個大學(xué)在線課程,可以從Masters Portal列出的全英國95個數(shù)據(jù)科學(xué)和大數(shù)據(jù)碩士課程中選擇一個適合自己的課程,典型的教學(xué)大綱可能包括以下幾個方面:
?與大數(shù)據(jù)相關(guān)的數(shù)學(xué)知識
?Python腳本
?大數(shù)據(jù)的商業(yè)和科學(xué)應(yīng)用
?大型數(shù)據(jù)庫和非關(guān)系型數(shù)據(jù)庫,包括MongoDb、Cassandra和Neo4j
?數(shù)據(jù)分析、機器學(xué)習(xí)和使用Weka、R和Scikit-Learn可視化數(shù)據(jù)
?大問題的優(yōu)化和探索
?使用hadoop、Spark、Hive和MapReduce集群計算