-
當(dāng)前位置:首頁(yè) > 創(chuàng)意學(xué)院 > 技術(shù) > 專題列表 > 正文
一面數(shù)據(jù)數(shù)據(jù)分析師
大家好!今天讓創(chuàng)意嶺的小編來(lái)大家介紹下關(guān)于一面數(shù)據(jù)數(shù)據(jù)分析師的問(wèn)題,以下是小編對(duì)此問(wèn)題的歸納整理,讓我們一起來(lái)看看吧。
開始之前先推薦一個(gè)非常厲害的Ai人工智能工具,一鍵生成原創(chuàng)文章、方案、文案、工作計(jì)劃、工作報(bào)告、論文、代碼、作文、做題和對(duì)話答疑等等
只需要輸入關(guān)鍵詞,就能返回你想要的內(nèi)容,越精準(zhǔn),寫出的就越詳細(xì),有微信小程序端、在線網(wǎng)頁(yè)版、PC客戶端
官網(wǎng):https://ai.de1919.com。
創(chuàng)意嶺作為行業(yè)內(nèi)優(yōu)秀的企業(yè),服務(wù)客戶遍布全球各地,如需了解SEO相關(guān)業(yè)務(wù)請(qǐng)撥打電話175-8598-2043,或添加微信:1454722008
本文目錄:
一、數(shù)據(jù)分析師的主要工作內(nèi)容有哪些?
1、制作報(bào)告
作為一名分析師,需要花了大量時(shí)間來(lái)制作內(nèi)部報(bào)告和對(duì)外客戶報(bào)告。這些報(bào)告為管理層提供趨勢(shì)以及公司需要改進(jìn)見(jiàn)解。
編寫報(bào)告并不是將數(shù)字匯總發(fā)送給領(lǐng)導(dǎo)那么簡(jiǎn)單。數(shù)據(jù)分析師需要了解如何用數(shù)據(jù)創(chuàng)建敘述,為了保持價(jià)值,數(shù)據(jù)分析報(bào)告要一目了然,簡(jiǎn)單易懂的方式展現(xiàn)答案和見(jiàn)解,因?yàn)闆Q策者或者上級(jí)領(lǐng)導(dǎo)不一定也是數(shù)據(jù)分析師。
2、發(fā)現(xiàn)數(shù)據(jù)重點(diǎn)
為了生成那些有意義的報(bào)告,數(shù)據(jù)分析師首先必須能夠看到數(shù)據(jù)中的重要部分和模式。定期遞增報(bào)告(例如每周,每月或每季度)很重要,因?yàn)樗兄诜治鰩熥⒁獾街匾牟糠质鞘裁础?/p>
3、收集數(shù)據(jù)并設(shè)置基礎(chǔ)設(shè)施
也許分析師工作中最技術(shù)性的方面是收集數(shù)據(jù)本身。但通常這也意味著數(shù)據(jù)分析師要與網(wǎng)絡(luò)開發(fā)人員合作并優(yōu)化數(shù)據(jù)收集。
二、數(shù)據(jù)分析師是做什么的?
數(shù)據(jù)分析師主要工作是在本行業(yè)內(nèi)將各種數(shù)據(jù)進(jìn)行搜集、整理、分析,然后根據(jù)這些數(shù)據(jù)進(jìn)行分析判斷,在分析數(shù)據(jù)后對(duì)行業(yè)發(fā)展、行業(yè)知識(shí)規(guī)則等等進(jìn)行預(yù)測(cè)和挖掘。數(shù)據(jù)分析師是數(shù)據(jù)師其中的一種,另一種是數(shù)據(jù)挖掘工程師,兩者都是專業(yè)型人才。
擴(kuò)展資料
數(shù)據(jù)分析師和數(shù)據(jù)挖掘工程師的區(qū)別
1、“數(shù)據(jù)分析”的重點(diǎn)是觀察數(shù)據(jù),而“數(shù)據(jù)挖掘”的重點(diǎn)是從數(shù)據(jù)中發(fā)現(xiàn)“知識(shí)規(guī)則”。
2、“數(shù)據(jù)分析”得出的結(jié)論是人的智能活動(dòng)結(jié)果,而“數(shù)據(jù)挖掘”得出的結(jié)論是機(jī)器從學(xué)習(xí)集(或訓(xùn)練集、樣本集)發(fā)現(xiàn)的知識(shí)規(guī)則。
3、“數(shù)據(jù)分析”得出結(jié)論的運(yùn)用是人的智力活動(dòng),而“數(shù)據(jù)挖掘”發(fā)現(xiàn)的知識(shí)規(guī)則,可以直接應(yīng)用到預(yù)測(cè)。
4、“數(shù)據(jù)分析”不能建立數(shù)學(xué)模型,需要人工建模,而“數(shù)據(jù)挖掘”直接完成了數(shù)學(xué)建模。
5、相對(duì)而言,數(shù)據(jù)挖掘工程師對(duì)統(tǒng)計(jì)學(xué),機(jī)器學(xué)習(xí)等技能的要求比數(shù)據(jù)分析師高得多。
6、很多情況下,數(shù)據(jù)挖掘工程師同時(shí)兼任數(shù)據(jù)分析師的角色。
參考資料來(lái)源:百度百科--數(shù)據(jù)分析師
參考資料來(lái)源:百度百科--數(shù)據(jù)師
三、數(shù)據(jù)分析師—技術(shù)面試
數(shù)據(jù)分析師—技術(shù)面試
三月份開始找實(shí)習(xí),到現(xiàn)在已經(jīng)有半年的時(shí)間了,在這半年的時(shí)間中,該經(jīng)歷的基本上都已經(jīng)經(jīng)歷,春招實(shí)習(xí)時(shí)候,拿到了7個(gè)offer,校招時(shí)候,成功的拿下一份心儀的工作,結(jié)束了我的秋招旅程。對(duì)于面試,技術(shù)層面即算法、軟件等等,業(yè)務(wù)層面就是忽悠(畢竟沒(méi)有做過(guò)完整的項(xiàng)目),但是也要有自己的邏輯和思考方式(這方面我也有很大的欠缺),下面將自己的面試經(jīng)歷梳理為技術(shù)層面和業(yè)務(wù)層面,來(lái)分享給大家。
技術(shù)面試
一、軟件
1. R語(yǔ)言的文件讀?。篶sv文件的讀取方式(read.csv),txt文件的讀取方式(read.table)
2. R語(yǔ)言中一些小函數(shù)的作用
①apply函數(shù):1代表調(diào)用每一行的函數(shù),0代表調(diào)用每一列的函數(shù)(注意其用法和Python的區(qū)別)
②runif函數(shù):生成均勻分布的隨機(jī)數(shù)
③sample(,return = TRUE):隨機(jī)有放回的抽樣
3. Python中l(wèi)ist列表和元組的最大區(qū)別:元組的值不可以改變,但是列表的值是可以改變的。
4.數(shù)據(jù)庫(kù)中表的連接方式
①內(nèi)部連接:inner join
②外部連接:outer join
③左連接:left join
注:對(duì)于數(shù)據(jù)分析,建議大家無(wú)論是R,Python,sql都有自己一套流程化的體系,這一體系可以很好的幫助你解決實(shí)際中的問(wèn)題。
二、算法
對(duì)于算法(分類,聚類,關(guān)聯(lián)等),更是建議大家有一套流程化的體系,在面試算法的時(shí)候,是一個(gè)依次遞進(jìn)的過(guò)程,不要給自己挖坑,相反,更要將自己的優(yōu)勢(shì)發(fā)揮的淋漓盡致,把自己會(huì)的東西全部釋放出來(lái)。
下面我將自己的所有面試串聯(lián)起來(lái),給大家分享一下,僅供參考。
面試官:小張同學(xué),你好,看了你的簡(jiǎn)歷,對(duì)相關(guān)算法還是略懂一些,下面開始我們的面試,有這么一個(gè)場(chǎng)景,在一個(gè)樣本集中,其中有100個(gè)樣本屬于A,9900個(gè)樣本屬于B,我想用決策樹算法來(lái)實(shí)現(xiàn)對(duì)AB樣本進(jìn)行區(qū)分,這時(shí)會(huì)遇到什么問(wèn)題:
小張:欠擬合現(xiàn)象,因?yàn)樵谶@個(gè)樣本集中,AB樣本屬于嚴(yán)重失衡狀態(tài),在建立決策樹算法的過(guò)程中,模型會(huì)更多的偏倚到B樣本的性質(zhì),對(duì)A樣本的性質(zhì)訓(xùn)練較差,不能很好的反映樣本集的特征。
面試官:看你決策樹應(yīng)該掌握的不錯(cuò),你說(shuō)一下自己對(duì)于決策樹算法的理解?
小張:決策樹算法,無(wú)論是哪種,其目的都是為了讓模型的不確定性降低的越快越好,基于其評(píng)價(jià)指標(biāo)的不同,主要是ID3算法,C4.5算法和CART算法,其中ID3算法的評(píng)價(jià)指標(biāo)是信息增益,C4.5算法的評(píng)價(jià)指標(biāo)是信息增益率,CART算法的評(píng)價(jià)指標(biāo)是基尼系數(shù)。
面試官:信息增益,好的,這里面有一個(gè)信息論的概念,你應(yīng)該知道的吧,敘述一下
小張:香農(nóng)熵,隨機(jī)變量不確定性的度量。利用ID3算法,每一次對(duì)決策樹進(jìn)行分叉選取屬性的時(shí)候,我們會(huì)選取信息增益最高的屬性來(lái)作為分裂屬性,只有這樣,決策樹的不純度才會(huì)降低的越快。
面試官:OK,你也知道,在決策樹無(wú)限分叉的過(guò)程中,會(huì)出現(xiàn)一種現(xiàn)象,叫過(guò)擬合,和上面說(shuō)過(guò)的欠擬合是不一樣的,你說(shuō)一下過(guò)擬合出現(xiàn)的原因以及我們用什么方法來(lái)防止過(guò)擬合的產(chǎn)生?
小張:對(duì)訓(xùn)練數(shù)據(jù)預(yù)測(cè)效果很好,但是測(cè)試數(shù)據(jù)預(yù)測(cè)效果較差,則稱出現(xiàn)了過(guò)擬合現(xiàn)象。對(duì)于過(guò)擬合現(xiàn)象產(chǎn)生的原因,有以下幾個(gè)方面,第一:在決策樹構(gòu)建的過(guò)程中,對(duì)決策樹的生長(zhǎng)沒(méi)有進(jìn)行合理的限制(剪枝);第二:在建模過(guò)程中使用了較多的輸出變量,變量較多也容易產(chǎn)生過(guò)擬合;第三:樣本中有一些噪聲數(shù)據(jù),噪聲數(shù)據(jù)對(duì)決策樹的構(gòu)建的干擾很多,沒(méi)有對(duì)噪聲數(shù)據(jù)進(jìn)行有效的剔除。對(duì)于過(guò)擬合現(xiàn)象的預(yù)防措施,有以下一些方法,第一:選擇合理的參數(shù)進(jìn)行剪枝,可以分為預(yù)剪枝后剪枝,我們一般用后剪枝的方法來(lái)做;第二:K-folds交叉驗(yàn)證,將訓(xùn)練集分為K份,然后進(jìn)行K次的交叉驗(yàn)證,每次使用K-1份作為訓(xùn)練樣本數(shù)據(jù)集,另外的一份作為測(cè)試集合;第三:減少特征,計(jì)算每一個(gè)特征和響應(yīng)變量的相關(guān)性,常見(jiàn)的為皮爾遜相關(guān)系數(shù),將相關(guān)性較小的變量剔除,當(dāng)然還有一些其他的方法來(lái)進(jìn)行特征篩選,比如基于決策樹的特征篩選,通過(guò)正則化的方式來(lái)進(jìn)行特征選取等。
面試官:你剛剛前面有提到預(yù)剪枝和后剪枝,當(dāng)然預(yù)剪枝就是在決策樹生成初期就已經(jīng)設(shè)置了決策樹的參數(shù),后剪枝是在決策樹完全建立之后再返回去對(duì)決策樹進(jìn)行剪枝,你能否說(shuō)一下剪枝過(guò)程中可以參考的某些參數(shù)?
小張:剪枝分為預(yù)剪枝和后剪枝,參數(shù)有很多,在R和Python中都有專門的參數(shù)來(lái)進(jìn)行設(shè)置,下面我以Python中的參數(shù)來(lái)進(jìn)行敘述,max_depth(樹的高度),min_samples_split(葉子結(jié)點(diǎn)的數(shù)目),max_leaf_nodes(最大葉子節(jié)點(diǎn)數(shù)),min_impurity_split(限制不純度),當(dāng)然R語(yǔ)言里面的rpart包也可以很好的處理這個(gè)問(wèn)題。
面試官:對(duì)了,你剛剛還說(shuō)到了用決策樹來(lái)進(jìn)行特征的篩選,現(xiàn)在我們就以ID3算法為例,來(lái)說(shuō)一下決策樹算法對(duì)特征的篩選?
小張:對(duì)于離散變量,計(jì)算每一個(gè)變量的信息增益,選擇信息增益最大的屬性來(lái)作為結(jié)點(diǎn)的分裂屬性;對(duì)于連續(xù)變量,首先將變量的值進(jìn)行升序排列,每對(duì)相鄰值的中點(diǎn)作為可能的分離點(diǎn),對(duì)于每一個(gè)劃分,選擇具有最小期望信息要求的點(diǎn)作為分裂點(diǎn),來(lái)進(jìn)行后續(xù)的決策數(shù)的分裂。
面試官:你剛剛還說(shuō)到了正則化,確實(shí)可以對(duì)過(guò)擬合現(xiàn)象來(lái)進(jìn)行很好的調(diào)整,基于你自己的理解,來(lái)說(shuō)一下正則化?
小張:這一塊的知識(shí)掌握的不是很好,我簡(jiǎn)單說(shuō)一下自己對(duì)這一塊的了解。以二維情況為例,在L1正則化中,懲罰項(xiàng)是絕對(duì)值之和,因此在坐標(biāo)軸上會(huì)出現(xiàn)一個(gè)矩形,但是L2正則化的懲罰項(xiàng)是圓形,因此在L1正則化中增大了系數(shù)為0的機(jī)會(huì),這樣具有稀疏解的特性,在L2正則化中,由于系數(shù)為0的機(jī)率大大減小,因此不具有稀疏解的特性。但是L1沒(méi)有選到的特性不代表不重要,因此L1和L2正則化要結(jié)合起來(lái)使用。
面試官:還可以吧!正則化就是在目標(biāo)函數(shù)后面加上了懲罰項(xiàng),你也可以將后面的懲罰項(xiàng)理解為范數(shù)。分類算法有很多,邏輯回歸算法也是我們經(jīng)常用到的算法,剛剛主要討論的是決策樹算法,現(xiàn)在我們簡(jiǎn)單聊一下不同分類算法之間的區(qū)別吧!討論一下決策樹算法和邏輯回歸算法之間的區(qū)別?
小張:分為以下幾個(gè)方面:第一,邏輯回歸著眼于對(duì)整體數(shù)據(jù)的擬合,在整體結(jié)構(gòu)上優(yōu)于決策樹;但是決策樹采用分割的方法,深入到數(shù)據(jù)內(nèi)部,對(duì)局部結(jié)構(gòu)的分析是優(yōu)于邏輯回歸;第二,邏輯回歸對(duì)線性問(wèn)題把握較好,因此我們?cè)诮⒎诸愃惴ǖ臅r(shí)候也是優(yōu)先選擇邏輯回歸算法,決策樹對(duì)非線性問(wèn)題的把握較好;第三,從本質(zhì)來(lái)考慮,決策樹算法假設(shè)每一次決策邊界都是和特征相互平行或垂直的,因此會(huì)將特征空間劃分為矩形,因而決策樹會(huì)產(chǎn)生復(fù)雜的方程式,這樣會(huì)造成過(guò)擬合現(xiàn)象;邏輯回歸只是一條平滑的邊界曲線,不容易出現(xiàn)過(guò)擬合現(xiàn)象。
面試官: 下面呢我們來(lái)聊一下模型的評(píng)估,算法進(jìn)行模型評(píng)估的過(guò)程中,常用的一些指標(biāo)都有哪些,精度???召回率啊?ROC曲線???這些指標(biāo)的具體含義是什么?
小張:精度(precision),精確性的度量,表示標(biāo)記為正例的元組占實(shí)際為正例的比例;召回率(recall),完全性的度量,表示為實(shí)際為正例的元組被正確標(biāo)記的比例;ROC 曲線的橫坐標(biāo)為假陽(yáng)性,縱坐標(biāo)為真陽(yáng)性,值越大,表示分類效果越好。
(to be honest,這個(gè)問(wèn)題第一次我跪了,雖然說(shuō)是記憶一下肯定沒(méi)問(wèn)題,但是當(dāng)時(shí)面試的那個(gè)時(shí)候大腦是一片空白)
面試官:聚類分析你懂得的吧!在我們一些分析中,它也是我們經(jīng)常用到的一類算法,下面你介紹一下K-means算法吧!
小張:對(duì)于K-means算法,可以分為以下幾個(gè)步驟:第一,從數(shù)據(jù)點(diǎn)中隨機(jī)抽取K個(gè)數(shù)據(jù)點(diǎn)作為初始的聚類中心;第二:計(jì)算每個(gè)點(diǎn)到這K個(gè)中心點(diǎn)的距離,并把每個(gè)點(diǎn)分到距離其最近的中心中去;第三:求取各個(gè)類的均值,將這些均值作為新的類中心;第四:重復(fù)進(jìn)行步驟二三過(guò)程,直至算法結(jié)束,算法結(jié)束有兩種,一種是迭代的次數(shù)達(dá)到要求,一種是達(dá)到了某種精度。
后記
面試的水很深,在數(shù)據(jù)分析技術(shù)面的時(shí)候問(wèn)到的東西當(dāng)然遠(yuǎn)遠(yuǎn)不止這些,因此在我們的腦子里面一定要形成一個(gè)完整的體系,無(wú)論是對(duì)某一門編程語(yǔ)言,還是對(duì)數(shù)據(jù)挖掘算法,在工作中都需要形成你的閉環(huán),在面試中更是需要你形成閉環(huán),如何更完美的包裝自己,自己好好總結(jié)吧!
附錄
R語(yǔ)言數(shù)據(jù)處理體系:數(shù)據(jù)簡(jiǎn)單預(yù)處理個(gè)人總結(jié)
1、數(shù)據(jù)簡(jiǎn)單查看
⑴查看數(shù)據(jù)的維度:dim
⑵查看數(shù)據(jù)的屬性:colnames
⑶查看數(shù)據(jù)類型:str
注:有一些算法,比如說(shuō)組合算法,要求分類變量為因子型變量;層次聚類,要求是一個(gè)距離矩陣,可以通過(guò)str函數(shù)進(jìn)行查看
⑷查看前幾行數(shù)據(jù):head
注:可以初步觀察數(shù)據(jù)是不是有量綱的差異,會(huì)后續(xù)的分析做準(zhǔn)備
⑸查看因子型變量的占比情況:table/prop.table
注:可以為后續(xù)數(shù)據(jù)抽樣做準(zhǔn)備,看是否產(chǎn)生類不平衡的問(wèn)題
2、數(shù)據(jù)缺失值處理
⑴summary函數(shù)進(jìn)行簡(jiǎn)單的查看
⑵利用mice和VIM包查看數(shù)據(jù)缺失值情況,代表性函數(shù): md.pattern、aggr
⑶caret包中的preProcess函數(shù),可以進(jìn)行缺失值的插補(bǔ)工作,有knn、袋裝、中位數(shù)方法
⑷missForest包中的missForest函數(shù),可以用隨機(jī)森林的方法進(jìn)行插補(bǔ)
⑸可以用回歸分析的方法完成缺失值插補(bǔ)工作
⑹如果樣本量很多,缺失的數(shù)據(jù)很少,可以選擇直接剔除的方法
3、數(shù)據(jù)異常值處理
⑴summary函數(shù)進(jìn)行簡(jiǎn)單的查看,比如:最大值、最小值等
⑵boxplot函數(shù)繪制箱線圖
4、數(shù)據(jù)抽樣
⑴sample函數(shù)進(jìn)行隨機(jī)抽樣
⑵caret包中的createDataPartition()函數(shù)對(duì)訓(xùn)練樣本和測(cè)試樣本進(jìn)行等比例抽樣
⑶caret包中的createFold函數(shù)根據(jù)某一個(gè)指標(biāo)進(jìn)行等比例抽樣
⑷DMwR包中SMOTE函數(shù)可以解決處理不平衡分類問(wèn)題
注:比如決策樹算法中,如果樣本嚴(yán)重不平衡,那么模型會(huì)出現(xiàn)欠擬合現(xiàn)象
5、變量的多重共線性處理
⑴結(jié)合業(yè)務(wù),先刪除那些和分析無(wú)關(guān)的指標(biāo)
⑵corrgram包的corrgram函數(shù)查看相關(guān)系數(shù)矩陣
⑶caret包中的findCorrelation函數(shù)查看多重共線性
⑷如果相關(guān)性太大,可以考慮刪除變量;如果變量比較重要,可以考慮主成分/因子分析進(jìn)行降維處理
四、數(shù)據(jù)分析師是什么崗位
數(shù)據(jù)分析師指的是不同行業(yè)中,專門從事行業(yè)數(shù)據(jù)搜集、整理、分析,并依據(jù)數(shù)據(jù)做出行業(yè)研究、評(píng)估和預(yù)測(cè)的專業(yè)人員。數(shù)據(jù)分析師在企業(yè)中的主要作用是支持與指導(dǎo)業(yè)務(wù)發(fā)展。
與業(yè)務(wù)部門一起工作,以確定改進(jìn)業(yè)務(wù)操作和流程的機(jī)會(huì)。
參與業(yè)務(wù)系統(tǒng)或IT系統(tǒng)的設(shè)計(jì)或修改。
與業(yè)務(wù)涉眾和主題專家進(jìn)行交互,以了解他們的問(wèn)題和需求。
收集、記錄和分析業(yè)務(wù)需求。
解決業(yè)務(wù)問(wèn)題,并根據(jù)需要設(shè)計(jì)技術(shù)解決方案。
與系統(tǒng)架構(gòu)師和開發(fā)人員進(jìn)行交互,以確保系統(tǒng)得到正確實(shí)現(xiàn)。
隨著我國(guó)經(jīng)濟(jì)決策逐漸由盲目的“經(jīng)驗(yàn)決策”轉(zhuǎn)向“數(shù)據(jù)決策”,項(xiàng)目數(shù)據(jù)分析成為戰(zhàn)略決策、投資決策必備的科學(xué)方法,以數(shù)據(jù)科學(xué)為依據(jù),做正確的理性決策。越來(lái)越多的政府機(jī)關(guān)、企事業(yè)單位將選擇擁有數(shù)據(jù)分析師資質(zhì)的專業(yè)人士為他們的項(xiàng)目做出科學(xué)、合理的分析、以便正確決策;越來(lái)越多的風(fēng)險(xiǎn)投資機(jī)構(gòu)把數(shù)據(jù)分析師所出具的數(shù)據(jù)分析報(bào)告作為其判斷項(xiàng)目是否可行及是否值得投資的重要依據(jù);越來(lái)越多的高等院校和教育機(jī)構(gòu)把數(shù)據(jù)分析師課程作為其中高管理層及決策層培訓(xùn)計(jì)劃的重要內(nèi)容;越來(lái)越多的有志之士把數(shù)據(jù)分析師培訓(xùn)內(nèi)容作為其職業(yè)生涯發(fā)展中必備的知識(shí)體系。
以上就是關(guān)于一面數(shù)據(jù)數(shù)據(jù)分析師相關(guān)問(wèn)題的回答。希望能幫到你,如有更多相關(guān)問(wèn)題,您也可以聯(lián)系我們的客服進(jìn)行咨詢,客服也會(huì)為您講解更多精彩的知識(shí)和內(nèi)容。
推薦閱讀:
圖案設(shè)計(jì)作品欣賞(圖案設(shè)計(jì)作品欣賞怎么寫)_1