最近KDnuggets针对数据科学家最常使用的算法作了一个调查,有一些意外的发现,包括最学术向的算法和最产业向的算法。
下面是调查结果,总调查人数是 844 人。
数据科学家最常用的Top 10种算法和方法,以及投票比例:
表1:数据科学家最常用的Top 10算法&方法。所有算法和方法的列表在文末。
说明:这个投票的本意是找出数据科学家最常用的工具,但“工具”这个词含义不明确,所以为了简便我最初把这个表成为top 10“算法”。当然,正如有读者指出的,“统计学”或“可视化”以及其他几个都不是算法,更好的描述应该是“方法”。所以我把这个表更名为Top 10算法和方法。
投票者平均使用的算法/方法数是8.1中,比2011年的类似调查增加了很多。
在2011年的调查“数据科学/数据挖掘的常用算法”中,我们提到最常用的方法是回归、聚类、决策树/决策规则,以及可视化。两次调查中投票数增加最多的是:
提升方法,2016年票数占32.8%,2011年占23.5%,票数增加40%
文本挖掘,从2011年的27.7%到2016年的35.9%,票数增加30%
可视化,从2011年的38.3%到2016年的48.7%,票数增加27%
时间序列/序列分析,从2011年的29.6%到2016年的37.0%,票数增25%
异常/偏差检测,从2011年的16.4%到2016年的19.5%,票数增加 19%
集成方法,从2011年的28.3%到2016年的33.6%,票数增加19%
SVM,从2011年的28.6%到2016年的33.6%,票数增加18%
回归,从2011年的57.9%到2016年的67.1%,票数增加16%
2016年新增的回答有:
K-NN,占比46%
PCA,占比43%
随机森林,占比38%
优化,占比24%
神经网络 –深度学习,占比19%
奇异值分解,占比16%
投票数减少最多的有:
关联规则,从2011年的28.6%到2016年的15.3%,减少了47%
增量建模,从4.8%到3.1%,减少了36% (这个让人吃惊)
因素分析,从18.6%到14.2%,减少了24%
生存分析,从9.3%到7.9%,减少了15%
下面的表格表示不同算法类型的应用:监督、无监督、元,及其他,以及投票者职业类型的占比。在职业类型中,我们排除了“未回答”(4.5%)和“其他”(3%)。
我们发现,几乎所有人都使用监督式学习算法。
*和产业数据科学家比学生或学术研究人员使用更多不同类型的算法。
产业数据科学家更喜欢元算法。
接下来,我们分析了不同职业人士最常用的10中算法 深度学习:
为了让结果更清晰,我们计算了职业类型和平均算法使用的偏差,即偏差(ALG,类型)=使用(ALG,类型)/使用(ALG,所有)。
图2:按职业类型分的算法使用偏差
我们发现,产业数据科学家更喜欢用回归、可视化、统计、随机森林和时间序列。*/非营利机构用得更多的是可视化、PCA和时间序列。学术研究者更常用的是PCA和深度学习。学生普遍上使用的算法较少,常用的是文本挖掘和深度学习。
接下来我们分析了能代表 KDnuggets 整体用户的具体地区参与人数:
投票参与者的地区分布:
美国/加拿大,40%
欧洲,32%
亚洲,18%
拉丁美洲,5.0%
非洲/中东,3.4%
澳大利亚/新西兰,2.2%
在2011年的投票中,我们把产业/*和学术研究者/学生分别合并成一个组,并用以下公式计算产业/*的算法“亲和度”:
N(Alg,Ind_Gov) / N(Alg,Aca_Stu)
——————————- – 1
N(Ind_Gov) / N(Aca_Stu)
因此,亲和度为0的算法表示它在产业/*和学术研究者或学生中的使用情况一致。IG值越高,表示这个算法越“产业向”,越低,表示算法越“学术向”。
2011年的调查中,最“产业向的算法”是:
增量建模,2.01
异常检测,1.61
生存分析,1.39
因素分析,0.83
时间序列/序列,0.69
关联规则,0.5
在最新的调查中,增量建模(uplift modeling)是最“产业向的算法”,令人惊奇的发现是使用它的人非常少——只有3.1%,是这个调查中得票数最少的算法。
最“学术向的算法”是:
常规神经网络,-0.35
朴素贝叶斯,-0.35
支持向量机(SVM),-0.24
深度学习,-0.19
EM, -0.17
下面的图表列出了所有的算法和它们的产业/学术亲和度。
图3:数据科学家最常用的算法:产业 vs 学术
下面的表格列出了所有算法的细节,%表示两次调查中该算法的得票数占比,以及比重的变化(%2016/%2011 -1)。
表3:KDnuggets 2016调查:数据科学家使用的算法
N:按投票数的排序
Algorithm:算法名称
Type: S – 监督(Supervised), U – 无监督(Unsupervised), M – 元(Meta), Z – 其他
2016 % :2016年该算法的得票率
2011 % :2011年该算法的得票率
change (%2016 / %2011 – 1):得票率变化
Industry affinity:如上文解释。
本文转自d1net(转载)