论文研究-基于Spark的并行Eclat算法.pdf

【文件属性】：
文件名称：论文研究-基于Spark的并行Eclat算法.pdf
文件大小：1.17MB
文件格式：PDF
更新时间：2022-08-11 15:55:15
关联规则挖掘,大数据,Spark,投影树,并行化 通过对Spark大数据平台以及Eclat算法的深入分析，提出了基于Spark的Eclat算法（即SPEclat）。针对串行算法在处理大规模数据时出现的不足，该方法在多方面进行改进：为减少候选项集支持度计数带来的损耗，改变了数据的存储方式；将数据按前缀进行分组，并划分到不同的计算节点，压缩数据的搜索空间，实现并行化计算。最终将算法结合Spark云计算平台的优势加以实现。实验表明该算法可在处理海量数据集时高效运行，并且在面对数据量大规模增长的情况下具备良好的可扩展性。