- apriori算法的简介:
- 利用的相关性质:
- 频繁项集 的非空子集也必须是频繁项集
- 非频繁项集的任一超集也必然不是频繁项集
- 如果K-维频繁项集集合中包含单个项目i的个数小于K-1,则i不可能在频繁K项集中(apriori算法中并没有用到这个性质,可以借助这个性质来进行优化,性质会在后面举例)
- 算法的主要思想是:
- 第一步,通过迭代,检索出食物数据库给中所有的频繁项集,主要依据用户设定的最小支持度的阈值
- 第二步,用频繁项集构造出满足用户最小信任度的关联规则。其中第一步是占算法的主要计算部分,我们也主要研究的是第一步。
- 迭代过程主要分为连接和剪枝两个步骤:(由k-1维项集产生K维项集
- 连接:两个项集的前K-2项相同,最后的K-1项不同,则连接产生的K维项集就是前K-2项加上两个项集中不同的项
- 剪枝:利用性质一和性质二:如果新产生的项集有存在一个子集不在K-1维的频繁项集中,则删掉该新产生的项集
- 算法的伪代码
在第三步产生新的项集之后,需要统计每个项集的频度,主要采取的算法是,对数据库中的每个条目,遍历一遍候选项集,对每个包含该条目的候选项集计数加一。这样的话需要重新扫描一遍数据库,产生大量的计算
- 利用的相关性质:
- 算法的问题:
- 在计算项目集 的支持度时需要对数据库的全部记录进行一遍扫描比较,一般情况下数据库的规模会很庞大,这样会极大的增加系统的I/O开销。
- 在每一步中,产生候选项集时循环产生的组合过多,没有排除不应该参与组合的元素,即没有用到性质三
- 优化:主要考虑三个方面
- 第一,数据库的压缩,如果一个条目(或者说项目)不包含任何一个K-项集,那么它不可能包含任何一个K+1项集,即在下一次的遍历数据库时,不需要再去对该条目进行检查(通常做法是删除该条目,或者将这个条目做上标记)。
- 第二,缩小候选项集的个数,即动态项集计数。在某个条目的统计之后,如果发现某个候选项集的计数已经满足了最小支持度,那么可以将这个项集直接放入到频繁项集中,这样以后就不用对该项集进行计数了
- 第三,在连接的步骤之前,先对项集进行利用性质三进行筛选,提前删除不满足的项集。对K-1项项集中的每一个元素进行计数,若某个元素的个数小于K-1,则将K-1项集中删除包含该元素的项集。这样可以极大的减小了可能产生的候选项集的数量。
- 优化的步骤如下:
- apriori算法的简介:
相关文章
- apriori算法的简介和改进总结
- 线性模型之逻辑回归(LR)(原理、公式推导、模型对比、常见面试点) 3种类型的梯度下降算法总结李宏毅机器学习笔记2:Gradient Descent(附带详细的原理推导过程) 任何模型都会面临过拟合问题,所以我们也要对逻辑回归模型进行正则化考虑。常见的有L1正则化和L2正则化。
- PHP实现微信随机红包算法和微信红包的架构设计简介
- JVM学习(4)——全面总结Java的GC算法和回收机制
- 常用加密算法的Java实现总结(二) ——对称加密算法DES、3DES和AES
- [Java]各种基础的查找和排序算法总结
- C#栈和队列的简介,算法与应用简单实例
- Machine Learning - X. Advice for Applying Machine Learning机器学习算法的诊断和改进 (Week 6)
- 从啤酒和尿布讲关联规则,大数据集处理算法Apriori以及改进的PCY算法
- uva 1608 不无聊的序列(附带常用算法设计和优化策略总结)