简单详细叙述FpGrowth算法思想(附python源码实现)
关联规则--FpGrowth算法思想及编程实现
- 构建FpTree
- FpTree线索的构造
- 挖掘关联规则
- python代码实现
本文为博主原创文章,转载请注明出处,并附上原文链接。
原文链接:https://blog.csdn.net/qq_39872846/article/details/106042796
FpGrowth算法,全称:Frequent Pattern Growth—-频繁模式增长,该算法是Apriori算法的改进版本(若是不会这个算法或是有点遗忘了,可以移步到我的这篇博客大白话解析Apriori算法python实现(含源代码详解)),我们知道Apriori算法为了产生频繁模式项集,需要对数据库多次扫描,当数据库内容太大,那么算法运行的时间是难以忍受的,因此有人提出了FpGrowth算法,只须扫描数据库两次即可求出频繁项集,大大的缩减了扫描数据库的时间,下面我会尽量用简单易懂的语言描述这个算法所需要的概念及算法思想,希望对读者有帮助!
构建FpTree
(以下文章中所用到的概念在上一篇文章中已经详细解释过了,这里不再赘述,如果对概念有疑问,请移步这篇文章大白话解析Apriori算法python实现(含源代码详解))
FpGrowth算法最经典的思想就是构建一颗树来压缩大量数据记录,如何把多条数据记录压缩到一颗树中呢?用一个例子就可以清晰表达出这个思想。
我们以下面的数据记录为例:
(假设某超市有6种商品,以下是5个顾客的购买情况,我们依旧不关心购买数量,只关心购买种类)
顾客ID | 购买种类(Item) |
---|---|
T1 | 牛奶,面包 |
T2 | 面包, 尿布, 啤酒, 鸡蛋 |
T3 | 牛奶, 尿布, 啤酒, 可乐 |
T4 | 面包 ,牛奶, 尿布, 啤酒 |
T5 | 面包, 牛奶, 尿布, 可乐 |
为了方便程序实现,把这些商品种类替换为字母表示:
牛奶 --> a | 面包 --> b | 尿布 --> c |
啤酒 --> d | 可乐 --> e | 鸡蛋 --> f |
替换后数据记录如下:
顾客ID | 购买种类(Item) |
---|---|
T1 | a, b |
T2 | b, c, d, f |
T3 | a, c, d, e |
T4 | b, a, c, d |
T5 | b, a, c, e |
【注意】:为了方便程序实现简化代码,我依旧只使用支持度来判断。
对数据库进行第一次扫描,找出所给数据记录中商品的种类,并且对每一种商品出现的次数进行计数,即可得出第一次扫描结果,结果如下:
(这里有个细节,我们求出每种商品出现的次数后,需要按照 出现次数 的大小,由大到小排列,如果出现次数相同,则先后顺序无所谓)
这个时候,就要用到支持度的概念了,我们知道,如果某一种商品组合(这个组合,可以是1个,或者2个,甚至3个以上的不同种类商品的组合),在整条数据库中出现的次数太少,那我就认为他们没有关联, 这个道理很显然。就是对应与Apriori两个定理之一,非频繁项集的超集一定不是频繁项集。所以,这里我设置最小支持度为3,只要支持度大于等于3,我就认为这个商品组合是频繁项集。
因此,对于上表,去除不符合条件的项集 e 和 f,结果如下:
第二次扫描数据库,开始创建FpTree, 初始时,先创建一个根节点,记为null。
首先对于每一条数据记录,先对里面的商品种类按照 “某种顺序” 排序,(这个某种顺序是,在第一次扫描数据库后,按照其商品出现次数,由大到小排列后,其对应的商品种类顺序。这个例子有点巧合,按照各个商品出现次数由大到小排序后,商品种类的顺序恰好是字母顺序 abcdef ,在真实的数据记录中,不一定是这样。比如,现在有一个新的数据记录,进行统计后,发现,a出现2次,b出现5次,c出现10次,d出现1次,e出现15次,f出现6次,那么,按照出现次数由大到小排序后,这个 “某种顺序” ,就是 ecfbad ,每条数据记录都要按照这个奇怪的顺序排列,不再是按照字母表顺序了 )。
现在对于第一条已经排好序的记录,就是(a,b)这条记录,先创建一个节点,命名为a,将其插入根节点null下,并且在这个节点内,设置一个count变量,令count=1,接着在创建一个节点,命名为b,将其插入节点a下,同样的,在节点b内,令它的count=1,至此,第一条记录扫描完成,形成的树见下图:
对于二条已经排好序的记录,就是(b, c, d, f),我们要先去除那些不是频繁项集的字母,也就是f,f的支持度为1,比最小支持度小。过滤掉这些非频繁项集后,第二条记录变为了(b, c, d)。现在开始插入节点,从根节点开始看,由于根节点的孩子中没有b这个孩子,那么现在创建一个节点b,把它插入根节点下,令这个b节点的count=1。在创建一个c节点,插入刚才的b节点下,令c节点count=1。在创建一个d节点,将其插入刚才的c节点下,令d节点的count=1。至此第二条记录扫描完毕,此时FpTree的结构如下图:
对于第三条已经排好序的记录,就是(a, c, d, e)同样的,我们要过滤到非频繁项集,所以第三条记录变为了(a, c, d)。现在开始插入节点,从根节点开始看,发现根节点null的孩子中有a节点,那么我们就不创建新节点了,我们将这个的a节点的count + 1,即现在a节点的count=2。接着看a节点的孩子中有没有c节点,发现找不到,则创建一个c节点,令count=1,将其插入a节点下。最后,创建一个d节点,令count=1,将其插入刚刚创建的c节点下。至此,第三条记录扫描完毕,现在的FpTree形状如下:
对于第四条已经排好序的记录,就是(a, b, c, d),过滤掉非频繁项集,第四条记录变为了(a, b, c, d)。现在开始插入节点,依旧从根节点开始看,发现根节点null的孩子中有a节点,则不创建新节点了,我们将这个的a节点的count + 1,即现在a节点的count=3。然后看a节点的孩子中有没有b节点,发现有b节点,那么不用创建了,直接对这个b节点的count + 1即可,现在这个b节点count=2。接着看这个b节点的孩子中有没有c,我们发现找不到c,则创建一个c节点,令count=1,插入刚才的b节点中。最后,在创建一个d节点,令count=1,插入刚才在c节点中。至此,第四条记录扫描完毕,现在的FpTree形状如下:
对于第5条排好序的数据记录,即(a, b, c, e),过滤到非频繁项集,得(a, b, c)。从根节点开始看起,发现根节点的孩子中存在a节点,因此,对这个a节点的count+1,即count=4。在看这个a节点的孩子中存在b节点,太好了,我们又不用创建b节点了,直接令这个b节点的count+1,即现在count=3。最后,这个b节点的孩子中存在c节点,我们依旧不用创建新的c节点了,直接令这个c节点的count+1,即现在c节点count=2。至此,整个数据库扫描完毕,最后生成的FpTree形状如下:
经过上面的学习,我们就可以大致猜出,每个节点所包含的信息有哪些了,请看下图:
idName:节点名字
childs: 指向该节点所有孩子节点的地址
parent: 指向该节点的父亲节点(在挖掘关联规则时,需要找到父亲节点)
nextCommonId: 指向下一个节点,这个节点与该节点名字相同(用于构造线索,文章下文有说明)
idCount: 就是在刚才构造这颗树时,我们说的count,用于计数
FpTree线索的构造
刚才我们已经构建出了FpTree,这个树有什么意义呢?
我们知道在最开始的数据记录中,数据松散不堪,每条记录中,各个商品只出现1次。那么经过这样的变换,我们可以通过某种特殊方式,遍历这个树,就可以还原最开始的数据集,(这个特殊方法是,对这颗树,我们从根节点开始,随意找一条路径,这条路径的结尾节点必须是尾节点(尾节点就是,该节点没有孩子节点),那么这条路径就是一条记录,将这条记录取出后,别忘了对这条路径上的每个节点的count-1。在这个过程中,如果某个节点的count=0了,那么就移除这个节点。现在清楚了,只要按照这个方法,就可以完美还原出初始的数据集了,显然,这种树状的数据存储方式极大的压缩了原来的数据集,非常实用)。
但是,您应当已经注意到了,这颗树的节点,有许多名字相同的节点,其实,在最后,我们对这个树进行挖掘关联规则时,您就知道这个现象的用处了。
事实上,您如果把相同名字节点的count加起来,其结果就是该商品在总数据记录中出现的总次数。比如 b节点,在FpTree中有2个节点,其count值相加,即 3 + 1 = 4 ,正好是b在总记录中出现的次数。其他节点也是如此。
为了方便我们后续用这颗树挖掘关联规则,我们需要建立一个线索,把这些节点名字相同的节点用链表串起来。
我们可以创建一个表头,以它为链表的头部,把名字相同的节点串起来。
挖掘关联规则
频繁模式树FpTree建好后,线索也建立了,现在开始挖掘关联规则。
注意:在这里,我只认为支持度大于最小支持度就认为它是频繁项,最小支持度依旧为3。
上图就是第一次扫描数据库后,按照商品出现次数排序后的表格,挖掘关联规则时,要首先从表尾开始挖掘。
在这个例子中,就是从d节点开始,根据我们创建的线索表,可以很轻松的找出所有相同节点,然后可以写出这些节点所在的节点分支,即(a,b,c,d :1),(a,c,d :1),(b,c,d :1),后面的数字 1 是每条分支的最后一个节点的count值。这里要注意一下,虽然 a 出现了 4 次(即a的count=4),但是 a,b,c,d 这个整体只出现了 1 次,这取决与,在这条分支上,某个节点的最小count值。
现在,我们去除d节点,(直接把所有的d节点删除),那么就可以得到d的前缀节点(d的前缀节点就是d节点前面的节点),即{ (a,b,c :1),(a,c :1),(b,c :1) }, 还要注意一下,这里的数字 ”1“,依旧是原来的d节点的count值,不是c节点的count值。
好了,做到这步,我们其实得到了一个全新的数据记录:Id 商品种类 T1 a,b,c T2 a,c T3 b,c 看到这个类似的表,是不是很熟悉,我们需要根据现在这个新的数据记录表,开始构建一个新的FpTree,方法依旧和上文一样,这里只给出新的FpTree的结构:
这个新的FpTree已经建立好了,只要这个新的FpTree的路径不是1条,那我们就继续递归的挖掘。
如果新的FpTree的路径恰好就1条,那么这条路径上所有节点的组合就是条件频繁项集,假设 d 节点的条件频繁项集是 x,y,z ,那么a的频繁项集就是 (x,d),(y,d),(z,d),可以看到这里的每个项集都有a这个后缀,因为您本来就是依据d节点建立的新数据集,求出这个新的数据集的条件频繁项集后,要求出原来的数据集的频繁项集,就要在这个条件频繁项集的后面加上 d节点。回到这个具体的例子,可以看到新的数据记录构建的FpTree,只有一条路径,那么递归结束,这条路径有两个节点(null,c),一定不要忘记null节点,null就是表示一个空节点。
两个节点的所有组合就是条件频繁项集,即{ null,c },有一点需要注意,(null,c)和(c)是一样的,这两个没有区别。那么,最后,d的频繁项集就是{ (d),(c,d) }。接下来看表头的倒数第二个项,即 c 节点,根据构建的线索,找出所有的c节点,节点所在的所有分支为 {(a,b,c :2),(a,c :1),(b,c :1)},(提示:后面的数字是c节点的count值,数字 ”2“ 代表这条分支出现了2次),同样的,去除掉c节点,(去除c节点时,c节点后面的节点同样也被去掉了),故可得新是数据集{(a,b :2),(a :1),(b :1)},做个表格,如下:
ID 商品种类 T1 a,b T2 a,b T3 a T4 b a,b这个组合在表格中出现了2次,因为它在分支中出现了2次,(在这里,我之所以把它重复2次的写入数据记录表中,其实是为了能复用我们之前的代码,这样就不用重新在写一个函数了。在实际的数据情况中,如果a,b组合出现了1000次,我如果把它展开到数据记录中,这个数据记录就有1000行相同信息的记录了,这样显然不合适,我们需要在编写一个函数,在构建FpTree时,直接把这条数据的count设为1000即可,这样会大大节省时间)
对上面这个新的表构建FpTree,结构如下图:
它同样是一条单一路径,路径上节点的所有组合即为条件频繁项集,别忘了空节点null,条件频繁项集为(null),(a),(b),(a,b), 那么c的频繁项集就是 { (c),(a,c),(b,c),(a,b,c) }。
显然,这一组的频繁项集始终有一个相同的后缀 c,因此这一组的频繁项集永远不会和上一组重复。在看倒数第3个节点,b节点,处理方式和前两个一样,留给读者做练习,这里直接给出该节点的频繁模式树FpTree:
最后一个节点,a节点,它的条件频繁项集是 { null },频繁项集就是{ (a) }。
至此,整个算法流程已经叙述完了,补充一点,在不断递归求新的数据记录,建立的新的FpTree时,只要新的FpTree路径不是1条,就可以继续递归,直到新的FpTree路径为1时,结束递归,进行处理。当然也可以用迭代,只不过代码会显的一点多,不如递归清晰。
python代码实现
运行环境 python3.6 PyCharm
先给出运行结果:
相应代码如下:
这颗树的节点结构,用python类的表示:
'''
Frequent Pattern Tree 繁模式树牛奶 a 面包 b 尿布 c 啤酒 d 可乐 e 鸡蛋 f
所用数据集
T1 {牛奶,面包}
T2 {面包,尿布,啤酒,鸡蛋}
T3 {牛奶,尿布,啤酒,可乐}
T4 {面包,牛奶,尿布,啤酒}
T5 {面包,牛奶,尿布,可乐}转化为字母表示,即
数据集
database = [ ['a', 'b'],['b', 'c', 'd', 'f'],['a', 'c', 'd', 'e'],['b', 'a', 'c', 'd'],['b', 'a', 'c', 'e'] ]
'''
class FpNode():def __init__(self, name='', childs={}, parent={}, nextCommonId={}, idCount=0):self.idName = name # 名字self.childs = childs # 所有孩子结点self.parent = parent # 父节点self.nextCommonId = nextCommonId # 下一个相同的 id名字 结点self.idCount = idCount # id 计数def getName(self): #获取该节点名字return self.idNamedef getAllChildsName(self): #获取该节点所有孩子节点的名字ch = self.childskeys = list(ch.keys())names = []for i in keys:names.append( list(i))return namesdef printAllInfo(self): #打印该节点所有信息print(self.idName, self.idCount, list(self.childs.keys()), list(self.parent.keys()), self.nextCommonId.items() )@classmethoddef checkFirstTree(cls, rootNode): #前序遍历整个树(这不是二叉树,没有中序遍历)if rootNode is None:return ''#parent1 = rootNode.parent.keys() #要加一个 强转 ,否则它会变成 Nopetype 型,rootNode.printAllInfo() # print(rootNode.idName, type(rootNode.parent)) 报错 root <class 'NoneType'>if rootNode.childs is not None:keys = list(rootNode.childs.keys())for i in keys:cls.checkFirstTree(rootNode.childs[i])@classmethoddef checkBehindTree(cls, rootNode): #后序遍历整个树if rootNode is None:return ''if rootNode.childs is not None:keys = list(rootNode.childs.keys())for i in keys:cls.checkBehindTree(rootNode.childs[i])rootNode.printAllInfo()
主函数及算法实现:(请从最后的main函数开始看起)
from practice04_FpGrowth.FpNodeClass import FpNode
import copydef scan1_getCand1(database): #第一次扫描统计出现的次数c1 = {} #候选集for i in database:for j in i:c1[j] = c1.get(j, 0) + 1 #表示如果字典里面没有想要的关键词,就返回0#print(c1)return c1#返回排好序的字典#对数据进行排序,按支持度由大到小排列
def sortData(**d): #形参前添加两个 '*'——字典形式 形参前添加一个 '*'——元组形式sortKey = list(d.keys()) #直接使用sorted(my_dict.keys())就能按key值对字典排序sortValue = list(d.values())length = len(sortKey)for i in range(length-1): #按照支持度大小,由大到小排序的算法for j in (i, length-1-1): #必须 -1 (1,len)虽然不包含 len本身 但是数组【len-1】时最后一个元素,必须减去这个元素if sortValue[i] < sortValue[j + 1]:sortValue[i], sortValue[j + 1] = sortValue[j + 1], sortValue[i] #如果它的支持度小与另一个,交换位置sortKey[i], sortKey[j + 1] = sortKey[j + 1], sortKey[i]new_c1 = {} #存放排完序的数据记录for i in range(length):new_c1[sortKey[i]] = sortValue[i]return new_c1 #返回排好序的字典#得到 database 的频繁项集
def getFreq(database, minSup = 3, **c1): #返回频繁项集,和频繁项集的支持度c1 = scan1_getCand1(database) #第一次扫面数据库,求第一次候选集,返回的是字典new_c1 = sortData(**c1) #排序,大到小keys = list(new_c1.keys())for i in keys:if new_c1[i] < minSup: #若支持度小于最小支持度,则删除该商品del new_c1[i]f1 = [] # 第一次频繁项集new_keys = list(new_c1.keys())for i in new_keys:if [i] not in f1:f1.append( [i] ) #每个元素自成一项#print(f1,new_c1)return f1, new_c1def createRootNode(): #创建一个根节点rootNode = FpNode('root', {}, {}, {}, -1) #name, childs, parent, nextCommonId, idCountreturn rootNodedef buildTree(database, rootNode, f1): #构建频繁模式树 FpTreefor i in database: #第二次扫描数据库present = rootNode #指向当前节点next = FpNode(name='', childs={}, parent={}, nextCommonId={}, idCount=0) #创建一个新节点,并初始化for j in f1: #按支持度从大到小的顺序进行构建节点if set(j).issubset(set(i)): #j如果在i里面if (present.getName() is 'root') and j not in rootNode.getAllChildsName():next.idName = str(j[0]) #对新创建的节点进行赋值next.idCount = next.idCount + 1next.nextCommonId = {str(j[0]): 0}next.parent.update({rootNode.idName:rootNode})temp = copy.copy(next)rootNode.childs.update({str(j[0]):temp}) #往它插入父亲节点##print(temp.parent)present = temp #present = next 这样直接赋值是 引用 ,一定要注意next = FpNode(name='', childs={}, parent={}, nextCommonId={}, idCount=0) #创建并初始化下一个新节点else:if j in present.getAllChildsName(): #如果需要插入的节点已经存在temp2 = present.childs[str(j[0])]present = temp2present.idCount = present.idCount + 1 #count+1即可else:next.idName = str(j[0]) #对新插入的节点赋值next.idCount = next.idCount + 1next.nextCommonId = {str(j[0]): 0}next.parent.update({present.idName:present})#temp3 = copy.copy(next)present.childs.update({str(j[0]):next}) #往它插入父亲节点#temp3.childs = {}present = nextnext = FpNode(name='', childs={}, parent={}, nextCommonId={}, idCount=0)#present = next#next = FpNode()#print(rootNode.getAllChildsName())# print('前序遍历如下:')# FpNode.checkFirstTree(rootNode)# print('后序遍历如下:')# FpNode.checkBehindTree(rootNode)return None#构建线索,填节点的nextCommonId这个属性
def buildIndex(rootNode, d1): #传 列表或字典时,列表前,加*, 字典前加 ** 表示传给函数的是一个地址,在函数内部改变这个参数,不会影响到函数外的变量if rootNode is None:return ''next = rootNode #指向下一个节点,当前赋值为根节点value = rootNode.idName#print(value)#print(d1[str(value)]) #d1[value] {KeyError}'a'??????????????? 如果value是根节点root,就会出错,表中本来就没有root这个值#print(d1)if value != 'root':indexAds1 = {value: d1[value]}if d1[value] == 0: # 线索构造 我已经把初始化了所有的 nextCommonId 为 {'': 0}# 所以后面只要 这个节点的 nextCommonId字典的值为0,就说明这个字典就是构建的链表链尾d1[value] = next# print(indexAds1)else:while indexAds1[value] != 0:indexAds1 = indexAds1[value].nextCommonId #以链表形式把最后一个 表尾元素找出来#print(indexAds1)indexAds1[value] = next #这个元素后面加入 当前所在树的这个节点的地址#print(next.nextCommonId)if rootNode.childs is not None: #根节点孩子不是null,则对它的每个孩子,依次递归进行线索构建keys = list(rootNode.childs.keys())for i in keys:buildIndex(rootNode.childs[i], d1)def createIndexTableHead(**indexTableHead): #创建一个表头,用来构建线索,表头的名字是相应节点的名字keys = list(indexTableHead.keys())#print(keys)for i in keys:indexTableHead[i] = 0return indexTableHeaddef getNewRecord(idK, **indexTableHead): #得到新的数据记录newData = []address = indexTableHead[idK]while address != 0:times = 0times = address.idCount #当前节点count数l = [] #临时存放这个分支上的所有节点元素,单个单个存储 二维列表getOneNewR = [] #和l一样,是l的倒叙,因为l本来是倒叙的,现在把它改成倒叙#print(list(address.parent.keys())[0]) #这样写才是 字符 c 而不是 'c'nextAdress = copy.copy(address)#一个指针,指向父亲节点,初始化为表头第一个的地址while list(nextAdress.parent.keys())[0] is not 'root': #该节点发父亲节点不是根节点。则#print(address.parent)l.append(list(nextAdress.parent.keys())) #把它的父亲节点加入l中parentIdName = list(nextAdress.parent.keys())[0] #父亲节的名字nextAdress = nextAdress.parent[ parentIdName ] #指向该节点父亲节点if l != []:for j in l:getOneNewR.append(j[0])if getOneNewR != []:for k in range(times): #若最后的那个 idk 计数为多次,要把它多次添加到新产生的newData中newData.append(list(getOneNewR))#把得到的记录加入新的数据集中address = address.nextCommonId[idK] #指向下一个表头元素的开始地址,进行循环return newData# idK表示当前新产生的数据集是在去除这个字母后形成的, fk是去除掉idk后,新的第一次频繁项集 dk是fk的支持度
def getAllConditionBase(newDatabase,idK, fk, minSup, **dk): #返回条件频繁项集 base, 和支持度if fk != []: #频繁项集非空newRootNode = createRootNode() #创建新的头节点buildTree(newDatabase, newRootNode, fk)#newIndexTableHead = {} #创建新表头newIndexTableHead = createIndexTableHead(**dk) # **dk 就是传了个值,给了它一个拷贝,修改函数里面的这个拷贝,不会影响到外面的这个变量的值buildIndex(newRootNode, newIndexTableHead)else:return [idK], {idK:9999} #频繁项集是空的,则返回idk的名字,支持度设为最大值9999,这样会出现一些问题,最后已经解决了,在主函数代码中有表现出来if len(newRootNode.getAllChildsName()) < 2: #新的FpTree只有1条分支,(这里只认为根节点只有1个孩子,就说他只有一条分支)#若是实际数据,就不能这样写了,应当在写一个函数,从根节点开始遍历,确保每个节点都只有1个孩子,才能认为只有1条分支base = [[]] #条件基node = newRootNodewhile node.getAllChildsName() != []: #当前节点有孩子节点childName = list(node.childs.keys()) #一个列表,孩子节点的所有名字,其实就1个孩子,前面已经判断了是单节点base.append(list(childName[0])) # 把孩子节点加入条件基#print(node.childs)#print(childName)node = node.childs[childName[0]] #指向下一个节点#print(base)itemSup = {node.idName : node.idCount} #这一条分支出现的次数,最后求频繁项集支持度需要用到#print(itemSup)return base, itemSup #返回条件基,还有这一条分支出现的次数,else: #分支不止1条,进行递归查找,重复最开始的操作base = [[]]for commonId in fk[-1::-1]: #倒叙进行newIdK = str(commonId[0])newDataK = getNewRecord(newIdK, **newIndexTableHead) # 传入这个表头的一个拷贝fk2, dk2 = getFreq(newDataK, minSup)conditionBase, itemSup = getAllConditionBase(newDataK, newIdK, fk2, minSup, **dk2) #得到该条件基下的条件基,及各个分支出现次数#递归进行base.append(conditionBase)return base, itemSup#FpGrowth算法本身(Frequent Pattern Growth—-频繁模式增长)
def FpGrowth(database, minSup = 3):f1, d1 = getFreq(database, minSup) #求第一次频繁项集,并返回一个字典存放支持度,且按大到小排序,返回频繁项和存放频繁项支持度的字典rootNode = createRootNode() #创建根节点#print(f1,d1) #[['a'], ['b'], ['c'], ['d']] {'a': 4, 'b': 4, 'c': 4, 'd': 3}# 第一步建造树buildTree(database,rootNode, f1)#indexTableHead = {} #创建线索的表头,一个链表indexTableHead = createIndexTableHead(**d1) # **d1 就是传了个值,给了它一个拷贝,修改函数里面的这个拷贝,不会影响到外面的这个变量的值buildIndex(rootNode, indexTableHead) #创建线索,用这个表头# print('构建线索后,前序遍历如下:')# FpNode.checkFirstTree(rootNode)# print('构建线索后,后序遍历如下:')# FpNode.checkBehindTree(rootNode)freAll = [] #所有频繁项集freAllDic = {} #所有频繁项集的支持度#第二步 进行频繁项集的挖掘,从表头header的最后一项开始。for commonId in f1[-1::-1]: #倒叙 从支持度小的到支持度大的,进行挖掘idK = str(commonId[0])newDataK = getNewRecord(idK, **indexTableHead) #传入这个表头的一个拷贝, 函数返回挖掘出来的新记录fk, dk = getFreq(newDataK, minSup) #对新数据集求频繁项集#print(fk,dk)base, itemSup= getAllConditionBase(newDataK, idK, fk, minSup, **dk) #得到当前节点的条件频繁模式集,返回#有可能会发生这样一种情况,条件基是 a ,然后fk,dk为空,结果这个函数又返回了 a,那么最后的结果中,就会出现 a,a 这种情况,处理方法请往下看#print(base,idK)for i in base:#print(i)t = list(i)t.append(idK)t = set(t) #为了防止出现 重复 的情况,因为我的getAllConditionBase(newDataK, idK, fk, minSup, **dk)方法的编写,可能会形成重复,如 a,at = list(t)freAll.append(t)itemSupValue = list(itemSup.values())[0]x = tuple(t) #列表不能做字典的关键字,因为他可变,,而元组可以#<class 'list'>: ['c', 'd']#print(t[0]) # t是列表,字典的关键字不能是可变的列表, 所以用 t[0] 来取出里面的值freAllDic[x] = min(itemSupValue, d1[idK])#print(freAll)#print(freAllDic)return freAll, freAllDicif __name__ == '__main__':database = [['a', 'b'],['b', 'c', 'd', 'f'],['a', 'c', 'd', 'e'],['b', 'a', 'c', 'd'],['b', 'a', 'c', 'e']]freAll, freAllDic = FpGrowth(database, minSup = 3)# minSup = 3 [['d'], ['d', 'c'], ['c'], ['c', 'a'], ['c', 'b'], ['b'], ['b', 'a'], ['a']]print(freAll)print("各个频繁项集的支持度依次为:")for i in freAllDic.keys():print(i, freAllDic[i])
由于本人学识尚浅,文章中的讲解和代码难免会有错误,还请大家指正,本人不胜感激!
简单详细叙述FpGrowth算法思想(附python源码实现)相关推荐
- 机器学习中常见的六种分类算法(附Python源码+数据集)
今天和大家学习一下机器学习中常见的六种分类算法,如K近邻.决策树.朴素贝叶斯.逻辑回归.支持向量机.随机森林 除了介绍这六种不同分类算法外,还附上对应的Python代码案例,并分析各自的优缺点. 01 ...
- 十分钟简明易懂搞定堆排序算法,附Python源码
什么是堆(heap) 堆是一个数组,它可以被看成一个近似的完全二叉树.树上的每一个节点对应数组中的一个元素,而且是从左向右填充. 从上述描述,我们可以做出总结: 从存储的角度来看,堆是一个数组 从结构 ...
- 华中杯 数学建模 A题简单复盘(附Python源码)
华中杯 A题简单复盘(附Python 源码) 文章目录 华中杯 A题简单复盘(附Python 源码) 前言 题目简介 问题背景 题目以及思路 分批算法设计 MindMap 遗传算法优缺点 优点 缺点 ...
- JavaScript实现唯一路径问题的动态编程方法的算法(附完整源码)
JavaScript实现唯一路径问题的动态编程方法的算法(附完整源码) dpUniquePaths.js完整源代码 dpUniquePaths.test.js完整源代码 dpUniquePaths.j ...
- JavaScript实现唯一路径问题的回溯方法的算法(附完整源码)
JavaScript实现唯一路径问题的回溯方法的算法(附完整源码) btUniquePaths.js完整源代码 btUniquePaths.test.js完整源代码 btUniquePaths.js完 ...
- JavaScript实现squareMatrixRotation方阵旋转算法(附完整源码)
JavaScript实现squareMatrixRotation方阵旋转算法(附完整源码) squareMatrixRotation.js完整源代码 squareMatrixRotation.test ...
- JavaScript实现递归楼梯问题(带记忆的递归解决方案)算法(附完整源码)
JavaScript实现递归楼梯问题(带记忆的递归解决方案)算法(附完整源码) recursiveStaircaseMEM.js完整源代码 recursiveStaircaseMEM.test.js完 ...
- JavaScript实现递归楼梯问题(迭代解决方案)算法(附完整源码)
JavaScript实现递归楼梯问题(迭代解决方案)算法(附完整源码) recursiveStaircaseIT.js完整源代码 recursiveStaircaseIT.test.js完整源代码 r ...
- JavaScript实现递归楼梯问题(动态规划解决方案)算法(附完整源码)
JavaScript实现递归楼梯问题(动态规划解决方案)算法(附完整源码) recursiveStaircaseDP.js完整源代码 recursiveStaircaseDP.test.js完整源代码 ...
- JavaScript实现递归楼梯问题(蛮力解决方案)算法(附完整源码)
JavaScript实现递归楼梯问题(蛮力解决方案)算法(附完整源码) recursiveStaircaseBF.js完整源代码 recursiveStaircaseBF.test.js完整源代码 r ...
最新文章
- Apache软件历史版本下载地址
- (gnome-ssh-askpass:609): Gtk-WARNING **: cannot open display:
- Linux文件权限基本配置
- mysql1067默认参数错误_MySQL 1067错误解决方法集合
- win7系统未响应卡住_电脑怎么修复win7系统 电脑修复win7系统方法【教程详解】...
- 基于Abp VNext框架设计 - Masstransit分布式消息
- 年会聚会派对邀请海报素材模板,创意和心意缺一不可
- volatile 线程内存模型
- Atitit jquery 1.4--v1.11 v1.12 v2.0 3.0 的新特性
- libcrypto.so.1.0.0缺失问题
- 闽教英语app 破解版 免费版
- matlab 马氏距离 实例,MATLAB求马氏距离(Mahalanobis distance)
- 一文了解超级账本DLT、库、开发工具有哪些, Hyperledger家族成员你认识几个?
- $body.on(‘click‘,‘button‘,function() {中.on在这里是什么意思的
- 【FPGA】Verilog编程实现SDRAM读写(一) ----- 初识SDRAM
- 提升嵌入式开发效率小技巧——开发环境配置
- Mac鼠标光标消失怎么办?苹果电脑鼠标指针不显示的解决方法
- 大恒相机开发实践(1)——实时采图
- 动手深度学习PyTorch(十二)word2vec
- docker 常用命令 -----(批量查看镜像/容器,重命名,运行,进入容器,私有仓库)