朴素贝叶斯 python

#!/usr/bin/python3
# -*- coding: utf-8 -*-
from numpy import *
import random
import math
import operator'''
朴素贝叶斯分类
理论参考：
http://blog.csdn.net/lsldd/article/details/41542107
程序参考：
http://python.jobbole.com/81019/
数据下载地址：
https://archive.ics.uci.edu/ml/machine-learning-databases/pima-indians-diabetes/pima-indians-diabetes.data
实现步骤：
1、数据预处理将数据转换为float数组将数据分割80%训练，20%测试将数据按照类别划分
2、计算所有分类对应特征的平均值和标准差
3、测试数据计算数据对应个分类的概率，概率大的就是该分类P(x) = (1 / (sqrt(2 * π) * σ)) * exp(-pow((x - η), 2) / (2 * pow(σ, 2)))η = 均值   σ = 标准差输出结果
'''class NaiveBayesClassifier:def __init__(self, trainData):self.trainData = {}self.avg = {}self.stdev = {}self.Probability = []self.accuracy = 0.0self.formatData(trainData)self.getAvgByClass()self.getStDev()def formatData(self, data):'''按照规定格式化数据：{'类别(0,1,2,3)':[[数据],[],[]]}'''self.trainData = {}for item in data:if(item[-1] not in self.trainData):self.trainData[int(item[-1])] = []self.trainData[int(item[-1])].append(item[:-1])for key in self.trainData.keys():# 转换为numpy.array格式方便后续的计算self.trainData[key] = array(self.trainData[key])def getAvgByClass(self):'''每个类中每个属性的均值'''self.avg = {}for key in self.trainData.keys():self.avg[key] = self.trainData[key].mean(0)def getStDev(self):'''每个类中每个属性的标准差'''self.stdev = {}for key in self.trainData.keys():self.stdev[key] = self.trainData[key].std(0)def calculateProbability(self, item):'''计算概率，判断其在那个分类概率大就返回那个分类'''result = []for key in self.trainData.keys():temp = (1 / (sqrt(2 * pi) * self.stdev[key])) * exp(-pow((item[:-1] - self.avg[key]),2) / (2 * pow(self.stdev[key], 2)))result.append([key, log(temp).sum()])result = sorted(result, key=operator.itemgetter(1), reverse=True)return result[0][0]def predict(self, testData):'''测试数据'''self.Probability = []for item in testData:self.Probability.append([item[-1], self.calculateProbability(item)])def getAccuracy(self):'''计算数据的正确率'''correct = 0.0size = len(self.Probability)for item in self.Probability:if(item[0] == item[1]):correct += 1.0self.accuracy = (correct / size) * 100.0def readFile(filename):'''获取数据'''files = open(filename, "r", encoding="utf-8")trainData = []for line in files.readlines():item = [float(i) for i in line.strip().split(",")]trainData.append(item)files.close()return trainDatadef splitCollection(collection, splitRatio):'''根据比例，随机分割数据'''size = int(len(collection) * splitRatio)ones = []others = []index = []while(len(index) < size):i = random.randint(0, len(collection) - 1)if(i not in index):index.append(i)for i in range(len(collection)):if(i in index):ones.append(collection[i])else:others.append(collection[i])return ones, others'''-------------------------------------开始----------------------------------------'''
if __name__ == "__main__":data = readFile("/home/hadoop/Python/NaiveBayesClassifier/data")# trainData, testData = splitCollection(data, 0.68)model = NaiveBayesClassifier(data)model.predict(data)model.getAccuracy()# print(("Split {0} rows into train={1} and test={2} rows").format(#     len(data), len(trainData), len(testData)))print(('Accuracy: {0}%').format(model.accuracy))

朴素贝叶斯 python相关推荐

python程序员买西瓜代码_朴素贝叶斯python代码实现（西瓜书）
本文将要为您介绍的是朴素贝叶斯python代码实现(西瓜书),具体完成步骤:朴素贝叶斯python代码实现(西瓜书) 摘要: 朴素贝叶斯也是机器学习中一种非常常见的分类方法,对于二分类问题,并且数据集 ...
基于朴素贝叶斯+Python实现垃圾邮件分类和结果分析
基于朴素贝叶斯+Python实现垃圾邮件分类朴素贝叶斯原理请参考: 贝叶斯推断及其互联网应用(二):过滤垃圾邮件 Python实现源代码主干来自: python实现贝叶斯推断--垃圾邮件分类我 ...
学习笔记——Kaggle_Digit Recognizer (朴素贝叶斯 Python实现）
本文是个人学习笔记,该篇主要学习朴素贝叶斯算法概念,并应用sklearn.naive_bayes算法包解决Kaggle入门级Digit Recognizer. 贝叶斯定理朴素贝叶斯 Python 代 ...
数据挖掘十大算法（九）：朴素贝叶斯 python和sklearn实现
第三个算法终于算是稍有了解了,其实当你结合数据了解了它的实现原理后,你会发现确实很朴素.这里对朴素贝叶斯算法做一个介绍和总结,包括(原理.一个代码示例.sklearn实现),皆为亲自实践后的感悟,下面 ...
朴素贝叶斯python代码_朴素贝叶斯模型及python实现
1 朴素贝叶斯模型朴素贝叶斯法是基于贝叶斯定理.特征条件独立假设的分类方法.在预测时,对输入x,找出对应后验概率最大的 y 作为预测. NB模型: 输入: 先验概率分布:P(Y=ck),k=1,2, ...
朴素贝叶斯 python 实现
百度文库文库2 机器学习实战的朴素贝叶斯的代码太复杂 """ Created on Thu Aug 10 15:08:59 2017@author: luogan &q ...
朴素贝叶斯python实现预测_Python实现朴素贝叶斯分类器的方法详解
本文实例讲述了Python实现朴素贝叶斯分类器的方法.分享给大家供大家参考,具体如下: 贝叶斯定理贝叶斯定理是通过对观测值概率分布的主观判断(即先验概率)进行修正的定理,在概率论中具有重要地位. 先 ...
[转载] 朴素贝叶斯python实现预测_Python实现朴素贝叶斯分类器的方法详解
参考链接: Python朴素贝叶斯分类器本文实例讲述了Python实现朴素贝叶斯分类器的方法.分享给大家供大家参考,具体如下: 贝叶斯定理贝叶斯定理是通过对观测值概率分布的主观判断(即先验概率)进 ...
Python机器学习06——朴素贝叶斯
本系列所有的代码和数据都可以从陈强老师的个人主页上下载:Python数据程序参考书目:陈强.机器学习及Python应用. 北京:高等教育出版社, 2021. 本系列基本不讲数学原理,只从代码角度去让 ...

朴素贝叶斯 python

朴素贝叶斯 python相关推荐

最新文章

热门文章