项目介绍:

使用贝叶斯分类器进行手写字体判别，数据为mnist.pkl.gz，下载地址https://pan.baidu.com/s/1I9GRg-wLEDvt-JmZ2_Os4A

数据分为训练数据，训练标签，测试数据，测试标签。

from sklearn import preprocessing
import pickle
import gzip
import numpy as np
import math
def normalize(data):  ##将图片像素二值化m,n = np.array(data).shapefor i in range(m):for j in range(n):if data[i,j] != 0:data[i,j] = 1else:data[i,j] = 0return data
def get_data(datapath): ##获取MNIST数据mnist = gzip.open(datapath, "rb")train_set, valid_set, test_set = pickle.load(mnist, encoding="bytes")train_data =normalize(train_set[0])#normalize将图片二值化train_label = train_set[1]test_data = normalize(test_set[0])test_label = test_set[1]return train_data,train_label,test_data,test_labeldef CalProb(train_data,train_label): ##根据训练集 算条件概率P(xk|y=j) 和先验概率 P(y=j) 注意这两种概率可能会为0 后面无法计算 因此一定要进行Laplace平滑 参见李航P51num,dimsnum = train_data.shape#num为行数，dimsum为列数labelnum = len(set(train_label)) ##标签总个数pyj = np.zeros(labelnum)pyjk1 = np.zeros((labelnum,dimsnum))for i in range(num):label = train_label[i]pyj[label] = pyj[label] + 1 #计算属于j类图像的数量(需要laplace平滑 这里是真实个数)for j in range(dimsnum):pyjk1[label][j] = pyjk1[label][j] + train_data[i][j] ##因为会出现条件概率为0的情况 log无法计算 需要laplace平滑  ##算 Pj k = 1print("pyj个数:",pyj)pyjk1 = (pyjk1.T + 1) / (pyj + 2) ##条件概率 需要Laplace平滑 分母要加上xk的种类数 这里只能取0 1像素 ##P y = j && xk = 1的概率  经验主义用频率去估计概率#此处的'/'运算，并非矩阵中的除运算pyj = (pyj + 1) / (num + labelnum) ##Py=j的概率 先验概率 需要 Laplace平滑 分母要加上y的标签种类数return  pyj, pyjk1#得到p(xk=1|y=j)def CalTestProb_xk_yj(xk,pyjxk1): ##计算条件概率 P(xk|y=j)的概率的logreturn xk * np.log(pyjxk1) + (1-xk) * np.log(1-pyjxk1)def test(test_data,test_label,pyjk1,pyj):  ##测试num,dimsnum = test_data.shape#dimsnum为784print(test_data[0])labelnum = len(set(test_label))acc = 0for i in range(num):testdata = test_data[i]p_yj_xi = np.log(pyj) ##第i个样本属于j类的概率（取对数）for j in range(labelnum): ##计算xi 属于 第j个类别的概率for k in range(dimsnum):xk = testdata[k] ##x^i的第j个像素p_yj_xi[j] = p_yj_xi[j] + CalTestProb_xk_yj(xk,pyjk1[j][k])#此处pyjk1为10*784##p_yj_xip_y_xi = np.argmax(p_yj_xi)#argmax表示取出一维向量中值最大的序号acc = acc + (p_y_xi == test_label[i])print("real is: ",test_label[i]," predict is: ",p_y_xi)print("Test accuracy is:" , acc/num)#正确率def main():datapath = "D:/Downloads/mnist.pkl.gz"train_data, train_label, test_data, test_label = get_data(datapath)pyj, pyjk1 = CalProb(train_data,train_label)test(test_data,test_label,pyjk1.T,pyj)#此处pyjk1为784*10矩阵if __name__ == "__main__":main()

基于贝叶斯分类器的手写字判别相关推荐

基于tensorflow的MNIST手写字识别
一.卷积神经网络模型知识要点卷积卷积 1.卷积 2.池化 3.全连接 4.梯度下降法 5.softmax 本次就是用最简单的方法给大家讲解这些概念,因为具体的各种论文网上都有,连推导都有,所以本文主要 ...
朴素贝叶斯分类器_MINST手写数字识别
朴素贝叶斯分类器_MINST手写数字识别 import numpy as np import pandas as pd from sklearn.preprocessing import Binari ...
利用朴素贝叶斯分类器实现手写数字的识别
利用贝叶斯分类器实现手写数字的识别贝叶斯决策理论: 条件:类别数一定,
TensorFlow基于minist数据集实现手写字识别实战的三个模型
手写字识别 model1:输入层→全连接→输出层softmax model2:输入层→全连接→隐含层→全连接→输出层softmax model3:输入层→卷积层1→卷积层2→全连接→dropout层→ ...
基于贝叶斯分类器进行sklearn乳腺癌数据集的分类
问题描述使用sklearn中的乳腺癌数据集,将数据集以7:3的比例分别划分为训练集与测试集,以及对应的标签: 使用训练集数据训练基于高斯模型的朴素贝叶斯分类器: 对测试文档进行测试,得出分类评价指标 ...
sklearn朴素贝叶斯分类器_手撕朴素贝叶斯分类器源码(Naive Bayesian)
鋌~(最近压力略大,好久没有更新,xixixi),今天的主题是朴素贝叶斯分类器,NB这个缩写真是绝了,确实值得这个缩写,哈哈哈.今天跟大家聊一聊朴素贝叶斯分类器的基本原理和代码编写.贝叶斯分类器的基本 ...
朴素贝叶斯分类器与Fisher线性判别实践——水果识别为例
开篇:本次博客主要分享二分类水果实现案例,样本构造显然不具备泛化.大数量特性以及背景均为纯白色是为了方便目标提取.大家若需要更好的水果样本,Github上有许多的优秀案例.本次代码计算效率较低,代码有 ...
基于贝叶斯分类器的社区UGC反垃圾模型
业务背景背景:某金融APP的有料社区中,存在潜在用户发布垃圾信息(敏感.广告)等信息,需要构建一个文本分类模型进行相应拦截. 业务特点:广告占主要部分,含有微信.借贷.基金.股票等,敏感占次要. 我 ...
基于tensorflow的MNIST手写字识别（一）--白话卷积神经网络模型
一.卷积神经网络模型知识要点卷积卷积 1.卷积 2.池化 3.全连接 4.梯度下降法 5.softmax 本次就是用最简单的方法给大家讲解这些概念,因为具体的各种论文网上都有,连推导都有,所以本文主要 ...

基于贝叶斯分类器的手写字判别

项目介绍:

基于贝叶斯分类器的手写字判别相关推荐

最新文章

热门文章