1 样本处理

1.1 载入样本代码---Titanic forecast.py（第1部分）

import numpy as np
import torch
import torch.nn as nn
import torch.nn.functional as F
from scipy import stats
import pandas as pd
import matplotlib.pyplot as plt
import os
os.environ["KMP_DUPLICATE_LIB_OK"]="TRUE"def moving_average(a, w=10):#定义函数计算移动平均损失值if len(a) < w:return a[:]return [val if idx < w else sum(a[(idx-w):idx])/w for idx, val in enumerate(a)]def plot_losses(losses):avgloss= moving_average(losses) #获得损失值的移动平均值plt.figure(1)plt.subplot(211)plt.plot(range(len(avgloss)), avgloss, 'b--')plt.xlabel('step number')plt.ylabel('Training loss')plt.title('step number vs. Training loss')plt.show()###1.1 载入样本
titanic_data = pd.read_csv('csv_list/titanic3.csv')
print(titanic_data.columns)
# 输出：Index(['pclass', 'survived', 'name', 'sex', 'age', 'sibsp', 'parch', 'ticket','fare', 'cabin', 'embarked', 'boat', 'body', 'home.dest'],dtype='object')

1.2 离散数据

1.2.1 离散数据的特征

数据之间没有任何连续性的数据称为离散数据，例如数据中的男、女。

离散数据通常可以处理为one-hot编码或者词向量，可以分为两类：

①具有固定类别的样本（性别）：易于处理，按照总得类别进行变换

②没有固定类别的样本（姓名）：通过hash算法或其他散列算法处理，再通过词向量技术进行转化

1.2.2 连续数据的特征

数据之间具有连续性的数据，称为连续数据，例如票价与年龄

对于连续数据做特征变化时，通过对数运算or归一化处理，使其具有统一的值域

1.2.3 连续数据与离散数据的转化

对于一个跨度很大的特征属性进行数据预处理时，可以有三种方法:

①按照最大值、最小值进行归一化处理

②使用对数运算

③按照分布情况将其分为几类，再做离散化处理

1.3 处理样本中的离散数据与NAn值

1.3.1 将离散数据转化为one-hot编码 代码---Titanic forecast.py（第2部分）

###1.2 处理样本中的离散数据与Nan值
# 将离散数据的字段转化为one-hot
# get_dummies()会根据指定列中的离散值转化为one-hot编码，并将转化后所生成的新列放到原有数据的后面，在新的列中的数据用0，1来表示是否具有该列的属性。
titanic_data = pd.concat([titanic_data,pd.get_dummies(titanic_data['sex']),pd.get_dummies(titanic_data['embarked'],prefix="embark"),pd.get_dummies(titanic_data['pclass'],prefix="class")],axis=1
)
print(titanic_data.columns)
# 输出：Index(['pclass', 'survived', 'name', 'sex', 'age', 'sibsp', 'parch', 'ticket', 'fare', 'cabin', 'embarked', 'boat', 'body', 'home.dest', 'female', 'male', 'embark_C', 'embark_Q', 'embark_S', 'class_1', 'class_2','class_3'],dtype='object')
print(titanic_data['sex'])
print(titanic_data['female']) # 在sex列中，值为female的行，在female列中值为1

1.3.2 对数据中的Nan值进行过滤填充代码---Titanic forecast.py（第3部分）

对于两个具有连续属性的数据列进行Nan值处理，age与fare。

# 对Nan值进行过滤填充
# 调用fillna()对特定列的NAn值进行过滤，并用该列的平均值进行填充
titanic_data["age"] = titanic_data["age"].fillna(titanic_data["age"].mean()) # 乘客年龄
titanic_data["fare"] = titanic_data["fare"].fillna(titanic_data["fare"].mean()) # 乘客票价

1.3.3 剔除无用的数据列代码---Titanic forecast.py（第4部分）

本部分剔除与遇难无关的数据列。

## 去除与是否获取无关的数据列
titanic_data = titanic_data.drop(['name','ticket','cabin','boat','body','home.dest','sex','embarked','pclass'], axis=1)
print(titanic_data.columns ) # 输出真正需要处理的数据列

1.4 分离样本与标签并制作数据集代码---Titanic forecast.py（第5部分）

将suivived列从数据集中抽取出来，将数据列中剩下的数据作为输入样本。

### 1.3 分离样本和标签并制作数据集
# 分离样本
labels = titanic_data["survived"].to_numpy()titanic_data = titanic_data.drop(['survived'],axis=1)
data = titanic_data.to_numpy()# 样本属性名称
feature_names = list(titanic_data.columns)# 将样本分为训练和测试两部分
np.random.seed(10) # 设置随机种子，保证每次运行所分的样本一致# set() 函数创建一个无序不重复元素集,x-y返回一个新的集合,包括在集合x中但不在集合y中的元素
# random.choice(a=5, size=3, replace=False, p=None) 参数意思分别 是从a中以概率P随机选择3个, p没有指定的时候相当于是一致的分布
# 按照行号提取
train_indices = np.random.choice(len(labels),int(0.7 * len(labels)),replace = False)
print('train_indices++++',train_indices)
test_indices = list(set(range(len(labels))) - set(train_indices)) #将剩余部分设为测试集
print('train_indices++++',train_indices)# data[:]相当于重新拷贝一个列表，列表是可变对象如果直接引用传参给函数，则会导致修改其中任意一个变量，其余变量相应改变。但是，通过这种方式可以避免这种情况。
train_features = data[train_indices]
train_labels = labels[train_indices]test_features = data[test_indices]
test_labels = labels[test_indices]
print('测试样本数量',len(test_labels)) # 测试样本数量 393

2 训练模型

2.1 定义Mish激活函数与多层全连接网络代码---Titanic forecast.py（第6部分）

###定义Mish激活函数与多层全连接网络
# 定一个带有3层全连接网络的类，每个网络层使用Mish作为激活函数，该模型使用交叉熵损失函数
class Mish(nn.Module):def __init__(self):super().__init__()def forward(self,x):x = x * (torch.tanh(F.softplus(x)))return xtorch.manual_seed(0) # 设置随机种子函数class ThreeLinearModel(nn.Module):def __init__(self):super().__init__()self.linear1 = nn.Linear(12,12)self.mish1 = Mish()self.linear2 = nn.Linear(12,8)self.mish2 = Mish()self.linear3 = nn.Linear(8,2)self.softmax = nn.Softmax(dim = 1)self.criterion = nn.CrossEntropyLoss() #定义交叉熵def forward(self,x): # 定义一个全连接网络lin1_out = self.linear1(x)out_1 = self.mish1(lin1_out)out_2 = self.mish2(self.linear2(out_1))return self.softmax(self.linear3(out_2))def getloss(self,x,y): # 实现类的损失值计算接口y_pred = self.forward(x)loss = self.criterion(y_pred,y)return loss

2.2 训练模型并输出结果代码---Titanic forecast.py（第7部分）

### 训练模型并输出结果
if __name__ == '__main__':net = ThreeLinearModel()num_epochs = 200optimizer = torch.optim.Adam(net.parameters(),lr = 0.04)# 将输入的样本标签转化为标量input_tensor = torch.from_numpy(train_features).type(torch.FloatTensor)label_tensor = torch.from_numpy(train_labels)losses = [] # 定义损失值列表for epoch in range(num_epochs):loss = net.getloss(input_tensor, label_tensor)losses.append(loss.item())optimizer.zero_grad()  # 清空之前的梯度loss.backward()  # 反向传播损失值optimizer.step()  # 更新参数if epoch % 20 == 0:print('Epoch {}/{} => Loss: {:.2f}'.format(epoch + 1, num_epochs, loss.item()))os.makedirs('models', exist_ok=True)torch.save(net.state_dict(), 'models/titanic_model.pt')plot_losses(losses)# 输出训练结果# tensor.detach():从计算图中脱离出来，返回一个新的tensor，新的tensor和原tensor共享数据内存，（这也就意味着修改一个tensor的值，另外一个也会改变），#                  但是不涉及梯度计算。在从tensor转换成为numpy的时候，如果转换前面的tensor在计算图里面（requires_grad = True），那么这个时候只能先进行detach操作才能转换成为numpyout_probs = net(input_tensor).detach().numpy()out_classes = np.argmax(out_probs, axis=1)print("Train Accuracy:", sum(out_classes == train_labels) / len(train_labels))# 测试模型test_input_tensor = torch.from_numpy(test_features).type(torch.FloatTensor)out_probs = net(test_input_tensor).detach().numpy()out_classes = np.argmax(out_probs, axis=1)print("Test Accuracy:", sum(out_classes == test_labels) / len(test_labels))

3.0 代码汇总

import numpy as np
import torch
import torch.nn as nn
import torch.nn.functional as F
from scipy import stats
import pandas as pd
import matplotlib.pyplot as plt
import os
os.environ["KMP_DUPLICATE_LIB_OK"]="TRUE"def moving_average(a, w=10):#定义函数计算移动平均损失值if len(a) < w:return a[:]return [val if idx < w else sum(a[(idx-w):idx])/w for idx, val in enumerate(a)]def plot_losses(losses):avgloss= moving_average(losses) #获得损失值的移动平均值plt.figure(1)plt.subplot(211)plt.plot(range(len(avgloss)), avgloss, 'b--')plt.xlabel('step number')plt.ylabel('Training loss')plt.title('step number vs. Training loss')plt.show()###1.1 载入样本
titanic_data = pd.read_csv('csv_list/titanic3.csv')
print(titanic_data.columns)
# 输出：Index(['pclass', 'survived', 'name', 'sex', 'age', 'sibsp', 'parch', 'ticket','fare', 'cabin', 'embarked', 'boat', 'body', 'home.dest'],dtype='object')###1.2 处理样本中的离散数据与Nan值
# 将离散数据的字段转化为one-hot
# get_dummies()会根据指定列中的离散值转化为one-hot编码，并将转化后所生成的新列放到原有数据的后面，在新的列中的数据用0，1来表示是否具有该列的属性。
titanic_data = pd.concat([titanic_data,pd.get_dummies(titanic_data['sex']),pd.get_dummies(titanic_data['embarked'],prefix="embark"),pd.get_dummies(titanic_data['pclass'],prefix="class")],axis=1
)
print(titanic_data.columns)
# 输出：Index(['pclass', 'survived', 'name', 'sex', 'age', 'sibsp', 'parch', 'ticket', 'fare', 'cabin', 'embarked', 'boat', 'body', 'home.dest', 'female', 'male', 'embark_C', 'embark_Q', 'embark_S', 'class_1', 'class_2','class_3'],dtype='object')
print(titanic_data['sex'])
print(titanic_data['female']) # 在sex列中，值为female的行，在female列中值为1
# 对Nan值进行过滤填充
# 调用fillna()对特定列的NAn值进行过滤，并用该列的平均值进行填充
titanic_data["age"] = titanic_data["age"].fillna(titanic_data["age"].mean()) # 乘客年龄
titanic_data["fare"] = titanic_data["fare"].fillna(titanic_data["fare"].mean()) # 乘客票价## 去除与是否获取无关的数据列
titanic_data = titanic_data.drop(['name','ticket','cabin','boat','body','home.dest','sex','embarked','pclass'], axis=1)
print(titanic_data.columns )### 1.3 分离样本和标签并制作数据集
# 分离样本
labels = titanic_data["survived"].to_numpy()titanic_data = titanic_data.drop(['survived'],axis=1)
data = titanic_data.to_numpy()# 样本属性名称
feature_names = list(titanic_data.columns)# 将样本分为训练和测试两部分
np.random.seed(10) # 设置随机种子，保证每次运行所分的样本一致# set() 函数创建一个无序不重复元素集,x-y返回一个新的集合,包括在集合x中但不在集合y中的元素
# random.choice(a=5, size=3, replace=False, p=None) 参数意思分别 是从a中以概率P随机选择3个, p没有指定的时候相当于是一致的分布
# 按照行号提取
train_indices = np.random.choice(len(labels),int(0.7 * len(labels)),replace = False)
print('train_indices++++',train_indices)
test_indices = list(set(range(len(labels))) - set(train_indices)) #将剩余部分设为测试集
print('train_indices++++',train_indices)# data[:]相当于重新拷贝一个列表，列表是可变对象如果直接引用传参给函数，则会导致修改其中任意一个变量，其余变量相应改变。但是，通过这种方式可以避免这种情况。
train_features = data[train_indices]
train_labels = labels[train_indices]test_features = data[test_indices]
test_labels = labels[test_indices]
print('测试样本数量',len(test_labels)) # 测试样本数量 393###定义Mish激活函数与多层全连接网络
# 定一个带有3层全连接网络的类，每个网络层使用Mish作为激活函数，该模型使用交叉熵损失函数
class Mish(nn.Module):def __init__(self):super().__init__()def forward(self,x):x = x * (torch.tanh(F.softplus(x)))return xtorch.manual_seed(0) # 设置随机种子函数class ThreeLinearModel(nn.Module):def __init__(self):super().__init__()self.linear1 = nn.Linear(12,12)self.mish1 = Mish()self.linear2 = nn.Linear(12,8)self.mish2 = Mish()self.linear3 = nn.Linear(8,2)self.softmax = nn.Softmax(dim = 1)self.criterion = nn.CrossEntropyLoss() #定义交叉熵def forward(self,x): # 定义一个全连接网络lin1_out = self.linear1(x)out_1 = self.mish1(lin1_out)out_2 = self.mish2(self.linear2(out_1))return self.softmax(self.linear3(out_2))def getloss(self,x,y): # 实现类的损失值计算接口y_pred = self.forward(x)loss = self.criterion(y_pred,y)return loss### 训练模型并输出结果
if __name__ == '__main__':net = ThreeLinearModel()num_epochs = 200optimizer = torch.optim.Adam(net.parameters(),lr = 0.04)# 将输入的样本标签转化为标量input_tensor = torch.from_numpy(train_features).type(torch.FloatTensor)label_tensor = torch.from_numpy(train_labels)losses = [] # 定义损失值列表for epoch in range(num_epochs):loss = net.getloss(input_tensor, label_tensor)losses.append(loss.item())optimizer.zero_grad()  # 清空之前的梯度loss.backward()  # 反向传播损失值optimizer.step()  # 更新参数if epoch % 20 == 0:print('Epoch {}/{} => Loss: {:.2f}'.format(epoch + 1, num_epochs, loss.item()))os.makedirs('models', exist_ok=True)torch.save(net.state_dict(), 'models/titanic_model.pt')plot_losses(losses)# 输出训练结果# tensor.detach():从计算图中脱离出来，返回一个新的tensor，新的tensor和原tensor共享数据内存，（这也就意味着修改一个tensor的值，另外一个也会改变），#                  但是不涉及梯度计算。在从tensor转换成为numpy的时候，如果转换前面的tensor在计算图里面（requires_grad = True），那么这个时候只能先进行detach操作才能转换成为numpyout_probs = net(input_tensor).detach().numpy()out_classes = np.argmax(out_probs, axis=1)print("Train Accuracy:", sum(out_classes == train_labels) / len(train_labels))# 测试模型test_input_tensor = torch.from_numpy(test_features).type(torch.FloatTensor)out_probs = net(test_input_tensor).detach().numpy()out_classes = np.argmax(out_probs, axis=1)print("Test Accuracy:", sum(out_classes == test_labels) / len(test_labels))

【Pytorch神经网络实战案例】07 预测泰坦尼克号上生存的乘客相关推荐

1. 【Pytorch神经网络实战案例】21 基于Cora数据集实现Multi_Sample Dropout图卷积网络模型的论文分类

   Multi-sample Dropout是Dropout的一个变种方法,该方法比普通Dropout的泛化能力更好,同时又可以缩短模型的训练时间.XMuli-sampleDropout还可以降低训练集和 ...

2. 【Pytorch神经网络实战案例】18 最大化深度互信信息模型DIM实现搜索最相关与最不相关的图片

   图片搜索器分为图片的特征提取和匹配两部分,其中图片的特征提取是关键.将使用一种基于无监督模型的提取特征的方法实现特征提取,即最大化深度互信息(DeepInfoMax,DIM)方法. 1 最大深度互信信 ...

3. 【Pytorch神经网络实战案例】11 循环神经网络结构训练语言模型并进行简单预测

   1 语言模型步骤 简单概述:根据输入内容,继续输出后面的句子. 1.1 根据需求拆分任务 (1)先对模型输入一段文字,令模型输出之后的一个文字. (2)将模型预测出来的文字当成输入,再放到模型里,使模 ...

4. 【Pytorch神经网络实战案例】24 基于迁移学习识别多种鸟类（CUB-200数据集）

   1 迁移学习 在实际开发中,常会使用迁移学习将预训练模型中的特征提取能力转移到自己的模型中. 1.1 迁移学习定义 迁移学习指将在一个任务上训练完成的模型进行简单的修改,再用另一个任务的数据继续训练, ...

5. 【Pytorch神经网络实战案例】20 基于Cora数据集实现图卷积神经网络论文分类

   1 案例说明(图卷积神经网络) CORA数据集里面含有每一篇论文的关键词以及分类信息,同时还有论文间互相引用的信息.搭建AI模型,对数据集中的论文信息进行分析,根据已有论文的分类特征,从而预测出未知分 ...

6. 【Pytorch神经网络实战案例】40 TextCNN模型分析IMDB数据集评论的积极与消极

   卷积神经网络不仅在图像视觉领域有很好的效果,而且在基于文本的NLP领域也有很好的效果.TextCN如模型是卷积神经网络用于文本处理方面的一个模型. 在TextCNN模型中,通过多分支卷积技术实现对文本 ...

7. 【Pytorch神经网络实战案例】25 （带数据增强）基于迁移学习识别多种鸟类（CUB-200数据集）

   1 数据增强 在目前分类效果最好的EficientNet系列模型中,EfficientNet-B7版本的模型就是使用随机数据增强方法训练而成的. RandAugment方法也是目前主流的数据增强方法, ...

8. 【Pytorch神经网络实战案例】23 使用ImagNet的预训练模型识别图片内容

   1 案例基本工具概述 1.1 数据集简介 Imagenet数据集共有1000个类别,表明该数据集上的预训练模型最多可以输出1000种不同的分类结果. Imagenet数据集是目前深度学习图像领域应用得 ...

9. 【Pytorch神经网络实战案例】22 基于Cora数据集实现图注意力神经网络GAT的论文分类

   注意力机制的特点是,它的输入向量长度可变,通过将注意力集中在最相关的部分来做出决定.注意力机制结合RNN或者CNN的方法. 1 实战描述 [主要目的:将注意力机制用在图神经网络中,完成图注意力神经网络 ...

最新文章

1. JAVA里16进制和字节数组互转
2. 通道设置_烟台240家住宅小区、346家重点单位完成消防车通道标识设置
3. 深度学习《CNN架构续篇 - 学习率衰减》
4. Juniper SRX防火墙流量处理流程图（详细）
5. 分布式系统概念与设计学习(01)，本书概要与基础概念
6. Msfconsole的基本使用
7. 【Matlab】求解函数导数
8. 原来这就是公文写作领导讲话稿万能模板（1）
9. 常用的测试用例设计方法有那些？
10. 人人羡慕的阿里程序员，也是等级分明的，你属于哪个等级呢
11. 基于NodeJS实现企业微信机器人推送
12. [USACO 2009 Dec G]Video Game Troubles-----分组背包的改良版
13. 你必须知道alexa排名的重要性
14. hiwifi（gee极路由）路由器配置：
15. EditText设置IME动作问题
16. Arduino Uno 使用MAX7219驱动单个8*8点阵LED模块
17. winrar许可到期了怎么办_在德国，居留许可、签证快要到期了怎么办？
18. Oracle问题：ORA-01109解决办法
19. C# P2P实现点对点聊天
20. JAVAEE基础第一节

热门文章

1. 可以这样给DataGrid加个序号列。
2. java swing简介
3. 云计算机有哪些特征,你知道云计算有哪些核心特征吗?
4. Django之model模型
5. 51单片机50个实例代码_【附代码】51单片机电子密码锁教程
6. obs可以装手机吗?_原神PC和手机数据互通吗 PC和手机可以一起玩吗
7. struct cdev结构体和cdev_init和cdev_add函数
8. C语言中auto，register，extern，static【转】
9. java汉字转化accic_Java自主学习贴
10. [摸鱼]cdq分治 学习笔记